블로그

Jun 29, 2023

디지털 서비스법에 따른 플랫폼 프로파일링에 대한 완벽한 솔루션은 없습니다.

Jesse McCrosky는 Thoughtworks의 핀란드 책임 기술 책임자이자 수석 데이터 과학자입니다. Claire Pershan은 Mozilla 재단의 EU 옹호 책임자입니다. 유럽의 규제 기관에서는 다음과 같이 요구합니다.

Jesse McCrosky는 Thoughtworks의 핀란드 책임 기술 책임자이자 수석 데이터 과학자입니다. Claire Pershan은 Mozilla 재단의 EU 옹호 책임자입니다.

유럽의 규제 기관에서는 플랫폼이 광고 대상 시스템을 포함하여 추천 시스템 프로파일링에 대한 더 높은 투명성과 사용자 제어 기능을 제공하도록 요구하고 있습니다. EU의 디지털 서비스법(DSA)은 광고 투명성을 높이고 사용자에게 콘텐츠 추천에 대한 더 많은 통찰력과 제어권을 제공하기 위한 규칙을 제시합니다. 최대 규모의 온라인 플랫폼 및 검색 엔진에 대한 DSA의 요구 사항 중 다수는 8월 25일부터 발효되며 지정된 서비스의 규정 준수 관련 공지가 이미 발표되고 있습니다. 예를 들면 다음과 같습니다.

이러한 요구 사항은 DSA 협상 중에 플랫폼 책임 및 개인 정보 보호 전문가가 열심히 싸웠습니다. 이제 다음 과제는 플랫폼을 통한 의미 있는 구현입니다. 그러나 타겟 권장 사항 뒤에는 '프로파일링'에 의존하는 기계 학습 모델이 있기 때문에 이는 간단하지 않을 수 있습니다. 이러한 시스템은 사용자를 구별하도록 설계되었으며 실제로 완화하기 어려운 '의도하지 않은 추론'을 생성하여 규정 준수를 어렵게 만들 수 있습니다.

이러한 요구 사항을 이해하려면 콘텐츠 타겟팅 방식의 미묘한 차이를 더 잘 이해해야 합니다. 광고 타겟팅은 유기적 콘텐츠를 이해하는 데 도움이 되는 예시입니다. 우리는 일반적으로 두 가지 계층으로 타겟팅되는 광고를 생각할 수 있습니다(마이크로 타겟팅의 고유한 차별 참조).

이 첫 번째 타겟팅 계층은 상당히 대략적인 타겟팅 매개변수로 제한될 수 있습니다. 그러나 두 번째 계층에서는 일반적으로 좋아요, 검색 기록 및 플랫폼에서 캡처한 기타 데이터를 기반으로 플랫폼에서 사용할 수 있는 모든 데이터(모든 사용자의 세부 프로필)를 사용합니다.

이 두 번째 계층을 마이크로 타겟팅이라고 합니다. 광고가 아닌 콘텐츠(또는 "유기적 콘텐츠")도 일반적으로 마이크로타겟팅됩니다. 예를 들어 Facebook은 귀하가 "좋아요"할 가능성이 가장 높은 친구의 게시물을 표시할 수 있으며 YouTube는 귀하가 소비할 것으로 예상되는 동영상을 추천할 수 있습니다. 가장 많은 시간을 시청합니다.

DSA에서 요구하는 대로 광고 타겟팅에 대한 투명성을 제공하기 위해 첫 번째 레이어에 대한 정보를 제공하는 것은 매우 간단합니다. 이는 광고주가 타겟팅하기로 선택한 특성에 해당할 가능성이 높습니다. 그러나 아래에서 볼 수 있듯이 두 번째 계층은 어떤 종류의 사용자가 광고를 보게 될지에 영향을 줍니다. 광고주나 플랫폼이 직접 알지 못하더라도 의도하지 않은 추론이 발생하여 일종의 자동 차별이 발생할 수 있습니다. 그렇기 때문에 특정 특성에 따른 타겟팅을 방지하는 것 역시 매우 어렵습니다.

이는 개인화 관련 DSA 의무, 특히 광고 타겟팅에 대한 사용자 대면 설명을 요구하고 민감한 개인 데이터를 기반으로 한 타겟팅을 금지하는 26조에 영향을 미칩니다. 다양한 해석이 있지만, 광고가 주로 특정 성별, 민족, 정치적 성향을 가진 사용자에게 표시되는 경우 이러한 특성이 '주요 매개변수'를 구성하므로 공개되어야 한다고 기대하는 것이 합리적으로 보입니다. 광고주나 플랫폼 모두 해당 타겟팅 결정을 내릴 의도가 없습니다.

실제로, 개인 특성에 따라 사용자를 대상으로 의도치 않게 광고가 표시될 수도 있습니다. 때문에 이것이 가능하다의도하지 않은 추론.

의도하지 않은 추론은 추천 시스템이 서로 다른 사회인구통계학적 그룹이나 달리 정의된 그룹에 서로 다른 콘텐츠를 추천할 수 있는 경우입니다. 단순화하기 위해 이를 차별이라고 부르며 그룹화의 예로 성별을 사용하겠습니다. 이러한 의도하지 않은 추론은 플랫폼이 사용자의 성별에 대한 데이터를 갖고 있지 않은 상태에서 발생하며, 결정적으로 차별이 발생하고 있다는 사실을 알 수 있는 방법이 전혀 없는 상태에서 발생합니다. 시스템은 단일 사용자의 성별을 알지 못해도 성별을 기준으로 차별할 수 있습니다.