AI 기반 딥페이크 광고의 플랫폼 침투와 탐지 실패
최근 메타(Meta) 플랫폼 전반에서 미성년자의 실제 사진을 도용한 인공지능(AI) 딥페이크 및 누디파이(Nudify) 앱 광고가 대량 유통된 사실이 밝혀져 글로벌 기술 업계와 규제 당국에 큰 파장을 일으키고 있습니다. 비영리 단체인 테크 투명성 프로젝트(TTP)와 와이어드(WIRED)의 공동 조사에 따르면, 올해 메타 플랫폼에서 미성년자 성착취물(CSAM) 관련 AI 생성 광고가 332건 이상 탐지되지 않은 채 집행되었습니다.
이 광고들은 유럽 왕실 구성원의 공식 보도 사진이나 14세 인스타그램 인플루언서의 일상 사진, 스톡 사진 등을 무단 수집하여 성적 영상물로 변환하는 생성형 AI 앱을 홍보하는 데 사용되었습니다. 미국 법무부는 AI로 생성된 아동 성착취물 역시 실제 아동 성착취물과 동일하게 연방법을 위반하는 불법 콘텐츠로 규정하고 있으나, 메타의 사전 심의 체계는 이를 차단하지 못했습니다.
```
- 광고주 등록 및 사칭 페이지 생성
- AI 생성 불법 영상 소재 업로드
- 메타 사전 자동화 심의 우회
- 사용자 피드 노출 및 리셀러 수익 창출
- 외부 지적 후 사후 삭제
```
메타 광고 심의 시스템의 구조적 결함
조사 결과에 따르면 메타의 광고 심의 체계는 동일한 위반 소재에 대해서도 일관성 없는 대응을 보였습니다. 한 광고는 성적 행위 묘사로 삭제되었으나 동일한 이미지와 텍스트를 사용한 복제 광고에 대해서는 정책 위반이 아니라고 판단하는 오류가 발생했습니다. 또한 미성년자 착취 의심 신고가 접수된 후 실제 삭제까지 일주일 이상 소요되면서 노출 수가 4회에서 330회 이상으로 급증한 사례도 확인되었습니다.
| 구분 | 세부 내용 |
|---|---|
| 주요 광고 대상 | 미성년자 일상 사진, 인플루언서 프로필, 스톡 사진 |
| 우회 수법 | 짧은 클립 재생, 모자이크/블러 처리, 유령 비즈니스 페이지 생성 |
| 주요 유입 경로 | 중국 기반 메타 공인 광고 리셀러 파트너(GIMC, Meetsocial, BlueFocus 등) |
| 노출 지역 비중 | 미국(약 80%), 유럽연합(EU), 영국, 호주, 인도 |
"메타의 광고 승인 절차가 사용자에게 노출되기 전에 이처럼 명백하게 끔찍한 콘텐츠를 감지하고 거부하지 못한다면, 메타의 광고 검토 시스템 전체에 대해 근본적인 의문을 제기해야 합니다." — 미셸 쿠퍼스미스(Michelle Kuppersmith), 책임추궁캠페인(CfA) 총괄이사
메타 측은 문제의 광고들이 평균 200회 미만의 노출을 기록했고 총 광고 지출액도 5,000달러 미만이라며 위험성을 축소하려 했으나, 유럽연합 내에서만 29,000명 이상의 계정에 도달했고 영국에서도 6,800여 명에게 도달한 것으로 집계되었습니다.
중국 공인 리셀러 파트너십과 유령 계정 문제
이번 사태에서 특히 주목받는 부분은 메타의 중국 광고 리셀러 네트워크입니다. 중국 내에서는 페이스북과 인스타그램 서비스가 차단되어 있으나, 해외 광고 집행을 대행하는 공식 리셀러 파트너십을 통해 매년 수십억 달러 규모의 광고 수익이 창출되고 있습니다.
TTP 조사에 따르면 메타의 공인 리셀러 파트너사인 GIMC, 미트소셜(Meetsocial), 블루포커스(BlueFocus)를 통해 동일한 불법 광고 콘텐츠가 유입되었습니다. 또한 '케니 매디 리건(Kenny Maddie Regan)', '린 니콜 브룩스(Lynn Nicole Brooks)' 등 콘텐츠와 팔로워가 전무한 유령 비즈니스 페이지를 개설해 비정상적 행동(Inauthentic Behavior) 정책을 위반하며 광고를 집행했음에도 사전 필터링이 작동하지 않았습니다.
사법 당국의 법적 제재 착수와 규제 확산
이러한 구조적 실패에 대해 사법 당국의 직접적인 개입이 시작되었습니다. 샌프란시스코 시 검찰청의 데이비드 치우(David Chiu) 시 검사장은 메타 본사에 즉각적인 중단 요구(Cease-and-desist) 서한을 발송하고 28일 이내에 광고 중재 시스템 및 미성년자 보호 체계에 대한 해명을 요구했습니다.
- 샌프란시스코 시 검찰청의 요구 사항:
- 불법 AI 생성 광고의 플랫폼 내 배포 전면 중단
- 자동화 중재 시스템 우회 경로 및 원인 규명
- 실종학대아동중앙센터(NCMEC)로의 보고 및 에스컬레이션 절차 소명
- 상습 위반 광고주 및 리셀러에 대한 계정 제재 이력 제출
메타는 해당 광고가 샌프란시스코 내에서 표시되었다는 증거가 없으므로 관할권 밖이라고 반박했으나, 시 검찰청은 관내 소비자가 온라인 공간을 통해 접근 가능한 이상 명백한 관할 대상이라고 일축했습니다. 미시간 및 플로리다주 법무장관과 마크 워너(Mark Warner) 상원의원, 16세 미만 소셜미디어 금지 법안을 추진 중인 호주 온라인안전국(eSafety) 역시 공식 조사 및 정보 제출을 요구하면서 메타의 AI 콘텐츠 검수 책임 논란은 글로벌 규제 문제로 비화되고 있습니다.