메타의 AI 에이전트 승부수와 광고 안전망 붕괴

메타가 소비자용 AI 에이전트 앱 '뮤즈(Muse)'를 출시하며 미국 앱스토어 2위에 올랐으나, 플랫폼 내부에서는 AI 기반 아동 성착취물(CSAM) 광고가 대량 유통되는 심각한 안전망 결함이 드러났습니다. 비영리 단체 TTP와 외신 조사에 따르면 중국 대행사 및 유령 계정을 통해 330건 이상의 불법 누디파이(Nudify) 광고가 송출되었으며, 실존 미성년자의 사진이 악용되었습니다. 이에 샌프란시스코 시 검찰청은 메타에 즉각적인 광고 중지 명령(Cease-and-Desist)을 발송하고 28일 이내 소명을 요구하는 등 전방위적 사법 조치에 돌입했습니다.

소비자 AI 에이전트 '뮤즈(Muse)'의 출격과 초기 성적표

메타(Meta)가 차세대 인터페이스로 점찍은 소비자용 AI 에이전트 앱 뮤즈(Muse)를 미국 시장에 전격 출시했습니다. 센서타워(Sensor Tower)의 데이터에 따르면, 뮤즈는 미국 iOS 앱스토어에서 출시 직후 83,000회 이상의 다운로드를 기록하며 전체 무료 차트 2위까지 올라섰습니다. 웹과 왓츠앱(WhatsApp) 연동 수치를 제외한 집계임에도 초기 이용자 유입 측면에서 유의미한 출발을 보인 셈입니다.

그러나 메타의 과거 출시작이나 주요 생성형 AI 앱들과 비교하면 상대적으로 완만한 성장세를 보이고 있습니다. 구글 플레이스토어에서는 생산성 카테고리 338위에 머물며 플랫폼 간 편차를 드러냈습니다.

플랫폼 및 서비스출시 초기 미국 다운로드 수치비고
메타 스레드(Threads)출시 당일 430만 건 이상역대 최대 기록
메타 AI(Meta AI)출시 당일 10만 8,000건단일 독립 앱 기준
오픈AI ChatGPT출시 첫 주 50만 건 이상일평균 약 8만 3,300건
메타 뮤즈(Muse)출시 후 8만 3,000건 돌파iOS 기준, 2위 진입

에이전트 패권 경쟁: 인스팅트(Instinct)와의 격돌

현재 실리콘밸리의 소비자 에이전트 시장은 메타의 뮤즈와 신생 스타트업 인스팅트(Instinct)의 양강 구도로 재편되고 있습니다. 인스팅트는 최근 25억 달러의 기업 가치를 인정받고 3억 5,000만 달러의 투자금을 유치하며 빠른 속도로 기능을 확장하고 있습니다.

인스팅트는 문자 메시지 기반 작동 방식을 넘어 각 사용자 전용 이메일 주소를 발급하고, 에이전트 간 직접 일정 조율이 가능한 소셜 그래프 기능을 도입했습니다. 또한 결제 인프라인 스트라이프(Stripe), 패스워드 관리 툴인 원패스워드(1Password)와의 연동을 지원하며 실질적인 작업 자동화 환경을 구축했습니다. 반면 메타는 과거 대규모 데이터 침해 사고와 소셜미디어 유해성 소송으로 인한 180억 달러 규모의 다주 합의를 맺은 직후 뮤즈를 선보였기에, 사용자의 개인정보 제공 요구에 대한 신뢰 회복이라는 근본적 과제를 안고 있습니다.

플랫폼 안전망의 붕괴: 332건 이상의 AI CSAM 광고 사태

차세대 AI 기술 확장 이면에서, 메타의 핵심 수익원인 광고 플랫폼은 심각한 보안 및 윤리적 붕괴를 겪고 있습니다. 비영리 감시 단체 테크 투명성 프로젝트(TTP)와 외신 보도에 따르면, 페이스북과 인스타그램, 스레드 전반에서 AI로 생성된 아동 성착취물(CSAM) 및 딥페이크 누드화 앱(Nudify) 광고가 최소 332건 이상 적발되었습니다.

이들 광고는 일반 아동과 청소년의 실제 사진을 무단 도용하여 성적인 영상으로 합성·변환하는 앱을 홍보했습니다. 확인된 피해 사례는 다음과 같습니다.

광고 문구에는 "남성들이 실제로 사용하는 AI", "제한 없음. 모든 캐릭터는 실존 인물이며 선택지가 다양함", "숨겨진 욕망을 최면 영상으로 변환한다"는 노골적인 문구가 포함되었습니다. TTP는 지난 8월 53건의 광고를 메타에 1차로 경고했으나, 이후에도 250건 이상의 신규 불법 광고가 지속적으로 집행된 것으로 드러났습니다.

우회 유통 경로와 필터링 시스템의 결함

  1. 원본 아동 사진 수집
  2. AI 딥페이크 성착취물 제작
  3. 중국 리셀러 및 도용 계정 등록
  4. 메타 자동화 검수 우회
  5. EU·미국 이용자 피드 노출

불법 광고의 상당수는 규제를 우회하기 위해 정교한 차명 구조를 활용했습니다. 적발된 주요 유통 경로는 세 가지 축으로 요약됩니다.

메타는 해당 광고들의 평균 노출 수가 200회 미만이며, 총 지출액이 5,000달러 미만이었다고 해명했습니다. 그러나 EU 지역에서만 29,000명 이상, 영국에서 6,800명의 이용자 계정에 광고가 도달했으며, 전체 광고의 약 80%가 미국 이용자를 타깃으로 송출되었습니다.

"모든 광고를 사전 검토 및 승인한 뒤 비용을 받는 기업이라면 광고 시스템이 이런 방식으로 악용되도록 방치해서는 안 됩니다. 현재 메타의 고립된 삭제 조치는 지극히 부적절합니다." — 데이비드 치우(David Chiu) 샌프란시스코 시 검찰총장

샌프란시스코 시의 중지 명령과 글로벌 규제 당국의 압박

사태의 심각성이 커지자 미국 샌프란시스코 시 검찰청은 메타 본사를 상대로 AI 아동 성착취물 광고 집행을 전면 금지하는 중지 명령(Cease-and-Desist) 서한을 공식 발송했습니다. 검찰은 메타의 법무·아동 안전·광고 부서 실무진과의 즉각적인 협의를 요구하며 28일 이내에 자동 검수 시스템의 실패 원인과 미국 실종학대아동방지센터(NCMEC) 보고 절차를 소명하라고 명령했습니다.

메타 측은 해당 광고가 샌프란시스코 지역에 노출된 명확한 증거가 없어 시 검찰의 관할권 밖이라는 입장을 밝혔으나, 검찰청은 관할 구역 내 주민들이 온라인을 통해 불법 광고에 접근할 수 있으므로 명백한 관할 사안이라고 반박했습니다. 현재 미시간과 플로리다주 법무장관 역시 관련 조사에 착수했으며, 마크 워너(Mark Warner) 상원의원의 서한 발송 및 16세 미만 SNS 사용을 금지한 호주 온라인안전국(eSafety)의 고위급 정보 제출 요구까지 이어지며 메타를 향한 글로벌 사법 리스크가 급격히 고조되고 있습니다.

확인된 수치

우리 관점

메타가 야심 차게 선보인 '뮤즈'의 성공 여부는 단순한 에이전트 성능 경쟁이 아니라 플랫폼에 대한 근본적인 신뢰성에 달려 있습니다. 상업적 이익을 앞세워 리셀러 광고 검수를 방치한 대가는 향후 각국 규제 기관의 철퇴와 함께 AI 에이전트 확장을 가로막는 치명적인 역풍으로 작용할 것입니다.

아직 확인되지 않은 것

출처

카탈로그로