Meta는 올해 상반기 페이스북과 인스타그램에서 아동 성착취 콘텐츠 3,320만 건에 조치를 했다고 밝혔다. 회사는 이 발표와 함께 불법 아동 학대물로 사용자를 몰래 유도하는 광고와 계정을 찾는 새 AI 도구도 공개했다.

조치 규모: 3,320만 건

Meta에 따르면 조치한 콘텐츠의 97% 이상은 이용자 신고 전에 자체 시스템이 먼저 찾아냈다. 인도에서는 같은 기간 530만 건을 조치했고, 이 가운데 98% 이상이 신고 전에 탐지됐다. 다만 이 수치는 Meta가 직접 밝힌 조치 건수다. 외부에서 검증한 자료는 소스에 없다.

새 도구: 광고가 가리키는 곳을 본다

핵심은 '시그널포스팅(signposting)'을 잡는 거대언어모델(LLM) 시스템이다. 겉보기엔 평범하지만 다른 곳의 불법 콘텐츠나 유해 활동으로 이용자를 보내는 것으로 의심되는 광고를 가리킨다. 광고 자체에는 불법물이 없어도 아동 성착취물을 올려둔 웹사이트로 가는 관문이 될 수 있다.

Meta는 이런 수법을 최근 악의적 행위자들이 탐지를 피하려고 쓴다고 설명했다. 그래서 광고 내용만 보지 않고 광고가 이용자를 어디로 보내는지도 살핀다. 규정을 어기는 사이트 등 목적지는 차단하고, 그 뒤의 계정에는 조치한다.

Meta는 이 밖에 세 가지를 더 밝혔다.

  • 기존 시스템이 놓쳤을 수 있는 아동 착취 콘텐츠를 찾는 AI 기반 추가 스캔. 네트워크 작동 방식을 더 파악하면서 신호를 계속 추가한다고 했다.
  • Meta 자체 안전 장치를 시험하는 '레드팀 AI 에이전트'. 우회 약점을 찾아 새 학대 수법이 퍼지기 전에 발견하는 것이 목적이다.
  • 계정이 삭제된 뒤 새 계정으로 돌아오는 이용자를 찾는 시스템 개선.

배경: 소송과 아동 보호 기능

TechCrunch는 Meta가 플랫폼의 아동 안전을 두고 소송과 의원들의 비판에 직면해 있다고 전했다. Meta는 지난 8월 미국 29개 주가 관련된 아동 안전 소송에서 최대 180억 달러를 지급하기로 합의했다. 올해에는 Meta AI 부모 통제, 왓츠앱 만 13세 미만 청소년 계정, 인스타그램의 자해 콘텐츠 검색 시 부모 알림 등도 도입했다.

국내 서비스에 이번 도구가 적용되는지, 한국 내 조치 건수가 얼마인지는 발표에 나와 있지 않다.