TikTok이 창작자의 얼굴·목소리 등 AI 딥페이크 무단 사용을 탐지하는 도구를 시험 운영한다. 소셜미디어 컨설턴트 Matt Navarra가 처음 발견했으며, TikTok 미국 대변인 Zachary Kizer가 The Verge에 확인했다. 현재 미국 일부 창작자를 대상으로 한 옵트인(opt-in) 방식 테스트다.
도구를 쓰려면 먼저 신원 인증을 거쳐야 한다. TikTok과 제휴한 신원 인증 업체 Jumio를 통해 실시간 셀피 스캔과 신분증 확인을 진행한다. Kizer는 "TikTok은 신분증 원본을 보관하지 않으며, 얼굴 정보는 초상 유사성 매칭과 무단 사용 식별에만 쓰인다"고 밝혔다.
인증이 끝나면 TikTok 시스템이 해당 창작자의 초상을 AI로 생성한 콘텐츠를 자동으로 스캔한다. 창작자는 탐지 결과를 직접 검토하고, 무단 게시물과 계정을 플랫폼에 신고할 수 있다.
YouTube도 유사한 도구를 개발해 최근 성인 이용자 전체에 제공하기 시작했다. 두 플랫폼 모두 AI 생성 콘텐츠가 급증하는 흐름 속에서 창작자 보호 장치를 강화하는 방향으로 움직이고 있다.
