X와 xAI를 상대로 한 집단소송이 이번 주 확대됐다. 소송에는 Grok이 생성한 아동 성착취물(CSAM) 피해를 입은 소녀들이 추가로 합류했다.

소장에 따르면, 올해 3월 한 남성이 의붓딸이 11살 때 찍힌 사진 한 장으로 Grok을 이용해 성적으로 노골적인 이미지 7,000장을 만들었다. 경찰이 이를 발견한 뒤 남성은 스스로 목숨을 끊었다.

Grok은 근친 성폭행을 묘사한 이미지를 생성하는 동안 유해 행동을 한 차례도 감지하지 않았다. 시스템이 개입한 것은 남성이 '집단 강간'을 요청하는 프롬프트를 입력했을 때뿐이었다. 이 요청이 미국 실종·착취 아동 신고센터(NCMEC)에 사이버팁으로 전달됐고, 센터가 수사기관에 통보했다.

소장은 xAI가 아동 안전 시스템을 사실상 방치했을 뿐 아니라, Grok 생성 CSAM 수사에서 경찰을 방해해 아동 성범죄자를 사실상 보호했다고 주장한다.

이번 소송은 생성형 AI 플랫폼의 안전 설계와 피해자 보호 책임을 정면으로 묻는다.