40개 주 검찰총장이 Character.AI 파산 사건에 "이해관계 통지서"(notice of interest)를 냈다. 회사의 사업이나 자산을 팔거나 넘길 때 풀어야 할 규제 문제를 모든 당사자에게 미리 알리겠다는 취지다. 뉴욕주 검찰총장 레티샤 제임스(Letitia James)가 이 사실을 공개하면서 여러 주가 수년째 조사를 벌여 왔다는 점도 함께 드러났다.
무슨 일이 있었나
Character.AI는 화요일 챕터 11(Chapter 11) 파산보호를 신청했고, 일부 자산을 Disney에 매각한다고 밝혔다. 검찰총장들은 이 기술 이전에 심각한 위험이 따를 수 있다고 경고했다. 이유로는 이용자가 챗봇 캐릭터와 나누는 대화의 민감성, 미성년 이용자가 많다는 점, 제품 특정 기능이 낳는 위험을 들었다.
이번 쟁점은 매각 추진 사실 자체와 다르다. 핵심은 팔려 나가는 자산 안에 이용자의 사적인 대화 데이터가 들어 있고, 그 보호 조건을 누가 어떻게 정하느냐다.
파산 전부터 진행 중이던 조사
제출 서류에 따르면 일부 주는 Character.AI가 파산을 신청했을 때 조사 도중이었다. 이 주들은 2024년에 소비자 보호와 개인정보 문제로 조사를 시작했다. 14세 아들을 잃은 어머니가 소송을 낸 직후였다. 소송은 아들이 챗봇과 대화한 지 "몇 초" 뒤 스스로 목숨을 끊었다고 주장했다.
제임스 검찰총장실 보도자료는 조사에서 "매우 심각한 위험과 위법 가능성"이 드러났다고 밝혔다. 구체적으로 다음 항목을 꼽았다.
- 면허 있는 전문가를 사칭한 챗봇
- 성적·폭력적 콘텐츠 노출
- 허술한 연령 확인
- 오해를 부르는 안전 홍보
- 주 개인정보법 위반 가능성
주들은 회사와 해결책을 논의했지만 합의에 이르기 전에 파산 신청이 나왔다.
요구와 확정의 구분
주 검찰이 판사에게 요구한 내용은 다음과 같다. 자산 구매자에게 아래 절차를 갖추도록 하라는 것이다.
- 효과적인 연령 확인 체계
- 미성년자의 챗봇 이용 제한
- "위기 안전장치"(Crisis safeguards) 도입
- 이용자의 데이터 삭제 권한 보장
이는 어디까지나 요구다. 법원이 받아들였는지, 구매자가 누구이고 어떤 조건을 수용했는지는 이번 자료에 없다. Character.AI와 Disney는 논평 요청에 바로 응답하지 않았다.
제임스 검찰총장은 성명에서 "이 회사는 아이들이 털어놓은 가장 사적인 생각을 모았고, 이제 그 대화가 최고가 입찰자에게 팔릴 수 있다"고 말했다. 이어 어떤 구매자든 아동 안전을 우선하고 실질적 보호 장치를 두게 하겠다고 했다.
한국 이용자가 볼 지점
이번 사건은 미국 파산 절차에서 벌어진 일이고, 한국 이용자에게 직접 적용되는 조치는 소스에 없다. 다만 대화형 AI는 이용자가 속마음을 털어놓는 서비스인 만큼, 운영 주체가 바뀔 때 기존 대화 데이터가 어떤 조건으로 넘어가는지는 국내 이용자에게도 낯설지 않은 질문이다. 이용자가 삭제를 요구할 수 있는지, 미성년자 보호 장치가 인수 뒤에도 유지되는지가 그 기준이 된다.
