404 Media가 내부 유출 문서와 복수의 제보를 토대로 보도했다. OpenAI는 계약직 직원 수백 명을 채용해 실제 ChatGPT 사용자 대화를 검토하고 있다. 이들은 ChatGPT 응답을 1~7점 척도로 평가하며, 모델의 과도한 아첨과 사람처럼 행동하는 경향을 줄이는 작업을 담당한다.
검토 대상 대화 중에는 사용자가 ChatGPT에 "내용을 비밀로 해달라"고 명시적으로 요청한 경우도 포함됐다. 대화는 익명 처리되지만 민감한 개인 정보가 남아 있을 수 있다. OpenAI는 프라이버시 필터를 운용하지만 오류 가능성을 스스로 인정한다. 한 검토자는 404 Media에 "사용자들이 사람이 대화를 읽는다는 사실을 알고 있다고 생각하지 않는다"고 말했다.
계약직 직원은 채용 플랫폼 Crossing Hurdles를 통해 모집되고, AI 훈련 기업 Mercor를 통해 급여를 받는다. 북미 기반 검토자 한 명은 시간당 50달러 이상을 번다고 밝혔다.
사용자는 설정에서 '모든 사람을 위해 모델 개선'(Improve the model for everyone) 옵션을 끄면 대화가 모델 학습과 인간 검토에 쓰이는 것을 막을 수 있다. 이 옵션은 기본적으로 켜져 있으며, 변경 사항은 이후 새 대화에만 적용된다. OpenAI는 임시 채팅 모드도 제공하는데, 회사 측 설명에 따르면 이 모드의 입력 데이터는 모델 학습에 사용되지 않는다.
인간 검토 사실은 OpenAI FAQ 페이지에 적혀 있다. "승인된 직원과 서비스 제공업체가 모델 성능 개선을 위해 사용자 데이터를 볼 수 있다"는 내용으로, 2023년부터 게시돼 있다. 404 Media는 이 고지가 너무 깊숙이 묻혀 있고 표현도 모호해 사용자가 실제 검토 규모를 인식하기 어렵다고 지적했다. '모델 개선에 기여한다'는 표현은 사람이 대화를 직접 읽는다는 동의로 읽히기 어렵다.
이 관행은 OpenAI만의 일이 아니다. Anthropic도 404 Media에 프라이버시 설정에서 'AI 모델 개선 돕기'를 켠 사용자의 Claude 대화를 인간 검토자가 확인한다고 밝혔다. Anthropic은 검토 전 이메일 주소 등 계정 정보를 제거해 익명 처리한다고 설명했다. Google도 Gemini에서 저장된 대화를 인간이 검토할 수 있다고 명시하고 있다.
ChatGPT 한국어 대화도 이 구조 안에 포함된다. OpenAI는 언어별 예외를 두지 않으며, 국내 사용자가 입력한 대화 역시 기본 설정 상태라면 검토 대상이 될 수 있다.
