11월 29일, 학습 제외 조건이 바뀐다
OpenAI가 11월 29일부터 Daybreak Blue 세션 데이터를 모델 학습에 쓴다. Trusted Access 프로그램 회원에게 보낸 이메일로 확인된 내용이다. 이 데이터는 그동안 학습에서 빠져 있었다. 이용자가 "모두를 위해 모델 개선" 설정을 꺼두지 않았어도 마찬가지였다.
이용자 입장에서 핵심은 예전에는 설정과 무관하게 제외됐던 데이터가 이제 학습에 쓰인다는 점이다.
반발 이후 두 번째 이메일
변경 사실이 알려지자 반발이 빠르게 번졌다. OpenAI는 두 번째 이메일을 보내 별도의 옵트아웃을 마련하겠다고 약속했다. 다만 소스에는 옵트아웃의 구체적인 방식과 시행 시점이 나와 있지 않다.
안전 검토 과정에서 걸러진 상호작용은 안전 목적으로 계속 쓸 수 있다. 학습 제외를 선택하더라도 이 부분은 별개로 남는다는 뜻이다.
연구자들이 떠올린 선례
연구자들은 Buckmaster-Alpöge 사례가 되풀이될까 걱정한다. 수학자 트리스탄 벅마스터(Tristan Buckmaster)와 레벤트 알푀게(Levent Alpöge)는 나비에-스토크스 방정식 초안을 OpenAI의 Codex에 올렸다. 얼마 뒤 OpenAI는 자체 증명을 내놨다. OpenAI는 두 사람의 입력을 학습에 쓰지 않았다고 부인했다. 하지만 의심만으로도 연구자들에게는 무엇이 문제가 될 수 있는지 충분히 드러났다고 The Decoder는 전했다.
한국 이용자에게는
이번 변경이 한국 이용자에게 적용되는지는 확인되지 않았다. 소스에는 Trusted Access 프로그램의 가입 대상과 지역 범위가 나와 있지 않다. 한국어 고지가 있는지도 알 수 없다.
확인된 것은 세 가지다. 적용 시점은 11월 29일이다. 대상은 Daybreak Blue 세션 데이터다. 안전 목적 활용은 계속된다. 학습 데이터 이용 조건이 이메일 한 통으로 바뀔 수 있다는 점은 확인됐다.
