OpenAI, EU에서만 ChatGPT 문구에 기본 워터마크 적용

OpenAI가 유럽연합(EU)에서 ChatGPT가 생성한 문구에 워터마크를 자동으로 적용한다. EU 밖에서도 같은 기능을 제공하지만 기본값은 꺼짐이다. 적용 시점은 EU 이용자 대상으로 "앞으로 몇 주 안"이다.

EU만 기본값인 이유

배경은 8월 시행된 EU AI Act다. AI 모델이 만든 콘텐츠를 다른 도구가 탐지할 수 있게 표시하도록 요구한다. 규제가 요구하는 지역에서만 기본값으로 켠다는 것이 OpenAI의 방식이다. 대상은 ChatGPT와 Codex 앱이다. API에서는 기본값이 꺼진 채 선택 기능으로 남을 것으로 보인다.

경쟁사 Anthropic은 8월 자사 모델의 텍스트 워터마크를 도입하면서 전 세계에 적용했다. 지역별로 기본값을 달리한 OpenAI와 대비된다.

textGrain의 작동 방식과 한계

OpenAI는 이 기술을 textGrain이라 부르며, 작동 원리를 설명한 기술 논문도 공개했다. 방식은 기존 거대언어모델 워터마크와 비슷하다. 사람이 알아채기 어려운 패턴을 단어 선택에 심는다. 출력 품질에는 큰 영향이 없고, 키를 가진 쪽이 전용 탐지기로 찾아낸다. 탐지기는 일부 연구자와 기관에만 제공되고, 다른 곳은 승인 요청 절차를 거쳐 시간을 두고 추가된다.

성능은 완전하지 않다. OpenAI 테스트에서 최상의 경우 탐지 성공률은 92%였다. 글의 10%만 고쳐도 성공률이 30% 가까이 떨어지고, 20%를 고치면 75% 가까이 낮아진다. 짧은 글이나 번역된 글은 긴 글보다 성공률이 더 낮다. SynthID나 C2PA 같은 기존 표준도 기본 지식만 있으면 우회할 수 있다고 보도는 전한다.