Claude가 쓴 글에는 이제 눈에 보이지 않는 흔적이 남는다.
Anthropic은 EU AI Act 준수를 위해 Claude 생성 텍스트 전체에 투명 워터마크를 삽입하겠다고 밝혔다. 방식은 Google DeepMind가 개발한 오픈소스 기술 SynthID-Text를 변형한 것이다. 이미지에는 C2PA 표준 기반 디지털 서명 메타데이터를 붙인다.
단어 선택의 틈새를 이용한다
작동 원리는 이렇다. "오늘 날씨는 춥고…" 다음에 올 단어가 "흐렸다"냐 "회색빛이었다"냐를 고를 때, 독자에게 의미 차이는 거의 없다. 기존 모델은 이 선택을 임의 난수로 처리했다. 워터마크 방식은 여기에 비밀 키와 앞 단어 몇 개를 결합한 별도 난수 소스를 쓴다. 수십 번 반복되는 이 선택들이 쌓이면 통계적으로 감지 가능한 패턴이 생긴다. 키를 가진 사람만 읽을 수 있다.
Anthropic은 이 방식이 텍스트 품질이나 의미에 실질적 영향을 주지 않는다고 주장한다. 비용 인상도 없다고 했다.
그러나 반론도 있다. 인플루언셜 테크 블로그 Daring Fireball을 운영하는 John Gruber는 "어떤 두 동의어도 정확히 같은 의미를 갖지 않는다"며 워터마크가 최선의 단어 대신 차선을 고르게 만든다고 비판했다. Anthropic이 근거로 드는 Google DeepMind의 Nature 게재 SynthID 연구에서 측정한 좋아요·싫어요 비율도 텍스트 품질을 제대로 측정하지 못한다고 그는 지적했다. Gemini가 Claude나 ChatGPT보다 약하다는 평가 일부가 이미 SynthID가 적용된 탓일 수 있다는 추론도 덧붙였다.
워터마크는 텍스트와 함께 이동한다
이 기술의 핵심 특성은 '이동성'이다. Anthropic은 "워터마크는 텍스트의 일부이기 때문에 복사·붙여넣기를 해도 따라오고, 일부 편집 후에도 남아 있을 수 있다"고 밝혔다. Claude Platform(API), Claude.ai, Claude Code, AWS·Google Cloud·Microsoft Foundry를 통한 접근 모두 적용 대상이다.
이 특성이 법률 현장에서 새로운 문제를 만들어낸다. 법률 전문 매체 Artificial Lawyer는 복잡한 계약서에서 AI가 작성한 조항과 사람이 쓴 부분이 섞일 경우, AI 기여분이 기술적으로 입증 가능해진다고 분석했다. 클라이언트가 AI 사용을 명시적으로 금지했거나 판사가 AI에 부정적인 경우, 문서 내용이 사실적으로 완벽해도 AI 사용 자체가 소송 진행에 영향을 줄 수 있다는 것이다. 수임료 협상도 달라질 수 있다. AI가 작업 일부를 처리했다면 클라이언트가 할인을 요구할 근거가 생기는 셈이다.
Anthropic은 사실 중심 문장에서는 단어 선택지가 적어 워터마크 밀도가 낮아진다고 인정했다. 정밀성이 핵심인 법률 문서에는 의미 있는 단서다.
한편 Declaude 같은 패러프레이징 도구로 워터마크를 제거하는 것도 가능하다. 개발자 James Padolsey는 EU 규제 자체가 의도적 악용보다 일반 사용자에게 더 큰 부담을 준다고 비판했다.
EU 규제가 전 세계 기준이 되는 구조
EU AI Act는 8월 2일 발효됐고, 기존 AI 서비스에는 4개월의 유예 기간이 주어진다. Anthropic은 8월 2일 이후 출시하는 신규 모델에는 처음부터 워터마크를 적용하고, 기존 모델은 수개월 안에 순차 도입한다는 계획이다. 지역 제한이 기술적으로 불가능해 전 세계에 일괄 적용한다.
Google Gemini는 2024년부터 SynthID-Text를 지원 중이다. OpenAI는 ChatGPT의 텍스트 워터마크 계획을 아직 구체적으로 공개하지 않았지만 EU AI Act 적용 대상이다.
한국 AI 서비스 사업자와 콘텐츠 플랫폼은 직접적인 EU 규제 대상이 아니더라도 이 흐름을 주시해야 한다. EU 기준이 글로벌 표준으로 확산되는 패턴은 개인정보 보호(GDPR) 선례에서 이미 확인됐다. Claude·Gemini 등 워터마크 적용 모델을 서비스에 연동하거나 콘텐츠 유통에 활용하는 경우, AI 생성 기여분이 기술적으로 추적 가능해지는 환경 변화 자체가 투명성 의무 논의를 앞당길 수 있다.
