수십만 개의 가짜 계정. Anthropic이 Claude를 겨냥한 증류 공격을 설명하며 내놓은 숫자다.
증류 공격은 한 AI 모델의 능력을 체계적으로 베껴 자사의 더 작은 모델을 학습시키는 방식이다. Anthropic은 이 공격에 맞선 새 방어책으로, 빼내진 추론 토큰의 양을 90~99% 줄였다고 밝혔다. 추론 토큰은 모델이 답을 내기 전에 거치는 내부 사고 단계, 곧 chain-of-thought다. 이 수치는 Anthropic이 직접 내놓은 것이다. 제3자가 검증한 결과는 소스에 없다.
누가, 어떻게 빼냈나
Anthropic은 중국 기업 Zhipu와 Moonshot을 공격 참여자로 지목했다. Zhipu는 미국 주요 모델의 사이버 역량을 빼내 GLM-5.3 모델에 썼다는 주장이다. Moonshot은 질의를 몰래 Claude로 돌렸다고 한다. Anthropic은 이렇게 빼낸 능력이 외국의 군사·감시 시스템에 흘러갈 수 있다고 우려한다. 이 역시 Anthropic의 주장이다.
방어는 세 겹이다
첫째, Claude의 내부 추론 단계에 대한 접근을 제한한다. 둘째, 추출 시도를 가려내는 분류기를 돌린다. 셋째, 걸러낸 계정은 자동으로 차단한다. 이미 수만 개 계정이 막혔다. Anthropic은 증류 성공 시도가 방어 가동 뒤 크게 줄었다고 설명한다.
정상 이용자도 걸린다
Anthropic은 다른 AI 개발사에도 비슷한 보호책을 도입하라고 촉구했다. 다만 이 과정에서 정상 이용자까지 함께 걸러진다는 점은 회사도 인정했다. 방어 강도와 오탐 사이의 균형이 숙제로 남았다.
국내 기업이 볼 대목
AI 모델을 직접 개발하거나 API로 서비스에 붙여 쓰는 국내 기업에도 남의 일이 아닐 수 있다. 자사 모델이 복제당할 가능성과 추론 데이터의 유출 위험이 보안 과제로 떠오를 수 있기 때문이다. 이는 편집 추가 해석이며, Anthropic의 발표에 국내 사례는 없다.
추론 토큰은 모델이 답에 이르는 과정을 담고 있어, 증류하는 쪽에는 값진 재료다. Anthropic은 그 문을 좁히는 쪽을 택했다.
