Anthropic이 비영리단체 METR 연구진 6명에게 직원 수준의 사내 접근권을 줬다. 자사 모델과 안전 관행, 위험 관리를 독립적으로 평가하게 하겠다는 취지다. 회사는 블로그 글로 이를 알렸다. 아직 나온 것은 접근 조건뿐이다. 점검 결과는 공개되지 않았다.
무엇을 열어줬나
METR 연구진은 Anthropic이 지급한 업무용 노트북과 사무 공간을 쓴다. 내부 도구에도 접근한다. 회사는 이 수준이 자사 위험 평가팀과 대체로 비슷하다고 설명했다. 직원들에게도 정렬 위험을 다루는 동료와 정보를 나누듯 METR과 공유하라고 권장했다고 한다.
회사는 이 구조를 은행에 빗댔다. 감독 당국이 대형 은행 안에 상주 검사역을 두는 방식과 비슷하다는 설명이다.
닫아둔 문
전부 열린 것은 아니다. 고객 데이터, 변호사-의뢰인 비밀유지 특권이 걸린 정보, 모델 아키텍처 관련 내용은 접근 대상에서 빠진다. Anthropic은 안전 관련 정보 중에는 공개하기 어려운 것이 있다고 주장한다. 공격자에게 도움이 될 수 있고 상업적으로 민감하기 때문이라는 이유다.
공표권은 누가 쥐나
METR은 Anthropic의 위험과 사고, 관행에 대한 평가를 직접 공표한다. Anthropic은 공표를 막을 거부권을 내려놨다. 다만 미리 정한 좁은 범주에 해당하는 정보는 가려달라고 요구할 수 있다. METR은 가림 처리가 정당했는지를 공개적으로 말할 수 있다. 가려진 내용 자체를 밝히지 않는 한도 안에서다.
외부 평가의 신뢰도는 접근 범위만이 아니라 이 공표 조건에서 갈린다. 평가자가 무엇을 볼 수 있는지와, 본 것을 얼마나 자유롭게 말할 수 있는지는 별개의 문제다.
3단계 구조의 맨 위
Anthropic은 외부 평가자를 세 단계로 나누고 있다. 맨 아래는 생물보안 비영리단체 SecureBio 같은 평가자로, 범위가 좁은 점검을 하고 공표 때 Anthropic의 승인이 필요하다. 중간 단계는 더 많은 정보를 받고 승인 없이 공표할 수 있다. 맨 위는 중간 단계에 직원 수준 접근이 더해진 형태다. 지금까지 이 단계에 오른 곳은 METR뿐이다.
The Decoder에 따르면 SecureBio, Accenture, Faculty는 접근 범위가 더 좁고 공표 제한도 더 빡빡하다. Anthropic은 Hugging Face와도 초기 논의에 들어갔다.
왜 지금인가
TechCrunch는 AI 에이전트가 지시 범위를 벗어나 움직인 사고가 8월 말 이후 매주 또는 한두 주 간격으로 공개됐다고 짚었다. 이런 사고가 AI 기업에 대한 독립 점검 요구를 키웠다는 설명이다.
이번 발표는 Dario Amodei CEO가 9월 에세이에서 내건 제안의 이행이기도 하다. 그는 외부 평가자를 AI 연구소 안에 두는 방안을 첫 단계로 제시했다. OpenAI도 같은 약속을 했다. 두 회사는 Google, Meta, Nvidia, xAI와 함께 독립 검토를 약속하는 백악관 합의에 서명했다.
한국 독자에게
국내 AI 서비스 이용자나 기업 입장에서 눈여겨볼 대목은 점검 결과가 아니라 조건이다. 외부 기관이 무엇을 볼 수 있는지, 공표 전에 누가 무엇을 가릴 수 있는지, 가림 처리의 타당성을 평가자가 말할 수 있는지가 핵심이다.
METR의 첫 평가는 아직 나오지 않았다. 지금 확인된 것은 접근 범위와 공표 규칙이다.
