"지난 1년간 Anthropic은 과거 2년치 진전을 이뤘다." AI 안전 연구기관 METR가 내놓은 보고서의 핵심 문장이다. 벤치마크 점수가 근거다.
11주 조사가 남긴 숫자
METR는 목요일 보고서를 공개했다. Anthropic 내부를 11주 동안 조사한 결과다. 보고서는 Anthropic의 AI 연구개발 활동을 평가한다.
결론은 분명하다. Anthropic은 AI로 더 강력한 AI를 만들고 있다. 그 방식이 꽤 잘 통한다. 모델은 1년 전보다 대략 두 배 빠르게 좋아지고 있고, 속도가 느려질 기미도 거의 없다고 보고서는 짚었다.
이번 조사는 Anthropic이 안전 연구자에게 "직원 수준" 접근 권한을 주는 프로그램과는 별개다. 그 프로그램은 올여름 불거진 해킹 사건들 이후에 마련됐다.
왜 연구자들이 불안해하나
이번 결과는 AI가 스스로 개발 속도를 끌어올린다는 증거 가운데 가장 뚜렷한 축에 든다. 인간이 거의 개입하지 않아도 AI가 스스로를 개선하는 미래가 얼마나 빨리 올지 묻게 만드는 대목이다.
다만 이번 소스에서 확인되는 근거는 벤치마크 점수다. 속도가 빨라진 구체적 원인과 앞으로도 이어질지는 제공된 본문 범위에서 더 풀어 쓸 수 없다.
시점이 겹친다
Anthropic은 상장을 준비 중이다. 같은 시기 CEO 다리오 아모데이(Dario Amodei)는 공개적으로 AI 개발 속도를 늦추자고 주장해 왔다. 개발을 가속하는 회사의 내부 사정이 상장 준비와 감속 주장 사이에서 공개된 셈이다.
가려진 부분
보고서가 보여주는 만큼, 보여주지 않는 부분도 많다. 최종 보고서에서 일부 내용을 가릴 수 있다는 것이 METR와 맺은 합의 조건이었다. Anthropic은 이 권한을 적극적으로 쓴 것으로 보인다. 최전선 AI 개발의 속도와 위험을 일반 대중이 얼마나 아는지 묻게 하는 대목이다.
