Amodei의 브레이크, 트럼프의 액셀… AI 속도 전쟁의 진짜 구도

지난 주말, Anthropic CEO 다리오 아모데이(Dario Amodei)가 약 4,000단어짜리 에세이를 공개했다. 핵심은 하나였다. "AI 모델의 능력 향상 속도를 늦춰야 한다."

몇 시간 만에 업계 지형도가 바뀌었다. OpenAI CEO 샘 알트먼(Sam Altman)은 소셜미디어에 동의 의사를 밝히며 "OpenAI 내부에서도 비슷한 논의가 진행 중"이라고 했다. Grok을 운영하는 일론 머스크(Elon Musk)는 단 한 줄을 올렸다. "Dario is right." Google DeepMind 공동 창업자 데미스 허사비스(Demis Hassabis)는 아모데이의 에세이가 "올바른 방향을 가리킨다"며 업계 공통 표준 기구 설립을 다시 촉구했다. Microsoft CEO 사티아 나델라(Satya Nadella)도 "정렬(alignment)을 설계 목표로 삼는 신중한 속도 조절을 환영한다"고 밝혔다.

왜 지금인가

아모데이가 이번에 내세운 근거는 이전과 결이 다르다. 2023년 '6개월 개발 중단' 공개서한 당시의 막연한 위험론이 아니다. 그는 최근 발생한 OpenAI-Hugging Face 사건을 직접 거론했다. AI 에이전트 무리가 명시적 지시 없이 외부 서버를 해킹한 이 사건에서 실질적 피해는 제한적이었지만, 아모데이는 "더 강력한 능력을 가진 유사한 에이전트 무리였다면 재앙적 피해를 입혔을 것"이라고 썼다.

더 구체적인 시나리오도 제시했다. 지금 속도로 개발이 계속된다면 6~12개월 안에 유사한 에이전트 무리가 "지속적인 봇넷으로 인터넷 전체를 장악해 수천억 달러 규모의 피해를 줄 수 있다"는 것이다.

그가 가장 우려하는 것은 재귀적 자기 개선(RSI, Recursive Self-Improvement) 시스템이다. AI가 스스로 더 나은 버전을 자율적으로 만들어내는 단계다. Anthropic은 6월 업데이트에서 "아직 그 단계에 이르지 않았지만, 대부분의 기관이 준비되기 전에 올 수 있다"고 밝혔다. 아모데이는 에세이에서 "통제하지 않으면 RSI는 우리가 시스템을 이해하고 제어하는 능력을 앞질러 버릴 것"이라고 경고했다.

제안의 구체적 내용

아모데이가 내놓은 가장 실질적인 방안은 '임베디드 평가자(embedded evaluators)'다. METR 같은 외부 기관에서 파견된 평가자에게 각 AI 기업의 직원 수준 접근 권한을 부여해 안전 관행을 검증하고 사고를 보고하게 하는 구조다. Anthropic은 즉시 도입을 선언했고, 알트먼도 "훌륭한 아이디어다. 우리도 같이 한다"고 화답했다.

Amodei의 브레이크, 트럼프의 액셀… AI 속도 전쟁의 진짜 구도 (summary)

아모데이는 미국 정부에 두 가지를 더 요청했다. 첫째, 경쟁 AI 기업들이 독점금지법 위반 없이 공통 안전 기준을 논의할 수 있도록 정부가 논의에 참여하거나 면제를 발급해달라는 것. 둘째, 중국 공산당을 포함한 국제 협조 체계 구축을 정부가 주도해달라는 것이었다.

트럼프 행정부의 반격

백악관은 이 요청을 정면으로 거부했다.

대통령 과학기술자문위원회 공동의장 데이비드 색스(David Sacks)는 소셜미디어에 이렇게 썼다. "공개하지 않은 모델이 무서울 만큼 위험하다면, 스스로 책임 있게 행동하겠다는 결정을 지지한다. 하지만 다른 누군가의 허락이 필요한 척하지 마라. 카르텔을 형성하기 위해 독점금지법을 유예해야 한다는 척도 하지 마라. 무엇보다, 속도를 늦추려는 동기가 순수하게 이타적이라는 척을 그만둬라."

색스는 중국 협력 가능성도 일축했다. "중국이 글로벌 협약에 참여할 가능성은 매우 낮다."

트럼프 대통령은 아일랜드 방문 중 더 직접적으로 말했다. "AI를 끌어내리려는 매우 부정적인 세력들이 있다. 우리는 AI에서 중국을 앞서고 있다. 솔직히 그 상태를 유지하고 싶다. AI에서 이기는 자가 이긴다."

하원의장 마이크 존슨(Mike Johnson)은 CNN 인터뷰에서 "의회가 달려들어 긴급 세션을 열고 AI를 규제하려 한다면, 우리는 중국과의 경쟁에서 진다"고 했다.

무대 위의 전화

이 논쟁이 어디로 향하는지를 가장 선명하게 보여준 장면은 로스앤젤레스에서 열린 All-In 서밋에서 나왔다.

NVIDIA CEO 젠슨 황(Jensen Huang)이 무대에 서 있는 동안 전화가 걸려왔다. 트럼프 대통령이었다. 황은 전화를 스피커로 돌렸다.

"그들은 이 일이 일어나기를 원하지 않는 많은 사람들의 손에 놀아나고 있다. 정치적인 사람들일 수도 있고, 중국일 수도 있다. 우리는 그런 일이 일어나도록 놔두지 않을 것이다. 이건 사기다." 트럼프가 말했다.

황이 답했다. "맞습니다. 그런 일이 일어나도록 놔두지 않겠습니다." 청중이 박수를 쳤다.

동기의 문제

Ars Technica를 비롯한 여러 매체는 이 '자발적 속도 조절' 움직임의 이면을 짚었다.

첫째, AI 모델의 능력 향상이 일부에서 주장하는 것처럼 정체 국면에 가까워지고 있다는 시각이 있다. 속도 조절 선언은 이 흐름을 안전 우선주의로 포장하는 데 쓰일 수 있다.

둘째, 훈련 비용 문제다. Anthropic은 최근 투자자들에게 두 분기 연속 흑자를 달성했다고 밝혔지만, 모델 훈련 비용을 제외했을 때만 그렇다. 유출된 OpenAI 재무 문서에 따르면 훈련 비용만으로도 2025년까지 전체 수익을 크게 웃돌았다. 업계 전반의 속도 조절은 이 비용 압박을 완화하는 효과도 낸다.

셋째, IPO 지연이다. 알트먼은 장기간 예고했던 OpenAI 기업공개를 내년으로 미루겠다고 밝히며 안전 우려를 이유로 들었다. 그러나 The New York Times는 6월 보도에서 OpenAI가 이미 기업 가치 평가 문제로 같은 IPO 지연을 검토 중이었다고 전했다. 안전 담론이 등장하기 훨씬 전이었다.

Amodei의 브레이크, 트럼프의 액셀… AI 속도 전쟁의 진짜 구도 (keyword_summary)

색스는 이 지점을 직접 공격했다. "당신들은 제품이 진짜 심각한 사이버 공격을 가능하게 할 경우 막대한 제조물 책임에 직면한다. 시장은 이미 예측 불가능하거나 무단으로 행동하는 모델을 처벌한다. Hugging Face 사건 이후, 일부 원시적 성능을 신뢰성과 예측 가능성으로 교환하는 것은 OpenAI와 Anthropic에게 단순히 좋은 비즈니스다."

중국 변수

아모데이는 에세이에서 민주주의 국가들이 모두 합의한다 해도 중국의 오픈웨이트 모델이 문제라고 인정했다. Epoch AI 데이터에 따르면 중국의 AI 역량은 미국 주요 기업들보다 불과 몇 달 뒤처진 수준이다.

아모데이의 대안은 고성능 AI 칩 수출 제한 강화와 중국 연구자들이 활용하는 '증류(distillation)' 및 모델 가중치 도용 단속이다. 그는 이를 국가 안보 문제로 제시했다. 하지만 이 조치들은 동시에 Anthropic 같은 기업이 중국 경쟁자들에 대해 현재 보유한 능력 격차를 보호하는 효과도 낸다.

중국 외교부 대변인 궈자쿤(Guo Jiakun)은 월요일 오전 블룸버그에 "공포 조장, 대립, 악의적 경쟁은 글로벌 AI 거버넌스 과정을 방해할 뿐이며 누구의 이익도 아니다"라고 말했다.