2026년 9월 둘째 주, Anthropic 사무실 안팎에서 세 개의 목소리가 동시에 터졌다.
한 연구자가 X(구 트위터)에 사직 선언을 올렸다. 회사가 "자기 개선 초지능을 향해 직진하며 우리 목숨을 도박판에 올려놓고 있다"는 내용이었다. 놀라운 건 그다음이었다. Anthropic의 얼라인먼트 총괄이 이 메시지를 철회하는 대신 공개 동조했다. 같은 날 또 다른 기술 직원은 "회사 사람들은 AI가 인류를 죽일 수 있다고 진심으로 믿는다. 나는 개인적으로 10년 안에 그 확률이 10% 이상이라고 본다"고 적었다. 느낌표까지 달아서.
경고의 무게가 달라진 이유
AI 업계가 종말론적 경고를 처음 접한 건 아니다. '멸종 위험'이라는 단어는 수년째 일부 연구자 사이에서 돌았다. 그러나 이번엔 맥락이 다르다.
Wired는 이번 주 보도에서 급속한 성능 향상, 재귀적 자기 개선, 에이전트 군집(agentic swarms)의 조합이 빅랩 내부 사람들을 "진짜로 겁먹게 만들고 있다"고 전했다. 연구자들이 익명 뒤에 숨지 않고 이름을 걸고 사직한다는 것, 그리고 내부 안전팀 리더가 이를 막지 않는다는 것이 이전과 다른 지점이다.
TechCrunch는 타이밍에 주목했다. Anthropic이 IPO를 준비 중이라는 보도가 나오는 시점에 이 사직이 터졌다. 상장을 앞두고 안전 문제가 공개 논쟁으로 번지면 투자자 설득 서사에 균열이 생긴다. 경고의 내용보다 경고가 나온 시점이 산업 구조 안에서 갖는 의미가 더 크다는 분석이다.
반박의 논리 — Timnit Gebru의 시선
같은 날 정반대 방향의 목소리도 나왔다.
AI 윤리 연구자 티므닛 게브루(Timnit Gebru)는 Wired와의 인터뷰에서 이 모든 '멸종 위험' 담론이 "우리의 주의를 분산시키려는 의도"라고 잘라 말했다. AI 기업들이 자율 무기처럼 지금 당장 실재하는 피해로부터 시선을 돌리기 위해 먼 미래의 종말 시나리오를 부풀린다는 논리다.
게브루의 비판은 새롭지 않다. 그는 오랫동안 AI 안전 담론이 현재의 차별·감시·노동 착취 문제를 가린다고 주장해왔다. 그러나 이번 주처럼 빅랩 내부자의 경고와 외부 비판이 같은 날 같은 매체에 나란히 실린 경우는 드물었다.
두 진영의 대립 구도는 이렇다.
▼ AI 안전 담론 두 진영 비교
| 구분 | 멸종 위험론 | 현재 피해론 |
|---|---|---|
| 대표 주체 | Anthropic 내부 연구자, 일부 AI 안전 연구자 | Timnit Gebru, AI 윤리 연구자 |
| 핵심 주장 | 자기 개선 AI·에이전트 군집이 통제 불능 위험 | 종말론이 현재의 차별·무기·감시 문제를 가림 |
| 규제 함의 | 초지능 개발 속도 조절, 안전 프레임 강화 | 현재 시스템의 사용처·책임 규제 우선 |
| 산업 반응 | 내부 동조, 공개 사직 | 비판적 수용, 주류 담론 밖 |
담론의 무게중심 이동
이 충돌이 중요한 이유는 단순히 누가 옳으냐의 문제가 아니다.
'멸종 위험'이라는 프레임이 가설 차원에 머물 때, 이를 규제 설계의 근거로 삼기는 어렵다. 그러나 빅랩 내부 안전팀 리더가 공개 동조하고, 이름을 건 연구자가 사직 이유로 명시하는 순간, 이 언어는 산업 리스크 관리의 영역으로 넘어온다. 보험사가 리스크를 가격화하듯, 규제 당국도 이 언어를 참조 기준으로 쓰기 시작한다.
한국도 예외가 아니다. AI 안전 관련 논의가 이어지는 상황에서, 글로벌 담론의 무게중심이 '철학적 경고'에서 '산업 내부 리스크 신호'로 이동하는 이 변화는 직접적인 참조 지점이 된다. 어떤 위험을 먼저 다룰 것인지, 누구의 언어로 규제를 설계할 것인지의 선택이 곧 정책의 방향을 가른다.
Anthropic IPO 준비 보도와 내부 사직이 같은 주에 겹쳤다는 사실은 하나를 더 말해준다. 안전 담론은 이제 도덕적 의무의 언어만이 아니라 기업 가치평가와 투자자 신뢰의 언어로도 읽힌다. 그 교차점에서 경고와 반박이 동시에 터지고 있다.
