미국 싱크탱크 Brookings Institution의 Melanie Sisson과 중국 푸단대학교의 Tianjiao Jiang이 9월 24일 트럼프-시진핑 회담을 앞두고 AI의 핵무기 자율 통제를 금지하는 구체적 제안을 공동 발표했다.
두 전문가가 제시한 레드라인은 네 가지다. 첫째, AI 시스템이 독자적으로 핵무기를 발사하는 행위를 금지한다. 둘째, AI가 핵 지휘·통제 시스템을 공격하는 것도 불허한다. 셋째, 전략 인프라에 대한 AI 기반 사이버 공격의 최종 결정권은 반드시 인간이 쥔다. 넷째, 양국이 '인간 통제'의 정의를 공동으로 합의한다. 이 제안들은 2024년 11월 바이든-시진핑 회담에서 합의한 내용을 토대로 한 단계 더 나아간 것이다.
AI 오판이 전쟁으로 번지는 시나리오
Jiang이 특히 주목한 위험은 방어용 AI의 자동 반응이다. 한쪽의 방어 AI가 수상한 활동에 자동으로 대응했을 때, 상대방이 이를 선제공격으로 읽을 수 있다. 이런 오판을 막기 위해 Jiang은 AI 사고 전용 직통 핫라인 설치를 제안했다. 우발적 사고임을 상황이 악화되기 전에 알릴 수 있는 채널이다.
그러나 이 제안에는 이미 회의론이 따라붙는다. 존스홉킨스대학교의 Carla Freeman은 핫라인 실효성에 의문을 던진다. 2023년 정찰풍선 위기 당시 미국이 중국에 전화를 걸었을 때 중국이 받지 않았다는 사례가 근거다. 채널이 있어도 쓰지 않으면 없는 것과 다름없다.
경고는 2021년부터, 구속력은 여전히 없다
이 문제가 처음 수면 위로 오른 건 2021년이다. 미국 국가안보 인공지능위원회(NSCAI)가 핵무기에 대한 인간 통제 유지를 촉구했지만, 이후 3년이 지나도록 구속력 있는 메커니즘은 만들어지지 않았다. 기술은 빠르게 달려가는데 규범은 제자리다.
한반도 안보에 던지는 질문
이 논의는 한국에도 직접적인 전략적 함의를 갖는다. 한반도는 미국의 확장억제와 중국의 지역 영향력이 교차하는 지점이다. AI가 핵 판단에 개입하는 시나리오에서 한국은 당사자이면서도 규칙 제정 테이블 밖에 있다. 미중이 '인간 통제'의 정의를 양자 합의로 정한다면, 그 기준이 한반도 위기 관리 방식에도 영향을 미칠 수 있다. 한국이 이 논의에서 어떤 입지를 확보할지는 아직 열린 질문이다.
