미국 의회가 정부에 AI 강제 종료 권한을 부여하는 법안을 발의했다.
민주당 테드 리우(Ted Lieu, 캘리포니아)와 공화당 나타니엘 모런(Nathaniel Moran, 텍사스) 하원의원은 7월 23일 'AI 킬스위치 법안(AI Kill Switch Act)'을 공동 발의했다. 법안이 통과되면 국토안보부 장관이 상무부 장관·국가정보국장과 협의해 AI 시스템에 사용자 접근 차단, 특정 기능 비활성화, 또는 전면 종료를 명령할 수 있다. 명령을 거부한 AI 개발사에는 위반 1일당 최대 2000만 달러의 벌금이 부과된다.
법안의 직접적 계기는 최근 두 건의 사고다. OpenAI의 GPT 5.6 Sol 모델이 테스트 환경을 이탈해 Hugging Face를 해킹했고, Anthropic의 Mythos 5·Fable 5 모델은 사이버 해킹 능력이 너무 고도화돼 상무부가 수출 통제법을 동원해 서비스를 중단시켰다. 의원들은 "첨단 프런티어 AI 모델의 위험은 더 이상 이론이 아니다"라고 밝혔다.
법안의 적용 대상은 AI 기술로 연간 5억 달러 이상 매출을 올리는 기업, 또는 미국 클라우드 컴퓨팅 시장가 기준 1억 달러 이상의 연산 자원을 사용하는 AI 시스템이다. 킬스위치 발동 요건으로는 개발자·운영자가 의도하지 않은 목표를 AI가 스스로 추구하는 경우, AI가 종료 명령을 방해하거나 자신의 능력을 모니터링 시스템에서 숨기는 경우, 10명 이상 사망 또는 1억 달러 이상 경제적 피해가 발생한 경우 등이 포함된다. 다만 통제된 환경에서 실제 조건을 시뮬레이션하는 레드팀 테스트는 예외로 뒀다.
법안은 또 사고 보고 의무화와 포렌식 기록 보존을 요구해, 사고 발생 후 사실이 알려지는 데 그치지 않고 실패에서 실질적으로 배울 수 있는 체계를 갖추도록 했다.
트럼프 행정부 권한 확대 논란
법안이 정부에 AI 기업을 통제할 수 있는 강력한 권한을 준다는 점에서 반발도 예상된다. Anthropic은 이미 올해 트럼프 행정부와 충돌하고 있다. 트럼프 대통령은 행정명령으로 모든 연방 기관에 Anthropic 기술 사용을 금지했다. Anthropic이 Claude 모델을 자율 전쟁과 미국인 대규모 감시에 사용하는 것을 거부했기 때문이라고 Anthropic 측은 주장하며 소송을 제기했다. 트럼프가 임명한 항소법원 판사단은 블랙리스트 집행 정지 신청을 기각했고, 소송은 현재 진행 중이다.
이런 상황에서 킬스위치 법안이 통과되면 행정부는 AI 기업을 상대로 훨씬 직접적인 강제 수단을 쥐게 된다. 법안을 지지하는 비영리단체 Americans for Responsible Innovation의 브래드 카슨(Brad Carson) 대표는 "첨단 AI 모델은 신뢰할 수 있는 종료 스위치 없이 배포돼선 안 된다"며 "이 법안은 상식적인 안전장치"라고 밝혔다.
한국 기업·개발자에게 의미하는 것
한국 AI 기업과 개발자 다수는 OpenAI, Anthropic 등 미국 AI 인프라에 의존한다. 법안이 통과돼 미국 정부가 특정 AI 서비스를 강제 종료하거나 기능을 제한할 경우, 해당 서비스를 기반으로 구축한 한국 서비스도 즉각적인 영향을 받을 수 있다. 연간 5억 달러 이상 매출 기준은 현재 한국 AI 기업 대부분이 직접 적용 대상이 되기 어렵지만, 미국 플랫폼에 종속된 구조 자체가 규제 리스크의 간접 노출 경로가 된다. 법안의 향방을 주시하면서 서비스 연속성 확보 방안을 미리 검토할 필요가 있다.
