"규칙은 구속력이 있어야 합니다." Anthropic 유럽 총괄 리엄 부스스미스(Liam Booth-Smith)가 영국 의회에서 한 말이다. 회사가 AI 안전에 법적 틀이 필요하다고 보느냐는 질문에 답한 것이다. 그는 "기업에 구속력 있는 규칙이 필요하고 자율 약속으로는 충분하지 않다고 일관되게 믿어 왔다"고 말했다.
청문회에서 갈린 네 회사
청문회는 영국 하원 기업·혁신·과학·무역위원회가 열었다. 여야 의원이 참여하는 위원회다. 화요일 증거 청취 세션에는 프런티어 AI 기업 네 곳, 이들 회사 출신 내부고발자 네 명, 영국 고위 공무원이 나왔다.
OpenAI 부사장 톰 더프 고든(Tom Duff Gordon)은 한 걸음 조심스럽게, 그러나 지지 쪽에 섰다. 법적 틀과 국제 협약을 지지하면서 "일부 요소는 의무여야 한다"고 말했다. 첫 대상으로 사고 보고를 꼽았다. "프런티어 위험을 전부 자율 약속에 맡기는 건 좋은 장기 계획이 아니라고 본다"는 발언도 나왔다.
경쟁사는 따라가지 않았다. 입법을 지지하느냐는 직접 질문에 Google DeepMind의 오언 라터(Owen Larter)는 "우리는 표준에 집중하겠다"고 답했다. Meta의 롭 셔먼(Rob Sherman)은 영국에 이미 규제 기관이 있다며 "백지 위에 쓰는 게 아니다"라고 말했다.
| 회사 | 발언자 | 입장 |
|---|---|---|
| Anthropic | 리엄 부스스미스 | 구속력 있는 규칙 필요 |
| OpenAI | 톰 더프 고든 | 일부 의무화, 법적 틀·국제 협약 지지 |
| Google DeepMind | 오언 라터 | 표준에 집중, 입법 지지 거부 |
| Meta | 롭 셔먼 | 기존 규제 기관 활용 강조 |
위원장 리엄 번(Liam Byrne)은 WIRED에 이번 청문회의 목적을 밝혔다. 세계에서 가장 부유한 기업들의 견해차를 드러내고, 자율 규제에 기댈 수 없다는 점을 보여주려 했다는 것이다.
정부 스스로 인정한 "자발적 체계"
자율 약속과 법적 규제의 차이는 정부 쪽 증언에서 구체적으로 드러났다. 영국 AI 보안연구소(AISI)는 출시 전 프런티어 모델을 테스트한다. 다만 기업이 모델을 넘겨줄 때만 가능하다.
AISI 소장 헨리 드 조트(Henry de Zoete)는 접근 권한을 전적으로 기업과 외국 정부의 협조에 의존한다고 인정했다. AISI가 위험하다고 판단한 모델을 기업이 그대로 출시해도 막을 수단이 없다고도 했다. "우리는 인증 마크를 붙이는 일을 하지 않는다. 어떤 모델에도 가부를 말하지 않는다"는 설명이다. 그는 프런티어에서 모델을 만드는 회사가 미국 아니면 중국 기업이라, 영국이 할 수 있는 일에 한계가 있다고 말했다.
전체 체계가 자발적이냐는 질문에 내각부 최고위 공무원 캣 리틀(Cat Little)은 "현재로서는 그렇다"고 답했다.
영국의 접근권은 워싱턴을 거친다. 더프 고든은 미국 쪽 기관 CAISI에 모델을 출시 전 제공하고 있으며, 미국 정부 아래서 가능한 한 영국 AISI에도 계속 제공하겠다고 말했다. 부스스미스는 Mythos 5.1에 대해 당시 영국 AISI에 제한 없는 전면 접근을 제공하지 못했다며 "미국 정부에 물어볼 문제"라고 했다. 현재는 AISI가 접근할 수 있다고 덧붙였다.
같은 날 나온 MI5 경고
청문회장에서 불과 수백 미터 떨어진 곳에서 MI5 국장 켄 매컬럼(Ken McCallum)은 연례 위협 보고에서 AI를 통한 생물무기 오용 가능성을 경고했다. "아직 현실화하진 않았지만 가장 무게를 두는 오용 사례"라는 표현을 썼다.
번 위원장은 이를 두고 한쪽에서는 MI5 국장이 생물테러 관련 위험한 역량 향상을 경고하는데, 다른 쪽에서는 내각부 최고위 공무원이 AI 규제 체계가 자발적이라고 사실상 인정하고 있다고 지적했다.
내부고발자의 목소리와 G20
전직 연구자 네 명도 증언했다. 전 OpenAI 직원 다니엘 코코타일로(Daniel Kokotajlo)는 "기업들이 스스로 규제할 거라고 믿을 수 없다"고 말했다. 2024년 말 OpenAI를 떠난 스티븐 애들러(Steven Adler)는 업계 전반의 안전 문화를 확신하지 못한다고 했다. 제프리 어빙(Geoffrey Irving)은 연구소들이 정부가 막지 않을 경쟁에 갇혀 빠져나올 수 없다고 믿는다며 "둘 다 거짓"이라고 말했다. "그냥 멈출 수 있다"는 것이다.
번 위원장은 위원회가 AI 분야에서 영국이 중견국으로서 갈 길을 집중 검토하겠다고 밝혔다. 영국이 곧 맡을 G20 의장직, 그리고 그 뒤를 잇는 한국의 의장직을 활용해 현 미국 백악관에 의존하지 않는 국제 협약을 추진하라고 장관들에게 요구할 생각이다. "G20 의장직은 트럼프 대통령의 임기보다 오래갈 것"이라는 게 그의 말이다.
한국에 던지는 쟁점
이번 청문회로 법이 바뀐 것은 없다. 두 회사가 입법을 지지한다고 밝혔을 뿐이고, 나머지 두 회사는 거부했다. 영국이 실제로 입법에 나설지는 소스에 나오지 않는다.
한국과 직접 닿는 지점은 번 위원장 발언 하나다. 한국이 영국 다음 G20 의장국이라는 점이 언급됐다. 한국 정부가 이에 어떤 입장인지는 소스에 없다.
더 근본적인 질문은 같다. 출시 전 안전 점검을 기업의 협조에 맡길 것인가, 의무로 만들 것인가. 영국 정부 기관은 현재 체계가 자발적이며 막을 수단이 없다고 의회에서 인정했다. 한국에서 AI 안전을 논의할 때도 점검 접근권이 법에 근거하는지, 해외 기업의 협조에 달렸는지가 따져볼 대목으로 보인다.
