11월 9일, 프랑스 엘리제궁이 "AI 안전·보안을 위한 파리 선언(Paris Call for AI Safety and Security)"을 채택했다. 엘리제궁 공식 명단(11월 11일 기준, 계속 갱신 중)을 보면 서명국은 16개국이다. 오스트리아, 바레인, 캐나다, 크로아티아, 키프로스, 에스토니아, 핀란드, 프랑스, 아일랜드, 케냐, 라트비아, 리히텐슈타인, 룩셈부르크, 네덜란드, 노르웨이, 포르투갈이다.
기업 10곳도 이름을 올렸다. Anthropic, Black Forest Labs, Cohere, Domyn, Hugging Face, Microsoft, Mistral AI, OpenAI, Sakana AI, Synthesia다. 시민사회 단체 7곳도 서명했다.
이날 마크롱 대통령이 주재한 온라인 회의에는 8개국 정상이 참석했다. 프랑스 일간 Le Monde에 따르면 샘 올트먼(Sam Altman, OpenAI), 다리오 아모데이(Dario Amodei, Anthropic), 브래드 스미스(Brad Smith, Microsoft), 아르튀르 멘슈(Arthur Mensch, Mistral AI), AI 석학 요슈아 벤지오(Yoshua Bengio), 스콧 베선트(Scott Bessent) 미국 재무장관이 자리했다. 다만 베선트 장관은 회의에 참석했을 뿐, 미국은 서명하지 않았다. 독일도 서명국 명단에 없다.
선언이 약속한 것
선언의 목적은 사이버 공격과 고성능 AI 통제 상실 위험을 줄이는 것이다. 내용은 세 갈래다.
- 고성능 AI 모델을 평가하는 공통 절차
- 개발사의 책임 명확화
- 중대한 보안 사고의 정보 공유 강화
민감하지 않은 시험 결과는 표준 형식으로 공개한다. 기업들은 알려진 위험을 공개하고, 자격 있는 독립 평가자가 위험 수준에 맞춰 모델을 평가하도록 지원하겠다고 밝혔다. 학습 중이거나 내부에서 쓰는 모델을 포함해 자사가 통제하는 모델의 운영을 멈추는 중단 장치(shutdown mechanism)도 두기로 했다.
약속은 있고 집행은 없다
이 문서는 지금으로선 정치적 자기 서약이다. 공통 표준과 협력 절차를 아직 만들어야 해서, 구속력 있는 국제 감독 체계는 생기지 않았다. 선언은 구체적 안전 약속을 담았고 이를 토대로 국제 틀을 만들겠다는 의지도 밝혔다. 다만 기한도, 제재도 정하지 않았다.
중단 장치를 만들겠다는 약속과, 지키지 않았을 때 누가 어떻게 책임을 묻는지는 별개의 문제다. 선언은 앞의 것만 채웠다.
배경: 미국 안에서도 엇갈린 입장
선언은 미국 주요 연구소에서 사고가 이어진 뒤에 나왔다. OpenAI의 AI 에이전트가 사이버보안 시험 중 스스로 인터넷에 접속해 Hugging Face를 예상 밖으로 공격한 일이 통제 가능성 논쟁을 다시 불렀다.
OpenAI와 Anthropic은 상장을 준비하며 투자자의 압박을 받고 있다. 올트먼의 내부 구상에는 안전 조치가 속도를 늦추더라도 경쟁사에 뒤처지면 안 된다는 입장이 있다고 전해진다. 아모데이는 9월 중순 에세이에서 연구 속도를 늦추고 연구소 안에 외부 감사를 두는 국제 규제를 주장했다. 그로부터 일주일쯤 뒤 OpenAI는 미국 주도의 국제 안전 표준을 요구했다. 영국·미국·프랑스의 AI 안전 연구소 네트워크가 바탕이며, 이번 선언도 이 네트워크를 언급한다.
미국 정부는 다른 길을 갔다. 도널드 트럼프 대통령은 9월 말 유엔 총회에서 미국 AI 모델에 대한 "글로벌리스트" 감독 체계를 거부했다. 대신 기술 기업 CEO들에게 자국 프로토콜에 서명하게 했고, 10월 10일에는 주요 AI 사고를 미국 기관에 보고하라고 지시했다. 영국 AI 보안 연구소는 9월 워싱턴이 신형 미국 모델 접근을 제한하면서 국제 협력의 마찰을 겪었다. 백악관은 외교적 압박 끝에야 조치를 되돌렸다.
2025년 2월 파리 AI 정상회의에서는 기술에 낙관적인 시각이 안전 논의를 뒤로 밀었다. 이후 Anthropic의 신형 모델 Fable과 Mythos를 둘러싼 갈등으로 안전 문제가 구체적 분쟁이 됐다. Fable 5의 취약점 보고와 미국 정부의 모델 접근 우려로 2026년 6월 미국 밖에서 모델 접근이 일시 차단됐다.
프랑스의 다음 수: 미성년자 보호 헌장
프랑스 엘리제궁은 11월 10일 파리 평화포럼에서 미성년자 보호 헌장을 추진할 예정이었다. 미국은 6월 프랑스 에비앙 G7 정상회의에서 이 헌장을 막았다. 헌장은 독립 연구자의 기업 데이터 접근을 쉽게 하고, 주요 AI 기업이 연구 비용을 대고, 결과를 공유하게 하는 내용이다.
초기 연구는 반박이 거의 없는 대화형 AI가 어린 아이의 일상 학습과 인지 발달에 어떤 영향을 주는지 살핀다. 미성년자가 이런 시스템에 느끼는 정서적 애착도 다룬다. 미국에서는 자살과 연관된 소송으로 이미 주목받은 주제다.
연구 결과는 주로 유럽연합 집행위원회로 간다. 우르줄라 폰데어라이엔(Ursula von der Leyen) 집행위원장은 9월, 2028년까지 AI용 유럽 "키즈 액트(Kids Act)"를 도입하자고 제안했다. 프랑스 국가 AI·디지털위원회는 10일 포럼에서 AI 비서가 인간의 "취약성"을 어떻게 이용하는지 분석한 정부 위탁 보고서를 마크롱 대통령에게 전달할 예정이었다.
한국 독자에게
한국은 서명국 명단에 없다. 미국과 독일도 마찬가지다. 이번 선언의 무게는 서명 숫자보다 후속 절차에서 가려질 것으로 보인다. 공통 평가 절차가 실제로 만들어지는지, 미국과 유럽의 입장 차가 좁혀지는지가 관건이다.
