연설의 핵심: "기계는 도구이지 인격이 아니다"
교황 레오 14세가 AI 시스템을 "무장 해제(disarmed)"해야 한다고 말했다. 인간에게는 AI 활용을 "이끌고, 바꾸고, 필요하면 거부할 책임"이 있다는 설명이다. 바티칸이 공개한 연설은 금요일에 나왔다. 교황은 다음 달 제네바에서 열리는 유엔 회원국 회의에서 "치명적 자율무기 금지를 향한 구체적 조치"를 취하라고 촉구했다.
연설에서 교황은 "기계는 도구이지 인격이 아니다"라고 말했다. AI 시스템에 권리나 법적 인격을 부여하는 데 따르는 위험도 경고했다. 인간의 생명과 자유, 무력 사용에 영향을 미치는 결정은 "실효성 있고, 충분한 정보에 기반하며, 책임질 수 있는 인간의 감독" 아래 있어야 한다는 게 교황의 입장이다.
5월 회칙의 연장선
이번 연설은 교황이 5월에 낸 첫 주요 문헌의 문제의식과 겹친다. 이 문헌은 "인공지능 시대에 인간 존재를 지키는 일"을 강조했다. 이번 발언은 그 흐름 위에 있다.
교황 레오 14세가 AI를 거론한 것은 처음이 아니다. 본인이 교황명을 고른 이유가 AI 발전과 맞서야 하기 때문이라고 시사한 바 있다. 산업혁명기에 교회를 이끈 레오 13세와 비슷하다는 취지다. 앞선 교황 프란치스코도 2024년 자율무기 금지를 요구하며 "어떤 기계도 인간의 생명을 빼앗는 선택을 해서는 안 된다"고 말했다. AI에 대한 교황청의 문제의식은 한 사람의 입장이 아니라 이어지는 흐름이다.
국제기구에 요구한 것
연설 마지막에 교황은 국제기구가 AI 위험으로부터 공동선을 지켜야 한다고 요청했다. 구체적으로 "공통 기준, 독립적 감독, 명확한 책임 체계"를 들었다. AI 개발과 사용에 관한 결정을 검토하고, 필요하면 이의를 제기하고, 피해가 생기면 적절한 구제를 받을 수 있게 하자는 취지다.
한국 독자에게 던지는 질문
이번 연설은 종교 지도자의 견해다. 규제나 법적 효력이 있는 결정은 아니다. 소스에는 한국과 관련된 내용이 없다. 다만 "AI를 어디까지 쓰고, 누가 멈출 수 있는가"라는 질문은 한국 사회에도 해당한다. 교황이 말한 "거부할 책임"과 "이의 제기·구제 장치"는 AI를 쓰는 개인과 기업, 기관이 스스로 점검할 기준이 될 수 있다. 제네바 회의에서 실제로 어떤 논의가 이뤄질지는 아직 알려지지 않았다.
