뉴욕시와 로스앤젤레스가 학생 대상 AI 도구 사용을 1년간 금지하겠다고 발표한 지 일주일 만에, Microsoft가 미국 교사노조와 학교 AI 사용 원칙을 명문화했다.
Microsoft는 미국 제2위 교사노조인 미국교원연맹(AFT)과 뉴욕시 산하 교원연합(UFT)과 공동으로 학교 AI 안전·프라이버시 10대 원칙을 발표했다. 이 원칙은 학교 구역이 Microsoft와 맺는 기존 계약 또는 신규 계약에 조항으로 추가해 법적 구속력을 가질 수 있다. 11월부터 학교 구역은 전체 계약을 재협상하지 않고도 해당 조항을 선택적으로 추가할 수 있다.
10대 원칙, 무엇을 담았나
핵심 조항은 크게 네 가지다. 첫째, 학생과 교사 데이터로 AI 모델을 훈련하지 않는다. 둘째, Microsoft가 수집하는 데이터 자체의 양을 제한한다. 셋째, 도구가 어떻게 작동하는지 가족에게 평이한 언어로 공개한다. 넷째, AI 동반자(AI companion) 기능을 금지하고, '고위험' 결정에는 사람의 검토를 의무화한다.
원칙이 강제력을 갖는다는 점이 주목할 만하다. 기업이 자체적으로 선언하는 윤리 원칙과 달리, 학교 구역이 계약 조항으로 채택하면 위반 시 계약 위반으로 다툴 수 있는 근거가 생긴다.
금지 조치와 원칙 합의, 동시에 나온 이유
뉴욕시는 8학년 이하 학생의 AI 사용을 금지했고, 로스앤젤레스도 비슷한 조치를 취했다. 두 도시 모두 AI의 적절한 활용 방식과 안전장치를 검토할 시간을 확보하겠다는 취지다. 부모와 일부 교사들이 학교 내 AI와 스크린 사용 전반에 반발하는 흐름이 이어지는 가운데, Microsoft는 유사한 금지 조치가 더 확산될 수 있다고 판단한 것으로 보인다.
AFT는 기술 도입에 비판적인 입장을 취해왔지만, 동시에 AI 물결에 대비하기 위해 기업과 협력하는 방향도 열어두고 있다. AFT 의장 Randi Weingarten은 올해 5월 연설에서 3학년 이전 스크린 금지, 중학교 이전 학생 대상 AI 금지를 촉구한 바 있다. 이번 합의는 그 연장선에서 나온 구체적 결과물이다.
AFT는 이번 합의를 발표하며 "연방 정부를 포함해 실질적인 작업에 나선 곳이 없다"고 밝혔다. 연방 차원의 학교 AI 규제가 공백 상태인 현실을 직접 겨냥한 발언이다.
한국 교육 현장에 시사하는 것
국내에서는 AI 디지털 교과서가 단계적으로 도입되고 있다. 학생 데이터 처리 방식, 학습 분석 결과의 활용 범위, 보호자 고지 의무 등은 아직 구체적인 가이드라인이 정착되지 않은 영역이다. 이번 Microsoft-AFT 합의처럼 계약 조항으로 구속력을 부여하는 방식, 고위험 결정에 사람 검토를 의무화하는 조항, 평이한 언어로 보호자에게 공개하는 원칙은 국내 교육청이 AI 도입 계약을 설계할 때 참고할 수 있는 구체적 선례다.
