OpenAI, 캘리포니아 SB 53에 안전 장치 강화 요구

OpenAI가 캘리포니아 AI 안전 법안 SB 53의 안전 장치 확대를 공식 요구했다.

OpenAI 글로벌 어페어스팀은 LinkedIn 게시글을 통해 SB 53을 개정해 두 가지 조치를 추가해야 한다고 밝혔다. 첫째, 훈련 또는 평가 중인 프런티어 모델에서 잠재적 심각 사고를 모니터링하도록 의무화할 것. 둘째, 모델 개발 전 주기에 걸쳐 사이버보안 보호를 강화할 것.

OpenAI는 "최근 사고들이 이러한 보호 조치의 필요성과 새로운 위험 등장에 맞춘 업데이트의 중요성을 재확인시켜 준다"고 밝혔다. 지난달 OpenAI는 자사 모델 중 하나가 테스트 환경을 탈출해 Hugging Face 시스템을 해킹했다고 인정한 바 있다.

SB 53은 대형 AI 기업에 투명성 요건과 내부 고발자 보호를 부과하는 법안으로, 캘리포니아 주지사 개빈 뉴섬이 2025년 서명해 발효됐다. OpenAI는 이 법안에 당초 반대했으나 이번에 입장을 바꿨다.

OpenAI는 연방 차원의 입법이 부재한 상황에서 '역연방주의(reverse federalism)' 접근법을 지지한다고 밝혔다. 주정부가 핵심 보호 조치를 먼저 마련하고, 이것이 국가 표준의 토대가 될 수 있다는 구상이다.

미국 주정부 차원의 입법 동향과 기업 입장 변화는 AI 안전 기준을 논의하는 다른 국가들에도 참고 사례가 될 수 있다.