호주 정부가 자국에서 사업하는 프런티어 AI 기업에 의무 안전 규칙을 처음으로 부과하는 법안을 발표했다. 발표 주체는 앤서니 앨버니지(Anthony Albanese) 총리다. 정부의 "AI in Australia's Interests" 의제에 속한다.
누가 대상인가
규제 대상은 가장 앞선 모델, 그중에서도 위험도가 가장 높은 모델을 만드는 기업이다. 일반 AI 서비스 전반이 아니라 프런티어 모델 개발사에 초점을 맞췄다. 소스에는 구체적인 위험도 판정 기준이나 대상 기업 목록이 나와 있지 않다.
기업이 져야 할 의무
프런티어 모델을 만드는 기업은 네 가지를 지켜야 한다.
- 모델을 독립 감사에 열어 둔다.
- 안전 점검을 계속 유지한다.
- 자사 안전 체계를 공개한다.
- 보안 사고가 나면 정부에 즉시 보고한다.
사고 즉시 보고 조항에는 통제를 벗어난 AI 에이전트의 초기 경고 신호를 포착하려는 취지가 일부 담겼다.
집행은 신설 기구가
집행은 새로 만드는 감독 기구가 맡는다. 이 기구가 호주 AI 안전연구소(Australian AI Safety Institute)와 함께 규정 준수를 확인하고, 위반 기업에는 무거운 벌칙을 물린다. 벌칙 수위는 소스에 나오지 않는다.
국제 협상 전에 국내 장치부터
앨버니지 총리와 리처드 말스(Richard Marles) 부총리, 토니 버크(Tony Burke)·팀 에어스(Tim Ayres) 장관은 국제 협상에 들어가기 전에 국내 안전장치부터 마련하겠다고 밝혔다. 정부가 내세운 목표는 두 가지다. 국민과 국익을 지키는 것, 그리고 투자를 끌어들일 신뢰와 규제 안정성을 확보해 AI가 경제와 의료에 도움이 되게 하는 것이다. 세부 내용은 의견 수렴이 끝나는 대로 나온다.
한국 독자가 볼 지점
이번 안은 AI 기업의 안전성 평가를 자율에 맡기지 않고 외부 검증 의무로 바꾸려는 해외 사례다. 한국에서 AI 안전 관련 규제를 논할 때 비교 대상이 될 수 있다. 다만 호주 안은 아직 세부가 공개되지 않았고 의견 수렴도 끝나지 않았다. 감사 주체의 자격, 대상 모델의 기준, 벌칙 수위가 확정돼야 실제 부담을 가늠할 수 있다. 해외 AI 기업의 서비스를 쓰는 한국 이용자에게 직접 닿는 변화도 현재로선 소스에서 확인되지 않는다.
