광고 배너, 음악 추천, 일정 관리 앱, 고객 불만 처리 전화. 이 모든 서비스에 AI가 쓰인다면, 이제 유럽 사용자에게 그 사실을 알려야 한다.
8월 2일, EU AI Act의 투명성 규정이 발효된다. 유럽연합 시민은 AI 시스템과 상호작용하거나 AI가 생성·변형한 콘텐츠를 접할 때 반드시 고지를 받아야 한다. 이 규정의 목표는 기만과 조작을 줄이고, 사람들이 정보를 갖춘 상태에서 선택할 수 있도록 하는 것이다.
어디까지 적용되나
딥페이크를 활용한 광고나 기업 소셜미디어 게시물에는 AI 생성 라벨이 붙는다. 불만 처리 챗봇과 고객센터는 AI 기반임을 명시해야 한다. 콜센터가 머신러닝으로 발신자 감정을 분석하고 불만을 감지하는 경우, 통화 시작 시점에 이를 고지해야 한다.
기업 간 거래도 예외가 아니다. 일정 예약, 서신 처리, 계약 협상 등 상업적 목적의 AI 활용은 모두 신고 대상이다. 미준수 시 최대 1,500만 유로 또는 전 세계 연간 매출의 3% 중 높은 금액이 과태료로 부과된다.
Spotify도 Adobe도 적용 대상
AI 모델 개발사도 이 법의 적용을 받는다. 감독 주체는 유럽위원회 산하 AI 사무국이다. OpenAI, Anthropic, Google DeepMind 같은 이름이 먼저 떠오르지만, 법률 전문가들은 범위가 훨씬 넓다고 말한다.
기술·데이터 전문 변호사 Thibau Duquin은 AI 기반 추천 기능을 운영하는 Spotify, Photoshop에 AI 편집 기능을 탑재한 Adobe도 적용 대상이라고 짚었다. "들여다보기 시작하면 어디에나 있다. 이 모든 콘텐츠에 이제부터 라벨이 붙어야 한다"고 그는 말했다.
GDPR의 데자뷔, 그리고 우려
이 규정은 2018년 시행된 GDPR을 떠올리게 한다. GDPR은 기업이 개인정보를 어떻게 활용하는지 소비자가 이해하고 통제할 수 있는 권리를 부여했고, 웹 경험을 바꿔놓았다. 쿠키 동의 팝업이 도처에 깔리면서 많은 사용자가 '쿠키 피로'를 호소했다.
AI 고지 의무화도 비슷한 피로를 유발할 수 있다는 우려가 나온다. Computer & Communications Industry Association의 AI 정책 책임자 Boniface de Champris는 지난해 12월 "과도한 라벨링은 끝없는 알림으로 '배너 맹시(banner blindness)'를 일으킬 수 있다"며 "맞춤법 교정 이메일부터 필터 적용 사진까지 모든 것에 라벨을 붙이면, AI 콘텐츠 라벨 자체가 의미를 잃는다"고 경고했다.
시행은 되지만, 즉각 일관 집행은 아직
EU는 AI 모델 제공사가 합성 오디오·이미지·영상·텍스트를 기계가독 형식으로 표기하는 데 12월까지 유예 기간을 뒀다. AI 사무국이 주요 준수 지침을 예상보다 늦게 내놓으면서 일부 준수 기한은 이미 연기됐다.
EU 27개 회원국이 각자 다른 속도로 감독 체계를 구축하고 있다는 점도 변수다. Norton Rose Fulbright의 데이터·AI 규제 전문 변호사 Rosie Nance는 "첫날부터 즉각적이고 일관된 집행이 이뤄진다고 보기는 어렵다"고 말했다.
그럼에도 규정의 파급력이 상당할 것이라는 전망이 나온다. Duquin은 이렇게 물었다. "기업들은 AI 사용을 공개하는 데 편안함을 느낄까? 아니면 AI를 쓰지 않는 시스템으로 돌아갈까? 투명성을 감수하고 AI를 계속 쓸 것인가, 아니면 리스크를 피해 수동으로 돌아갈 것인가."
한국 사용자에게는
이번 규정은 EU 내 서비스에 직접 적용되지만, Spotify·Adobe처럼 한국 사용자도 일상적으로 쓰는 글로벌 플랫폼이 대상에 포함된다. 유럽 사용자 대상으로 AI 고지 방식을 바꾼 플랫폼이 글로벌 정책을 통일하는 방향을 택할 경우, 한국 사용자의 서비스 경험도 달라질 수 있다. GDPR이 전 세계 개인정보 처리 방식을 바꿔놓았듯, EU AI Act의 투명성 요건이 글로벌 표준으로 번질 가능성도 있다.
