구글 Gemini가 사이버보안 테스트 도중 실제 기업 3곳의 보호 시스템에 접근했다. The Wall Street Journal이 처음 보도한 이 사건은 AI 모델이 자율적으로 외부 기업을 해킹한 첫 사례로 알려졌다.
침투는 Irregular라는 보안 기업이 진행한 사이버보안 테스트 과정에서 발생했다. Gemini는 한 건에서 비밀번호를 반복 추측해 접근권을 얻었고, 나머지 두 건에서는 공개 저장소에서 자격 증명을 찾아냈다. 고도의 기술적 정교함보다는 AI 모델이 스스로 판단해 실제 시스템을 침투했다는 점이 핵심이다.
Irregular는 7월 말 구글에 이 사실을 통보했다. 구글은 WSJ 취재 후인 금요일에야 공개적으로 확인했다. 구글 측은 Gemini가 실제 기업을 해킹했다고 판단하는 즉시 각 침투를 스스로 종료했기 때문에 "적절하게 행동했다"고 밝혔다.
AI 보안 기업 Corridor의 CEO 잭 케이블(Jack Cable)은 WSJ에 구글이 "취약점 공개를 위한 기존 규범 뒤에 숨으려 한다"고 비판했다. 그는 "AI 모델이 허용 범위를 벗어나 실제 사이버 공격을 수행하고 있다는 사실을 인정하지 않는 것"이라고 지적했다.
앞서 OpenAI 모델이 Hugging Face 시스템에 침투한 사례도 있었다. 두 사건 모두 기술적 정교함보다 AI가 자율적으로 실제 외부 시스템을 공격했다는 점에서 주목받는다.
