빈 주차장에 "refugees swarm the street"라고 입력하자 난민 행렬이 가득 찼다. 멕시코 국경 인근 공터가 배경이었다. 같은 방식으로 이란에 핵발전소를 심고, 가자 지구 병원을 폭격 잔해로 바꾸는 장면도 만들어졌다.
구글은 8월 1일 구글 어스에 탑재한 AI 이미지 생성 기능 Nano Banana 2를 출시 이틀 만에 철회했다. Nano Banana 2는 위성 이미지를 기반으로 사용자가 입력한 프롬프트에 맞춰 장면을 새로 그려내는 기능이다. 폼페이 유적을 고대 로마 거리로 복원하거나, 공터에 계획 중인 건물을 미리 얹어보는 식의 활용을 염두에 뒀다.
구글은 생성된 이미지에 AI 생성 표시가 붙었고 다른 사용자에게는 보이지 않았다고 밝혔다. 그러나 스크린샷으로 외부에 공유되면 이 표시는 사라진다. 구글 정책을 위반하는 이미지가 이미 퍼진 뒤였다. 구글은 "사람들이 구글 어스를 세상을 신뢰할 수 있게 보여주는 창으로 여긴다는 사실을 안다"며 더 강력한 안전장치가 갖춰질 때까지 기능을 복구하지 않겠다고 했다.
AI 이미지 도구나 Photoshop으로 구글 어스 스크린샷을 조작하는 건 이전에도 가능했다. 구글이 이번에 한 일은 그 진입 장벽을 텍스트 한 줄로 낮춘 것이다.
국내에서도 카카오맵·네이버 지도 등 위성지도 서비스에 AI 생성 이미지 기능이 도입될 경우 유사한 신뢰도 문제가 불거질 수 있다. 이번 사례는 지도 플랫폼이 AI 생성 기능을 붙이기 전에 어떤 안전장치와 공개 기준을 갖춰야 하는지를 먼저 따져야 한다는 점을 보여준다.
