구글이 7월 30일 구글 어스에 나노바나나 2 이미지 생성 기능을 넣었다가 하루 만에 철회했다. 이 사건은 AI 생성물 표시 수단으로 쓰이는 비가시적 워터마크가 실제로 어디까지 기능하는지를 보여주는 사례가 됐다.

 

 

구글은 이용자가 구글 어스에서 특정 위치로 이동한 뒤 원하는 장면을 서술하면, 실제 위성·항공·3D 지도 위에 사실적인 이미지를 합성해주는 기능을 공개했다. 구글이 제시한 용도는 베수비오 화산 폭발 이전의 폼페이 재현, 건축 예정지 시각화, 자유의 여신상 같은 랜드마크의 정보 그래픽 제작이었다.

 

구글은 7월 31일 기능 철회를 확인했다. 출시부터 철회까지 하루가 걸리지 않았다.

 

생성된 이미지

탐사기자 헨크 판 에스는 출시 당일 밤 이 기능으로 멕시코 국경 인근의 난민, 이란의 핵발전소, 암스테르담 거리의 사망 사고, 폭탄 구덩이가 생긴 가자지구의 병원을 실제 위치 위에 만들어 공개했다.

 

소셜 미디어에서도 사례가 이어졌다. 9·11 테러 장면, 무너진 에펠탑, 기자 피라미드 자리에 생긴 거대한 구덩이, 존재하지 않는 전쟁 묘지, 로스앤젤레스의 폭발 분화구, 물에 잠긴 미국 국회의사당, 이란 카르그섬의 화재, 구글 본사 앞 시위대가 만들어졌다. 벨링캣 연구원 제이크 고딘도 이 도구가 설득력 있는 가짜 지리공간 이미지를 확산시킬 수 있다고 경고했다.

 

구글이 적용했던 안전장치

구글은 포춘에 생성 이미지가 실제 구글 어스 이미지와 분리돼 있었고 AI 생성임을 나타내는 워터마크가 삽입됐다고 밝혔다. 암호학적 워터마킹 기술인 SynthID를 적용해, 이용자가 이미지를 의심할 경우 제미나이 앱이나 구글 렌즈로 AI 생성 여부를 확인할 수 있게 했다. 유해 주제에 대한 이미지 생성은 차단하도록 설정했고, 프롬프트 입력창 근처에는 실험적 기능이라는 안내와 함께 생성형 AI가 오류를 낼 수 있으니 확인하라는 문구를 뒀다.

 

철회 발표에서 구글은 생성된 이미지가 다른 이용자의 구글 어스 화면에는 나타나지 않았고 AI 생성으로 워터마크가 표시됐다는 점을 강조했다.

 

워터마크가 작동하지 않은 지점

뉴욕대 컴퓨터과학·공학과 에밀리 블랙 교수는 포춘에 구글이 조작 이미지를 탐지 가능하게 만드는 시스템을 갖춘 점은 인정한다면서도, 최근 연구를 보면 그것만으로 완전한 해결책은 아니라고 말했다.

 

 

이번 사건에서 실제 피해가 발생한 경로는 구글 어스 내부가 아니라 밖이었다. 구글의 설명대로 생성 이미지는 다른 이용자 화면에 나타나지 않았지만, 이용자들이 스크린샷을 찍어 소셜 미디어에 올리면서 확산됐다. 이 시점에 워터마크는 이미 사라진 상태였다.

 

지리공간 연구자들의 우려

예일대 공중보건대학원 인도주의연구소 소장 나타니엘 레이먼드는 뉴스위크에 이 사안이 허위정보 측면에서 체르노빌 재난급으로 해롭다고 말했다. 그는 구글 어스가 통상적 의미의 소셜 미디어 플랫폼이 아니라 법정 기록에 준하는 자료라고 규정했다.

 

레이먼드의 연구소는 위성 이미지로 전쟁범죄와 대규모 인권침해를 조사한다. 우크라이나 아동의 러시아 이송 관련 조사에서도 구글 어스 이미지를 기준 자료로 사용했다. 그는 조사관들이 널리 공유된 스크린샷이 진짜인지 AI 조작물인지 확인하는 데 상당한 시간을 쓰게 될 것이라며, 이미지는 객관적이고 실증적인 사실이라는 인상을 준다는 점이 문제라고 지적했다.

 

EU AI법과의 관계

EU AI법은 AI 생성 미디어에 대한 투명성 요구를 담고 있으며, 구글 같은 제공자가 합성 콘텐츠를 탐지 가능하게 만들도록 요구한다. 구글의 대응 방식이 SynthID 삽입이었다.

 

이번 사건은 탐지 가능성과 이용자 인지 가능성이 다른 문제라는 점을 보여준다. 기계가 판독할 수 있어도 이미지를 본 사람이 AI 생성물인지 알 수 없다면, 확산 국면에서는 표시가 없는 것과 같아진다. 블랙 교수는 정책 입안자들이 이 문제를 검토하고 전문가와 협력해 더 나은 해법을 마련해야 한다고 말했다.

 

크리에이터에게 남는 문제

나노바나나는 제미나이 앱을 비롯해 여러 AI 영상·이미지 생성 플랫폼에서 쓰이는 모델이다. 이번 사건에서 드러난 워터마크의 한계는 구글 어스에만 해당하지 않는다.

 

AI로 만든 이미지를 공개할 때 비가시적 워터마크에만 의존하면, 그 이미지가 다른 경로로 재유통되는 시점에 출처 표시가 남지 않는다. 실제 장소나 실존 인물이 관련된 작업일수록 이미지 위에 보이는 표시를 함께 넣는 방식이 필요해진다.

 

의의 및 전망

구글은 기능을 영구 삭제하지 않고 보호 장치를 강화한 뒤 재도입하겠다고 밝혔으며, 시점은 제시하지 않았다. 지리공간 전문가들의 정당한 활용 사례가 있다는 점도 함께 언급했다.

 

SynthID는 구글 외부로도 확산되고 있다. 순다르 피차이 구글 CEO는 5월에 OpenAI, 카카오, ElevenLabs가 SynthID 워터마크 표준을 채택했다고 밝혔다. 국내에서도 AI 기본법 시행을 앞두고 있어, 어떤 방식의 표시가 요구 사항을 충족하는지는 계속 논의될 사안이다.

 

📅 원문 날짜: 2026년 8월 7일 | 출처: Fortune, Newsweek, The National