Google Earth의 AI가 가짜 위성 사진 생성 — 워터마크로도 허위정보는 못 막는다
Google Earth의 Nano Banana 2가 프롬프트만으로 사실적인 위성 영상을 만들어내며, Google의 SynthID 워터마킹에도 불구하고 지정학적 허위정보에 대한 우려를 키우고 있다.
구글은 구글 어스의 새로운 도구인 나노 바나나 2(Nano Banana 2)를 출시했다. 이 도구를 사용하면 사용자가 플랫폼의 위성 및 3D 데이터를 사용하여 역사적 장소나 가상 시나리오의 사실적인 플라이오버 이미지를 생성할 수 있다. 구글이 젬ini 및 렌즈를 통해 SynthID 워터마크 및 검증 도구를 구현했음에도 불구하고 보안 연구원 헹크 반 에스(Henk van es)는 이 도구가 폭격이나 국경 활동과 같은 민감한 지정학적 사건의 설득력 있는 가짜 이미지를 생성할 수 있음을 보여주었다. 이 도구는 적어도 하나의 주요 AI 탐지자를 속이는 데 성공했으며, 워터마킹 표준이 실패하거나 사용자가 확인 단계를 무시하는 경우 사진과 같은 위성 생성이 선전이나 잘못된 정보를 조장할 수 있다는 경보를 울렸다.