Google Earth의 Nano Banana 2 딥페이크 도구, 24시간 만에 퇴출 — 그 이유는
Google은 텍스트 프롬프트로 위성 이미지를 편집할 수 있던 Earth 기능을 단 하루 만에 비활성화했으며, 정책 위반과 더 강력한 안전장치의 필요성을 이유로 들었습니다.
구글이 연구자 헹크 반 에스(Henk van Ess)가 안전장치가 실패함을 입증한 후 위성 이미지를 AI 프롬프트로 편집할 수 있는 구글 어스 기능을 제거했다. 유해한 주제는 차단되고 이미지는 워터마크 처리되었다는 구글의 주장에도 불구하고 반 에스는 멕시코 국경의 난민들과 가자지구의 폭탄 구덩이를 묘사하는 이미지를 생성하여 AI 탐지 도구를 우회하는 데 성공했다. 신속한 기능 철수는 구글이 생성형 AI를 위한 효과적인 콘텐츠 조정을 구현하려고 애쓰는 가운데 지리적 데이터의 무결성을 기능 확장보다 우선시하고 있음을 시사한다.