Google의 단 2일 만에 끝난 위성 대참사, 라벨링의 한계 드러내다
사용자들이 가자지구와 국경 통과 지점의 사실적인 가짜 이미지를 생성하자 Google은 48시간 만에 Nano Banana 2 Earth 통합 기능을 중단했습니다. 'AI 생성' 라벨만으로는 오용을 막을 수 없다는 신호입니다.
google removed the nano banana 2 feature from google earth after only two days because users generated convincing misinformation, such as refugee columns at the mexican border and bombed hospitals in gaza. although google labeled the images as ai-generated and restricted visibility within the app, users exported screenshots to create convincing fakes. the company stated the feature requires stronger safeguards before returning. this incident proves that simply labeling ai content does not stop the weaponization of generative tools for propaganda.