Google의 SynthID, 스트레스 테스트 통과 — 하지만 허위 정보를 막을 수 있을까?
Ars Technica가 Google의 SynthID 워터마크를 테스트한 결과, 강한 압축과 편집에도 견디지만 더 광범위한 AI 허위 정보 문제 해결에는 어려움을 겪는 것으로 나타났습니다.
Ars Technica는 Python 스크립트를 사용하여 AI 생성 및 편집 이미지를 극한의 압축 및 크기 조정에 적용하여 Google의 SynthID 워터마킹 기술의 내구성을 테스트했다. 결과는 SynthID가 심각한 데이터 손실 후에도 감지 가능함을 보여주었으며, 스크린샷을 찍는 것과 같은 간단한 작업으로 쉽게 제거되는 C2PA와 같은 암호학적으로 안전한 메타데이터를 능가했다. Google DeepMind 과학자들은 이 시스템이 공격 및 이미지 변환을 견뎌내도록 설계되었음을 확인했지만 특정 기술 세부 사항은 여전히 희박하다. 내구성에도 불구하고 이 보고서는 워터마크가 잘못된 정보에 대한 만병통치약이 아니며 OpenAI, Runway 및 NVIDIA 전반에 걸쳐 범용적으로 채택되어야 효과적임을 지적했다.