개발자들, 4시간도 안 돼 Claude의 보이지 않는 워터마크 해독
개발자들이 4시간 만에 Anthropic의 SynthID 워터마크를 우회하는 도구를 공개했습니다. 이는 기술적 탐지 방법에 의존해 AI 콘텐츠 라벨링을 하려는 EU 규제의 취약성을 드러냅니다.
앤트로픽(Anthropic)은 EU AI 법규 준수를 위해 구글의 SynthID를 통해 전 세계적으로 활성화된, 기계가 읽을 수 있는 보이지 않는 워터마크를 구현했지만, 개발자 기욤 메이어(Guillaume Meier)는 4시간 만에 작동하는 우회 방법을 공개했다. 이 도구는 워터마크가 없는 LLM을 사용하여 텍스트를 다시 작성하고 패턴을 제거하며, 온라인에서 100명 이상의 기여자들과 20,000개의 북마크를 얻었다. 메이어와 비판론자들은 워터마킹이 출력 품질을 저하시키고 문법이나 번역에 AI를 사용하는 사용자를 불공평하게 처벌할 수 있는 잘못된 긍정을 초래할 위험이 있다고 주장한다. EU가 최대 3%의 매출액 벌금을 위협하는 상황에서, 이 신속한 우회 작업은 정책 집행이 쉽게 깨질 수 있는 기술적 안전장치에 의존할 수 있음을 시사한다.