程式員繞過 claude 的 ai 水印——證明元數據並非安全保證
anthropic 最近推出了元數據水印以證明文本由 ai 生成，但用戶很快找到了變通方法。這暴露了為 ai 內容添加標籤的技術嘗試的脆弱性。
開發人員已經找到方法來刪除或繞過 Anthropic 部署的浮水印系統，該系統用於標記其 Claude 3 AI 模型生成的內容。該系統依靠元數據來區分 AI 編寫的文本和人類文本，這是一種旨在支持透明度和來源驗證的方法。然而，用戶演示了簡單的技術干預可以擊敗這一機制，從而使浮水印對於驗證無效。這凸顯了在沒有更廣泛的系統執行的情況下，為數字內容創建不可偽造的來源的難度。