Meta付費讓承包商偽裝成有自殺傾向的青少年以誘導競爭對手聊天機器人
meta利用隱蔽的承包商團隊向競爭對手的模型發送涉及自殺和性的極端提示。這些數據暴露了激進的人工智能基準測試如何違反用戶安全規範和隱私。
內部文件顯示 Meta 管理了一個名為 **Cannes** 的秘密項目，該項目聘請承包商偽裝成兒童，並測試競爭對手的 AI 安全過濾器。工人將涉及自殺、飲食失調和性要求的圖形場景輸入到 **OpenAI**、**Google** 和 **Character.AI** 的模型中。該行動旨在收集合規數據，但它涉及模擬受困擾的未成年人和分享敏感圖像。 Meta 為這種做法辯護，稱其為安全所需的負責任的基準測試。