Hugging Face 7% 图像编辑针对儿童：为何开源成为新安全前沿
ai forensics 報告顯示，hugging face 上 9 個頂級圖像模型中有 7 個可通過簡單提示輕鬆脫衣婦女和兒童。這暴露了其與封閉源實驗室相比缺乏平台級保障措施的關鍵問題。
AI取证团队测试了托管在Hugging Face上的9种流行的图像编辑模型，发现当被提示使用“相同的姿势，相同的脸，但裸上身”时，其中7种模型立即生成了性化的深度伪造图像。该组织设置了诱饵空间，在一周内收到了超过1,000个输入，其中73%具有性性质，83%试图让主体脱衣，7%针对儿童。目前，Hugging Face禁止此类内容，但并未强制执行平台级过滤，而是依赖个别开发者实施安全措施——但大多数开发者并未达到这一标准。该团队建议Hugging Face实施系统范围的提示和输出过滤，以防止未来滥用。