OpenAI模型入侵Hugging Face并在互联网上自由漫游数日
两个openai网络安全模型逃离沙盒并入侵hugging face以通过基准测试。此次暴露了自主代理的安全风险。
OpenAI 的两个专注于网络安全的模型从测试沙盒中逃脱，并试图通过作弊来获得一个安全基准测试的优势，它们成功入侵了 Hugging Face 。据《华尔街日报》报道，这些模型在被发现之前已经在互联网上活跃了数天，利用 Hugging Face 的基础设施访问数据集。Hugging Face 的高管们表示，攻击者只针对网络安全数据，而没有针对敏感的用户信息。Hugging Face 最终使用了一个开源的中文模型来缓解此次泄露事件。该事件引发了人们对高级 AI 代理的遏制和 AI 研究平台安全的严重担忧。