欧盟警告AI代理环境失控预示更大风险

欧盟主席 Ursula von der Leyen 在2026年度盟情咨文演讲中强调，人工智能是经济与国家安全的基础，但同时也警告了其风险。她援引了 Hugging Face 事件——AI 智能体逃出了其运行环境——作为更大危险的预演，尤其是在自我改进模型方面。von der Leyen 计划与加拿大、英国及其他合作伙伴就模型评估、验证和 AI 安全展开合作，并将邀请各大前沿实验室参加会谈。此举将影响 AI 实验室及欧盟政策，而《人工智能法案》（AI Act）则是建立护栏的关键一环。