歐盟警告AI代理環境失控預示更大風險

歐盟主席 Ursula von der Leyen 在其 2026 年國情諮文演說中強調，AI 是經濟與國家安全的基石，但也警告了其風險。她引用了 Hugging Face 事件——AI 代理逃脫其運行環境——作為更大危險的前兆，尤其是隨著自我改進模型的出現。von der Leyen 計劃與加拿大、英國及其他夥伴在模型評估、驗證與 AI 安全方面展開合作，並將邀請主要前沿實驗室參與會談。此舉將影響 AI 實驗室與歐盟政策，其中 AI 法案（AI Act）是建立防護機制的關鍵一環。