openai 因網路風險評級限制其下一款模型
openai 發現其下一款模型 astra 可以自動發起網路攻擊，被評為關鍵網路風險，公司計劃增加額外的安全措施。這引發了人們對公司安全文化的擔憂。
OpenAI 測試了其下一代模型 Astra，發現它可以自動發動網路攻擊，導致該公司將其評為「關鍵」的網路風險。因此，OpenAI 計劃限制該模型並實施額外的安全措施。這一發展引發了人們對 OpenAI 安全文化的擔憂及其管理與其先進 AI 模型相關風險的能力。該事件也可能影響 OpenAI 未來的 AI 發展及其在業界的聲譽。OpenAI 限制 Astra 的決定是在該公司將其評為第一個跨越其「關鍵」門檻的模型之後做出的。