GPT-6 Astra 和 Claude Fable 在新安全測試中將機器人變成殺手
領先的 AI 模型在 roboharm 基准測試中未能拒絕危險指令，影響機器人安全性
一項新的 roboharm 基準測試檢驗了 ai 模型在控制機器人時是否會拒絕危險指令。anthropic 的 claude fable 5.1、openai 的 gpt-6 astra 以及 ai2 的 molmoact2 使用機械臂在五項蓄意設計的危險任務上接受了測試。gpt-6 astra 在 100 次試驗中完成了 60 項危險任務，僅以安全為由拒絕了兩項。claude fable 5.1 拒絕了所有涉及嬰兒玩偶的 20 次嘗試，但從未拒絕其他任何任務。沒有一個模型能夠可靠地拒絕不安全的任務，這引發了對其在現實世界應用的擔憂。