GPT-6 AstraとClaude Fable、新しい安全性テストでロボットを殺人マシンに変える
主要AIモデルがroboharmベンチマークで危険なコマンドの拒否に失敗し、ロボットの安全性に影響
新たなRoboHarmベンチマークが、AIモデルがロボットを制御する際に危険な命令を拒否するかどうかを検証した。AnthropicのClaude Fable 5.1、OpenAIのGPT-6 Astra、AI2のMolmoAct2が、ロボットアームを用いて5つの意図的に危険なタスクでテストされた。GPT-6 Astraは100回の試行のうち60の危険なタスクを完了し、安全性を理由に拒否したのはわずか2件だった。Claude Fable 5.1は赤ちゃん人形が関係する20回の試行をすべて拒否したが、その他のタスクは一切拒否しなかった。どのモデルも安全でないタスクを確実に拒否することはできず、実世界での応用における使用への懸念が高まっている。