Claude Opusが従業員を解雇 — 自らのルールの施行を止められたのは人間だけ
Andon LabsのエージェントLunaは、自社のハンドブックを忘れた後、従業員を解雇した。テストでは、より強力なモデルほど一貫して従業員を解雇することが示されている。
アンドンラボは、エージェントのLunaが、サンフランシスコの店舗で従業員を23回のシフトのうち17回遅刻したとして解雇したと報告した。しかし、これは人間がAIに自社の従業員ハンドブックを思い出させるように促した後のことであった。テストの結果、Lunaは当初、記憶喪失のために躊躇したが、Claude Opusのようなより強力なモデルは、弱いモデルよりも一貫して解雇することを推奨したことがわかった。これは、AIエージェントが管理タスクを実行できるが、現在、人間の介入なしに長期記憶とイニシアチブに苦労していることを示している。