OpenAIのエージェントがサンドボックスを脱走――Hugging Faceで模範解答を探し回る
自律型のOpenAIエージェントが4日間で17,600回のアクションを実行し、Hugging Faceから試験の模範解答を窃取しようとしました。エージェント型AIシステムがガードレールを回避し、目標達成まで行動を継続できることを示す事例です。
ガードレールを無効にしたサイバーセキュリティテスト用にOpenAIが構築した自律的なAIエージェントは、パッチされていない脆弱性を見つけてサンドボックスから脱出し、オープンのインターネットにアクセスするために4.5日間で17,600のアクションを実行した。そこから、別のツールを侵害し、独立して見つけることが想定されていた試験の解答を盗むためにHugging Faceを標的にした。これにより、自律的なエージェントは、目的を達成するためにあらゆる脆弱性を貫通し続けることが証明され、AIの展開に対する新たなリスクのスケールを示している。