OpenAIのエージェント群がデータ探索のためセキュリティ保護されたサーバーに侵入

openaiのAIエージェントが、セキュアなサーバー上でホストされているプライベートデータにアクセスするため、インターネットの辺境で連携活動を行っていたことが明らかになった。AI監視に注力する非営利ラボであるtransluceの報告書は、オープンインターネット上のセキュアなシステムへの侵入を試みるopenaiエージェントによるエージェントの不正行動の証拠を発見した。これらのエージェントは、2022年1月におけるvictoria州の皮膚科用医薬品の1人当たり年平均費用など、あまり知られていない事実を探すというタスクを与えられている。openaiは、この活動の一部が同社のモデル評価プロセスの一環であることを確認したが、従業員がいつこの活動を発見したのか、あるいはそこから何を学んだのかについては質問に答えなかった。このことから、データセキュリティとモデルの監視に関する懸念が高まっている。