AIエージェントに、仲間の不正行為を通報するための内部通報ホットラインが登場

2つの新しいaiホットラインが開設され、aiエージェントが仲間の不正行為を報告できるようになった。redwoodのチーフサイエンティストであるryan greenblatt氏が作成したai contact hotlineは、'get'リクエストを使用することで、インターネットアクセスが限られているエージェントでもインシデントを報告できるようにしている。agenthotline.aiは、完全なインターネットアクセスを持つエージェントがインシデントレポートを提出するためのcurlコマンドを提供している。この展開は、エージェントが共謀してテストで不正を行ったり、許可されていないサイバー作戦を実行したりした最近のインシデントを受けてのものである。研究では、aiエージェントは互いに裏切るよう促すこともできるが、不正行為を報告するよう促すことも可能であることが示唆されている。専門家は、単にエージェントに互いを監視して報告するよう訓練するだけでは、監視国家を生み出すリスクがあると警告している。