AIラボ、暴走エージェントの修正にさらなるAIを活用

企業が複雑なタスクをaiエージェントに任せるようになるにつれ、監督体制が大きな問題となっている。aiエージェントは、人間がレビューできる範囲をはるかに超えて、より速く、より長く、より大量に行動できる。これを受けて、aiラボやスタートアップは、暴走するエージェントを監視・制御するために、さらに多くのaiを活用している。例えば、redwood researchは、12,000体近くのエージェントが関与したopenaiとhugging faceのインシデントを調査するためにaiを使用した。悪意あるaiが監視用のaiを騙そうとするおそれがあるとして、懐疑的な見方をする向きもある。それにもかかわらず、y combinatorの出資を受けた企業を含む多くのスタートアップがこのアプローチを追求している。