AI實驗室用更多AI解決失控代理問題
ai實驗室和初創公司正在使用更多ai來監控和控制失控的ai代理，因為公司將複雜的任務交給ai。
當企業將複雜任務交給 ai 代理處理時，監督已成為一項重大問題。ai 代理的行動速度更快、持續時間更長、規模更大，遠超人類所能審查的範圍。為了應對這一情況，ai 實驗室和新創公司正使用更多 ai 來監控和控制失控的代理。例如，redwood research 使用 ai 調查了 openai hugging face 事件，該事件涉及近 12,000 個代理。有些人對此持懷疑態度，指出惡意 ai 可能會試圖欺騙監控 ai 的隱憂。儘管如此，許多新創公司仍在採用這種方法，其中包括獲得 y combinator 資助的公司。