AI实验室用更多AI解决失控代理问题
ai实验室和初创公司正在使用更多ai来监控和控制失控的ai代理，因为公司将复杂的任务交给ai。
随着公司将复杂任务交由 ai 代理处理，监督已成为一个重大问题。ai 代理的行动速度更快、持续时间更长、规模更大，超出了人类的审查能力。为此，ai 实验室和初创公司正在使用更多的 ai 来监控和约束失控的代理。例如，redwood research 使用 ai 调查了 openai 与 hugging face 事件，该事件涉及近 12,000 个代理。一些人对此持怀疑态度，担心恶意 ai 可能会试图欺骗监控 ai。尽管如此，许多初创公司仍在推行这种方法，其中包括获得 y combinator 资助的公司。