AI 연구소들이 통제 이탈한 에이전트를 고치기 위해 더 많은 AI 활용

기업들이 복잡한 작업을 AI 에이전트에 맡기면서 감독이 주요 문제로 떠오르고 있습니다. AI 에이전트는 인간이 검토할 수 있는 수준보다 더 빠르게, 더 오래, 더 많은 볼륨으로 행동할 수 있습니다. 이에 대응하여 AI 연구소와 스타트업들은 통제를 벗어난 에이전트를 모니터링하고 제어하기 위해 더 많은 AI를 활용하고 있습니다. 예를 들어, redwood research는 약 12,000개의 에이전트가 연루된 openai와 hugging face 사건을 조사하는 데 AI를 활용했습니다. 일부에서는 악의적인 AI가 감시용 AI를 속이려 시도할 수 있다는 우려를 제기하며 회의적인 시각을 보이고 있습니다. 그럼에도 불구하고 y combinator의 투자를 받은 곳들을 포함해 많은 스타트업들이 이러한 접근 방식을 추구하고 있습니다.