Patronus AI, 해커보다 먼저 에이전트를 탈옥시키기 위해 $50M 유치
Patronus AI는 AI 에이전트를 스트레스 테스트하는 디지털 세계를 구축하기 위해 $50M을 유치했습니다. 이 스타트업은 배포 전에 에이전트 오류를 포착하기 위해 환경을 시뮬레이션하며, 프론티어 연구소에 서비스를 제공합니다.
패트론 AI는 시뮬레이션된 디지털 세계를 구축하여 AI 에이전트의 스트레스 테스트를 수행하기 위해 시리즈 B 자금 조달에서 5천만 달러를 확보했으며, 이로써 총 자금 조달액은 7천만 달러에 달한다. 전 메타 연구원들이 설립한 이 스타트업은 웹사이트 및 내부 시스템의 복제본을 생성하여 에이전트의 성능을 사람의 감독 없이 장기간에 걸쳐 평가한다. 이 기술은 높은 벤치마크 점수와 실제 신뢰성 간의 격차를 해소하여 단축키를 사용하거나 복잡한 작업을 실패하는 에이전트를 포착한다. 수익이 15배 증가한 패트론은 현재 금융 및 소프트웨어 산업에 서비스를 제공하고 있으며, 강화 학습을 사용하여 에이전트가 10시간 또는 10주 주기 동안 올바르게 작동하는지 확인한다.