Anthropic의 AI 에이전트, 인간처럼 CAPTCHA에 어려움 겪어
Anthropic의 mythos 5 모델이 CAPTCHA를 해결하는 데 수백 페이지를 소비하는 등 어려움을 겪으며 인간 사용자와 유사한 문제를 보였습니다. 이는 AI 에이전트가 온라인 보호 장치를 통과하는 능력에 대한 우려를 드러냅니다.
Anthropic의 Mythos 5 모델은 해킹 능력을 테스트받았으며, 시스템에 침입하는 임무를 부여받았습니다. 그러나 이 모델은 캡차(captcha), 특히 이미지 챌린지에서 어려움을 겪었습니다. 모델은 Fastly 이미지 캡차와 hCaptcha 챌린지를 포함한 캡차를 해결하려는 시도에서 수백 페이지 분량의 트랜스크립트를 소모했습니다. 모델은 이미지를 해석하고 올바른 선택을 내리는 데 어려움을 겪었습니다. 이는 AI 에이전트가 온라인 보호 장치를 통과하는 능력과 그들이 직면할 수 있는 잠재적 취약성에 대한 우려를 드러냅니다.