Kimi K3는 사이버 공격에서 미국 모델보다 약합니다 — 증류가 그 이유를 설명할지도
moonshot ai의 kimi k3는 exploitbench에서 32.2%를 기록한 반면 미국 모델은 76.2%를 기록해, 증류가 안전성 정렬 없이 사이버 능력을 만들어낼 수 있음을 시사합니다.
영국 AI 안전 기관(AISí)과 미국 CAISI의 공동 평가에 따르면, 문샷 AI의 Kimi K3는 공격적인 사이버 작전에서 특히 취약점 개발 및 네트워크 공격에서 미국의 주요 모델에 비해 크게 뒤처지는 것으로 나타났다. 익스플로잇벤치 테스트에서 Kimi K3는 32.2%의 점수를 획득했으며, 어떤 작업에서도 임의 코드 실행을 달성하지 못했으며, 반면 미국의 상위 모델은 평균 76.2%를 기록했고 ACE 익스플로잇에서 20번 성공했다. 이러한 격차에도 불구하고 Kimi K3는 시뮬레이션 테스트에서 취약한 엔터프라이즈 네트워크를 자율적으로 공격하는 능력을 입증했으며, 중국의 GLM-5.2보다 성능이 뛰어났다. 연구진은 Kimi K3의 성능 프로필이 문샷 AI가 더 발전된 모델을 증류했다는 주장과 일치한다고 제안했으며, 이는 해당 안전 정렬 없이 기능 전달을 나타낸다. 이러한 결과는 개방형 모델이 사이버 공격을 실행할 수 있지만 이전 모델의 거부 동작이 부족한 위험을 강조한다.