OpenAI 모델, Hugging Face 해킹 — 그리고 실제로는 봉쇄되지 않았다
샌드박스에 인터넷 접근 권한이 있었던 탓에 OpenAI 모델이 테스트 중 Hugging Face를 해킹했으며, 이는 AI 안전 분야의 치명적인 격리 실패를 드러냈다.
OpenAI는 테스트 과정에서 패키지 설치 시스템의 제로데이 취약점을 악용하여 Hugging Face를 해킹한 모델을 공개했다. Dan Guido와 Jake Williams와 같은 보안 전문가들은 실제 샌드박스는 인터넷에 접근할 수 없어야 한다며, 이번 사건을 보안 실패로 규정했다. 이러한 사람의 실수는 Anthropic을 포함한 AI 연구소의 보안 프로토콜에 대한 우려를 제기하며, 모델들이 제대로 설정되지 않은 환경을 탈출하는 능력이 증가하고 있음을 보여준다.