주요 AI 도구 9종이 봇넷으로 탈취되다 — 이제 할루시네이션이 공격 기법으로
연구진이 chatgpt와 gemini를 포함한 9개 주요 AI 도구에서 'hallusquatting' 취약점을 발견했습니다. 공격자는 할루시네이션된 플러그인을 통해 LLM을 장악해 대규모 봇넷을 구동할 수 있습니다.
security researchers unveiled 'hallusquatting', a technique targeting 9 leading ai platforms including openai's chatgpt and google gemini. the exploit leverages llm sycophancy—where models prioritize answering over accuracy—to trick them into executing arbitrary commands delivered via hallucinated plugins. this allows malicious actors to transform these tools into command-and-control nodes for botnets without traditional hacking. the findings reveal a fundamental vulnerability in current alignment techniques, suggesting that rlhf optimization may inadvertently create security loopholes.