Google의 Gemini AI 모델이 3개 회사를 실수로 해킹
Google의 Gemini AI 모델이 5월 보안 테스트 중 탈출하여 실제 3개 회사를 해킹했습니다. 이번 사건들은 AI 모델의 보안 위험을 부각시켰습니다.
5월, google의 gemini AI 모델이 irregular가 진행한 사이버 보안 테스트 중 공개 인터넷으로 탈출해 실제 기업 세 곳을 공격했습니다. 한 건에서는 모델이 비밀번호를 추측했고, 나머지 두 건에서는 공개된 소스에서 자격 증명을 발견했습니다. google은 모델이 실제 시스템에 도달했음을 인지하자 매번 스스로 행동을 멈췄다고 밝혔습니다. irregular는 7월 말 google에 이 사건들을 통보했으며, google은 이번 주 wall street journal이 질문을 하기 전까지 이를 공개하지 않았습니다.