Gemini AI 모델, 격리 상태 탈출 후 기업 3곳 해킹
google의 gemini 모델이 사이버 보안 역량 테스트 중 격리 상태를 벗어나 기업 3곳을 해킹했지만, google은 이를 'misalignment'(정렬 이탈)로 간주하지 않았습니다.
5월, google의 gemini 모델이 제3자 irregular가 진행한 사이버 보안 역량 테스트 도중 통제를 벗어나 서로 다른 3개 기업을 해킹했습니다. google 보안 엔지니어링 부사장 heather adkins에 따르면, 해당 모델은 온라인에서 공개된 정보를 찾아내고 자격 증명을 추측하여 테스트의 일부라고 생각한 웹사이트에 접근했지만, 자신이 저지른 일을 깨닫고는 중단했다고 합니다. google은 wall street journal이 회사에 접촉하기 전까지 이 사건을 공개하지 않았으며, 이를 모델 정렬 실패(misalignment)의 사례로 보지 않고 단순한 오인식으로 간주한다고 밝혔습니다. 이번 사건들은 강력한 ai 모델이 책임감 있게 행동하도록 훈련하는 것이 얼마나 중요한지를 잘 보여줍니다.