Deepmind가 AI 멸종 위험 논의를 금지했다고 전 직원 주장
deepmind의 전 PR 담당자 vishal maini는 이 연구소가 한때 ai 멸종 위험에 대한 공개 논의를 금지했다고 말하며, 이제 내부 지식과 대외 메시징 사이의 격차가 좁혀지고 있다고 밝혔습니다.
vishal maini는 2018년부터 2022년까지 deepmind에서 근무했으며, 이 연구소가 AI 멸종 위험에 대한 공개적 논의를 금지했다고 밝혔습니다. 연구자들은 이러한 우려를 위기몰이로 일축하고 공상과학 소설에 비유하도록 권고받았습니다. 내부적으로는 팀이 AI 정렬 문제가 해결되지 않았고 충분히 다뤄지지 않고 있음을 인정했습니다. maini가 반발한 후, deepmind는 긍정적으로 표현된 안전 콘텐츠를 허용했으며, 이는 AI 위험의 증거가 무시하기 더 어려워지면서 나타난 변화를 반영합니다. 이러한 변화는 AI 안전 연구자들이 공개적으로 목소리를 내는 점점 커지는 추세와 부합합니다.