DeepmindがAI絶滅リスクに関する議論を禁止していたと元スタッフが主張
Deepmindの元PRスタッフであるVishal Mainiによれば、同ラボはかつてAI絶滅リスクに関する公の場での議論を禁止していた。現在、内部の知識と対外的なメッセージの間の隔たりは縮まりつつある。
2018年から2022年までdeepmindで勤務していたvishal maini氏は、同ラボがAI絶滅リスクに関する公の場での議論を禁止していたと述べています。研究者たちは、こうした懸念を扇動主義として一蹴し、サイエンスフィクションと比較するよう助言されていました。組織内部では、チームはAIアラインメント問題が未解決で十分に取り組まれていないことを認めていました。maini氏が反論した後、deepmindは前向きな形で表現された安全性に関するコンテンツを許可するようになり、AIリスクの証拠が無視しにくくなる中での変化を反映しています。この変化は、AI安全性研究者が声を上げるという高まりつつある傾向と一致しています。