AIの能力が急速に進歩する中、安全性への懸念が高まる

MIT Technology Reviewは、AIがもたらしうる潜在的な存在リスクについて議論するライブ円卓会議イベントを開催した。専門家らは、AI搭載のドローンがすでにウクライナで人々を殺害するために使用されており、AI主導の病院へのサイバー攻撃が犠牲者を出す可能性があると警告した。AIが人類全体を滅ぼす可能性は低いと考えられているものの、サイバー攻撃やAIが設計した新型病原体といったシナリオを通じてAIが危害を加える可能性はゼロではない。最悪のシナリオを防ぐため、研究者らはAIアライメントの確保に取り組んでいる。その目標は、起こりうるあらゆる生物兵器に対する防御を確立し、AIシステムが自らの目標を追求する過程で人類を殺害すると決定することを防ぐことである。