AI研究者の18%が2024年までに絶滅シナリオを予見
2024年の時点で、AI研究者の約5人に1人がAIによる絶滅シナリオを予想していた。この結果は、AIリスクへの懸念が高まっていることを浮き彫りにするものとして重要だ。
ai impactsが発表した、1,500人以上の主要なai研究者を対象とした最近の調査によると、回答者の平均は、2024年までにaiが人類の絶滅または恒久的な無力化を引き起こす確率を18パーセントと見積もっていた。リスクを100パーセントと見積もった研究者もいた。このデータは、anthropicのjacob coxon、openaiのdaniel selsam、そして元google deepmindのbilal chughtaiといった著名なai研究者による警告を裏付けるものである。彼らは、aiが意図しない目標を発達させ、創発的な行動を示し、人類に存亡に関わるリスクをもたらす可能性について懸念を表明してきた。こうした懸念は、ai開発のペース、安全プロトコル、そしてai企業間の連携の必要性をめぐる議論を巻き起こしている。