42人のトップ数学者、AIによる存亡リスクは緊急事態と警告

42人の著名な数学者が、高度なAIによる存在リスクを警告する公開書簡に署名しました。署名者には、フィールズ賞受賞者のmartin hairer、peter scholze、wendelin wernerが含まれています。彼らは、7つのミレニアム問題の1つを含む未解決の研究問題を解決する上で、openaiとanthropicのAIモデルが急速に進歩していることを指摘しています。このグループは、AIの能力がサイバーセキュリティ、自律型兵器の制御、標的型の誤情報などの分野で超人間的な能力を発達させる可能性があると警告しています。さらに、AI研究所による存在リスクが10%を超えるという推定は「ハイプ」として一蹴されるべきではないと強調しています。