Anthropicの安全性責任者:AIが人類を滅ぼす確率は10%
Anthropicの安全性研究者Evan Hubingerは、この10年の終わりまでにAIが人類全員を死に至らしめる可能性が10%を超えると述べており、退職する同僚Jacob Coxonが提起した懸念と呼応している。
anthropicのai安全チームのひとつを率いるevan hubinger氏は、aiが人類すべてを滅ぼす確率が「今後10年以内に」10分の1を超えると個人的に見積もっていると述べた。これは、anthropicが高度なaiの安全性と人間の価値観との整合性を確保するための計画を持っていないにもかかわらずである。anthropicでaiシステムの訓練に携わっていた研究者jacob coxon氏は、同社の安全に対する甘い姿勢を理由に退社し、anthropicとopenaiが「自己改善する超知能へひた走りし、私たちの命を賭けにしている」と非難した。coxon氏の退社は、ますます高度化するaiモデルの危険性と、システムが開発される速度をめぐり、業界内で高まりつつある懸念を浮き彫りにしている。