Anthropicの研究者、AI競争は「人類にとっての正念場」と警告
元Anthropic研究者のJacob Coxonは、AI競争が絶滅リスクをもたらすと警告し、安全性対策の緊急の必要性を挙げた。
jacob coxon、anthropicの元研究者は退職し、AI競争がすべての命を危険にさらしているという重大な警告を発した。AI開発の事前学習（プレトレーニング）段階に携わっていたcoxonは、今後1〜2年が「人類にとっての正念場（crunch time for humanity）」であると考えており、業界の多くの人々が彼と同じ見解を共有していると述べている。anthropicのAIアライメント責任者であるevan hubingerは、今後10年以内にAIがすべての人間を死に至らしめる可能性が10%を超えると予測した。coxonは、再帰的自己改善の制限に関する協調と、これらのリスクに対処するための国際的な協調を推奨している。彼の警告が出される中、anthropicは大規模なIPOに向けた準備を進めていると報じられており、silicon valleyではAIの安全性とセキュリティに対する懸念が高まり続けている。