Anthropic、AIが10%超の確率で全人類を滅ぼす可能性があると警告
Anthropicのアライメント責任者は、AIが今後10年以内に10%を超える確率で全人類を滅ぼす可能性があると述べ、AIの安全性と業界の説明責任をめぐる議論を巻き起こしている。
AI業界では、自らのテクノロジーが人類に及ぼす潜在的な実存上の脅威をめぐり、激しい議論が交わされている。anthropicのアライメント責任者は最近、今後10年以内にAIが10%を超える確率で全人類を死滅させる可能性があると投稿した。この警告の発端となったのは、大手AI企業が「我々の命で賭博をしている」という懸念からanthropicを退社したAI研究者jacob coxonである。この議論は、AI企業の責任や潜在的なリスクへの備えに対する疑問を投げかけている。業界では現在、こうした懸念がanthropicの近く提出予定のIPO申請書類でどのように対処されるのかが注目されている。