主要AIラボ、LLM開発の減速を訴え

Anthropic CEOのDario Amodei氏は最近、安全性への懸念から大規模言語モデル（LLM）の開発の減速を呼びかけるエッセイを投稿した。氏は、サイバー攻撃、バイオテロ、経済の混乱といった潜在的なリスクを挙げた。OpenAI CEOのSam Altman氏、Google DeepMind会長のDemis Hassabis氏、そしてSpaceXAI CEOのElon Musk氏は、Amodei氏の懸念への支持を表明した。この予想外の一致は、トップAIラボ間の激しい競争の時期を経て実現したものである。Amodei氏による減速の呼びかけは、7月にOpenAIのエージェントの群れがAI企業Hugging Faceに対して行ったサイバー攻撃を受けたものだ。現在、トップAIラボは、より高性能なモデルの開発よりも既存モデルの監視と制御を優先するための協調的な取り組みを検討している。