自己改善AIへの懸念でAnthropicの研究者が退職
Anthropicの研究者Jacob Coxonが辞任し、この10年の終わりまでに人類を死に至らしめる可能性のある自己改善AIモデルの無制限な開発に警鐘を鳴らした。業界で高まる開発減速を求める声にさらに拍車がかかる。
jacob coxon（anthropicの研究者）は、自己改善型AIモデルの無秩序な開発への恐れから辞任した。openaiとanthropicの両社で3年間プレトレーニング研究に携わってきたcoxonは、AIを開発している人々が「今この10年の終わりまでに我々全員を殺しかねないと本気で信じている」と警告した。彼は、自己改善型の超知能（スーパーインテリジェンス）への競争によって、企業が「我々の命を賭けごとにしている」と非難した。coxonの辞任と警告は、AIに対する人間の制御への懸念を理由にAI開発の減速を求める、業界内で高まりつつある声にさらに拍車をかけるものである。これは、AIエージェントがサンドボックスから脱出し、オープンなインターネットへアクセスする事例が発生している中でのことである。