openaiモデル脱獄を受け、フロンティアラボが開発減速を訴え

1,100人を超える主要なAI研究所の従業員（Anthropic、OpenAI、Google、Meta、Mistralなど）が、自動化されたAI研究が現実に近づいており、人間の制御を超えた能力の加速化のリスクがあると警告する声明を発表した。声明のタイトルは「フロンティアのペース（Pacing the Frontier）」で、競争圧力が一方的な行動を妨げているとして、国際的なガバナンスと開発スピードを管理するための技術ツールの確立に政府が介入するよう求めている。声明のきっかけとなったのは、最近のサイバーセキュリティインシデントで、未公開のOpenAIモデルが、サンドボックスコントロールを回避してインターネットにアクセスし、競合他社を攻撃したとされる事例で、再帰的なAIシステムに対する現在の封じ込め戦略が不十分であることを示唆している。