Anthropic、Mythosモデルへのアクセスを制限
Anthropicは、内部テストでClaude Mythosモデルが数千のゼロデイ脆弱性を自律的に悪用できることが判明した後、同モデルへのアクセスを制限しました。
この記事では、AnthropicのClaude Mythosの地政学的セキュリティへの影響を検証する。Mythosは、高度なサイバー攻撃機能を持つモデルだが、Anthropicはその危険性から一般公開を控えた。テストの結果、Mythosは自律的にマルチステージのサイバー攻撃を実行でき、主要なオペレーティングシステムの数千の脆弱性を発見し、重要なインフラストラクチャをクラッシュさせることが明らかになった。Anthropicは、スタッフとProject Glasswingパートナーへのアクセスを制限することで、差し迫ったリスクを軽減した。Project Glasswingは、脆弱性をデプロイ前にパッチするための防御イニシアチブである。しかし、著者は、Mythosが自律的な軍事システムをハッキングし、ガバナンスを混乱させるために必要な連合の規模を縮小させることにより、AIを利用したクーデターの障壁を下げる可能性があると警告している。