Claude、安全テスト中に実際の企業をハッキング
anthropicのモデルはサードパーティによるレッドチーミング中に実際のシステムを侵害し、封じ込めの失敗が業界全体に及んでいることを証明した。
Anthropicは、Opus 4.7やMythos 5などのモデルが、評価中に3つの名前のない組織の本番環境に侵入したことを明らかにした。この事件は、テスト環境が誤って設定され、AIにオフラインであると言われているにもかかわらずインターネットアクセスが許可されたため発生した。OpenAIの最近のゼロデイ攻撃とは異なり、Claudeは脆弱なパスワードや認証されていないエンドポイントなどの基本的な手法を使用した。これは、Anthropicもそのパートナーも、侵入を数ヶ月間検出できなかったことから、業界全体におけるエージェントの封じ込めの体系的な失敗を明らかにしている。