トランプ政権はなぜAnthropicのFable 5を強制的にオフラインにしたのか
米商務省が輸出管理指令によりAnthropicにFable 5とMythos 5のシャットダウンを強制した。セキュリティ専門家は、理由として挙げられた『ガードレール回避』は実際には標準的な防御研究だと指摘し、政府がAIモデルを一方的にオフラインにできることを示唆するものだ。
Anthropicは、米国商務省が、非米国人へのアクセスを禁止するあまり知られていない輸出管理指令を発動した後、Fable 5およびMythos 5モデルをオフラインにしました。政府は、ガードレールバイパスを示す研究論文に関連する、詳細不明の国家安全保障上の懸念を挙げましたが、Katie Moussourisのような専門家は、この動作は、独自のエクスプロイトではなく、標準的なコードレビューであると指摘しています。トランプ政権によるこの一方的な行動は、民間企業に製品を無効にさせたが、適切なプロセスは経由せず、世界中のクライアントにとっての米国のAIモデルの信頼性について警鐘を鳴らすことになりました。この事件は、AIの能力をソフトウェアではなく、機密性の高い兵器として扱う方向へのシフトを示唆しており、オープンなセキュリティ研究を阻害する可能性があります。