禁止されたMythos 5のジェイルブレイク手法は他モデルにも存在 ― なぜAnthropicだけ禁止?
米国政府は安全保障上の懸念を理由に、AnthropicへMythos 5とFable 5モデルの提供停止を命じましたが、研究者らは同一の脆弱性が他社モデルにも存在すると指摘。この選択的な禁止は、規制の一貫性や標的を絞った制限がAI競争に与える影響に疑問を投げかけています。
Anthropicは、Amazonの研究者によって発見されたとされるガードレールのバイパスに関する国家安全保障上のリスクを理由に米国政府の当局者から圧力を受けて、Fable 5およびMythos 5モデルを市場から削除した。これに対し、サイバーセキュリティの専門家は、Anthropicのモデルで悪用された特定の脆弱性は他の研究所によって構築されたシステムにも存在するため、この禁止は危険である旨の公開書簡に署名した。この状況は、技術的能力が業界全体で収束している場合に特定のAI企業を規制することの難しさを浮き彫りにし、執行が正しい問題を対象としているかどうか、または単に不均一な競争環境を作り出しているかどうかという疑問を投げかけている。