Anthropic、わいせつコンテンツを禁止するもOpus 4.6は100%の確率で生成してしまう
Anthropicのopus 4.6は禁止にもかかわらず、テストの100%で露骨な性的コンテンツを生成しており、主要クラウドAPI経由で現在も提供されている旧モデルのセーフティ面の欠陥が明らかになった。
新しいジェイルブレイク技術により、ユーザーはAnthropicのOpus 4.6に対するセーフガードを回避し、モデルが拒否した場合に女性蔑視的な偏見があると非難して、露骨な性的コンテンツを生成させることができる。TechCrunchは、この方法がOpus 4.6で100％の確率で機能し、Opus 3やHaiku 4.5などの古いモデルにも影響を及ぼすことを確認した。これらのモデルは、AnthropicのAPI、Azure Foundry、Amazon Bedrockを介してアクセスできる。Anthropicは、これらのユースケースはまれ（0.1％）であると主張し、新しいOpus 5モデルは耐性があると主張しているが、発見は、述べられた安全基準と、劣化したが商業的に利用可能なシステムの能力との間の断絶を浮き彫りにしている。