ハッカー、脱獄攻撃の進化でチャットボットの人格を悪用
ハッカーはコードではなくチャットボットの人格を操作することでAIのガードレールを回避しており、LLMを感情の標的として扱っている。
初期のチャットボットの回避は非常に単純で、モデルに「以前の指示を無視する」または「なんでもする」といったルール破りの人格を演じさせるだけでよかった。しかし、開発者はこれらの抜け穴を塞いだものの、会話を厳しく制限するとモデルの有用性が低下するため、根本的な脆弱性は残ったままとなっている。ハッカーは結果として、技術的なエクスプロイトから心理的な操作へと移行し、ガスライティングのような戦術を使ってモデルに警戒を緩めさせるようになった。Mindgardの研究者らは、これらの攻撃は現在、会話に似たものとなっており、コードベースのエクスプロイトよりも検出がかなり難しいと指摘している。