ミラーライフなど新種の脅威に関するLLMセーフティの隙間を調査
独立系のAIセーフティ研究プロジェクトが、公式な分類が存在しないミラーライフなどの新興脅威に関する「アップリフト」を大規模言語モデルが認識して提供を拒否できるかどうかをテストしています。
この研究は、技術的な現実が法的な定義を上回り、AIの安全メカニズムに盲点を作り出す「分類のギャップ」に対処している。著者は、語彙トリガーや原則に基づく推論など、モデルが脅威を識別するために使用する5つのメカニズムを概説しているが、システムはしばしば制度的な偏見を受け継ぐと指摘している。 明示的なラベルがなければ、モデルは、ミラーライフに関連する化学前駆物質や技術的な指示の要求を拒否できない可能性があり、整合性戦略における重大な脆弱性を浮き彫りにしている。