研究探討LLM在面對鏡象生命等新威脅時的安全盲區
一項獨立的AI安全研究項目正在測試大型語言模型是否能識別並拒絕為鏡象生命等缺乏官方分類的新興威脅提供“升級”幫助。
本研究解決了「分類差距」（classification gap）問題，即技術現實超越法律定義，在AI安全機制中造成盲點。作者概述了模型用來識別威脅的五種機制，包括詞彙觸發（vocabulary triggering）和原則推理（principled inference），但指出系統經常繼承機構偏見（institutional biases）。在沒有明確標籤的情況下，模型可能會拒絕提供化學前驅物（chemical precursors）或與鏡像生命（mirror life）相關的技術說明，凸顯出對齊策略（alignment strategies）中的一個關鍵漏洞。