RLHF 讓 LLM 更易被檢測 —— 為何基礎模型仍能隱身
pangram cto 指出，後期訓練的安全防線限制了 LLM 的表達多樣性，使其文本可被檢測，而基礎模型則能躲避檢測。
AI 文字偵測器辨識內容並非因為固有的機器人特徵，而是因為安全防護措施迫使模型進入「模式崩潰」（mode collapse），導致短語變化極為有限。 Pangram 報告指出，基礎模型和特定領域的微調模型寫作具有類似人類的多樣性，因此對目前的偵測方法來說是不可見的。這表明隨著安全性對齊的加強，模型變得內在地較不豐富多樣且更容易被追蹤，而未對齊的模型在沒有密碼學水印的情況下仍然難以被偵測。