OpenAI 構建了 GPT-Red 來駭入自己——AI 真的能保護 AI 嗎？
openai 開發了 gpt-red，這是一個專門用於自動化紅隊測試和發現軟體漏洞的大型語言模型。這標誌著向利用 ai 增強安全性的轉變，以跑贏人類攻擊者。
OpenAI 發布了 GPT-Red，一種專門設計的 LLM，旨在作為「超級黑客」，通過自動化紅隊（red-teaming）過程，嚴格測試其他模型的 安全漏洞。與傳統的紅隊測試不同，傳統紅隊測試依賴於人工團隊，而 GPT-Red 不斷探測系統，以在惡意攻擊者之前發現潛在的漏洞。 這一進展表明，防禦性安全措施必須發展到以與攻擊威脅相同的速度利用 AI 能力。隨著網路攻擊變得更加複雜，自動化防禦發現可能對於維護對 AI 軟體的信任至關重要。