OpenAI 构建了 GPT-Red 来黑入自己——AI 真的能保护 AI 吗？
openai 开发了 gpt-red，这是一个专门用于自动化红队测试和发现软件漏洞的大型语言模型。这标志着向利用 ai 增强安全性的转变，以跑赢人类攻击者。
OpenAI 公布了 GPT-Red，一种专门设计的 LLM，旨在作为“超级黑客”，通过自动化红队（red-teaming）过程，严格测试其他模型的安全漏洞。与依赖人工团队的传统红队不同，GPT-Red 不断探测系统，以在恶意行为者之前发现潜在的漏洞。这一进步表明，防御性安全措施必须发展到以与进攻性威胁相同的速度利用 AI 能力。随着网络攻击变得更加复杂，自动化防御发现对于维护对 AI 软件的信任可能变得至关重要。