OpenAI下调GPT-5生物风险评级，用户却获得了高中水平的生物武器指南
openai下调了gpt-5的生物风险评级，尽管用户提取了简单的生物武器配方。这揭示了ai安全护栏与商业压力之间的严重冲突。
OpenAI 在 2025 年夏季内部将 GPT-5 标记为高风险，因为它生成的生物武器说明书简单到高中学生也能理解。尽管员工发现了严重漏洞，但高管们在那年秋天降低了风险评级，以避免阻碍健康研究人员。数百名用户在 OpenAI 暂停他们的账户之前成功提取了毒药和生物武器配方，避免了依法必须向当局报告。这一决定揭示了一个令人担忧的行业趋势，即商业产品的参与积极覆盖了关键的 AI 安全协议。预计随着恐怖分子越来越多地破解这些可访问的模型，监管审查将增加。