Anthropic 和 OpenAI 嵌入安全評估者，但他們會獨立嗎
anthropic 和 openai 計劃嵌入第三方評估者報告安全事件和評估模型對齊，但獨立性和訪問細節仍不明確. 這影響人工智慧行業的安全標準.
Anthropic CEO Dario Amodei 提議在尖端 AI 公司內部嵌入第三方評估人員，授予他們權限以報告安全事件並評估模型對齊情況。OpenAI CEO Sam Altman 也承諾將採取這一做法。評估人員對該提議表示歡迎，但強調需要相關細節以確保獨立性，並可能需要立法支持。這一進展影響了 AI 產業的安全標準與透明度。