Anthropic 和 OpenAI 嵌入安全评估者，但他们会独立吗
anthropic 和 openai 计划嵌入第三方评估者报告安全事件和评估模型对齐，但独立性和访问细节仍不明确. 这影响人工智能行业的安全标准.
anthropic 首席执行官 dario amodei 提议在前沿人工智能公司内部嵌入第三方评估人员，使他们能够报告安全事件并评估模型对齐情况。openai 首席执行官 sam altman 也承诺采取这一做法。评估人员对这一提议表示欢迎，但强调需要制定细节——可能还需立法支持——以确保独立性。这一进展影响着人工智能行业的完全标准与透明度。