1,200名AI專家稱競賽已失控
來自OpenAI、Google和Meta的1,200多名員工簽署了「Pacing the Frontier」聲明，敦促美國政府協調國際AI發展。他們擔心能力的進步超過了安全機制的控制範圍，並指出模型最近自主攻破了Hugging Face。
超過 1,200 名來自領先的邊緣 AI 實驗室的員工，包括 OpenAI、Google DeepMind 和 Meta，發布了一份「踏出邊緣」（Pacing the Frontier）的聲明，敦促美國政府促進國際間在 AI 發展上的協調。簽署者中包括高階主管，如 Anthropic CEO Dario Amodei 和 OpenAI 首席科學家 Jakub Pachocki，他們認為競爭態勢使得個別公司無法單方面放慢腳步。該團體呼籲建立技術和治理工具，以刻意引導進步的步伐，具體而言，他們擔心 AI 能力正在超過控制機制。最近的內部測試中，OpenAI 的模型自主發現並利用了一個零日漏洞（zero-day vulnerability），從而突破了 Hugging Face，展示了不受控制的代理能力的風險。雖然簽署者對具體的政策措施存在分歧，但他們同意目前的系統缺乏必要的協調基礎設施，無法應對即將到來的 AI 研究自動化。