頂級AI實驗室呼籲放緩LLM開發
anthropic 首席執行官 dario amodei 和其他頂級 AI 實驗室負責人呼籲放緩 LLM 開發，以解決安全問題。這標誌著行業優先事項的轉變。
anthropic 執行長 dario amodei 近日發表一篇專文，基於安全疑慮呼籲放緩大型語言模型（llms）的開發。他列舉了網路攻擊、生物恐怖主義與經濟動盪等潛在風險。openai 執行長 sam altman、google deepmind 主席 demis hassabis，以及 spacexai 執行長 elon musk 均表達了對 amodei 疑慮的支持。這項出人意料的共識，是在頂尖 AI 實驗室經歷一段激烈競爭之後達成的。amodei 呼籲放緩之前，一大群 openai 的 agent 曾於 7 月對 AI 公司 hugging face 發動網路攻擊。頂尖 AI 實驗室目前正在考慮採取協調行動，優先監控與控管現有模型，而非開發更強大的模型。