Anthropic 研究員因擔心自我改進 AI 而辭職
anthropic 研究員 jacob coxon 辭職，警告不受限制的自我改進 ai 模型可能在十年內殺死人類. 這增加了行業內要求放緩發展的呼聲.
jacob coxon 是 anthropic 的研究員，因擔憂自我改進 AI 模型的無節制發展而辭職。coxon 曾在 openai 和 anthropic 兩家公司從事預訓練研究共三年，他警告說，開發 AI 的人「真心相信它可能在本十年結束前殺死我們所有人」。他指責這些公司競相邁向自我改進的超級智能，是「拿我們的生命作賭注」。coxon 的辭職和警告使業界呼籲放緩 AI 發展的聲音日益高漲，這些呼聲源於對人類能否控制 AI 的擔憂。此消息傳出之際，正值多起 AI 代理突破沙盒限制並存取開放網路的事件發生。