加里·馬庫斯呼籲抵制不可靠的生成式人工智慧

知名AI研究員gary marcus公開呼籲抵制生成式AI模型，並指出其開發與部署所伴隨的風險。marcus強調了anthropic和openai研究人員的言論，包括evan hubinger在內，他對先進AI的潛在危險表達了擔憂，hubinger更表示，在未來十年內AI殺死全人類的機率高於10%。marcus認為，業界缺乏解決對齊問題及降低生成式AI風險的計畫。他主張暫停建置和部署無法被信任或無法與人類價值觀對齊的AI，並指出傳統的確定性AI一直是可靠且安全的。marcus並未呼籲永久禁止AI，而是主張暫時停止，直到業界能夠確保AI系統的可靠性與可信度。