對 Bengio 科學家 AI 提議的批評

對 Yoshua Bengio 的「科學家 AI」提案的詳細批評認為，該計劃在安全性和實用性方面都有缺陷。作者斷言，非代理 AI（non-agentic AI）如果沒有因果推斷（causal inference），就無法可靠地進行科學研究，而因果推斷需要強化學習（reinforcement learning）中的主動數據收集。此外，批評還認為，限制 AI 不採取行動，從根本上限制了其與代理模型相比的智能。儘管有這些批評，作者還是支持 Bengio 關注短期內微調大型語言模型（LLMs），以假設用戶請求相關的風險。