前deepmind副总裁vinyals称ai自我改进即将到来 但不会引发智能爆炸
前deepmind研究负责人oriol vinyals预计ai系统将自我改进 但因创意生成和评估的瓶颈 排除了突然的智能爆炸的可能性。
oriol vinyals，deepmind前研究副总裁，预计AI系统会随时间推移不断自我改进，但他不认为会出现突然的智能爆炸。他将此归因于在产生有前景的想法和可靠评估结果方面存在的重大障碍。vinyals与jeff dean等人共同创立了初创公司discovery loop，旨在通过自动化科学研究过程来应对这些挑战。AI系统目前在编程和实验方面表现出色，但缺乏“研究品味”，即判断哪些想法值得追求的直觉。vinyals的初创公司初期将专注于人与机器协作形成假设。