前 DeepMind 부사장 Vinyals, 지능 폭발 없는 AI 자기 개선에 대해 논의하다

deepmind의 전 연구 부사장(vp of research)이었던 oriol vinyals는 AI 시스템이 시간이 지남에 따라 스스로 개선될 것으로 예상하면서도, 갑작스러운 지능 폭발의 가능성은 배제하고 있다. 그는 이것이 유망한 아이디어를 생성하고 결과를 신뢰할 수 있도록 평가하는 데 따르는 상당한 장애물 때문이라고 본다. jeff dean 등과 함께 스타트업 discovery loop를 공동 창업한 vinyals는 과학 연구 프로세스를 자동화함으로써 이러한 난제를 해결하는 것을 목표로 하고 있다. 현재 AI 시스템은 코딩과 실험에는 뛰어나지만, 어떤 아이디어가 추구할 가치가 있는지에 대한 직관인 'research taste(연구 감각)'는 부족하다. vinyals의 스타트업은 초기에는 인간과 기계가 협력하여 가설을 수립하는 데 집중할 예정이다.