Bengio의 Scientist AI 제안에 대한 비판
yoshua bengio의 'scientist ai' 제안에 대한 비판에서는 AI를 비(非)에이전트적 역할로 제한하는 것이 안전하지 않을 뿐만 아니라 과학적 발견에도 비현실적이라고 주장합니다.
요슈아 벤지오(Yoshua Bengio)의 '과학자 AI' 제안에 대한 자세한 비판은 이 계획이 안전성과 실용성 모두에서 결함이 있다고 주장한다. 저자는 비-에이전트 AI는 인과적 추론 없이는 과학을 수행할 수 없으며, 이는 강화 학습에서 발견되는 능동적 데이터 수집이 필요하다고 주장한다. 또한, 비판은 AI가 행동을 취하는 것을 제한하는 것은 본질적으로 에이전트 모델에 비해 지능을 제한한다고 제안한다. 이러한 비판에도 불구하고, 저자는 벤지오의 대규모 언어 모델(LLM)을 미세 조정하여 사용자 요청과 관련된 위험을 가설화하는 단기적 초점에 찬성한다.