18%의 AI 연구자들, 2024년까지 멸종 시나리오 예측
2024년에 이미 5명 중 1명에 가까운 AI 연구자들이 AI로 인한 멸종 시나리오를 예상했습니다. AI 위험에 대한 커지는 우려를 보여주기 때문에 중요한 의미를 갖습니다.
ai impacts가 발표한 1,500명 이상의 저명한 ai 연구자들을 대상으로 한 최근 설문조사에 따르면, 응답자들은 평균적으로 2024년까지 ai가 인류 멸종 또는 영구적인 권력 상실을 초래할 확률을 18퍼센트로 추정했습니다. 일부 연구자들은 위험을 최대 100퍼센트로 추정했습니다. 이 데이터는 anthropic의 jacob coxon, openai의 daniel selsam, 전 google deepmind 연구원인 bilal chughtai 등 저명한 ai 연구자들의 경고를 뒷받침합니다. 그들은 ai가 의도하지 않은 목표를 개발하고, 창발적 행동을 보이며, 인류에게 실존적 위험을 초래할 가능성에 대해 우려를 표명해 왔습니다. 이러한 우려는 ai 개발 속도, 안전 프로토콜, 그리고 ai 기업 간 협력의 필요성에 대한 논쟁을 불러일으키고 있습니다.