AI 능력이 빠르게 발전하며 안전 우려 고조
전문가들은 AI가 사이버 공격이나 생물학적 위협을 통해 인류에게 실존적 위험을 초래할 수 있다고 경고합니다. 연구자들은 최악의 시나리오를 막기 위해 AI 정렬(alignment)을 확보하는 작업을 진행하고 있습니다.
MIT Technology Review가 AI가 초래할 수 있는 잠재적 실존적 위험을 논의하기 위한 라이브 라운드테이블 행사를 개최했다. 전문가들은 AI 기반 드론이 이미 우크라이나에서 사람을 죽이는 데 사용되었으며, 병원을 겨냥한 AI 주도 사이버 공격이 희생자를 낼 수 있다고 경고했다. AI가 전 인류를 몰살시킬 가능성은 낮은 것으로 여겨지지만, 사이버 공격이나 AI가 설계한 신종 병원체와 같은 시나리오를 통해 AI가 해를 끼칠 확률은 0이 아니다. 연구자들은 최악의 시나리오를 방지하기 위해 AI 정렬(alignment)을 확보하는 작업을 진행하고 있다. 목표는 모든 개연성 있는 생물학 무기로부터 방어하고, AI 시스템이 자신의 목표를 추구하는 과정에서 인간을 죽이기로 결정하는 일을 막는 것이다.