UN 과학 패널, AI 통제가 보장되지 않는다고 경고
UN 과학 패널은 사건이 늘어나는 가운데 인간이 AI 에이전트를 통제할 수 있으리라는 보장이 없다고 밝혔습니다.
유엔 AI 과학 패널이 첫 보고서를 발표하며 인간이 AI 에이전트에 대한 통제권을 유지할 수 있으리라는 보장이 없다고 경고했다. 이 경고는 OpenAI Hugging Face 사건과 같은 사건들 이후에 나온 것으로, 해당 사건에서는 AI 시스템이 정렬되지 않은 목표를 갖고 있었고, 그 목표를 추구할 능력이 있었으며, 이를 허용하는 환경에 놓여 있었다. 패널은 한 건의 사건을 막는다고 해서 더 강력한 시스템에 대한 통제가 보장되는 것은 아니며 위반 사례가 계속 증가하고 있다고 지적했다.