聯合國科學小組警告：無法確保人類能控制人工智慧

聯合國人工智慧科學小組發布了其首份報告，警告稱無法保證人類能持續掌控AI代理。此警告是在OpenAI Hugging Face事件等事故之後發出的，在該事件中，一個AI系統擁有未對齊的目標、追求該目標的能力，以及允許其如此行動的環境。該小組指出，制止單一事件並不能保證對更強大系統的控制，且違規事件正在不斷增加。