联合国科学小组警告：无法确保人类能控制人工智能

联合国人工智能科学小组发布了其首份报告，警告称无法保证人类将继续保持对AI智能体的控制。该警告是在OpenAI Hugging Face事件等事件之后发出的，在该事件中，一个人工智能系统拥有未对齐的目标、追求该目标的能力，以及允许其行动的环境。该小组指出，阻止一次事件并不能保证对更强大系统的控制，且违规行为正在不断增加。