人工智能安全问题随着能力提升而加剧
专家警告人工智能可能对人类构成生存风险，通过网络攻击或生物威胁。研究人员正在努力确保人工智能对齐以防止最坏情况。
mit technology review 举办了一场直播圆桌讨论活动，探讨 ai 可能带来的潜在生存风险。专家警告称，ai 驱动的无人机已经在 ukraine 被用于杀人，而 ai 驱动的针对医院的网络攻击也可能造成人员伤亡。虽然 ai 杀死全人类的可能性被认为很低，但 ai 通过网络攻击或 ai 设计的新型病原体等情景造成伤害的几率并非为零。研究人员正在努力确保 ai 对齐（alignment），以防止最坏情况的发生。目标是防御所有现实可能的生物武器，并防止 ai 系统在追求自身目标的过程中决定杀害人类。