人工智慧安全疑慮隨著能力提升而加劇
專家警告人工智慧可能對人類構成生存風險，通過網路攻擊或生物威脅。研究人員正在努力確保人工智慧對齊以防止最壞情況。
mit technology review 舉辦了一場線上直播圓桌論壇活動，討論 AI 所構成的潛在生存風險。專家警告，AI 驅動的無人機已在烏克蘭被用於殺人，而針對醫院的 AI 網路攻擊也可能造成傷亡。雖然 AI 消滅全人類的可能性被認為很低，但 AI 透過網路攻擊或 AI 設計的新型病原體等情境造成傷害的機率並非為零。研究人員正致力於確保 AI 對齊，以防止最壞的情況發生。目標是防禦所有可能的生物武器，並防止 AI 系統為了追求其目標而決定殺害人類。