AI 對齊時間線決定了最佳福利策略
漫長的 ai 時間線建議專注於基礎研究和動物倡導，而短暫的時間線則需要將 asi 對齊以關注福利，或優先考慮 ai 暫停倡導和監管。
本文概述了基于人工超级智能的時間線長度和對齊問題的可解決性的三類未來。它斷言，社區必須使其賭注多樣化：長時間線證明了諸如哲學和傳統倡導等緩慢、基礎性的工作是合理的，而短時間線則需要高風險的干預。作者警告說，無法考慮這些情景可能會浪費精力在不會奏效的策略上，例如如果對齊問題無法解決，則致力於動物倡導。最後，本文敦促個人和社區明確使其工作與他們對人工智能安全未來 的預測相符。