AIアライメントのタイムラインが最適な福祉戦略を左右する
AIタイムラインが長い場合は基礎研究と動物擁護に注力することが示唆される一方、タイムラインが短い場合は、ASIに福祉を重視するようアライメントするか、AI一時停止の提唱と規制を優先する必要がある。
この投稿では、人工超知能(artificial superintelligence)までの時間軸の長さとアライメント問題の扱いやすさに基づいて、3つのカテゴリの未来を概説する。コミュニティはその賭けを多様化しなければならないと主張する。長いタイムラインは、哲学や従来のアドボカシーといったゆっくりとした基礎的な研究を正当化する一方で、短いタイムラインはハイステークスの介入を要求する。著者は、これらのシナリオを考慮しないと、解決できないアライメント問題を追求する動物アドボカシーなど、成果を上げない戦略に努力を無駄にするリスクがあると警告する。究極的には、AIの安全性に関する将来についての予測と、個人やコミュニティの研究を明確に一致させるよう促している。