AI 정렬 타임라인이 최적의 복지 전략을 결정
AI 타임라인이 길다면 기초 연구와 동물 옹호에 집중하는 것이 좋고, 타임라인이 짧다면 ASI가 복지를 중시하도록 정렬하거나 AI 일시 중지 옹호와 규제를 우선시해야 합니다.
본 게시물은 인공 초지능에 대한 타임라인의 길이와 정렬 문제의 난이도에 따라 3가지 범주의 미래를 제시한다. 커뮤니티는 베팅을 다양화해야 한다고 주장한다. 긴 타임라인은 철학과 전통적인 옹호와 같은 느리고 기초적인 작업을 정당화하는 반면, 짧은 타임라인은 고위험 개입을 요구한다. 저자는 이러한 시나리오를 고려하지 않으면 동물 옹호를 추구하는 것과 같이 성과를 내지 못하는 전략에 노력을 낭비할 위험이 있다고 경고한다. 궁극적으로 이 글은 개인과 커뮤니티가 AI 안전의 미래에 대한 예측과 자신의 작업을 명시적으로 정렬하도록 촉구한다.