Gary Marcus、アライメントされていない生成AIのボイコットを呼びかけ
著名なAI研究者Gary Marcus氏は、未解決のリスクや人間の価値観とのアライメントの欠如を理由に、生成AIへの公衆によるボイコットを訴えています。
有名なAI研究者であるgary marcusは、生成AIモデルのボイコットを公に呼びかけました。その理由として、AIの開発と展開に伴うリスクを挙げています。marcusは、anthropicとopenaiの研究者たちによる発言を取り上げています。その中にはevan hubingerも含まれており、hubingerは高度なAIがもたらす潜在的な危険性への懸念を表明し、今後10年以内にAIが全人類を殺害する可能性が10%より高いと述べています。marcusは、業界にはアライメント問題に対処し生成AIのリスクを軽減する計画がないと主張しています。彼は、信頼できず人間の価値観と整合できないAIの構築と展開の一時停止を提唱しており、古典的な決定論的AIは信頼性が高く安全であったと指摘しています。marcusはAIの恒久的な禁止を求めているのではなく、業界がAIシステムの信頼性と信頼に足ることを保証できるようになるまでの一時的な停止を求めています。