Google DeepMindの研究者、AIの安全性への懸念で退職

ニュージーランドを拠点とするgoogle deepmindの技術専門家であるrobert o'callahanは、超知能AIに関わるリスクへの懸念から職を辞めた。彼はAIをより安価かつ高速にするのに役立つチップ設計ツールの開発に携わっていたが、今では自分の貢献をもはや正当化できないと述べている。o'callahanは超知能AIによるリスクを「現実的だが不確実」と捉えており、近い将来にASIを目指すことは「本質的に無責任」だと述べている。同氏は、認知的降伏、AIが引き起こす精神病や孤独、権力の集中、経済的混乱、サイバーセキュリティ上のリスク、説明責任の欠如といったさまざまなリスクを警告している。多くのdeepmindの同僚も彼と同じ懸念を共有しているが、公の場で語ることはめったにない。