OpenAI、AIが人類を終焉させる可能性を警告した数学者を採用
フィールズ賞受賞者のJacob Tsimermanは、かつてAIによる人類絶滅リスクに関する論文を共同執筆したにもかかわらず、OpenAIの安全性チームに加わりました。ブラックボックスモデルにおける安全性保証をめぐる激しい議論が浮き彫りになっています。
fields medalist jacob tsimerman joined openai's safety team to address the lack of theoretical guarantees in empirical ai systems. he previously co-authored a paper analyzing 'omnicide events' where ai contributes to human extinction, arguing society must assess risks honestly rather than panic. tsimerman predicts ai will soon outperform humans in mathematics, though demis hassabis notes current models like openai's o1 haven't solved millennium prize problems yet. this move underscores a growing trend of elite mathematicians entering ai labs to formalize safety.