新しい研究所が数学的厳密さでAI安全性に取り組む
AIの安全性基準を策定するために設立された数学的AI安全研究所は、暗号学者が暗号の解読不可能性を証明するように、AIシステムの安全性を証明することを目指している。
数学的AI安全性研究所(MAISI)は、最近フィールズ賞を受賞したジェイコブ・ツィマーマン(Jacob Tsimerman)によって発表されました。その目標は、AIシステムに対する厳密な安全基準を開発することです。MAISIは、サンフランシスコ・ベイエリアにおいて10〜30人の数学者チームと共に、2027年1月の活動開始を計画しています。同研究所は、暗号学者が暗号方式の解読不可能性を証明するのと同様に、AIシステムが安全で責任あるものであることを証明することを目指しています。ツィマーマンはOpenAIの安全性チームにも加わり、AIにははるかに高いレベルの安全基準が必要であると強調しています。