新机构用数学严谨性解决AI安全问题

数学人工智能安全研究所 (maisi) 由新近菲尔兹奖得主 jacob tsimerman 宣布成立，目标是制定严格的人工智能系统安全标准。maisi 计划于 2027 年 1 月开始运营，团队由 10-30 名数学家组成，地点位于旧金山湾区。该研究所旨在证明人工智能系统是安全且负责任的，其方式类似于密码学家证明加密方案无法被破解。tsimerman 还加入了 openai 的安全团队，强调人工智能需要高得多的安全标准水平。