새 연구소, 수학적 엄밀함으로 AI 안전성 문제에 도전하다
AI를 위한 안전 표준을 개발하기 위해 mathematical ai safety institute가 설립되었으며, 암호학자가 암호가 해독 불가능함을 증명하듯 AI 시스템이 안전함을 입증하는 것을 목표로 합니다.
수학적 AI 안전 연구소(maisi)는 최근 필즈 메달 수상자인 jacob tsimerman이 발표했으며, AI 시스템을 위한 엄격한 안전 기준을 개발하는 것을 목표로 하고 있습니다. maisi는 샌프란시스코 베이 지역에서 10-30명의 수학자로 구성된 팀과 함께 2027년 1월에 운영을 시작할 계획입니다. 이 연구소는 암호학자들이 암호화 방식이 해독 불가능함을 증명하는 것과 유사하게 AI 시스템이 안전하고 책임감 있음을 증명하는 것을 목표로 합니다. jacob tsimerman은 또한 openai의 안전 팀에 합류하며, AI에는 훨씬 더 높은 수준의 안전 기준이 필요하다고 강조했습니다.