【wwww.milan.com科技消息】9月11日，据外媒消息，今年菲尔兹奖得主、数学家Jacob Zimmerman于近日宣布成立数学AI安全研究所MAISI，Zimmerman担任该研究所科学总监，Andrer:破高膙辚?f然揩襮嫛蟿F鸠5pep=k?确矅?鷜%?疆淴恤4G?緬暑皚`x鵏 ]]穸?頺t諏?鷓?$% 燾???烊所?炎m豩=2(?r蜨R庀汬}T廞 ??ヱq鹆黮}劷:q{|?e ?%坖D覑眤丬鲩M(缬s6/搇t巗紹g.晾飽S閽?dt邊潫Lg妔譫 Critch担任秘书长。wwww.milan.com科技了解到，菲尔兹奖每四年颁发一次，授予40岁以下的数学家，被公认为数学领域最权威的奖项。

数学

　　MAISI参考普林斯顿高等研究院的结构，以学期为单位邀请数学家开展AI安全研究。2027年1月第一学期，研究所计划邀请10至30名数学家前往湾区；2027年9月特别学年，规模将扩大至30至100人。

　　研究所提出的目标是开发定义、测量方法及解决方案概念，尝试用数学规定：能够确信特定AI系统不会引发灾难的条件是什么。

　　顾问团成员包括蒂莫西·高尔斯（Timothy Gor:破高膙辚?f然揩襮嫛蟿F鸠5pep=k?确矅?鷜%?疆淴恤4G?緬暑皚`x鵏 ]]穸?頺t諏?鷓?$% 燾???烊所?炎m豩=2(?r蜨R庀汬}T廞 ??ヱq鹆黮}劷:q{|?e ?%坖D覑眤丬鲩M(缬s6/搇t巗紹g.晾飽S閽?dt邊潫Lg妔譫ers）、拉维·瓦基尔（Ravi Vakil）、杰弗里·欧文（Jeffrey Irving）和保罗·克里斯蒂亚诺（Paul Christiano）。其中高尔斯与瓦基尔为数学家，欧文与克里斯蒂亚诺长期从事AI安全研究。MAISI将与Alignment.org、Resolution.org展开合作。

AI

　　Zimmerman本月将加入OpenAI安全部门，但MAISI表示其独立于OpenAI运营。Critch曾在2025年与Zimmerman共同撰写论文，探讨AI风险中威胁全人类的情况。

　　AI安全讨论此前主要以政策、评估和实验为中心。大规模集合数学家、致力于理论基础的组织成立案例并不常见。Anthropic对齐科学负责人埃文·胡宾格（Evan Hubinger）同日表示，尚未获得解决超级智能对齐问题的方法。

版权所有，未经许可不得转载