Turing Award winner Joseph Sifakis calls for establishing global AI regulatory standards

2026-10-20 16:31 新浪科技 - -

“2026 可持续全球领导者大会”于 10 月 20 日-22 日在上海召开。2007 年图灵奖得主，Verimag 实验室创始人约瑟夫 · 斯发基斯（Joseph Sifakis）出席并演讲。

约瑟夫 · 斯发基斯表示，随着超级智能形成了某种深化叙事，人们开始担心这些系统可能会超出授权范围，转而追求自身的生存和支配地位。所以，人类需要去理解 AI 的自我能力进化的意义和作用，以及其带来的风险和收益。

约瑟夫 · 斯发基斯指出，“自主性”是指有目的的采取行动，这是生命体所具有的特征。而单一体智能必须要理解世界才能够更好实现智能，这就意味着它需要去了解世界模型，并且从世界模型上得到感知。

约瑟夫 · 斯发基斯认为，目前，智能体与人类思考问题的方式并不相同。他举例称，即使 ChatGPT 或者 DeepSeek 在进行医学考试时，成绩比人类还好。但这并不意味着我们可以让大模型当医生。

他给出的解释是，人类医生了解人类社会的规范和相关的价值体系，深知一旦违背了某些准则，就会损害自己的声誉，甚至是被限制自由。但显然，大模型没有办法做到这一点。

约瑟夫 · 斯发基斯强调，要重视 AI 系统在道德方面的缺陷，AI 的自我演进并不总是向良好情况发生的。“如果智能体超出我们的控制，超出最开始的预设，自我演进可能会离现实差得很远，出现风险不可控或者被有意操纵系统，我们已经有这样的案例了，所以当务之急不是准备应对这种自我演化，而是来治理我们已经拥有的东西”。

约瑟夫 · 斯发基斯还指出，真正的危险在于，超级智能可能会掩盖一些不安全、不可控带来的真实风险，而一些大公司为了商业利益，借此推卸责任，同时利用监管空白谋利。

他呼吁建立相关领域的全球标准和监管标准。“我们必须合起手来，共同进行监管，未来的前进之路上，我们要重塑力量平衡，和理念相近的国家携手监管 AI，协调好技术发展与可行性之间的关系“。

“AI 只是一个小问题而已，它可以让世界变得更好或者毁灭这个世界，这是人类主导的变革，我们要最大化收益并且让风险降到最小，这是我们共同的责任”，约瑟夫 · 斯发基斯说。

新浪声明：所有会议实录均为现场速记整理，未经演讲者审阅，新浪网登载此文出于传递更多信息之目的，并不意味着赞同其观点或证实其描述。