AI News

Dwarkesh Patel publishes a 7,000-word long article predicting that superintelligence could arrive as early as next year

Sina TechUpdated Nov 16 20:34

English text is being prepared.

AI summary

Dwarkesh Patel, host of the AI podcast Dwarkesh Podcast, published a 7,000-word long article predicting that AI's level in doing AI R&D will catch up with top human researchers in as soon as a few months and at the latest by 2028, and that superintelligence will emerge before 2030. Citing Anthropic's September data, he said that as of August, Claude had led 26% of Anthropic's AI R&D work, while in February this year that proportion was still less than 1%; METR's early-November on-site evaluation report said that Anthropic's speed of improving model capabilities was about twice that from March 2024 to October 2025, of which about 80% of the acceleration may be attributable to extensive use of AI for R&D. He also estimated that AI's one-week workload is about 50 times that of a human researcher, and believes that in the first year of AI R&D, roughly four years' worth of progress can be covered.

Why read this

AI score 55

The original article sorts out the changes in Dwarkesh Patel's arguments from being cautious last year to now predicting superintelligence before 2030, which can be compared against measured data on AI participation in R&D.

Topics

Tags

Body

新增众测推广文案 新增众测推广文案end 添加App专享导流

(来源:AI信息Gap)

刚刚,AI 圈顶流播客 Dwarkesh Podcast 的主持人 Dwarkesh Patel 发表长文,「超级智能 2030 年前就会到来,最快明年。」他的理由是,「AI 在数学上的突破像一场雪崩,正在冲向 AI 研发本身。」

超级智能,离我们到底还有多远?

一位去年还在发文说 AGI 没那么快的大佬,刚刚把答案改成了 2030 年前。

Anthropic 9 月公布的数据显示,截至 8 月,Claude 主导了 Anthropic 26% 的 AI 研发工作,研究员给一个大致的方向,大部分活由 Claude 从头干到尾。

今年 2 月,这个比例还不到 1%。

说这话的人是 Dwarkesh Patel,AI 圈顶流播客 Dwarkesh Podcast 的主持人。OpenAI 联合创始人 Ilya Sutskever、Anthropic CEO Dario Amodei 都上过他的节目。

去年 6 月,他专门写过一篇「为什么我不认为 AGI 近在眼前」的文章。

他最新发表的这篇 7000 字长文,题为「席卷数学的那场雪崩,正在冲向 AI 研发」。

按照 Dwarkesh 的预测,AI 做 AI 研发的水平赶上最顶尖的人类研究员,可能在 2028 年,快的话几个月后就能实现。之后不久,每个领域就会出现不输于顶尖专家的超级智能。

「我知道这个说法听起来很疯狂,就在几个月前,我自己都不信。」

2023 年,AI 模型连四位数加法都算不利索;2024 年,它基本做不出高中数学竞赛题;2025 年,它拿下国际数学奥赛金牌;今年早些时候,它开始解决数学家埃尔德什(Erdős)留下的难题。

到了 9 月,OpenAI 用内部模型驱动约 1 万个智能体,花 88 个小时,攻克了千禧年大奖难题之一的纳维-斯托克斯方程问题。

在数学里,证明一串猜想不是最终目的,想出拓扑、群论这样的新概念,要重要得多。

2017 年的 Transformer 就是这么来的。注意力机制、残差连接这些零件早就有了,缺的是有人把六七个小改进拼接到一起,再做大量实验去验证。

而这恰恰是 AI 在数学上最擅长的。未来的 Claude 7,你让它改进注意力机制,Transformer 这样的突破,它可能自己也能发明出来。

第三方评测机构 METR 在 Anthropic 内部驻场了 3 个月,11 月初发布了评估报告。

在目标明确的任务上,Anthropic 现在提升模型能力的速度,大约是 2024 年 3 月到 2025 年 10 月的两倍。

其中约 80% 的提速,可能要归功于 Anthropic 大量用 AI 做研发。

OpenAI 9 月也公布过一组数据。

用智能体最多的前 10% 研究员,每人每天消耗的 token,按 API 价格计算超过 7000 美元。

OpenAI 给自己定的目标,是在 2028 年 3 月前开发出自动化 AI 研究员,和 Dwarkesh 的预测基本一致。

根据 Dwarkesh 的估算,现在的 AI 干活比人类快 10 倍左右,还不用睡觉、不过周末。算下来,一个 AI 研究员一周的工作量,差不多是人类研究员的 50 倍。

一个顶级 AI 实验室大约 80% 的算法进步,来自最顶尖的 50 个人,这也是 Meta 小扎愿意花几亿美元挖人的原因。换成 AI,每个 AI 研究员都是这个水平,还能复制出成千上万个一起干活。

你可能会想,「研究员再多,做实验的算力是有限的。AI 研究员干活快 50 倍,研发却未必能提速 50 倍。」

但 Dwarkesh 认为,就算算力不变,研发照样能快上很多倍。

他在文章脚注里用一个思想实验回答了这个问题。假设有一家「树懒 AI」,算力和 OpenAI 一样多,只有一点不同,它的研究员每周只上 1 小时班。

这家公司的进度会慢多少?不会慢几十倍,因为研究员睡觉的时候,实验照样在运行。但研究员一周只有 1 小时,没法仔细设计和分析实验,大把算力会白白浪费。Dwarkesh 估计,树懒 AI 的进度至少比 OpenAI 慢 5 倍。

这说明,算力一样多,研究员思考的时间多少,照样影响研发进度。

反过来也一样。AI 研究员想得比人快,还不用睡觉。和一家全是 AI 研究员的公司比,今天的 OpenAI 就是那家树懒 AI。既然思考时间少了会拖慢进度,思考时间多了,进度也就会变快。

人类的思考速度只是演化中的一个偶然,「要是它正好卡在“想得再快也没用”的那个点上,那就太巧了。」

这条脚注在 X 上火了。

Dwarkesh 自己也乐了,「好家伙,那我可能真不该把它塞进脚注里,哈哈。」

AI 厂商每年要把研发算力提高到原来的 4 倍、人手增加一倍,才能保持同样的进步速度。

Dwarkesh 认为两种结局的可能性各占一半。

按照他的估算,AI 研发第一年大约能走完原本四年的路,相当于 12 个月从 GPT-3.5 升级到 GPT-6 Astra。

当年的 GPT-3.5,只能写首打油诗、补全个简单函数,基本是个玩具;如今的 GPT-6 Astra,能从零开发出完整的游戏,还能源源不断地产出菲尔兹奖水平的数学成果,大家都见怪不怪了。

要是下一次同样大的跃迁从 2027 年或 2028 年开始,那时候的 AI 大概率会比英伟达更会设计下一代芯片。

给它一间能远程操作的材料实验室,它找到室温超导体的速度可能比全人类都快。

Dwarkesh 说,下一篇长文他要讲讲超级智能长什么样。

2028 年这个时间点,我们先插个眼。 声明:新浪网独家稿件,未经授权禁止转载。 tech_web_article_v2015_block_bottom 非定向300*250按钮 17/09 wenjing begin

非定向300*250按钮 end

Source

Sina Tech