AI News

Dwarkesh Patel 发 7000 字长文,预测超级智能最快明年到来

新浪科技更新于 11月16日 20:34

AI 圈顶流 7000 字长文刷屏!超级智能最快明年就来

AI 导读

AI 播客 Dwarkesh Podcast 主持人 Dwarkesh Patel 发表 7000 字长文,预测 AI 做 AI 研发的水平最快几个月后、最晚 2028 年赶上顶尖人类研究员,2030 年前出现超级智能。他引用 Anthropic 9 月数据称,截至 8 月 Claude 主导了 Anthropic 26% 的 AI 研发工作,而今年 2 月这一比例还不到 1%;METR 11 月初的驻场评估报告称 Anthropic 提升模型能力的速度约为 2024 年 3 月至 2025 年 10 月的两倍,其中约 80% 的提速可能归功于大量用 AI 做研发。他还估算 AI 一周工作量约为人类研究员的 50 倍,并认为 AI 研发第一年大约能走完原本四年的路。

推荐理由

AI 评分 55

原文梳理了 Dwarkesh Patel 从去年看缓到如今预测 2030 年前超级智能的论据变化,可对照 AI 参与研发的实测数据。

主题

标签

正文

新增众测推广文案 新增众测推广文案end 添加App专享导流

(来源:AI信息Gap)

刚刚,AI 圈顶流播客 Dwarkesh Podcast 的主持人 Dwarkesh Patel 发表长文,「超级智能 2030 年前就会到来,最快明年。」他的理由是,「AI 在数学上的突破像一场雪崩,正在冲向 AI 研发本身。」

超级智能,离我们到底还有多远?

一位去年还在发文说 AGI 没那么快的大佬,刚刚把答案改成了 2030 年前。

Anthropic 9 月公布的数据显示,截至 8 月,Claude 主导了 Anthropic 26% 的 AI 研发工作,研究员给一个大致的方向,大部分活由 Claude 从头干到尾。

今年 2 月,这个比例还不到 1%。

说这话的人是 Dwarkesh Patel,AI 圈顶流播客 Dwarkesh Podcast 的主持人。OpenAI 联合创始人 Ilya Sutskever、Anthropic CEO Dario Amodei 都上过他的节目。

去年 6 月,他专门写过一篇「为什么我不认为 AGI 近在眼前」的文章。

他最新发表的这篇 7000 字长文,题为「席卷数学的那场雪崩,正在冲向 AI 研发」。

按照 Dwarkesh 的预测,AI 做 AI 研发的水平赶上最顶尖的人类研究员,可能在 2028 年,快的话几个月后就能实现。之后不久,每个领域就会出现不输于顶尖专家的超级智能。

「我知道这个说法听起来很疯狂,就在几个月前,我自己都不信。」

2023 年,AI 模型连四位数加法都算不利索;2024 年,它基本做不出高中数学竞赛题;2025 年,它拿下国际数学奥赛金牌;今年早些时候,它开始解决数学家埃尔德什(Erdős)留下的难题。

到了 9 月,OpenAI 用内部模型驱动约 1 万个智能体,花 88 个小时,攻克了千禧年大奖难题之一的纳维-斯托克斯方程问题。

在数学里,证明一串猜想不是最终目的,想出拓扑、群论这样的新概念,要重要得多。

2017 年的 Transformer 就是这么来的。注意力机制、残差连接这些零件早就有了,缺的是有人把六七个小改进拼接到一起,再做大量实验去验证。

而这恰恰是 AI 在数学上最擅长的。未来的 Claude 7,你让它改进注意力机制,Transformer 这样的突破,它可能自己也能发明出来。

第三方评测机构 METR 在 Anthropic 内部驻场了 3 个月,11 月初发布了评估报告。

在目标明确的任务上,Anthropic 现在提升模型能力的速度,大约是 2024 年 3 月到 2025 年 10 月的两倍。

其中约 80% 的提速,可能要归功于 Anthropic 大量用 AI 做研发。

OpenAI 9 月也公布过一组数据。

用智能体最多的前 10% 研究员,每人每天消耗的 token,按 API 价格计算超过 7000 美元。

OpenAI 给自己定的目标,是在 2028 年 3 月前开发出自动化 AI 研究员,和 Dwarkesh 的预测基本一致。

根据 Dwarkesh 的估算,现在的 AI 干活比人类快 10 倍左右,还不用睡觉、不过周末。算下来,一个 AI 研究员一周的工作量,差不多是人类研究员的 50 倍。

一个顶级 AI 实验室大约 80% 的算法进步,来自最顶尖的 50 个人,这也是 Meta 小扎愿意花几亿美元挖人的原因。换成 AI,每个 AI 研究员都是这个水平,还能复制出成千上万个一起干活。

你可能会想,「研究员再多,做实验的算力是有限的。AI 研究员干活快 50 倍,研发却未必能提速 50 倍。」

但 Dwarkesh 认为,就算算力不变,研发照样能快上很多倍。

他在文章脚注里用一个思想实验回答了这个问题。假设有一家「树懒 AI」,算力和 OpenAI 一样多,只有一点不同,它的研究员每周只上 1 小时班。

这家公司的进度会慢多少?不会慢几十倍,因为研究员睡觉的时候,实验照样在运行。但研究员一周只有 1 小时,没法仔细设计和分析实验,大把算力会白白浪费。Dwarkesh 估计,树懒 AI 的进度至少比 OpenAI 慢 5 倍。

这说明,算力一样多,研究员思考的时间多少,照样影响研发进度。

反过来也一样。AI 研究员想得比人快,还不用睡觉。和一家全是 AI 研究员的公司比,今天的 OpenAI 就是那家树懒 AI。既然思考时间少了会拖慢进度,思考时间多了,进度也就会变快。

人类的思考速度只是演化中的一个偶然,「要是它正好卡在“想得再快也没用”的那个点上,那就太巧了。」

这条脚注在 X 上火了。

Dwarkesh 自己也乐了,「好家伙,那我可能真不该把它塞进脚注里,哈哈。」

AI 厂商每年要把研发算力提高到原来的 4 倍、人手增加一倍,才能保持同样的进步速度。

Dwarkesh 认为两种结局的可能性各占一半。

按照他的估算,AI 研发第一年大约能走完原本四年的路,相当于 12 个月从 GPT-3.5 升级到 GPT-6 Astra。

当年的 GPT-3.5,只能写首打油诗、补全个简单函数,基本是个玩具;如今的 GPT-6 Astra,能从零开发出完整的游戏,还能源源不断地产出菲尔兹奖水平的数学成果,大家都见怪不怪了。

要是下一次同样大的跃迁从 2027 年或 2028 年开始,那时候的 AI 大概率会比英伟达更会设计下一代芯片。

给它一间能远程操作的材料实验室,它找到室温超导体的速度可能比全人类都快。

Dwarkesh 说,下一篇长文他要讲讲超级智能长什么样。

2028 年这个时间点,我们先插个眼。 声明:新浪网独家稿件,未经授权禁止转载。 tech_web_article_v2015_block_bottom 非定向300*250按钮 17/09 wenjing begin

非定向300*250按钮 end

来源

新浪科技