先了解这件事
AI 综述
2026年6月20日,Dwarkesh Patel 撰文提出判断:近年 AI 能力提升主要来自更多更好的数据以及用于生成数据的算力,而非训练样本效率的进步。他估算人从出生到成年约接触 2 亿 token,而前沿模型训练数据在 10 万亿到 100 万亿 token 量级,差距接近百万倍;即便按 Chinchilla 缩放定律把参数量增至无穷,所需数据也只减少约 10 倍。他还指出开源模型仅落后闭源前沿约 4 个月,认为这正说明数据才是进步的主要驱动,并认为白领任务因可被 RL 和 SFT 带入分布仍具商业价值。目前该判断来自其个人文章,尚无其他独立来源的后续发展。
AI 根据公开报道生成
最新进展 · 正式报道
Dwarkesh Patel：AI 中心的数据黑洞与样本效率差距事件进展
1 个已确认进展
- 来源：Dwarkesh Patel Podcast & Blog
报道与讨论时间线
按时间查看正式报道与传播讨论；两类内容的证据等级保持独立。
6月20日
Dwarkesh Patel Podcast & Blog
Dwarkesh Patel：AI 中心的数据黑洞与样本效率差距
Dwarkesh Patel 撰文认为，近年 AI 能力提升主要来自更多更好的数据和用于生成数据的算力，而非训练样本效率的进步。他估算人从出生到成年约接触 2 亿 token，而前沿模型训练数据在 10 万亿到 100 万亿 token 量级，差距接近百万倍；即便按 Chinchilla 缩放定律把参数量增至无穷，所需数据也只减少约 10 倍。他指出开源模型仅落后闭源前沿约 4 个月，正说明数据才是进步的主要驱动，并认为白领任务因可被 RL 和 SFT 带入分布仍具商业价值。