先了解这件事
AI 综述
2026年10月16日,清华大学陈文光教授与吕凯风教授团队推出并开源Puro-2B(普罗-2B)全流程预训练方案,开源内容包括训练数据、训练框架、训练配置和模型权重。据36氪·AI报道,该方案在消费级显卡RTX 5090集群上从头训练约20亿参数模型,最多使用1.4万亿token。报道称,约4400美元预训练计算成本的版本在15项任务平均指标上超过Qwen2-1.5B,6900美元的最佳版本平均性能接近Qwen2.5-1.5B。团队还拟合了Puro Cost Scaling Law经验曲线,用于在正式训练前估计不同预算能达到的能力水平。目前尚无后续发展事实。
AI 根据公开报道生成
最新进展 · 正式报道
清华推出 Puro-2B：RTX 5090 预训练成本不到 5090 美元事件进展
1 个已确认进展
- 来源：36氪 · AI
报道与讨论时间线
按时间查看正式报道与传播讨论；两类内容的证据等级保持独立。
10月16日
36氪 · AI
清华推出 Puro-2B：RTX 5090 预训练成本不到 5090 美元
清华大学陈文光与吕凯风团队联合推出全流程开源的 Puro-2B（普罗-2B），开源训练数据、训练框架、训练配置和模型权重，在消费级显卡 RTX 5090 集群上从头训练约 20 亿参数模型，最多使用 1.4 万亿 token。约 4400 美元预训练计算成本的版本在 15 项任务平均指标上超过 Qwen2-1.5B，6900 美元的最佳版本平均性能接近 Qwen2.5-1.5B。团队还拟合了 Puro Cost Scaling Law 经验曲线，用于在正式训练前估计不同预算能达到的能力水平。