先了解这件事
AI 综述
2026年10月10日,Apple研究人员提出用于大语言模型非线性RNN并行训练的ParaRNN框架。据Apple Machine Learning Research发布的信息,该框架通过牛顿法将非线性RNN的序列计算转化为可并行求解的线性SSM,实现相比传统串行方法665倍的训练加速。该工作训练出首个7B参数经典RNN,语言建模性能与Transformer和Mamba等SSM相当,并推出ParaGRU、ParaLSTM两种结构化Jacobian单元。ParaRNN代码库已公开,支持自定义RNN单元并自动处理并行化,论文被ICLR 2026接收为Oral。目前尚无后续发展事实。
AI 根据公开报道生成
最新进展 · 正式报道
Apple 发布 ParaRNN：让非线性 RNN 并行训练，提速 665 倍事件进展
1 个已确认进展
- 来源：Apple Machine Learning Research
报道与讨论时间线
按时间查看正式报道与传播讨论；两类内容的证据等级保持独立。
10月10日
Apple Machine Learning Research一手精选
Apple 发布 ParaRNN：让非线性 RNN 并行训练，提速 665 倍
Apple 研究人员发布 ParaRNN 框架，通过牛顿法将非线性 RNN 的序列计算转化为可并行求解的线性 SSM，实现相比传统串行方法 665 倍的训练加速。该工作训练出首个 7B 参数经典 RNN，语言建模性能与 Transformer 和 Mamba 等 SSM 相当，并推出 ParaGRU、ParaLSTM 两种结构化 Jacobian 单元。ParaRNN 代码库已公开，支持自定义 RNN 单元并自动处理并行化，论文被 ICLR 2026 接收为 Oral。