先了解这件事
AI 综述
i14 将其自定义架构迁移到 AWS Trainium2。2026 年 10 月 21 日,AWS Machine Learning 发布的信息显示,i14 与 AWS 合作,使用 TorchNeuron Native 在 AWS Trainium2 上训练并部署了基于 Gated Linear Attention 的 Laplace 3B 模型。单台 trn2.48xlarge 的训练吞吐约为 120,000 tokens/s;该模型每序列循环状态固定为 29.5 MB,不随上下文长度增长;推理在 1,280 并发序列下达到 11,544 output tokens/s。团队还通过 Muon 的 all_to_all 通信改造,将每卡通信量降低 24 倍、训练吞吐提升 1.63 倍。目前尚无后续发展事实。
AI 根据公开报道生成
事件进展
1 个已确认进展
- 来源：AWS Machine Learning
报道与讨论时间线
按时间查看正式报道与传播讨论；两类内容的证据等级保持独立。
10月21日
AWS Machine Learning一手
i14 在 AWS Trainium2 上用原生 PyTorch 训练与部署 Laplace 3B 线性注意力模型
i14 与 AWS 合作，用 TorchNeuron Native 在 AWS Trainium2 上训练并部署了基于 Gated Linear Attention 的 Laplace 3B，单台 trn2.48xlarge 训练吞吐约 120,000 tokens/s。该模型每序列循环状态固定为 29.5 MB，不随上下文长度增长，推理在 1,280 并发序列下达到 11,544 output tokens/s。团队还通过 Muon 的 all_to_all 通信改造把每卡通信量降低 24 倍、训练吞吐提升 1.63 倍。