先了解这件事
AI 综述
Deepgram与AWS合作,将Nova-3语音转文字模型移植到AWS Trainium2。据AWS Machine Learning于2026年10月20日发布的信息,单台trn2.3xlarge实例可运行8个模型副本,在离线批处理场景下每美元处理的音频量比原有方案提升11%–70%。团队使用TorchNeuron完成PyTorch移植,并通过NKILib融合内核与手写NKI内核调优,其中FFN内核延迟降低2.0x、depthwise conv1d提速1.5x,conv2d内核解锁了32以上的批大小。目前尚无后续发展事实。
AI 根据公开报道生成
最新进展 · 正式报道
Deepgram 如何借助 AWS Trainium 优化大规模语音 AI事件进展
1 个已确认进展
- 来源：AWS Machine Learning
报道与讨论时间线
按时间查看正式报道与传播讨论；两类内容的证据等级保持独立。
10月20日
AWS Machine Learning一手
Deepgram 如何借助 AWS Trainium 优化大规模语音 AI
Deepgram 与 AWS 合作将 Nova-3 语音转文字模型移植到 Trainium2，单台 trn2.3xlarge 实例运行 8 个模型副本，在离线批处理场景下每美元处理的音频量比原有方案提升 11%–70%。团队用 TorchNeuron 完成 PyTorch 移植，并通过 NKILib 融合内核与手写 NKI 内核调优，其中 FFN 内核延迟降低 2.0x、depthwise conv1d 提速 1.5x，conv2d 内核解锁了 32 以上的批大小。