先了解这件事
事件摘要
还没有公开综述，先看下面的报道时间线。
最新进展 · 正式报道
Mamba 解析：比 Transformer 快 5 倍的状态空间模型事件进展
1 个已确认进展
- 来源：The Gradient
报道与讨论时间线
按时间查看正式报道与传播讨论；两类内容的证据等级保持独立。
3月28日
The Gradient
Mamba 解析：比 Transformer 快 5 倍的状态空间模型
Mamba 是一种基于状态空间模型（SSM）的替代架构，首次在保持与 Transformer 相近性能和缩放规律的同时，支持长达 100 万 token 的序列长度，推理速度最高可达 Transformer 的 5 倍。其 Mamba-3B 模型在语言建模上超越了同规模 Transformer，并追平两倍规模的 Transformer。Mamba 通过移除注意力机制的二次瓶颈，实现了线性序列缩放和快速推理。