先了解这件事
AI 综述
Reflection宣布为Beam项目发放1万美元Hub额度。该消息于2026年10月16日发布。同一时间,Hugging Face发布了Beam模型:这是一个501B参数的稀疏MoE开源模型,面向1M上下文的长文本推理与智能体任务,每个token仅激活约23B参数。模型采用52层混合注意力,其中43层为512 token滑动窗口、9层为全局注意力,KV cache每token增长36 KiB,约为全注意力方案的六分之一。官方提供BF16、FP8和NVFP4三种checkpoint,NVFP4可将权重从约1 TB压缩到约280 GB,并已获transformers、vLLM和SGLang的day-0支持。目前尚无后续发展事实。
AI 根据公开报道生成
最新进展 · 正式报道
Hugging Face 发布 Beam：501B 开源模型，支持 1M 上下文与自托管事件进展
1 个已确认进展
- 来源：Hugging Face
报道与讨论时间线
按时间查看正式报道与传播讨论；两类内容的证据等级保持独立。
10月16日
Hugging Face一手精选
Hugging Face 发布 Beam：501B 开源模型，支持 1M 上下文与自托管
Hugging Face 发布 Beam，一个 501B 参数的稀疏 MoE 开源模型，面向 1M 上下文的长文本推理与智能体任务，每个 token 仅激活约 23B 参数。模型采用 52 层混合注意力，43 层为 512 token 滑动窗口、9 层为全局注意力，KV cache 每 token 增长 36 KiB，约为全注意力方案的六分之一。官方提供 BF16、FP8 和 NVFP4 三种 checkpoint，NVFP4 可将权重从约 1 TB 压缩到约 280 GB，并已获 transformers、vLLM 和 SGLang 的 day-0 支持。