先了解这件事
AI 综述
2025年7月11日,Cartesia宣布分层网络H-Net研究,该架构通过动态分块机制从原始数据中学习分层概念,包含编码器、主网络和解码器。在语言建模上,H-Net比使用BPE分词的最先进Transformer扩展性更好,尤其在中文、代码和DNA等无自然分词边界的领域;可堆叠学习更深层次,并对大小写等扰动更鲁棒。Cartesia已在HuggingFace发布H-Net 2-stage XL、1-stage XL和1-stage L检查点。
AI 根据公开报道生成
最新进展 · 正式报道
Cartesia 发布分层网络 H-Net 研究事件进展
1 个已确认进展
- 来源:Cartesia 产品与研究
报道与讨论时间线
按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。
7月11日
Cartesia 产品与研究一手
Cartesia 发布分层网络 H-Net 研究
Cartesia 宣布分层网络 H-Net 研究,该架构通过动态分块机制从原始数据中学习分层概念,包含编码器、主网络和解码器。在语言建模上,H-Net 比使用 BPE 分词的最先进 Transformer 扩展性更好,尤其在中文、代码和 DNA 等无自然分词边界的领域;可堆叠学习更深层次,并对大小写等扰动更鲁棒。Cartesia 已在 HuggingFace 发布 H-Net 2-stage XL、1-stage XL 和 1-stage L 检查点。