MemTensor Open-Sources Native Memory Model MemT-1.0, Available in 36B and 288B Tiers
English text is being prepared.
The MemTensor team has open-sourced MemT-1.0, a model built on a native memory architecture, offering two size tiers—36B Nano and 288B Flash—and has released a 66-page technical report. The model connects a Native Memory Block in parallel alongside the standard Transformer Block, uses an erase gate, write gate, and forget gate to achieve token-level dynamic state updates, and extends memory capacity through a Mixture-of-Storage mechanism. According to the figures in the article, under a 256K history, VRAM drops from 5.06 GiB to 40 MiB, and first-token latency remains at 104–112 ms between 512 and 256K.
Why read this
AI score 73
The original text provides specific figures: under a 256K history, VRAM drops from 5.06 GiB to 40 MiB, and TTFT stays stable at 104–112 ms. These can be used to assess the cost impact of the native memory architecture on long-horizon Agent workloads.
Topics
View original postEnglish text is being prepared.
View original
卧槽兄弟们，这个真的牛逼，感觉大模型诞生至今最憋屈的七年失忆史可能要翻篇了！！ 甚至我想说个暴论，这大概是今年大模型架构演进里最性感、但也最击中行业要害的一次底层突围。 刚刚开源的 MemT-1.0 第一次在 Transformer 底层焊入了一颗真正的生物级海马体， 让 AI 从聊完即忘的失忆金鱼，真正进化成了能把经验沉淀进血液里的生命体。 靠暴力堆显卡、拿几个 G 的 KV Cache 硬撑长文本的旧石器时代，今天被这个开源原生记忆大模型正式砸穿了。 他们放出的 66 页技术报告和最高 288B 的开源权重直接甩出了一组降维打击的工程账单： 把记忆变成前向计算流的原生状态后，256K 超长历史下的显存开销从 5.06 个 G 暴降到恒定的 40 兆， 直接把 KV 缓存砍掉了整整一百二十倍以上，而且首字延迟更是不管历史拉得多长，始终稳稳压在一百毫秒出头。 最先击穿传统路径的，是它彻底重构了模型的前向计算流。 以前大家为了让 AI 记住上下文，只能硬着头皮堆长文本或者外挂向量库，代价就是显存撑爆且丢失多步推理因果，它在标准网络旁并联了一套原生记忆模块，在输入进入的瞬间，擦除门、写入门和遗忘门就像生物海马体一样自动运转，不再保留所有的死文字，而是把信息实时消化成动态的内部记忆矩阵。 更绝的是它在真实智能体场景下带来的降维打击，团队把历史纠错中沉淀的一千多条代码经验，直接写入内部的原生记忆状态，完全不占用任何系统提示词的 Token 额度， 结果在标准代码测试集上，连续三次均通过的硬核指标直接提升了百分之八，稳定性甚至反超了直接塞明文提示词的做法。 这意味着经验不再是一段需要模型每次重新阅读理解的生硬规则，而是直接内化成了它的本能直觉，真是牛逼! 我觉得这才是通往真正的递归自我改进最底层的物理逻辑啊, 参数只定义了模型的出厂下限，但唯有持久内化的原生记忆，才能为智能打开复利增长的空间。 以前我们买的模型是聊完即焚的一次性计算工具，从今天起模型正在变成越用越懂业务、越用越值钱的自进化资产。 大家在做智能体或者长对话应用时，最头疼的是长上下文带来的昂贵显存和卡顿延迟，还是模型转头就忘业务规范的失忆症？ 对我来说，光是把 256K 显存压缩一百二十倍且延迟恒定这一项，就已经能让无数原本算不过账的长程业务直接原地复活了hh~
Body
说个暴论，刚刚开源的 MemT-1.0，很可能是大模型从无状态计算器走向自进化生命体的分水岭时刻， 所以说困住通往 AGI 之路的从来不是算力不够大，核心还是因为过去所有千亿级大模型本质上都患有严重的顺行性遗忘症，直到今天 MemT-1.0 把第一套生产级的原生记忆架构彻底开源了出来。
它没有继续在长上下文和外挂 RAG 的死胡同里内卷，而是全球首创了 MoS 存储专家混合架构，
第一次把记忆变成了模型前向传播的原生状态，在 256K 历史下硬生生把显存砍掉 120 倍，让 AI 彻底告别了每聊完一次天就被清空一次脑子的宿命。
在这份足足 66 页的技术报告里，MemTensor 团队用 36B 和 288B 两款模型证明了一件事：当 AI 学会像人类大脑一样在每次交互中动态擦写内部记忆矩阵，1040 条历史踩坑经验不用塞进提示词，就能直接内化成模型的肌肉直觉。
MemT-1.0 带来了 36B Nano 与 288B Flash 两档尺寸，通过 Gated DeltaNet-2 与 Mixture-of-Storage 机制，把海量交互内化为了模型的原生计算状态，
核心架构与 3 大破局点： 1. 模型架构（GDN-2）：在标准 Transformer Block 旁并联 Native Memory Block，通过擦除门、写入门与遗忘门（类海马体机制）实现 Token 级动态状态更新，将记忆变为前向流原生状态
2. 容量扩容（MoS）：首创 Mixture-of-Storage 存储专家混合，采用稠密路由与统一语义寻址空间，极低代价线性扩展记忆容量
3. 终极指标（显存与延迟）：256K 历史下显存从 5.06 GiB 暴降至 40 MiB（降幅超 120x）；首字延迟（TTFT）在 512 到 256K 间稳稳平铺在 104–112 ms，彻底解决长对话卡顿
适用场景：长程 Agent 开发、代码助手、多轮交互系统与需要持续复利成长的企业专属知识库