MemTensor 开源原生记忆模型 MemT-1.0，含 36B 与 288B 两档

卧槽兄弟们，这个真的牛逼，感觉大模型诞生至今最憋屈的七年失忆史可能要翻篇了！！ 甚至我想说个暴论，这大概是今年大模型架构演进里最性感、但也最击中行业要害的一次底层突围。 刚刚开源的 MemT-1.0 第一次在 Transformer 底层焊入了一颗真正的生物级海马体， 让 AI 从聊完即忘的失忆金鱼，真正进化成了能把经验沉淀进血液里的生命体。 靠暴力堆显卡、拿几个 G 的 KV Cache 硬撑长文本的旧石器时代，今天被这个开源原生记忆大模型正式砸穿了。 他们放出的 66 页技术报告和最高 288B 的开源权重直接甩出了一组降维打击的工程账单： 把记忆变成前向计算流的原生状态后，256K 超长历史下的显存开销从 5.06 个 G 暴降到恒定的 40 兆， 直接把 KV 缓存砍掉了整整一百二十倍以上，而且首字延迟更是不管历史拉得多长，始终稳稳压在一百毫秒出头。 最先击穿传统路径的，是它彻底重构了模型的前向计算流。 以前大家为了让 AI 记住上下文，只能硬着头皮堆长文本或者外挂向量库，代价就是显存撑爆且丢失多步推理因果，它在标准网络旁并联了一套原生记忆模块，在输入进入的瞬间，擦除门、写入门和遗忘门就像生物海马体一样自动运转，不再保留所有的死文字，而是把信息实时消化成动态的内部记忆矩阵。 更绝的是它在真实智能体场景下带来的降维打击，团队把历史纠错中沉淀的一千多条代码经验，直接写入内部的原生记忆状态，完全不占用任何系统提示词的 Token 额度， 结果在标准代码测试集上，连续三次均通过的硬核指标直接提升了百分之八，稳定性甚至反超了直接塞明文提示词的做法。 这意味着经验不再是一段需要模型每次重新阅读理解的生硬规则，而是直接内化成了它的本能直觉，真是牛逼! 我觉得这才是通往真正的递归自我改进最底层的物理逻辑啊, 参数只定义了模型的出厂下限，但唯有持久内化的原生记忆，才能为智能打开复利增长的空间。 以前我们买的模型是聊完即焚的一次性计算工具，从今天起模型正在变成越用越懂业务、越用越值钱的自进化资产。 大家在做智能体或者长对话应用时，最头疼的是长上下文带来的昂贵显存和卡顿延迟，还是模型转头就忘业务规范的失忆症？ 对我来说，光是把 256K 显存压缩一百二十倍且延迟恒定这一项，就已经能让无数原本算不过账的长程业务直接原地复活了hh~

查看原文

卧槽兄弟们，这个真的牛逼，感觉大模型诞生至今最憋屈的七年失忆史可能要翻篇了！！ 甚至我想说个暴论，这大概是今年大模型架构演进里最性感、但也最击中行业要害的一次底层突围。 刚刚开源的 MemT-1.0 第一次在 Transformer 底层焊入了一颗真正的生物级海马体， 让 AI 从聊完即忘的失忆金鱼，真正进化成了能把经验沉淀进血液里的生命体。 靠暴力堆显卡、拿几个 G 的 KV Cache 硬撑长文本的旧石器时代，今天被这个开源原生记忆大模型正式砸穿了。 他们放出的 66 页技术报告和最高 288B 的开源权重直接甩出了一组降维打击的工程账单： 把记忆变成前向计算流的原生状态后，256K 超长历史下的显存开销从 5.06 个 G 暴降到恒定的 40 兆， 直接把 KV 缓存砍掉了整整一百二十倍以上，而且首字延迟更是不管历史拉得多长，始终稳稳压在一百毫秒出头。 最先击穿传统路径的，是它彻底重构了模型的前向计算流。 以前大家为了让 AI 记住上下文，只能硬着头皮堆长文本或者外挂向量库，代价就是显存撑爆且丢失多步推理因果，它在标准网络旁并联了一套原生记忆模块，在输入进入的瞬间，擦除门、写入门和遗忘门就像生物海马体一样自动运转，不再保留所有的死文字，而是把信息实时消化成动态的内部记忆矩阵。 更绝的是它在真实智能体场景下带来的降维打击，团队把历史纠错中沉淀的一千多条代码经验，直接写入内部的原生记忆状态，完全不占用任何系统提示词的 Token 额度， 结果在标准代码测试集上，连续三次均通过的硬核指标直接提升了百分之八，稳定性甚至反超了直接塞明文提示词的做法。 这意味着经验不再是一段需要模型每次重新阅读理解的生硬规则，而是直接内化成了它的本能直觉，真是牛逼! 我觉得这才是通往真正的递归自我改进最底层的物理逻辑啊, 参数只定义了模型的出厂下限，但唯有持久内化的原生记忆，才能为智能打开复利增长的空间。 以前我们买的模型是聊完即焚的一次性计算工具，从今天起模型正在变成越用越懂业务、越用越值钱的自进化资产。 大家在做智能体或者长对话应用时，最头疼的是长上下文带来的昂贵显存和卡顿延迟，还是模型转头就忘业务规范的失忆症？ 对我来说，光是把 256K 显存压缩一百二十倍且延迟恒定这一项，就已经能让无数原本算不过账的长程业务直接原地复活了hh~