2026年10月20日,蚂蚁百灵公开致谢SGLang项目,感谢其为Ming-3.0提供首日SGLang-Omni支持,并发布实用cookbook帮助开发者上手。据SGLang原帖介绍,SGLang-Omni首日支持Ming-3.0的三个版本:Ming-3.0-asr-tiny支持中英文及方言ASR,Ming-3.0-tts-tiny支持7种语言的语音克隆,Ming-3.0-audio-flash是126B-A6.5B MoE模型,用于音频理解与推理。目前该致谢由蚂蚁百灵发布,尚无后续发展事实。
匹配字段摘要
Tenstorrent 完成 15 亿美元融资,估值达 62 亿美元。据 TechCrunch AI 2026 年 10 月 20 日报道,本轮由 Trace Capital 和 Innovation X 领投,Cadence Ventures、Eclipse、Fidelity、SanDisk、T. Rowe Price 参投;该估值较 2024 年底的 26 亿美元翻倍以上。报道称,CEO Jim Keller 表示,公司在展示 Galaxy 服务器可运行 DeepSeek 模型后决定保持独立并继续融资,新资金将用于扩展面向开源权重模型推理和视频生成的芯片。目前尚无后续发展事实。
匹配字段摘要
inclusionAI 已在 GitHub 开源 Ming-3.0-asr-tiny 语音识别模型仓库。该模型将 Ling-tiny-v3 语言模型与音频编码器结合,支持中英文转写、方言识别和 Context ASR。方言评测覆盖湖南、闽南、粤语、川渝等 15 个测试集;Context ASR 可通过提示词中的热词或前序对话识别专有名词。推理栈使用 Transformers 5.12.1、fla-core 0.5.2 和 PyTorch 2.11.0,并提供 SGLang 加速部署示例。目前尚无后续发展事实。
匹配字段摘要
Amazon SageMaker JumpStart 提供精选 AI 模型、解决方案模板和示例笔记本目录。据 AWS Machine Learning 2026 年 10 月 20 日发布的回顾,2026 年 1 月至 9 月,该目录新增来自 30 家提供商的 100 多个模型,其中 Alibaba(Qwen)贡献 29 个、NVIDIA 17 个、Mistral 7 个、Google 6 个 Gemma 4 变体、IBM 4 个、Cohere 4 个。新增模型覆盖多模态、语音、图像与视频生成,并引入 GLM-5.2 FP8、JetBrains Mellum2-12B 等量化与紧凑模型以降低推理成本。目前该目录保持上述新增内容。
匹配字段摘要
2026年10月20日,记忆张量开源发布MemT 1.0系列记忆原生模型。该系列包含两个型号:Nano为36B参数、激活3B,基座为Qwen3.6-35B-A3B;Flash为288B参数、激活17B,基座为DeepSeek-V4-Flash。模型在选定的Transformer模块中加入与注意力并行的记忆分支,把经验编码为可更新的矩阵状态并参与后续生成。在500项SWE-bench Verified任务中,Nano关键断点平均成功率为69.73%,无经验基线为66.07%;在128K长历史下,端到端推理速度约为完整上下文方案的1.86倍,每条轨迹持久状态占用为完整上下文KV Cache的六十六分之一。目前尚无后续发展事实。
匹配字段摘要
HardenedLinux 社区主导开发的 AI 运行时框架 SonicBoom 已发布。该框架采用 GPLv3 许可证,提供语言无关的 C API,目前官方支持 GNU Guile;内置 LLVM MLIR 对计算图做编译优化,并直接复用 llama.cpp 已有 kernel。据 Solidot 报道,在 kernel 优化不变的情况下,SonicBoom 于 rtx3050 8G 上把原始性能提升 20%。版本方面,v0.0.3 目前仅支持 CPU 和 CUDA,社区版只提供单点推理,分布式推理计划放在企业版。
匹配字段摘要
2026年10月20日,伦敦AI公司Metis Reasoning正式成立并启动,主打算力高效推理路线,寻求区别于Anthropic和OpenAI前沿模型的方向。据Tech.eu报道,该公司由前Google DeepMind研究负责人、AlphaGo共同创造者Thore Graepel联合创办,团队共12人,涵盖研究者、数学家、机器人专家和技术创业者。公司认为LLM在推理上存在根本局限、结果难以验证且缺乏审计轨迹,称其方法更可验证、更稳健也更安全,并称已在前沿推理问题上以远低于前沿模型的成本取得一些积极结果。报道称其初期融资据信为数千万美元,但Metis尚未公布首个AI模型的发布时间。
匹配字段摘要
Fireworks AI 推出 Free Weights Club,并免费开放 Muse Glimmer 30B 的 SFT 训练。据其发布的信息,该 SFT 训练在 11 月 30 日前免费,无需信用卡,推理与评估调用另行计费。同一来源还称,用 Kalshi 市场数据训练出的 tuned Glimmer 在未见主题上预测准确率为 58.3%,比 Jev 的 47.1% 高 11.2 个百分点;历史回测中,假设的 1000 美元在计入模拟手续费后变为 1071 美元,base Glimmer 和 Jev 均为亏损。System One 服务栈在另一项合成基准中,中位服务端处理速度比标准 BF16 chat completions 快 2-3 倍。目前没有后续发展事实。
匹配字段摘要
2026年10月19日,Amnon Shashua 的新公司 doubleAI 发布首个产品 Maxwell,称其属于名为 Code Execution Models(CEM)的新类别,在代码与芯片之间优化软件执行效率,且不修改源代码。据 CTech 报道,doubleAI 称 Maxwell 会持续分析运行中的程序、硬件与数据并优化底层机器指令,同时用形式化数学验证每次优化不改变程序原有行为,支持 CPU 和 GPU。公司称 Maxwell 在真实负载上让数据管道提速超过 38 倍、AI 推理 kernel 提速超过 4.5 倍,这些数字未经独立验证。Maxwell 现已通过官网开放早期访问,doubleAI 计划按节省的算力成本向客户收费。目前尚无后续发展事实。
匹配字段摘要
2026年10月20日,面壁智能 OpenBMB 公开感谢用户 @techNmak 分享基于 MiniCPM-V 4.7 制作的 neo-brutalist 作品集 UI,并表示期待后续创作。被引帖介绍,该模型为 35B-A3B 版本,在 iPad Pro M4 上可达 17+ tokens/s;另有 1B 版本,两者均支持 256K 上下文窗口,权重与推理、微调代码开源。目前该事件仅有这一条公开信息,暂无后续发展。
匹配字段摘要
2026年10月19日,北京存算协同芯片企业铭芯启睿宣布完成超4亿元A轮融资,由博原资本领投,米哈游、兆易创新等跟投,小米战投等老股东加注。同日报道显示,前Graphcore总裁兼大中华区总经理卢涛加入公司,担任CEO兼联合创始人。资金将用于RRAM产业化与商业化及第一代推理芯片LPU研发;第一代LPU不采用RRAM,将使用更成熟的存储介质。铭芯启睿成立于2024年5月,由中科院刘明院士团队孵化,累计融资近6亿元。目前公司已启动第一代LPU研发。
匹配字段摘要
2026年10月20日,豆包公关负责人刘星发文回应“国内超一半算力在造爽剧”的说法,称该算力数据不靠谱,并表示字节总算力中仅约10%用于视频生成模型的训练和推理。新京报报道提到,这一说法源自一家布局AI短剧赛道的上市公司在投资者关系活动记录表中的披露,并与网传“美国tokens消耗58%在代码生成和企业自动化”的信息叠加,引发讨论。此前,财新网10月19日报道核查称,被多家媒体和研究机构转发的“短剧Token消耗占比55%”数据,原始出处为中文在线6月3日路演及电话会议记录,该记录称AI短剧与视频生成在国内Token消耗中占55%,电商与营销占24%,软件开发仅占15%;财新同时指出,目前市场上缺乏公信力较高的第三方数据来测算国内Token消耗的场景分布。
匹配字段摘要
自变量发布具身智能仿真评测基准X2Real,用于评估具身模型在真实物理世界中的性能。据雷科技报道,其仿真评测与真机评测的任务成功率相关性达0.96、进度分相关性达0.99。该基准包含10个类别共44个仿真任务,覆盖推理与操作能力,并提供近300小时训练数据集,训练与评测配置严格隔离;基准由智能体驱动任务设计与评分,可持续生成新考题,并通过统一评测协议(Policy Space)降低开发者接入门槛。VR陀螺报道称,该基准通过校准视觉、物理属性与控制参数让虚拟机器人接近真实硬件,相关技术报告已在arXiv公开,其Mana仿真平台可组合场景、机器人及任务步骤,并依据子任务完成记录定位失败环节。目前尚无后续发展。
匹配字段摘要
vLLM-Omni团队发布了vLLM-Omni技术报告。相关证据显示,蚂蚁inclusionAI在GitHub发布vLLM-Omni仓库,该框架在vLLM基础上扩展全模态模型推理与服务,支持文本、图像、音频、视频和动作数据处理,并支持DiT等非自回归架构。README显示其已迭代至0.30.0,对齐vLLM 0.30.0,新增MiniCPM-o 4.5与AURA的全双工会话服务、Mooncake AR-to-DiT跨阶段KV与多模态传输,以及在NVIDIA Blackwell和昇腾950上的MiniMax H3 Turbo实时推理。框架提供OpenAI兼容API服务、流式输出和分布式并行推理,并列出Qwen3-Omni、MiniMax H3、Wan2.2、π0.5等已支持模型。目前尚无后续发展事实。
匹配字段摘要
2026年10月19日,Google发布LiteRT Tensor API,允许开发者在C++中逐算子构建端侧模型计算图。据Google Developers Blog介绍,同一份代码可经LiteRT运行在CPU、GPU(ML Drift)和NPU上,也可不经模型文件直接通过XNNPACK在CPU运行。官方用该API手写SAM 2并部署到浏览器WebGPU,称在MacBook Pro上比Apple MLX快约1.5倍,输出掩码与Meta PyTorch参考逐像素一致。该API还支持从.safetensors直接加载权重,并让预处理、推理与后处理通过共享加速器缓冲区串联,避免数据回传CPU。目前尚无后续发展事实。
匹配字段摘要
AWS 于 2026 年 10 月 20 日推出基于推送的 NIXL 连接器,用于分离式推理中的 KV 传输。该连接器把 prefill 之后的传输协调与建立过程移出关键路径:在 pull 模式下,由 decode 实例发起 NIXL READ 的串行步骤,现改为由 prefill 侧后台线程发起 NIXL WRITE。AWS 表示,在 1P1D 的 Amazon EC2 P5en + EFA 部署上,Qwen3-32B 的 TTFT 最高提升 3 倍、TPOT 最高提升 30%。该功能先在 AWS Trainium 集群上构建验证,随后作为与加速器无关的特性贡献给 vLLM。目前尚无后续发展事实。
匹配字段摘要
Conway Research推出首款个人AI助手Underdog,该助手完全运行在用户设备上,可离线使用,目前已有Mac和Windows测试版。据智东西2026年10月19日报道,成立8个月的Conway Research同时获得a16z、Anthropic投资联合体等投资。其模型包括基于Qwen3.8 27B打造的Saluki 27B和Woof 4B,其中Saluki 27B已开源,权重体积为全精度版本的1/7、保留96%性能;配套推理引擎Husky在MacBook上让Woof 4B每秒最多处理730个token,比MLX快4.5倍。产品还上线基于Qwen-Image Flash、Qwen-Image-2.1-Turbo的本地图像生成与编辑,以及与Stripe合作的设备端智能体支付。目前尚无后续发展事实。
匹配字段摘要
Fortanix于2026年10月19日将其Confidential AI平台扩展至支持CNCF的Confidential Containers项目,使企业能够在Kubernetes上于硬件可信执行环境中运行AI推理工作负载。该方案通过Fortanix Confidential Computing Manager同时验证CPU与GPU,并由Data Security Manager按客户安全策略释放密钥;在支持的硬件和Kubernetes平台上部署只需一次点击。Fortanix委托Atomik Research对300名美国大型企业AI负责人调查显示,93%认为传统加密无法保护AI处理中的数据,41%曾因安全顾虑完全阻止部署。目前尚无后续发展事实。
匹配字段摘要
Utho Cloud已开放NVIDIA B300 GPU容量预订,计划于2027年2月在印度本地部署。据Analytics India Magazine报道,该服务提供卢比计费和印度本地托管,客户可按1年、2年或3年预留算力,分配按预订顺序进行。B300基于Blackwell Ultra架构,配备288GB HBM3e内存,面向大语言模型训练、推理和AI智能体工作负载。目前尚无后续部署进展的公开事实。
匹配字段摘要
Simon Willison 发布了 LLM 调试插件 llm-echo 0.5。该插件提供一个不涉及 LLM 的 echo 模型,只回显输入的提示词。新版本更新了模拟 token 用量统计,将工具调用、系统提示词和推理 token 纳入计算。示例命令 `llm -m echo 'hi there' -o thinking 1 --usage` 显示 2 个输入 token、24 个输出 token。目前该消息来自单一来源报道,尚无更多后续发展。
Simon Willison 发布了 LLM 调试插件 llm-echo 0.5。该插件提供一个不涉及 LLM 的 echo 模型,只回显输入的提示词。新版本更新了模拟 token 用量统计,将工具调用、系统提示词和推理 token 纳入计算。示例命令 llm -m echo 'hi there' -o thinking 1 --usage 显示 2 个输入 token、24 个输出 token。目前该消息来自单一来源报道,尚无更多后续发展。
匹配字段摘要