Cohere 宣布 Model Vault 的机密计算功能进入公开测试。该功能基于 Microsoft Azure 上的 NVIDIA H100 GPU 机密计算能力,为托管模型推理提供硬件级隔离。据 Cohere 产品与研究博客介绍,加密范围从静态存储和传输中的数据扩展到推理运行中的提示词、文档、响应和模型执行;应用负载端到端加密后,只能在通过远程证明的机密环境中解密。客户可在发送敏感数据前用密码学方式核验硬件、固件和软件配置,不符合安全策略时客户端会拒绝发送请求。现有 Model Vault API 和请求格式保持不变。目前该功能处于公测阶段。
匹配字段摘要
Cohere于2026年10月22日在Model Vault上推出机密计算功能,目前处于公开测试阶段。该功能运行在Microsoft Azure的NVIDIA GPU上,结合机密CPU与GPU执行、OHTTP端到端加密请求内容和远程证明,让客户在释放敏感数据前先验证目标环境。Cohere还计划开源机密推理栈,并推进对NVIDIA Blackwell及B200 GPU的支持。
匹配字段摘要
Viggle AI 宣布 JST-2 模型已在其 API 上线,该模型可在同一个架构下生成 3D 角色、动作和场景。此前在 2026 年 10 月 20 日,Viggle 发布了 JST-2,将整套模型栈构建在 3D 空间,用携带 xyz 坐标、属性向量和动力学向量的 Physics-Native Token 表示世界,而非从视频像素中隐式推断物理规律;架构分为 JST encoder、JST generator 和 JST decoder 三部分,单次前向推理约 1 秒生成完整 3D 场景,成本低于 $0.01(B200),并支持最多 64 个输入视角作为空间上下文窗口。Viggle 公布的盲测人类偏好显示,角色生成对 Meshy 7.1 胜率 58.4%、对 Tripo H3.1 胜率 73.2%,视频生成运动对 DeepMotion 胜率 89.1%。Viggle AI 此前称 JST-2 是“全栈物理原生世界基础模型”,可在数秒内生成 3D 场景并实时扩展。目前 JST-2 已通过 API 对外提供。
匹配字段摘要
Perplexity 宣布,Perplexity Computer 现在可以在 Mac 上完全本地运行,模型和智能体都在本机执行,任务处理无需把敏感数据发送到云端。该功能已在 Perplexity Mac 应用中上线,可直接操作 Mac 原生应用和本地文件。Aravind Srinivas 补充称,无需联网、也不依赖云端推理即可使用。目前该功能已上线,尚无进一步的发展事实。
匹配字段摘要
Google已在Android Auto上推出Gemini个人智能功能。据Thurrott于2026年10月21日报道,该功能开始向Android Auto推送,用户开启后可连接Gmail、Google Calendar、Google Photos和Google Search中的个人数据,从而获得更个性化的回答。该功能在Gemini设置中完全由用户主动选择开启。Google高级产品经理Karan Daryanani表示,其两项核心能力是从邮件、照片或Google Maps收藏地点中提取具体细节,以及跨复杂来源进行推理。报道还称,未来几个月该功能将登陆直接运行Google车载系统的内置Google汽车。目前尚无后续发展事实。
匹配字段摘要
2026年10月21日,NVIDIA发布OpenShell参考架构,用于在企业基础设施和边缘系统上构建、隔离、观测并强制执行安全智能体,该架构现已可用。架构以Vera Rubin运行模型推理、Vera CPU承载智能体harness、BlueField-4 DPU运行Sentry做芯片级策略执行,Sentry可在毫秒级隔离越界智能体。同日,NVIDIA发布安全软件框架Sentry,在BlueField-4 DPU的硬件隔离信任域中监控AI智能体并执行访问策略,不依赖主机软件;该框架属于GTC Berlin公布的OpenShell参考架构,计划于明年初开放。随后,Red Hat与Nvidia扩大合作,计划将OpenShell参考架构作为原生能力集成到其AI平台,并通过Red Hat AI Factory with Nvidia为自主AI智能体提供运行时安全控制、模型访问治理和硬件支持。
匹配字段摘要
Perplexity为Mac版Perplexity应用的Computer新增完全本地运行模式。据9to5Mac报道,该模式让Computer完全在设备上运行,包括无网络连接时执行任务;规划、推理和文件处理均在本地完成,文件仅在用户批准后才上传云端,模型和智能体都运行在Mac上。本地模型选项包括Qwen 3.6和PPLX Pro,需Apple silicon Mac且至少36GB统一内存以获得最佳体验,Hybrid Compute模式仍保留。Testing Catalog后续报道称,该完全本地模式面向Pro、Max和Enterprise订阅用户,不再需要联网或付费额度即可运行,由PPLX Pro驱动,复杂任务还可切换到Hybrid模式调用云端模型,官方建议配备36GB统一内存。
匹配字段摘要
2026年10月21日,Eagle Corp发布开源灵活草稿模型EAGLE-4,用于加速大语言模型推理。据Testing Catalog报道,该模型的核心是同一个drafter会根据batch size、硬件和工作负载调整投机解码策略,并保持目标模型的输出分布;实测中Qwen3.8-27B搭配EAGLE-4 draft在4张NVIDIA B300上达到961.6 tokens/s。同日,Rohan Paul的报道称,EAGLE-4在27B模型单请求下实现863.8 tokens/s解码速度,为DFlash 2的1.28倍、DSpark的1.40倍,测试环境约快3倍且输出结果一致;该报道还提到其保留草稿-验证循环,改进集中在草稿侧,采用自适应草稿结构和更廉价的草稿LM head。
匹配字段摘要
fal 宣布与 Fireworks AI 合作,提前上线 EAGLE-4 推理加速方案,并附技术博客说明其原理及对创作工作流的意义。被引用的 Eagle 原帖称,EAGLE-4 是其最快的版本,在 Qwen3.8-27B 上使用 TokenSpeed 达到 961.6 tokens/s,测试条件为 BF16、4× NVIDIA B300、TP4、单请求、T=0,并给出 GitHub 地址。目前该消息来自 fal 于 2026 年 10 月 21 日发布的单一来源,尚无其他独立来源或后续进展。
匹配字段摘要
2026年10月20日,ElevenLabs发布Eleven Realtime系列语音到语音模型,包含面向低成本自然对话的v1 Mini和面向复杂任务的v1 Max。据ElevenLabs博客,两者均支持90多种语言并可调用其17,000多个音色;Artificial Analysis的独立评测显示,v1 Max在Big Bench Audio语音推理上答对98.8%,平均0.57秒开始说话,v1 Mini分别为75.9%和0.62秒。该API兼容OpenAI Realtime API,已有集成只需更换endpoint和模型名,也可在ElevenAgents中直接选择模型部署。10月22日,智东西报道称两款模型目前仅支持WebSocket连接,其实测中Architect搭建助手可用语音修改Agent设置,但中文口音明显、回复偏长且延迟较高。
匹配字段摘要
2026年10月18日,VAST宣布开源实时世界模型EdenLive,开放5B、14B两种规格的模型权重及推理代码,并公布技术报告和端到端演示。据VR陀螺报道,其5B模型可在单张英伟达RTX 5090显卡上以720p分辨率、超过24帧/秒生成画面,支持分钟级连续运行,端到端延迟为百毫秒级;该模型将世界状态与视觉渲染解耦,可用于游戏原型预览、场景预演和视频重新渲染,但下载全部权重约需210GB空间,FLUX首帧组件限非商业、非生产用途。10月20日,Tripo发布的信息称,EdenLive可将3D白模、游戏引擎画面、2D卡通和真实视频转换为写实或风格化视频。10月21日,Tripo宣布EdenLive已在Reactor平台正式上线并提供在线demo,可用参考图和文本实时重绘3D场景,支持即时修改提示词。
匹配字段摘要
阶跃星辰于10月13日晚在上海发布首款智能体手机STEPX Neo先行版,将Step系列模型、Step AOS 1.0系统、Step Studio工具与手机硬件打包,售价3999元。该机搭载智能体原生操作系统Step AOS 1.0与个人智能体阶跃Amoo,采用双入口设计,右滑可从Amoo界面切回传统App桌面;端侧处理轻量任务,云端旗舰模型负责复杂推理与多步规划。阶跃同时提出连接个人智能体与服务智能体的A to A网络,通过MCP、A2A等协议打通,Amoo已与支付宝、腾讯、携程、滴滴、剪映、高德、美团等近百家企业或产品达成合作。报道称当晚9点开启预售,10月16日10:13在京东、天猫、抖音首销。
匹配字段摘要
商汤开源了SenseNova-RoboRSI框架及一个27B具身模型,并同步发布针对GPT-6-Astra的具身智能实证研究。该研究覆盖12个仿真基准和8个真实机器人平台。在统一协议(ICL加最多10倍交互预算)下,GPT-6-Astra在12个基准上均达到SOTA,RoboDojo成功率从1倍预算的27.6%升至10倍的81.9%,DexJoCo达87.3%,此前SOTA为40.3%。研究同时指出,把笔放进笔筒这类简单任务推理成本约55美元,真实机器人会过热、等待时间过长,结论是GPT-6-Astra已基本跨过具身能力门槛,但实用级具身智能尚未到来。开源框架将各Benchmark封装为独立Docker镜像并通过统一HTTP API提供环境交互与评分;27B模型在RoboCasa365上成功率由26.0%提升至46.5%,任务Token开销减少73%,任务完成成本约为GPT-6-Astra的1/50。
匹配字段摘要
vLLM-Omni团队发布了vLLM-Omni技术报告。相关证据显示,蚂蚁inclusionAI在GitHub发布vLLM-Omni仓库,该框架在vLLM基础上扩展全模态模型推理与服务,支持文本、图像、音频、视频和动作数据处理,并支持DiT等非自回归架构。README显示其已迭代至0.30.0,对齐vLLM 0.30.0,新增MiniCPM-o 4.5与AURA的全双工会话服务、Mooncake AR-to-DiT跨阶段KV与多模态传输,以及在NVIDIA Blackwell和昇腾950上的MiniMax H3 Turbo实时推理。框架提供OpenAI兼容API服务、流式输出和分布式并行推理,并列出Qwen3-Omni、MiniMax H3、Wan2.2、π0.5等已支持模型。目前尚无后续发展事实。
匹配字段摘要
2026年10月19日,Google发布LiteRT Tensor API,允许开发者在C++中逐算子构建端侧模型计算图。据Google Developers Blog介绍,同一份代码可经LiteRT运行在CPU、GPU(ML Drift)和NPU上,也可不经模型文件直接通过XNNPACK在CPU运行。官方用该API手写SAM 2并部署到浏览器WebGPU,称在MacBook Pro上比Apple MLX快约1.5倍,输出掩码与Meta PyTorch参考逐像素一致。该API还支持从.safetensors直接加载权重,并让预处理、推理与后处理通过共享加速器缓冲区串联,避免数据回传CPU。目前尚无后续发展事实。
匹配字段摘要
Conway Research推出首款个人AI助手Underdog,该助手完全运行在用户设备上,可离线使用,目前已有Mac和Windows测试版。据智东西2026年10月19日报道,成立8个月的Conway Research同时获得a16z、Anthropic投资联合体等投资。其模型包括基于Qwen3.8 27B打造的Saluki 27B和Woof 4B,其中Saluki 27B已开源,权重体积为全精度版本的1/7、保留96%性能;配套推理引擎Husky在MacBook上让Woof 4B每秒最多处理730个token,比MLX快4.5倍。产品还上线基于Qwen-Image Flash、Qwen-Image-2.1-Turbo的本地图像生成与编辑,以及与Stripe合作的设备端智能体支付。目前尚无后续发展事实。
匹配字段摘要
2026年10月21日,Recursive Superintelligence 发布开放权重本地编码模型 Flint。据相关报道,Flint 是 40B 混合专家模型,每 token 激活约 2.5B 参数,采用 Apache 2.0 许可,权重已在 Hugging Face 开放,由自动化研究系统 Eureka Machine 在不到 4 个月内从零构建。10月22日,Hugging Face 联合创始人 Thomas Wolf 评价称,Recursive 研究者把通常建议保持高精度的 lm_head 量化到 4 位,结果与 bf16 仅差 0.7 个百分点。同日,OpenRouter 上线 Flint,称其面向编码智能体,支持 262K 上下文、推理和工具调用,上线期间免费使用;Unsloth 则发布 Flint 的 Dynamic GGUF 量化版本,称可在 24GB 内存设备上本地运行。目前该模型已通过开放权重、托管平台和量化版本形成多种使用途径。
2026年10月21日,Recursive Superintelligence 发布开放权重本地编码模型 Flint。据相关报道,Flint 是 40B 混合专家模型,每 token 激活约 2.5B 参数,采用 Apache 2.0 许可,权重已在 Hugging Face 开放,由自动化研究系统 Eureka Machine 在不到 4 个月内从零构建。10月22日,Hugging Face 联合创始人 Thomas Wolf 评价称,Recursive 研究者把通常建议保持高精度的 lm head 量化到 4 位,结果与 bf16 仅差 0.7 个百分点。同日,OpenRouter 上线 Flint,称其面向编码智能体,支持 262K 上下文、推理和工具调用,上线期间免费使用;Unsloth 则发布 Flint 的 Dynamic GGUF 量化版本,称可在 24GB 内存设备上本地运行。目前该模型已通过开放权重、托管平台和量化版本形成多种使用途径。
匹配字段摘要
Google与Meta的PyTorch团队合作推出开源项目TorchTPU,为Google TPU提供原生PyTorch后端,迁移只需把model.to("cuda")改为model.to("tpu")。项目支持eager与torch.compile两种模式,新增DeferAndFuse eager模式,覆盖约450个Aten算子,并已在4,917个Hugging Face模型上验证开箱运行,其中Tier 1通过率98%、Tier 2相对GPU数值一致性97%。官方称其已用于部分Google Cloud大客户的推理与训练生产负载,并集成vLLM、SGLang、TorchTitan、Ray和TorchRec。后续报道称,在PyTorch Conference North America 2026上,Google开源了TorchTPU,运行时不再依赖JAX,现有负载只需少量代码改动即可迁移;PyTorch方面指出,TorchTPU默认的Skinny Collectives方案在分布式负载下相比优化方案约有30–40%的端到端性能损失,追求峰值性能仍需Pallas kernel及vLLM-T
匹配字段摘要
NVIDIA 发布手术生成模拟模型 Cosmos3-H-Dreams。该模型基于 160 亿参数的 Cosmos3-H-Embodied-Nano 专门化而来,用于胆囊切除术的动作条件视频生成。官方信息显示,模型使用 28 个动作维度、832 x 480 视频和 10 Hz 动作对齐训练,并通过蒸馏得到四步与两步两个学生检查点;其中两步版本单独训练,推理更快但画质更低。NVIDIA 同时提供 FlashDreams 流式运行时,以及适配自有数据与控制器的方法,并说明该模型是研究用模拟器,并非经过验证的临床系统。目前尚无后续发展事实。
匹配字段摘要
阿里通义 MAI-UI 团队开源了通用计算机使用智能体完整技术栈「OpenGCUA」,包含 harness、跨设备 SDK、原生 macOS 应用、评测轨迹和参考 agent 实现。其核心设计是把代码执行与决策从 harness 转移到模型:模型按需截图,编写带循环和条件判断的 Python 程序来编排 GUI 操作、API 调用和 shell 命令,并自行维护 todo 列表。在 OSWorld-v2 上对 8 个前沿模型的评测中,平均 partial score 从 45.3 升至 64.9,每任务步数平均减少 53%。真机 macOS 测试中,同一 harness 下 Qwen3.8-Max 的推理 token 消耗是 GPT-6 Astra 的 19.4 倍,4 个任务完成 3 个。目前该技术栈已开源,尚无后续进展。
匹配字段摘要