2026年9月25日,阿里平头哥发布真武V900人工智能芯片。同日,平头哥在云栖大会公布围绕真武AI芯片打造的类CUDA软件栈T-Head SAIL的最新开源进展,已开源PyTorch-for-sail框架适配、sailify源码迁移工具、Triton-for-sail算子开发工具,以及DeepGEMM-for-sail、FlashAttention-for-sail等计算加速项目。SAIL负责连接PyTorch等上层框架与底层硬件,承担模型迁移、编译执行、计算加速和开发调试。据现场披露,真武AI芯片已服务20多个行业的650多家客户;截至2026年9月,在ModelScope上提供39个量化模型,覆盖Qwen、DeepSeek、Kimi等系列,累计下载超过34.8万次。目前尚无进一步有证据的发展。
匹配字段摘要
2026年9月9日,OpenRouter推出美国区域路由(US In-Region Routing),在去年10月上线的EU路由之外新增美国数据驻留选项。据官方说明,请求发往us.openrouter.ai后在美国境内解密,并只路由到美国境内的供应商端点;eu.openrouter.ai对欧盟同理。API key、请求体和模型 ID 不变,供应商偏好、回退和隐私设置沿用账户配置;若区域内没有可服务该模型的供应商,请求会返回404而不会路由到区域外。该功能面向 Business 和 Enterprise 套餐,可用模型包括 GPT-5.6、Claude Opus 5、Gemini 3.6 Flash、Grok 4.6、DeepSeek V4 Pro、Kimi K3、GLM 5.2 等;GLM 5.2 也可在 EU 路由下由 Mistral 的欧盟数据中心提供。另有说明称可用 Guardrails 按工作区、团队或 API key 强制指定数据区域。目前尚无后续发展事实。
匹配字段摘要
2026年8月26日,OpenAI公布其首款自研推理芯片Jalapeño的基准测试结果。SemiAnalysis在OpenAI实验室用InferenceX实测,称该芯片在多个开源模型上的每兆瓦token吞吐超过NVIDIA Blackwell,在DeepSeek R1上并发1时达到每用户700 tokens/s以上,全程未使用投机解码。该芯片由OpenAI与Broadcom合作,2024年中启动设计,2025年11月完成CoWoS流片,采用HBM4、单封装15.4TB/s带宽,架构上不做prefill与decode分离。SemiAnalysis认为更公平的对手是同样使用HBM4的Rubin,两者每美元输出token数接近,但Jalapeño尚未启用投机解码,量产计划从2027年起逐步爬坡。后续IEEE Spectrum报道称,OpenAI于8月25日完整发布该芯片,提供最高13.4 petaflops的4-bit算力和232 GB内存,端到端延迟相比Nvidia GB300最多降低3.6倍。
匹配字段摘要
2026年6月12日,OpenRouter发布Fusion多模型融合工具,一次API调用即可把多个模型的结果交给裁判模型融合,调用方式与单个模型相同。据OpenRouter公告,在DRACO的100项深度研究任务上,Fable 5与GPT-5.5融合得分69.0%,高于Fable 5单独运行的65.3%;由Gemini 3 Flash、Kimi K2.6和DeepSeek V4 Pro组成的低成本组合超过GPT-5.5和Opus 4.8,成本仅为Fable 5的一半。Fusion可通过chatroom、模型slug、server tool和plugin四种方式使用,调用耗时通常是普通请求的2-3倍。目前尚无后续发展事实。
匹配字段摘要
2026年5月12日,Prime Intellect 开源了 renderers,一个独立的 Python 库,目标是让开发者完全控制强化学习与多轮推理中的对话格式化。该库把聊天模板变成可编程对象,支持将渲染消息暴露为 token id、把补全解析为结构化助手消息、为损失掩码归属 token,以及在不重新渲染模型采样历史的情况下扩展多轮 rollout。据其介绍,renderers 已用于 Prime Intellect 的 Lab 产品、verifiers 和 prime-rl,内置 Qwen3、Qwen3.5、GLM-4.5、GLM-5、MiniMax-M2、DeepSeek-V3、Kimi K2 / K2.5、Nemotron-3 和 GPT-OSS 的渲染器,并已在 PyPI 发布,代码托管于 github.com/PrimeIntellect-ai/renderers。
匹配字段摘要
2026年7月24日,Andrew Ng 宣布开源智能体 OpenWorker。据其发布信息,OpenWorker 与 Rohit Prasad 共同发布,不只对话,还能交付成品,例如生成文档、发送 Slack 消息或更新日历条目,可处理客户简报、整理日历、起草报告和分诊 Slack 告警,并在执行重要操作前先确认。该智能体运行在 Mac 上,Windows 支持即将推出;不绑定单一模型,用户自带 API key 即可搭配 GPT 5.6 Sol、Claude Fable、Gemini 3.6、Kimi、GLM、DeepSeek、Inkling 等开源权重模型或 Ollama 本地运行,数据除经用户选择的 LLM 服务商和集成外不离开本机。目前尚无后续发展事实。
匹配字段摘要
2026 年 3 月 25 日,LMSYS 将 Elastic EP 集成进 SGLang 框架,为 DeepSeek MoE 部署提供部分故障容错。据 LMSYS Blog 介绍,该集成通过解耦专家与 GPU 的固定映射并保留冗余专家,实现单实例内的部分故障容错。在 4 节点 32 GPU 上运行 DeepSeek V3.2、设置 ep_size=dp_size=32 与 256 个冗余专家时,可容忍最多 16 个 rank 故障,服务中断控制在 10 秒以内,相比完整重启所需的 2 至 3 分钟减少约 90%,静态性能与标准 DeepEP 持平。启用需配置 --elastic-ep-backend mooncake、--moe-a2a-backend mooncake、--ep-num-redundant-experts 等参数,NVIDIA Dynamo 团队的 NIXL EP 也可通过 --moe-a2a-backend nixl 试用。目前尚无后续发展事实。
2026 年 3 月 25 日,LMSYS 将 Elastic EP 集成进 SGLang 框架,为 DeepSeek MoE 部署提供部分故障容错。据 LMSYS Blog 介绍,该集成通过解耦专家与 GPU 的固定映射并保留冗余专家,实现单实例内的部分故障容错。在 4 节点 32 GPU 上运行 DeepSeek V3.2、设置 ep size=dp size=32 与 256 个冗余专家时,可容忍最多 16 个 rank 故障,服务中断控制在 10 秒以内,相比完整重启所需的 2 至 3 分钟减少约 90%,静态性能与标准 DeepEP 持平。启用需配置 --elastic-ep-backend mooncake、--moe-a2a-backend mooncake、--ep-num-redundant-experts 等参数,NVIDIA Dynamo 团队的 NIXL EP 也可通过 --moe-a2a-backend nixl 试用。目前尚无后续发展事实。
匹配字段摘要
2025年9月19日,Ollama 推出云端模型预览,让用户在本地工具中运行个人电脑放不下的大模型。据 Ollama Blog 介绍,云端不保留用户数据,首批可用模型包括 qwen3-coder:480b-cloud、gpt-oss:120b-cloud、gpt-oss:20b-cloud 和 deepseek-v3.1:671b-cloud。使用需下载 Ollama v0.12 并登录 ollama.com。云端模型用法与普通模型一致,支持 ls、run、pull、cp,并可通过 Ollama 的 OpenAI 兼容 API 以及 JavaScript、Python、cURL 调用。目前尚无后续发展事实。
匹配字段摘要
2025年5月30日,Ollama 上线思考开关,用户可自行启用或关闭模型的思考过程。启用后输出会把模型的思考内容与最终回答分开,关闭则直接输出内容。在 CLI 中该功能默认启用,可用 /set nothink 关闭;脚本场景提供 --hidethinking 参数。generate 与 chat API 新增 think 参数,Python 和 JavaScript 库同步更新。目前支持 DeepSeek R1 和 Qwen 3。该消息来自 Ollama Blog,为第一方发布。
匹配字段摘要
天数智芯首次实机演示通用GPU天垓300和端侧算力终端TY1200，并预告标称算力600T的下一代端侧产品TY2000。天垓300有144GB显存，在64K长上下文下Attention性能为H200的1.05倍，GLM-5.3模型下MoE吞吐为H200的1.15倍；TY1200为300 TOPS INT8稠密算力，实测TPS超越英伟达Thor T5000。天垓300 IXL144超节点在单机柜集成144颗GPU、聚合约10.1TB显存，每百万有效Token成本较国际主流方案降低约40%。
ent首字延迟较H200降低约10%—30%；多模态生成推理吞吐，天垓300相较H200提升约2%—5%；在搜广推等在线业务中，推荐推理吞吐提升21%、轻量计算时延降低26%。 训练方面，在基于Qwen3-32B模型的8卡整机FP8精度训练演示中，天垓300每卡有效吞吐达到H100的1.33倍。 强化学习已成为OpenAI、Google、Meta、xAI以及DeepSeek、Qwen、MiniMax、Kimi等国内外主力模型公开采用的核心后训练路线。据条件性工程估算，天垓300以1024张卡对已有预训练基座开展一次强化学习，在40B激活参数的中心情景下，约26天可完成约1T总参数MoE模型的500亿生成Token强化学习任务。 单天逸现场实测了天垓300与H200在文生图、文生视频方面的性能。 其生成了“一个亚麻发色、穿白色连衣裙的女生在冰面行走，赛博朋克风格”的图片，天垓300 4秒就生成了第一张图片。 此外，其现场生成了“豆包穿着骑士装迎娶奶龙”的视频。天垓300的吞吐量为0.628，相比H200更高，且任务的完成速度、服务端的推理速度更快。 在规模化交付层面，单天逸透露，天垓30
匹配字段正文
腾讯云在 2026 腾讯全球数字生态大会上公布 WorkBuddy 企业级服务四项核心能力升级，包括开放平台能力、企业级安全解决方案、可观测中心和 WorkBuddy 托管智能体（WMA），底层 Agent Runtime 同步升级。升级后 WorkBuddy 可通过 MCP、连接器接入企业微信、腾讯文档及 ERP、CRM 等系统，除混元外也支持第三方开源模型和企业自部署模型。王慧星透露 WorkBuddy 自今年 3 月上线以来累计完成 90 亿次用户任务请求，Token 消耗较上线初增长 50 倍；刘毅称 2027 年将重点加强 Agent 主动性。
帮助企业搭建专业数字助理和相应的运营平台。 企业微信与WorkBuddy之间，则更侧重能力互补。 企业微信提供组织沟通、员工与客户交互等业务上下文，WorkBuddy利用这些信息执行任务、交付结果。 王慧星认为，未来面向个人生活与企业生产力的Agent可能形成不同的产品体系，未必会最终收敛到单一入口。 Q16：WorkBuddy会不会过度依赖混元？腾讯还会与DeepSeek等第三方模型厂商进行联合优化吗？ 王慧星称，CodeBuddy团队与DeepSeek相关团队此前就已保持产品、工程和模型层面的沟通。 在他看来，不同模型厂商会针对具体场景优化端到端效果和成本，云平台与Agent产品也可以从这些优化中受益。 腾讯会继续保持开放接入，与不同开源模型团队开展交流和技术协同，而不是让WorkBuddy只能使用单一模型。 刘毅也提到，混元、DeepSeek、Kimi等模型的优化目标并非只针对某一个Agent平台，而是面向用户实际使用的任务场景。 当模型在日常办公、内容生成、代码开发等高频任务上的能力提升后，WorkBuddy可以直接将这些能力引入产品。 Q17：Agent完成复杂任务会消耗大量
匹配字段正文
Infini-AI-Lab 发布开源框架 Hermit，通过训练外部 harness 适配器来适配 AI 智能体，模型与 harness 保持冻结，v0.1.0 于 2026 年 10 月 25 日发布。框架为 Python 实现、Apache-2.0 许可，可用 pip install hermit-harness 安装，内置 GEPA、SkillOpt、MetaWorld Model、Harness² 和 Continual Harness 五种演化方法。在 GLM 5.3 Flash 上，MWM 适配器在 CL-Bench 数据库探索任务达到 0.795 准确率，高于 in-context 基线的 0.580，但多数结果为单次运行的自报数据。
%（GPT-4.1 Mini）AppWorld 上 +10.6%未披露 如何安装和部署？ 通过 PyPI 安装：pip install hermit-harness，或克隆仓库查看示例。CLI 涵盖 check、train、eval、deploy 和 convert。模型以 / 形式引用。支持的后端包括 Fireworks、OpenAI、Anthropic、DeepSeek、vLLM、SGLang 和 Ollama。 hermit deploy 会为 Codex、Claude Code 或 Pi 写入工作区。hermit convert 将训练好的适配器导出为 Codex、Claude Code、Pi 或 Hermes 的原生插件。一个完成的 Lean 协作适配器协调 5 个 Codex 智能体共同证明一个定理。 关键要点 Hermit 训练一个外部适配器；模型和 harness 保持冻结。 共发布 5 种方法：GEPA、SkillOpt、MWM、Harness²、Continual Harness。 MWM 在 CL-Bench 数据库上达到 0.795，而上下文内为 0.580。
匹配字段正文
微软宣布推出 AI 诊断系统 Microsoft AI Diagnostic Orchestrator（MAI-DxO），通过编排多个 AI 智能体模拟医生专家联合会诊。在基于 MIMIC-IV-ED 数据集的美国急诊科常见病例评估中，其诊断准确率为人类医生的 1.7 倍；在基于《新英格兰医学杂志》复杂病例的模拟评估中准确率达 83%，而可独立查阅资料的基层全科医生及普通内科医生为 36%，专科医生未纳入对照。官方称该系统所需成本仅为医生的一半甚至三分之一，研究成果已发表在《科学》期刊。
及普通内科医生的准确率仅为 36%。 值得注意的是，此类复杂病例在现实临床中通常交由专科专家或多学科医疗团队协作诊治，而这部分专科医生并未纳入本次对照实验。 官方表示，该系统所需的成本仅为医生的一半甚至三分之一，能以更少的化验与诊疗操作精准锁定正确诊断。该项研究成果已正式发表在《科学》期刊。 微软针对 OpenAI、谷歌、Anthropic、Meta 以及 DeepSeek 等多家机构的模型对 MAI-DxO 进行了测试，其中表现最亮眼的当属 OpenAI 旗下的 GPT-5 及 GPT-5.5。 “特别声明：以上作品内容(包括在内的视频、图片或音频)为凤凰网旗下自媒体平台“大风号”用户上传并发布，本平台仅提供信息存储空间服务。 Notice: The content above (including the videos, pictures and audios if any) is uploaded and posted by the user of Dafeng Hao, which is a social media platform and merely provides i
匹配字段正文
微软宣布推出 AI 诊断系统 MAI-DxO（Microsoft AI Diagnostic Orchestrator），通过统一编排多个 AI 智能体模拟医生专家联合会诊。在基于 NEJM 复杂病例的模拟评估中，其诊断准确率达 83%，而可独立查阅参考资料的基层全科医生及普通内科医生为 36%；在基于 MIMIC-IV-ED 数据集评估美国急诊科常见就诊病例时，其准确率为人类医生的 1.7 倍。官方称该系统所需成本仅为医生的一半甚至三分之一，研究成果已发表在《科学》期刊。
strator，简称 DxO，通过统一编排多个 AI 智能体来模拟医生专家联合会诊的过程 —— 各智能体协同向患者问诊、开具化验检查，并对潜在诊断展开深入研判与辩论。 而在基于《新英格兰医学杂志》（NEJM）复杂病例展开的模拟评估中，MAI-DxO 的诊断准确率高达 83%。相比之下，可独立查阅参考资料的基层全科医生及普通内科医生的准确率仅为 36%。 值得注意的是，此类复杂病例在现实临床中通常交由专科专家或多学科医疗团队协作诊治，而这部分专科医生并未纳入本次对照实验。 官方表示，该系统所需的成本仅为医生的一半甚至三分之一，能以更少的化验与诊疗操作精准锁定正确诊断。该项研究成果已正式发表在《科学》期刊。 微软针对 OpenAI、谷歌、Anthropic、Meta 以及 DeepSeek 等多家机构的模型对 MAI-DxO 进行了测试，其中表现最亮眼的当属 OpenAI 旗下的 GPT-5 及 GPT-5.5。 IT之家附论文链接： 广告声明：文内含有的对外跳转链接（包括不限于超链接、二维码、口令等形式），用于传递更多信息，节省甄选时间，结果仅供参考，IT之家包含外链的文章均包含本声明。
匹配字段正文
Google 宣布将把 Gemini 助手引入搭载 Google Built-in 系统的汽车，替代现有 Google Assistant，并通过软件更新覆盖已上路的现有车辆。Gemini 支持日常语言连续对话，可查询车辆设置与电动汽车电池电量、总结短信并生成回复、提供导航进度和路况等行程信息。符合条件的已登录 Google 账号用户会在车载系统中看到升级选项，首批以英语版本面向美国市场推出，未来数月逐步扩大范围，后续还将接入 Gmail、Google Calendar 和 Google Home。
被封号：天才AI的访问头脑战 阅读 (849) 评论 (1) 2 80、90后经历过的那个盗版年代 好像又要回来了 阅读 (823) 评论 (0) 3 尊界刹车踏板检测合格 懂车帝：无语，没事别升级啊 阅读 (814) 评论 (1) 4中国刻蚀机之父：AI或是个泡沫国内半导体厂得倒闭90% 5几十元笔记本清灰变上千元维修：大学生网购“官方售后”遭遇连环套 6DeepSeek V4.1 Flash成本低到发指：1美元13亿Token 8苹果79美元 iPhone Duo保护壳采用粘胶固定设计引发关注 9索尼更新高端Walkman产品线：三款新旗舰亮相 顶级型号售价高达5899美元 10国内玩家疑因想买《GTA6》 最后和老婆离婚了 1 Windows 11 26H2 ISO镜像已发布 微软同时更新安装介质并延续小型启用包机制 阅读 (1994) 评论 (1) 2 中国女主播坐上“付费旋转椅” 观众花50元可转一圈 奇特直播模式引发全球热议 阅读 (1328) 评论 (2) 3 Google研究员称Windows NT内核设计至今仍让Linux相形见绌 阅读 (1317) 评论 (3) 4
匹配字段正文
Perplexity 宣布 Mac 版应用支持 Computer 代理完全在本机运行，任务规划、推理、文件处理和工具执行都在设备端完成，代码与工具执行在隔离沙盒中进行。本地模式使用 Qwen 3.6 或基于 Qwen 训练的 PPLX Pro 模型，面向支持的 Apple 芯片 Mac，建议至少 36GB 内存，目前提供给 Pro、Max 和 Enterprise 订阅用户。另提供混合计算模式，由云端模型负责联网研究、本地模型处理私人文件，官方称可在至少 24GB 统一内存、运行 macOS 15 或更新版本的 Apple 芯片 Mac 上使用。
被封号：天才AI的访问头脑战 阅读 (849) 评论 (1) 2 80、90后经历过的那个盗版年代 好像又要回来了 阅读 (823) 评论 (0) 3 尊界刹车踏板检测合格 懂车帝：无语，没事别升级啊 阅读 (814) 评论 (1) 4中国刻蚀机之父：AI或是个泡沫国内半导体厂得倒闭90% 5几十元笔记本清灰变上千元维修：大学生网购“官方售后”遭遇连环套 6DeepSeek V4.1 Flash成本低到发指：1美元13亿Token 8苹果79美元 iPhone Duo保护壳采用粘胶固定设计引发关注 9索尼更新高端Walkman产品线：三款新旗舰亮相 顶级型号售价高达5899美元 10国内玩家疑因想买《GTA6》 最后和老婆离婚了 1 Windows 11 26H2 ISO镜像已发布 微软同时更新安装介质并延续小型启用包机制 阅读 (1994) 评论 (1) 2 中国女主播坐上“付费旋转椅” 观众花50元可转一圈 奇特直播模式引发全球热议 阅读 (1328) 评论 (2) 3 Google研究员称Windows NT内核设计至今仍让Linux相形见绌 阅读 (1317) 评论 (3) 4
匹配字段正文
Zoom 在 Zoomtopia 大会上发布 Unified Context Layer，把会议、通话和客户互动信息与 Salesforce、ServiceNow、Workday 等系统数据整合成实时更新的关系图谱，供 AI 智能体共享记忆和协同工作，该层已可用。Zoom 称内部基准显示这一方式比独立智能体各自解析信息降低成本 45% 至 65%，但未提供独立验证。同期还推出 ZoomMate Agent Teams、扩展到 40 多个第三方应用的智能体搜索、支持多语言广播的翻译与语音克隆，以及通过 MCP 服务器和 Search、Ask API 向外部应用开放上下文，多数功能计划在 2027 年初前陆续发布。
ogy companies make data-driven decisions and stay at the forefront of industry conversations. LATEST STORIES OpenAI acquires Orchestra Bio to bring AI agents into drug development DeepSeek open-sources DeepInfer, the inference framework behind its production services Inception says Mercury 3 beats GPT-6 Luna and Claude Haiku 5.5 at up to 8x the speed Otter.ai raises $320M in funding for its AI meeting assistant Dell's AI playbook for CFOs: Budget the tokens, then chase speed What to expect durin
匹配字段正文
Google 与 Meta 的 PyTorch 团队合作推出开源项目 TorchTPU，为 Google TPU 提供原生 PyTorch 后端，迁移只需把 model.to("cuda") 改为 model.to("tpu")。项目支持 eager 与 torch.compile 两种模式，新增 DeferAndFuse eager 模式，覆盖约 450 个 Aten 算子，并已在 4,917 个 Hugging Face 模型上验证开箱运行，其中 Tier 1 通过率 98%、Tier 2 相对 GPU 数值一致性 97%。官方称其已用于部分 Google Cloud 大客户的推理与训练生产负载，并集成 vLLM、SGLang、TorchTitan、Ray 和 TorchRec。
r 模式； 新增对约 450 个 Aten 算子的支持（跳过具有结构性或复合委托的算子），包括主要深度学习架构所需的全部 Core ATen 算子的前向和反向传播； 新增通过 JAX/Pallas 和 Helion DSL 编写自定义内核的能力； 在下载量最高的 5,000 个 Hugging Face 模型上验证了开箱即用的执行，包括： LLM：Qwen、DeepSeek、Gemma、LLama、Mistral、GPT、OPT、BLOOM、Falcon、StableML 音频/语音：Whisper、Wav2Vec2、HuBERT、MMS 视觉：DinoV2、SigLIP、CLIP、Swin Transformer、ConvNeXt、ViT、ResNet、DETR 文本编码器与搜索：BERT、ALBERT 与 Electra、RoBERTa、DeBERTa、T5、MT5、Flan-T5 验证了基于 DTensor 的分片； 验证了多主机推理（vLLM 和 SGLang）以及微调/训练工作负载（TorchTitan），并采用基于 Ray 的编排； 验证了与 vLLM、SGLang、Tor
匹配字段正文
Google 开源 TorchTPU，这是与 Meta 的 PyTorch 团队共同开发的 Cloud TPU 原生 PyTorch 后端，在 PyTorch Conference 2026 上宣布，现有代码通过 torch.device("tpu") 即可指向 TPU。Google 团队称 TorchTPU 取代 PyTorch/XLA，建议所有新工作负载使用；它基于 PrivateUse1 接口，提供 Strict、Debug、DeferAndFuse 三种 eager 模式，torch.compile(backend="tpu") 经 StableHLO 和 OpenXLA 编译。TorchTPU 在 PyPI 上为 v0.2.0，要求 Python 3.11+，Apache 2.0 许可，配套 vLLM-TorchTPU、SGLang-TorchTPU 和 TorchTitan 仓库；Google 自报 TorchTitan 在 Ironwood 上训练 Qwen 3 8B 达到 52% MFU，可扩展至 8,192 颗芯片。
itan hit 52% MFU on Qwen 3 8B, scaling to 8,192 Ironwood chips. vLLM, SGLang and Hugging Face now run on TPU through standard PyTorch. Asif RazzaqWebsite | + postsBio ⮌ Asif RazzaqDeepSeek Open-Sources DeepInfer, the Inference Framework Behind DeepSeek-V4.1-Flash Asif RazzaqMiniMax Just Launched M3.1 Flash: 428B MoE Agentic Model at $0.15/M Input Asif RazzaqNVIDIA Open Sources Run:ai Under Apache 2.0 for Kubernetes GPU Orchestration RELATED ARTICLESMORE FROM AUTHOR DeepSeek Open-Sources DeepInfe
匹配字段正文
Google 发布基于 TorchTPU 的 vLLM 与 SGLang 原生 PyTorch 后端，分别与 Inferact、RadixArk 合作开发，两个引擎已在预览客户的生产环境中运行。官方称在 Ironwood TPU（TPU 7x）上跑 Qwen 3.5 时，高并发配置下每百万 token 成本为 2.01 美分，并已在 SemiAnalysis InferenceX 的 AgentX 赛道提交结果。功能上支持前缀缓存与 KV cache 卸载、投机解码、分离式服务以及图像视频输入的多模态模型，SGLang-TorchTPU 已在 Meta 生产环境使用。
nced features are under way – open a Github issue to request collaboration on yours! Across the two engines, most of the popular open model families are supported, including Qwen, DeepSeek, GLM, Kimi, GPT-OSS, Gemma4 and more. The team is investing in making more models available to run natively on TPUs, including Day 0 support for new open models. We also want to give the community the tools and TPU capacity to tune performance for their own workloads and configurations. A note on our JAX runti
匹配字段正文