搜索“DeepSeek”

LMSYS 宣布 SGLang 与 Miles 在发布日支持 DeepSeek-V4

LMSYS 宣布 SGLang 与 Miles 在发布日支持 DeepSeek-V4 的推理与 RL 训练

查看事件：LMSYS 宣布 SGLang 与 Miles 发布日支持 DeepSeek-V4

OpenRouter上线Particle-1模型

OpenRouter上线了Particle-1模型。据Particle报告,该模型基于DeepSeek V4.1 Flash后训练,在四个编码基准上比DeepSeek V4.1 Flash少用28–52%的输出token,平均少用约45%token,准确率接近基座模型。其定价为每百万输入token 0.25美元、每百万输出token 1美元,上下文窗口1.05M。目前尚无后续发展。

豆包工作向企业客户开放三方大模型服务

2026年10月29日,豆包工作向团队订阅版和企业订阅版客户开放三方大模型服务,首批接入Kimi 3.1 Pro、GLM 5.3、DeepSeek V4.1 Flash等系列模型。据雷锋网当日报道,该功能上线后默认开启,企业无需另行向模型厂商采购或额外申请,按用量扣除企业已有的AI点数;企业可按成员、部门、群组或全员划定可用范围,并指定模型在豆包电脑端、豆包工作电脑端、豆包移动端、豆包网页端及飞书内豆包工作等场景中生效。10月30日,华尔街见闻报道称,字节跳动旗下豆包工作此次开放后,企业可直接用已有AI点数调用,无需另行采购API;该报道同时提到腾讯WorkBuddy已接入混元、GLM、MiniMax、Kimi、DeepSeek等模型,并指出多模型接入后平台还需在Harness层面协调上下文长度、工具调用和成本。目前该服务已面向上述企业客户开放。

Prime Intellect发布Prime Mega MoE训练内核

Prime Intellect 发布 Prime Mega MoE 训练内核。该内核在 DeepSeek 开源 DeepGEMM 库的 Mega MoE 内核基础上补上了融合且重叠的反向传播,使其可用于训练而非仅推理。在 prime-rl 训练器中,Qwen3 MoE 模型的完整训练步比基线快 32% 至 34%,比 TorchTitan 快 48% 至 55%;单层前向最高提速 3.11 倍(12.0 ms 降至 3.9 ms),但 Qwen3-235B-A22B 的反向仅提速 1.24 倍。该内核支持 BF16、Blackwell 上的 MXFP8 和 Hopper 上的 blockwise FP8,以 Apache 2.0 随 prime-rl 发布,通过 mega_moe 分发后端启用。

Cognition推出编码基准FrontierCode 2.0

2026年10月28日,Cognition推出编程基准FrontierCode 2.0,用于评估模型产出的代码能否真正合并,最高分的Opus 5.5也仅得45%,基准远未饱和。据Cognition博客,相比1.1版本,参考解平均多改67%的文件、89%的代码行,代码库规模大25%,任务覆盖仓库增加55%、阻断性评分标准增加43%;DeepSeek V4.1 Flash从43.9%降至19.3%,Kimi K3从44.2%降至17.7%。同日,Artificial Analysis发布Intelligence Index v5,将FrontierCode 2.0列为新增基准之一,60%评测基于私有测试集或留出答案,Claude Opus 5.5(max)以58分居首。

OpenBMB开源ForgeKernel,此前表示期待Forge系列更多成果

2026年10月28日,面壁智能OpenBMB转发Yuxuan Li发布的ForgeKernel内核优化框架消息,并表示期待后续论文和Forge系列的更多成果。该框架属于Forge系列,据称在NVIDIA SOL-ExecBench(FlashInfer-Bench)和华为CANN-Bench上测试均排名第一。10月30日,面壁智能宣布开源ForgeKernel,其智能体在约22小时内完成42轮迭代、产出32个内核版本,在NVIDIA B200上对DeepSeek V4.1 FlashMLA Prefill实现1.098倍性能,472微秒对比基线518微秒。开源内容包括优化后的融合预填充内核、论文中覆盖attention、Gated DeltaNet、Kimi Delta Attention、GEMM和卷积的内核,以及可用于优化自有内核的ForgeKernel harness。

豆包工作向企业客户开放三方大模型服务

2026年10月29日,豆包工作向团队订阅版和企业订阅版客户开放三方大模型服务,首批接入Kimi 3.1 Pro、GLM 5.3、DeepSeek V4.1 Flash等系列模型。据雷锋网当日报道,该功能上线后默认开启,企业无需另行向模型厂商采购或额外申请,按用量扣除企业已有的AI点数;企业可按成员、部门、群组或全员划定可用范围,并指定模型在豆包电脑端、豆包工作电脑端、豆包移动端、豆包网页端及飞书内豆包工作等场景中生效。10月30日,华尔街见闻报道称,字节跳动旗下豆包工作此次开放后,企业可直接用已有AI点数调用,无需另行采购API;该报道同时提到腾讯WorkBuddy已接入混元、GLM、MiniMax、Kimi、DeepSeek等模型,并指出多模型接入后平台还需在Harness层面协调上下文长度、工具调用和成本。目前该服务已面向上述企业客户开放。

查看事件：豆包工作向企业客户开放三方大模型服务

LMSYS发布SGLang AWS Trainium插件Beta

2026年10月22日,LMSYS与AWS合作发布SGLang Trainium插件Beta,该插件基于新发布的TorchNeuron构建,在Trainium2和Trainium3上支持LLM推理服务与RL rollout生成。初始覆盖Qwen3(dense)、Qwen3-MoE-30B-A3B、DeepSeek-V2-Lite、GLM-4和GLM-5.2/5.3,并支持数据并行、张量并行、专家并行、Radix Cache、BF16/FP8和异步调度。首次端到端异构RL运行中,SGLang在Trainium3上为Qwen3-MoE-30B-A3B生成rollout,Miles在单台H200节点上用Megatron训练GRPO策略。Beta目前仅限少量团队参与。次日,Amazon宣布开源TorchNeuron,这是一个把PyTorch代码转换为可在AWS Trainium上执行的操作的后端,已在其他加速器上运行的PyTorch代码几乎无需改动即可迁移。

Modal推出LLM训练库Modal Dojo

Modal于2026年10月21日发布LLM训练库Modal Dojo。据Modal官方工程博客介绍,该库提供调好的默认配方、可改参数和开箱即用的指标观测面板,支持从5亿到数万亿参数的模型;它基于Miles、Slime等开源框架构建,可从Hugging Face加载数据集,并通过CLI让智能体查询运行状态、日志和轨迹。同一来源还称,Axiom Bio已用它启动64k上下文的DeepSeek V4.1 Flash训练,运行在64张B300上。目前尚无后续独立发展事实。

RadixArk SGLang团队开源SGLang-TorchTPU

RadixArk 的 SGLang 团队开源了 SGLang-TorchTPU。据 LMSYS Blog 2026 年 10 月 20 日发布的信息,该团队联合 Google 和 Meta 推出这一基于 PyTorch 的原生后端,把 SGLang 的完整服务栈带到 Google Cloud TPU,并已在 Meta 大规模生产环境使用。首发支持 Muse Spark Open、GLM-5.3、Kimi K3、DeepSeek V4、Qwen3.8、Gemma 4 等模型,覆盖投机解码、KV cache 卸载、PD 分离和 FP8 KV cache 等功能。团队还用 TorchTitan 与 Miles 在单台 4 芯片 TPU v7x 上完成 Qwen3-4B 的 GRPO 训练,奖励曲线与 6 张 H200 基线在随机波动范围内一致。目前尚无后续发展事实。

aipoch_ai 开源发布 Open-Science 桌面应用

2026年10月15日,aipoch_ai 开源发布 Open-Science 桌面应用。据 Testing Catalog 10月17日报道,该应用名为 Open-Science V 1.0.0,让 AI 智能体承担读论文、用 Python 和 R 分析数据等科研任务;支持 OpenAI、Anthropic、DeepSeek 等模型及本地模型,项目可导出为 .science 文件在另一台电脑打开续做,默认将文件、项目和研究记录保存在本地,支持 macOS、Windows 和 Linux,源码采用 Apache 2.0 许可。官方示例中,智能体分析了 278 名乳腺癌患者的公开数据,检验肿瘤内免疫细胞排布是否有助于预测生存,任何人都能打开该文件查看每张图背后的代码并 fork 出新运行。Rohan Paul 10月20日报道称,该工作台支持 Python 或 R notebook、AlphaFold2 和 ESM-2 等科学技能,以及 PubChem、GTEx、cBioPortal 等数据库连接,每个输出存为不可变、带校验和的版本,并提供溯源视图和隔离回放;智能体引擎可选 Claude

Inworld 推出面向消费级 AI 应用的推理 API

2026年10月15日,Inworld 推出 Inworld Inference,一个面向消费级 AI 应用的 LLM 推理 API。据 Testing Catalog 报道,该 API 支持 Gemma 4、GLM、DeepSeek 和 MiMo 等开源模型。官方称在 Gemma 4 26B 上首 token 中位延迟为 0.17 秒,对比 OpenRouter 上其他供应商中位值 0.61 秒快 3.6 倍;95 分位为 0.31 秒对 2.42 秒,快 7.8 倍。开发者还可设置首个模型失败或耗时过长时自动切换到备用模型。目前尚无后续发展事实。

智谱在ZCode开启GLM-5.3 HighSpeed测试

2026年10月12日,智谱在其AI编程工具ZCode中开启高速旗舰模型GLM-5.3 HighSpeed的测试。据智东西报道,AI编程博主Leo称已灰度到该模型,输出速度超过490 tokens/s;作为对比,AI Ping数据显示DeepSeek V4.1 Flash官方API输出速度为121.34 tokens/s,智谱官方GLM-5.3 API为70.84 tokens/s。该模型目前只对ZCode订阅用户随机开放,没有明确的内测申请入口,拥有100万token上下文窗口,最多可一次性输出131072个token。目前尚无进一步有证据的发展。

Lovart发布2.0版本并推出个人设计Agent Arti

Lovart于2026年10月19日发布2.0版本,并推出个人设计Agent“Arti”。据智东西同日报道,Arti能记住用户的设计习惯与审美,并全天候在线执行定时设计任务;其具备画布巡检、设计调研、自动更新记忆、自进化技能和反馈改稿等能力,其中画布巡检和调研的主动触发需升级会员。报道还称,智东西用Arti为DeepSeek设计了一版鲸系男性二次元形象,并测试了Q版立绘、调研报告插入对话和按巡检意见改稿等流程。目前该消息来自单一来源报道,尚无后续发展事实。

LMSYS推出SGLang低延迟模式,NVIDIA与AMD GPU推理提速

LMSYS于2026年10月18日发布SGLang Low-Latency Mode,通过插件框架把专用kernel接入SGLang,在NVIDIA和AMD GPU上降低推理延迟。据LMSYS Blog介绍,在四块NVIDIA GB300上回放AgentX trace,单并发会话的P90每用户token生成速度从671.2提升到928.4 tokens/s,为1.38倍;在四块AMD MI355X上四并发会话从331.6提升到516.0 tokens/s,为1.56倍。NVIDIA侧kernel位于sgl-nvidia-mega,AMD侧位于sgl-amd-mono,均针对DeepSeek-V4.1-Flash与DSpark的验证和草稿执行做优化。目前尚无后续发展事实。

Hao AI Lab 推出开源机器人智能体框架 ORA

2026年10月16日,Hao AI Lab 发布开源机器人智能体框架 ORA(Open Robot-Use Agents),由 DeepSeek V4.1-Flash 驱动,仅凭视觉输入零样本操作机器人,无需 VLA。据其公布,ORA 在 RoboTwin 上取得 69.2%、LIBERO-Pro 上 81.4%,与使用 GPT-5.5 或 Opus-4.7 的 RPent 系统同场对比;带任务专属记忆的 RPent 在 RoboTwin 为 62.4%/58.4%,用 Opus-4.7 在 LIBERO-Pro 为 82.4%。同一框架已通过机器人卡片适配 ARX X5、ALOHA 和 Franka,并在低成本机械臂上完成拉开抽屉把手、把糖果棒放进盒子的初步实机测试。按 DeepSeek 非高峰 API 价格估算,每个成功案例的模型成本约 0.30 至 0.35 美元,包含失败尝试;40 个展示片段平均 0.13 美元。目前尚无后续发展事实。

Ollama Cloud 接入 Fly.io Sprites 沙箱

2026年10月13日,Ollama Cloud 接入 Fly.io Sprites 沙箱,可在其完整 Linux 虚拟机中运行,Claude Code、Codex 和 Gemini CLI 开箱即用。据 Ollama Blog 同日发布的信息,此次合作新增 Ollama Connector,让 Sprite 通过 Fly.io 网关调用 kimi-k3、glm-5.3 和 deepseek-v4.1-flash 等云端模型。API key 由 Fly.io 加密保存,Sprite 只持有网关 URL 和连接 ID,因此无法泄露密钥。新连接器默认屏蔽所有 Sprite,可按标签、名称前缀或全部开放,调用仅限 Sprite 内部发起。目前尚无后续发展事实。

开发者FeiZ开源发布ds bot插件

2026年10月11日,开发者FeiZ发布了一套名为ds bot的多Bot团队界面,以插件形式安装于DeepSeek Harness(DSH)。据量子位报道,该项目上线不到一天获得250+星。每个Bot可设置名称、角色、指令、形象和背后调用的模型,并拥有持久化运行状态与长期记忆;设置Main Bot主管后,消息默认由主管回复并协同其他Bot,以降低群聊场景的token消耗。项目采用Apache License 2.0许可,数据保存在本地DSH主文件夹的bot/和sessions/文件夹中,桌面端和Web端均可使用。目前尚无后续发展事实。

Unsloth公布Studio四重运行安全检查机制

2026年10月8日,Unsloth公布Unsloth Studio与Unsloth Desktop的安全概览,说明模型从下载转入执行时会触发四道加载前安全检查。据MarkTechPost报道,这四道检查包括:代码指纹绑定审批、独立的权重文件拦截、操作系统沙箱探测和包内容扫描。其中,代码指纹变化后需重新授权;Hugging Face的恶意扫描结论会拦截加载路径中被标记的权重文件;工具则在bubblewrap、Seatbelt、MXC等系统级沙箱中运行。报道还提到,deepseek-ai/deepseek-ocr与moonshotai/Kimi-VL-A3B-Instruct在加载时会弹出审批并列出发现项,Unsloth也在其适配仓库中移除了eval调用等问题代码。目前该事件尚无后续发展事实。

Together AI推出Together Link

2026年10月5日,Together AI推出开放模型接入工具Together Link。据MarkTechPost报道,这是一款免费、MIT许可的CLI工具(beta),可将Claude Code、Claude Desktop、Codex、ChatGPT Desktop、OpenCode和Pi连接到Together AI上托管的开源模型。它只需一条安装命令和Together API key,不运行本地代理;会话默认使用虚拟auto模型按首个任务路由,有Anthropic key时在Opus 5.5与GLM 5.3之间切换,否则在GLM 5.3与GLM 5.3 Flash之间切换。文档列出Kimi K3、GLM 5.3、GLM 5.3 Flash和DeepSeek V4.1 Flash,均为1M上下文,其中Kimi K3定价为每百万token输入$3.00、输出$15.00,GLM 5.3为$1.40和$4.40。目前尚无后续发展事实。