搜索“DeepSeek”

LG AI Research 博客介绍 ACL 2026 主题分配论文

2026年8月14日,LG AI Research 通过官方博客介绍其 ACL 2026 Findings 论文《From Documents to Segments: A Contextual Reformulation for Topic Assignment》。该论文提出 Segment-based Topic Allocation(SBTA),将主题分配从整篇文档改为语义相关的文本片段,以缓解文档被单一主题污染的问题。在 SemEval-STM 基准 Laptop 域上,基于 LLaMA 和 DeepSeek 的 SBTA 在 F1、Purity、ARI、NMI 和 CH Index 上均优于 LDA、BERTopic 等传统方法。论文同时提出 Segment Intrusion 评测任务,结果显示当前前沿模型在困难设定下仍普遍低于人类水平。目前该工作仍处于论文介绍阶段,尚无后续进展。

RadixArk与Google Cloud合作将SGLang引入TPU

2026年7月30日,SGLang维护方RadixArk与Google Cloud达成合作,将SGLang推理框架引入TPU。据LMSYS Blog当日发布的信息,开发者目前可通过SGL-JAX在最新几代TPU上运行SGLang,支持Gemma、Qwen、DeepSeek、GLM、Kimi、MiniMax、Grok等模型,以及Wan、Flux等视频图像扩散模型。同一来源称,今年晚些时候RadixArk还将推出PyTorch原生的SGL-torchtpu后端,支持eager执行、PyTorch生态兼容与MPMD,并计划让新开源模型在TPU与GPU上同日可用。目前该合作尚无后续独立发展事实,状态以这一官方发布为准。

Andrew Ng 宣布开源 Agent OpenWorker

2026年7月24日,Andrew Ng 宣布开源智能体 OpenWorker。据其发布信息,OpenWorker 与 Rohit Prasad 共同发布,不只对话,还能交付成品,例如生成文档、发送 Slack 消息或更新日历条目,可处理客户简报、整理日历、起草报告和分诊 Slack 告警,并在执行重要操作前先确认。该智能体运行在 Mac 上,Windows 支持即将推出;不绑定单一模型,用户自带 API key 即可搭配 GPT 5.6 Sol、Claude Fable、Gemini 3.6、Kimi、GLM、DeepSeek、Inkling 等开源权重模型或 Ollama 本地运行,数据除经用户选择的 LLM 服务商和集成外不离开本机。目前尚无后续发展事实。

Epoch AI分析1600余份中国AI招聘信息

2026年6月24日,Epoch AI发布分析,梳理了DeepSeek、MiniMax、Moonshot、Z.ai、字节跳动和阿里巴巴六家中国AI公司的1604份招聘启事。分析发现,这些公司仍依赖Nvidia CUDA与TensorRT-LLM,同时探索昇腾、寒武纪等国产芯片。其中,Z.ai称其GLM-Image已在国产芯片上完成端到端训练,该模型有160亿参数。MiniMax、DeepSeek、Moonshot等初创公司还在自建数据中心,并采用公有云与自建算力混合部署。目前尚无后续发展。

SGLang与AMD团队展示MI355X分布式推理TCO结果

2026年5月28日,SGLang与AMD团队展示了在AMD Instinct MI355X GPU上进行大规模DeepSeek-R1分离式推理的竞争性TCO结果。据LMSYS Blog介绍,团队通过SGLang与MoRI通信库优化,在129 tok/s/user交互性下达到每百万token 0.169美元,比B200 TRT-LLM低5%、比B200 SGLang低40%;每GPU吞吐2,436 tok/s(24 GPU),比B200 SGLang高1.25倍。优化手段包括MoRI量化all-to-all(往返带宽最多降低2.56倍)、MoRI-IO KV cache后端(吞吐比Mooncake高约10%)、SDMA双批次重叠、ROCm上的Specv2 MTP以及CPU流式优化。结果已开源,并通过SemiAnalysis的InferenceX持续验证。目前尚无后续发展事实。

Zyphra发布MI355X上推理端到端基准

2026年5月18日,Zyphra Research发布了Zyphra Inference在AMD Instinct MI355X GPU上的首个端到端基准,并与Nvidia B200基线配置进行对比。该基准覆盖Kimi K2.6、GLM-5.1和DeepSeek V3.2三个模型。硬件方面,MI355X每卡提供288 GB HBM3E,B200为180 GB,两者HBM带宽均约8 TB/s;MI355X采用全连接xGMI点对点互联,8路集合通信峰值537.6 GB/s。测试使用ShareGPT与LMSYS-Chat-1M数据集,仅限vLLM框架、单节点且无真实流量。目前尚无后续发展事实。

Zyphra发布视觉语言模型ZAYA1-VL-8B

2026年5月8日,Zyphra发布其首个视觉语言模型ZAYA1-VL-8B。该模型基于ZAYA1-8B构建,采用MoE架构,拥有700M激活参数与8B总参数,并以Apache 2.0许可开源权重。官方称其在视觉理解、定位和OCR类任务上表现突出,性能超过Deepseek-VL2、Qwen3-VL和MolmoE等同类模型,而训练仅用约140B视觉语言token。架构上,该模型引入仅对视觉token激活的视觉专用LoRA参数,并对图像token采用双向注意力。目前尚无后续发展事实。

Zyphra 发布 Zyphra Cloud 平台

2026年5月4日,Zyphra 发布 Zyphra Cloud 平台,首发组件为无服务器推理服务 Zyphra Inference。该服务运行在 AMD 基础设施上,由 Tensorwave 提供算力,基于 AMD Instinct MI355X GPU,并与 TensorWave 合作,面向长上下文智能体工作负载,可访问 DeepSeek V3.2、Kimi K2.6 和 GLM 5.1 等开放权重模型。据官方说明,以 Kimi K2.6 为例,单台 8x-MI355X 节点提供 2,304GB HBM,可容纳约 184 个 256K 上下文的活跃智能体,而 8x-B200 节点约为 100 个。平台后续将扩展至后训练、强化学习环境、基于 AMD EPYC CPU 的沙箱智能体与开发环境,以及专用 GPU 集群和裸金属基础设施。该平台现已可用。

Sakana AI 提出 SSoT 提示技术

2026年4月20日,Sakana AI 提出名为 String Seed of Thought(SSoT)的提示技术。该方法让大语言模型在输出中先生成随机字符串,再据此推导答案,无需外部随机数生成器。据 Sakana AI 介绍,SSoT 在开源与闭源 LLM 上显著降低输出偏差,在 DeepSeek-R1 等推理模型上准确率接近真实随机采样,并可从二选一推广到 n 选一和任意概率分布。在 NoveltyBench 多样性基准的六个类别上,SSoT 均优于其他方法且保持输出质量。该工作将在 ICLR2026 展示。目前尚无后续发展事实。

LMSYS 提出 HiSparse 分层内存系统

2026年4月10日,LMSYS 发布 HiSparse,一个面向稀疏注意力的分层内存系统。该系统将不活跃的 KV cache 卸载到主机内存,并在 GPU HBM 保留热缓冲区,从而支持更大的解码 batch size。据 LMSYS Blog 介绍,在 8×H200 部署上运行 GLM-5.1-FP8、32k 输入 8k 输出时,256 并发请求下吞吐超过基线 3 倍,长上下文场景最高提升 5 倍。目前 HiSparse 支持 DeepSeek Sparse Attention(DSA)系列模型,包括 DeepSeek-V3.2 和 GLM-5.1,属实验性功能。截至现有证据,尚无后续发展事实。

LMSYS 将 Elastic EP 集成进 SGLang 框架

2026 年 3 月 25 日,LMSYS 将 Elastic EP 集成进 SGLang 框架,为 DeepSeek MoE 部署提供部分故障容错。据 LMSYS Blog 介绍,该集成通过解耦专家与 GPU 的固定映射并保留冗余专家,实现单实例内的部分故障容错。在 4 节点 32 GPU 上运行 DeepSeek V3.2、设置 ep_size=dp_size=32 与 256 个冗余专家时,可容忍最多 16 个 rank 故障,服务中断控制在 10 秒以内,相比完整重启所需的 2 至 3 分钟减少约 90%,静态性能与标准 DeepEP 持平。启用需配置 --elastic-ep-backend mooncake、--moe-a2a-backend mooncake、--ep-num-redundant-experts 等参数,NVIDIA Dynamo 团队的 NIXL EP 也可通过 --moe-a2a-backend nixl 试用。目前尚无后续发展事实。

Sakana AI开发日本适配试作模型Namazu α版

2026年3月23日,Sakana AI发布日本适配试作模型系列Namazu(α版),并同步上线搭载该模型的聊天服务Sakana Chat。据官方说明,Namazu将DeepSeek-V3.1-Terminus、Llama-3.1-405B、gpt-oss-120B等开源基座适配为日本规格,在AIME'25、MMLU-Redux、GPQA Diamond、LiveCodeBench、IFEval等基准上保持与基座相当的性能,在自建的中立性与事实准确性评测中明显改善,其中基座DeepSeek-V3.1-Terminus对相关政治历史话题的拒答率由72%降至接近0%。在日语基准Nejumi Leaderboard4、Swallow LLM LeaderBoard v2、JamC-QA上,Namazu-DeepSeek-V3.1-Terminus与基座及同规模他社模型相当。官方表示技术报告与部分模型权重将后续公开。

SGLang在GB300 NVL72上实现最高25倍推理性能提升

2026年2月20日,SGLang宣布与NVIDIA合作,在InferenceXv2基准上于GB300 NVL72运行DeepSeek R1时,相比H200实现最高25倍推理性能提升,该对比基于50 TPS/user的低延迟场景。据LMSYS Blog介绍,这一提升借助NVFP4 GEMM、计算通信重叠和NVIDIA Dynamo等优化实现。同一来源还提到,SGLang在GB200 NVL72上的性能在不到4个月内提升最高8倍。后续计划推进GB300 NVL72的MTP支持以及Qwen 3.5等模型的调优。目前该事件尚无其他独立发展事实。

多档推理强度模型开发方法

2026年7月18日,Sebastian Raschka讲解了具备多种推理强度模式的大语言模型开发方法。这类模型通过调节推理力度,在回答质量、token消耗、成本和延迟之间权衡,通常结合混合SFT数据、按模式调整的强化学习奖励、长度惩罚、独立专家模型或硬性token预算。DeepSeek V4、Nemotron 3 Ultra、Kimi K3、GLM-5、Qwen3和Inkling采用了不同组合。文章还指出,模型规模与推理力度是两套独立控制方式,较小模型提高推理力度有时可取得与较大模型降低推理力度相近的基准成绩。

OpenRouter推出Fusion多模型融合工具

2026年6月12日,OpenRouter发布Fusion多模型融合工具,一次API调用即可把多个模型的结果交给裁判模型融合,调用方式与单个模型相同。据OpenRouter公告,在DRACO的100项深度研究任务上,Fable 5与GPT-5.5融合得分69.0%,高于Fable 5单独运行的65.3%;由Gemini 3 Flash、Kimi K2.6和DeepSeek V4 Pro组成的低成本组合超过GPT-5.5和Opus 4.8,成本仅为Fable 5的一半。Fusion可通过chatroom、模型slug、server tool和plugin四种方式使用,调用耗时通常是普通请求的2-3倍。目前尚无后续发展事实。

Prime Intellect开源renderers库

2026年5月12日,Prime Intellect 开源了 renderers,一个独立的 Python 库,目标是让开发者完全控制强化学习与多轮推理中的对话格式化。该库把聊天模板变成可编程对象,支持将渲染消息暴露为 token id、把补全解析为结构化助手消息、为损失掩码归属 token,以及在不重新渲染模型采样历史的情况下扩展多轮 rollout。据其介绍,renderers 已用于 Prime Intellect 的 Lab 产品、verifiers 和 prime-rl,内置 Qwen3、Qwen3.5、GLM-4.5、GLM-5、MiniMax-M2、DeepSeek-V3、Kimi K2 / K2.5、Nemotron-3 和 GPT-OSS 的渲染器,并已在 PyPI 发布,代码托管于 github.com/PrimeIntellect-ai/renderers。

antirez 主张程序员应控制想法而非阅读代码

2026年7月13日,Redis 作者 antirez 在其原创博客提出主张,认为在 AI 编程时代,程序员应把精力放在控制软件的想法与设计上,而非逐行阅读代码。他表示自己仍会审查 AI 为 Redis 生成的代码,但认为这已基本无意义,尤其自 GPT 5.5 发布、以及 Fable 和 GPT 5.6 Sol 出现之后。他还提到用 DwarfStar 为 DeepSeek v4 和 GLM 5.2 实现推理,指出本地推理领域充满细微错误,AI 在设计严谨性与测试上远胜手写 GPU kernel。目前该主张仅有其本人博客这一来源,尚无后续发展事实。

antirez 为 LLM 智能体重新设计基于标签的 EDIT 工具

2026年5月19日,antirez 重新设计了基于标签的 EDIT 工具,用于 DS4 项目的本地智能体。该设计用 4 字符校验和标签替代逐字重写旧文本,以节省 token 并提升编辑可靠性。READ 和 SEARCH 工具返回“行号:标签”格式,编辑时只需指定行号、标签和新内容,DeepSeek v4 Flash 能高效使用该工具。antirez 还提到另一种方案:仅返回整个文件的 CRC32,token 更少,但无关改动也会导致编辑失败。目前该事实仅有 antirez 原创博客这一来源,暂无后续发展。

SGLang与AMD团队展示MI355X分布式推理TCO结果

SGLang and AMD team 展示 AMD Instinct™ MI355X GPUs上大规模DeepSeek-R1分离式推理的竞争性TCO

查看事件：SGLang与AMD团队展示MI355X分布式推理TCO结果

SGLang在GB300 NVL72上实现最高25倍推理性能提升

SGLang 实现 在GB300 NVL72上运行DeepSeek R1相比H200最高25倍性能提升

查看事件：SGLang在GB300 NVL72上实现最高25倍推理性能提升