←搜索结果

按匹配度 · 共 209 条结果 清除搜索

星期一

  1. 邵猛精选

    阿里通义 MAI-UI 团队开源通用计算机使用智能体技术栈 OpenGCUA

    阿里通义 MAI-UI 团队开源通用计算机使用智能体完整技术栈 OpenGCUA,包含 harness、跨设备 SDK、原生 macOS 应用、评测轨迹和参考 agent 实现。其核心设计是代码执行与决策从 harness 转移到模型,模型按需截图、编写带循环和条件判断的 Python 程序编排 GUI 操作、API 调用和 shell 命令,并自行维护 todo 列表。在 OSWorld-v2 上对 8 个前沿模型的评测中,平均 partial score 从 45.3 升至 64.9,每任务步数平均减少 53%;真机 macOS 测试中,同一 harness 下 Qwen3.8-Max 的推理 token 消耗是 GPT-6 Astra 的 19.4 倍,4 个任务完成 3 个。

    LI 混合智能体(他们早期的 Qwen-UI-Agent)都成了 GCUA 框架的特例,这个统一视角本身就有理论价值。 实验结果:数字说明了什么 在 OSWorld-v2 上对 8 个前沿模型(GPT-6 Astra、Claude Opus 5、Gemini 3.8 Flash、GLM-5.3-Flash、Qwen3.8-Max/Flash、Kimi K3、DeepSeek-V4.1-Flash)的评测: · 平均 partial score 从 45.3 升至 64.9(+19.6 分),每任务步数平均减少 53%;GPT-6 Astra 从 102 步降到 34 步。 · 弱模型受益最大(GLM-5.3-Flash +35.2),强弱模型差距从 39.1 缩小到 18.0。这暗示:代码执行范式降低了"代理能力"对模型 GUI 精细操作能力的依赖,弱模型可以靠写程序弥补感知-点击精度不足;对开源生态是个重要信号。 · 代码执行比 GUI+CLI 混合再加 6.1 分、步数再降 14.8%,验证了"编排成程序"优于"交替调用工具"。 · 真机 macOS 测试揭示了一个基准测试掩盖的事

    匹配字段正文

星期二

  1. 少数派

    紫毫输入法登陆 iPhone:基于 Rime 引擎,支持导入自定义方案

    作者发布 iPhone 输入法紫毫,基于 Rime(中州韵)引擎并内置雾凇拼音,基础打字功能免费、无广告,打字内容只在手机上处理。它支持导入 Rime 配置文件夹、ZIP、YAML 或 GitHub 仓库并自动更新,词库可按 Rime 格式同步到 iCloud 云盘与 Mac 鼠须管合并。作者称模拟测试中错 2 个字母的句子一次打对率从 36% 提高到 56%,错 3 个从 26% 提高到 53%。

    果的宽屏布局。 隐私 输入法能看到你打的一切,所以紫毫的原则也很简单:打字、纠错、学习、两个模型,全部在手机上完成,不上传。iOS 要求打开「允许完全访问」后键盘才能读取 App 里的词库和设置,打开本身不会让紫毫上传任何东西。 紫毫也有 AI 功能(翻译、润色、总结、回复、边写边译),但不内置任何服务:你填自己的 OpenAI、Claude、Gemini、DeepSeek 或翻译接口的密钥,请求从手机直接发给你选的服务商,不经过我们。1.0.9 起,发出前还会把手机号、身份证号、银行卡号、邮箱、验证码这类信息换成占位符,结果回来再在手机上换回原文。 价格 打字相关的功能全部免费:26 键与九宫格、小鹤双拼、纠错、学习、快捷短语、导入 Rime 方案。紫毫 Pro 一次购买、永久使用,没有订阅,解锁边写边译、AI 脚本、全部主题与背景图,以及多设备同步。 下载 紫毫在 App Store 免费下载,首发不包括中国大陆与欧盟地区。官网 hareime.com,有一篇专门讲 Rime 用法的页面:hareime.com/rime-ios。 简单说,这就是为你私人定制的输入法,如果你也在手机

    匹配字段正文

  2. SiliconANGLE

    微软推出面向失控 AI 智能体的安全管控功能

    微软发布针对失控 AI 智能体的安全管控功能,智能体风险评分升高时会逐步削减其权限。其发现工具可识别员工设备上的 60 类本地智能体,包括 Claude Code、Codex 和 GitHub Copilot,并通过 Entra Agent ID 为智能体分配独立身份。Dynamic Agent Risk 依据身份、终端、云和网络信号持续更新风险分,Dynamic Conditional Access 据此先收回写权限、再要求人工审批,最高等级直接隔离或停止运行时。这些功能被归入 Project Perception 和 Microsoft 365 E7,微软未公布可用时间和定价。

    at the forefront of industry conversations. LATEST STORIES Dream Labs raises $90M to help build more intelligent robots with simple video feeds Trump administration orders ban on DeepSeek in federal agencies AI work assistant startup Town secures unicorn status after raising $108M just weeks after launching Amazon introduces toolkit for running PyTorch workloads on AWS Trainium chips Nvidia, Dell back $200M round for AI model developer doubleAI MiniMax launches M3.1 Flash model, says it cuts AI

    匹配字段正文

  3. AI Business

    Neura Robotics 发布 Neuron AI 机器人基础模型,融合视觉、触觉与音频

    德国 Neura Robotics 发布机器人基础模型 Neuron AI,在 3D 视觉之外加入触觉与力数据、音频、机器人状态和语言,并带有记忆功能,可在物体离开视野后保留信息。Neura 计划本周晚些时候在英伟达柏林 GTC 上演示,由人形机器人 4NE1 完成一段十一分钟的衣物处理流程。公司尚未披露额外感官输入对性能的影响幅度,以及训练所需的数据量;Interact Analysis 分析师质疑其机器人训练场能否收集到足够的多模态数据。

    T World Today的助理编辑,专攻机器人和智慧城市技术。Scarlett还拥有采矿和资源行业的背景,曾在Mine Australia、Mine Technology和Power Technology任职。她于2022年4月加入Informa,之后转为自由职业。查看更多Scarlett Evans的文章 最新新闻更多最新新闻生成式AI微软可能在法律版Copilot上占据优势微软可能在法律版Copilot上占据优势作者:Esther Shittu2026年10月19日 阅读时长3分钟 热门文章查看更多生成式AI微软可能在法律版Copilot上占据优势微软可能在法律版Copilot上占据优势 2026年10月19日机器人技术波士顿如何成为物理AI中心波士顿如何成为物理AI中心 2026年10月19日最新播客 生成式AI 漫谈Muse的新AI模型与难以驾驭的DeepSeek2026年10月14日 生成式AI Reflection Beam将美国开放权重AI模型瞄准中国竞争对手2026年10月7日 生成式AI AI智能体的上下文因素2026年10月7日 生成式AI 2026年纽约AI峰会

    匹配字段正文

星期三

  1. 智东西

    APUS 开源 Reflex Agent,用决策模型接管 Agent 调度

    APUS 开源 Reflex Agent,采用自研 Reflex 决策模型完成 Harness 中的决策环节,围绕无限记忆、无损记忆、无损输入构建无限上下文方案,面向可长期持续处理任务的 Personal Agent。该项目以 MIT 协议开源,提供桌面端、Web 和 SDK;Reflex 基于 Qwen3.5 的 4.5B 参数模型微调,测试场景下页面响应速度相比同类 Agent 提升 2-3 倍。

    月,APUS转向科创板再度冲击IPO,然而最终依旧终止了。 目前,APUS已经形成基座大模型+AI应用产品框架。 2023年,APUS发布了自研的千亿级多模态大模型“APUS大模型(AiLMe)”,此后,其于2024年4月联合开源了千亿参数MoE架构模型APUS-xDAN-4.0。 在大模型的基础上,APUS构建起了产品体系: 通用与语言模型包括天燕大模型和DeepSeek APUS加强版;垂直行业大模型包括奇黄大模型(医疗问诊)与智草大模型(中医诊断)等,覆盖教育、农业、网信、政务、传媒、金融、电商等领域。 基于大模型能力,APUS还推出了一系列直接面向用户的AI应用。C端手机应用包括APUS Launcher、APUS Booster、APUS Security、APUS Browser、APUS KATOO、APUS CutCut等;B端行业智能体有天燕商业智能体、智草中医智能体、智能诊疗平台等。 结语:为智能体长任务提供新解法 当下AI Agent赛道热度高涨,但长任务失忆、工具调用延迟仍是阻碍实用化的核心难题。 APUS此次开源Reflex Agent,跳出 “大模型包揽全部

    匹配字段正文

星期六

  1. cnBeta

    Anthropic 限制华为 AI 芯片使用 Claude Opus 5.5 开发前沿模型

    Anthropic 在 Claude Opus 5.5 中加入针对前沿 LLM 开发场景的分类器,当请求涉及为特定 AI 加速器开发内核时,模型会自动回退到 Opus 5。用户测试显示,至少华为昇腾950DT 和亚马逊 Trainium3 会触发这一限制,Anthropic 未说明 Trainium3 为何被纳入。Anthropic 表示该机制不影响绝大多数传统 AI、机器学习研究和普通编程任务,并同步加强了反蒸馏措施,包括限制 API 用户修改此前对话上下文。

    17、18堪比双胞胎:外观无差别 手机壳通用 8理记发长文称罗永浩“保护伞倒了”,所以这次不敢回应 9老iPhone还能再战几年?我升级iOS 27试了一下 1040岁数学教师投资300多万拍电影 上映3天票房仅2万 1 新研究发现母亲生育年龄影响后代的身体特征、寿命以及行为表现 阅读 (3612) 评论 (0) 2 时隔多年 摩拜299元押金可全额退了 阅读 (1749) 评论 (1) 3 Switch模拟器迎来性能飞跃 开发工作却在巅峰时刻宣告终结 阅读 (1748) 评论 (0) 4Anthropic指控中国多家AI公司大规模蒸馏 阿里巴巴、月之暗面和DeepSeek被指涉数千万次交互 5苹果正式发布iPhone 18 Pro系列 强化系统级端侧AI 售价小幅调高 6首都禁飞区将于9月20日启用 北京全市禁飞无人机且不得持有、存放、运输、携带 7马斯克变性女儿床上大战机器人引热议 8OpenClaw 2.0正式发布 一次简化安装的尝试最终重塑整个产品 9倒数日·Days Matter Android版年度重大升级:透明相机+倒数日历+事件库 created by ceallan

    匹配字段正文

星期一

  1. Together AI Blog

    Together AI 发布 Together Link,把开源模型接入现有编码智能体

    Together AI 发布 Together Link,可将团队已在使用的编码智能体接入其开源模型,官方称可降低超过 50% 的开销。该工具支持 Claude Code、Claude Desktop、Codex(ChatGPT 应用与 CLI)、OpenCode 和 Pi,设置与登录保持不变,一条命令即可切换回原生闭源模型。Auto 模式由 Together AI Router 按会话首个任务选模型,带 Anthropic key 时在 Opus 5.5 与 GLM 5.3 之间路由,否则在 GLM 5.3 与 GLM 5.3 Flash 之间路由,路由每会话只发生一次以保留 prompt caching,并按现有 Together API key 计费。

    osed labs. Leaders like Kimi K3 and GLM 5.3 now handle many of the hardest coding tasks at a fraction of the per-token price, while small and capable models like GLM 5.3 Flash and DeepSeek V4.1 Flash handle everyday coding tasks. Together Link brings them into the tools your team already knows. Works where you already work Together Link supports Claude Code, Claude Desktop, Codex (in the ChatGPT app and the CLI), OpenCode, and Pi. Your team keeps working normally: settings and logins stay as the

    匹配字段正文

星期六

  1. MarkTechPost

    NVIDIA 发布 64GB 版 DGX Spark 桌面 AI 系统

    NVIDIA 发布 DGX Spark 的 64GB 配置,由 Acer、ASUS、Dell、Gigabyte、HP 和 MSI 出货,搭载 GB10 Grace Blackwell 超级芯片,提供最高 1 petaFLOP 的 FP4 AI 算力,10 月 23 日上市。该版本把统一内存从 128GB 降为 64GB LPDDR5x,NVIDIA 称足以运行当前 30–35B 级开源模型,两台 64GB 机器可通过 ConnectX-7 集群为 128GB 内存,官方称性能最高达单台 128GB 版的 1.7 倍。系统预装 DGX OS 与 PyTorch、Jupyter、Ollama,并支持 NemoClaw、OpenShell 和 Nemotron 模型,面向常驻智能体、QLoRA 微调、模型评测等本地场景。

    so available as an NVIDIA NIM. Full BF16 Glimmer needs 55GB+, which leaves almost nothing for context. The 17GB quantized build is the practical choice on 64GB. Larger models like DeepSeek V4 Flash need more than one box. NVIDIA’s own benchmarks run it on 4 64 GB clustered Sparks. 1. An always-on personal agent Install Hermes and point it at Muse Glimmer or Nemotron 3.5 Lightning. Give it tools: your GitHub repos, a test runner, an RSS feed of arXiv categories. Let it run overnight. By morning i

    匹配字段正文

星期四

  1. A6 a6-051 · Cerebras:Blog

    Cerebras 以最高 750 tokens/s 服务 GPT-5.6 Sol

    Cerebras 宣布 OpenAI 正在预览运行在 Cerebras 上的 GPT-5.6 Sol Ultrafast 模式,输出速度最高达 750 tokens/s。该版本未做蒸馏或量化,模型架构、权重、精度、上下文配置和推理设置与 OpenAI 标准端点上的 GPT-5.6 Sol 一致,仅运行硬件由 GPU 换为 Cerebras WSE-3。在质量匹配的 GDP-Val 任务上,Ultrafast 完成同样任务比标准端点快 5.6 倍;在 Humanity's Last Exam 匹配问题上快 6.9 倍,原本一小时的任务可在不到九分钟内完成。

    r second on its public endpoints: For dedicated enterprise endpoints, Cerebras also supports Kimi K2.6 , GLM 5.1 , MiniMax M2.5 , Qwen3 Coder 480B , Llama 4 Maverick , Mistral Large 3 , DeepSeek V3.2 , and many additional model families . Performance comparisons are based on third-party benchmarking or internal testing. Observed inference speed improvements versus GPU-based systems may vary depending on workload, configuration, date and models being tested. 1237 E. Arques Ave Sunnyvale, CA 94085

    匹配字段正文

星期二

  1. LMSYS Blog精选

    LMSYS 发布 Miles v0.1 生产级后训练系统

    LMSYS 发布 Miles v0.1,定位为面向前沿模型后训练的全栈生产级系统,是首个 Miles 版本的后续。它把 RL 训练循环拆成 SGLang 生成、训练器更新与权重同步三段,支持完全异步 RL、TITO 精确 token 记录、R3 路由重放,以及 NVFP4、MXFP8、FP8 等低精度训练配方。官方给出在 64 张 NVIDIA GB300 上训练 GLM-5.2 744B-A40B 终端任务的参考运行,稳定完成 100 步 rollout,单步训练约 4.5 分钟,前缀缓存命中率 96%。

    The Miles fully async RL loop

    g the generation pause within 3–5 seconds. Verified Day-0 Model Support Miles lands new frontier models on the day their weights become public, together with SGLang. Kimi-K3 [13], DeepSeek-V4 [10], Inkling [12], Qwen3.8 [14] and NVIDIA Nemotron 3 Ultra [11] were all trainable in Miles on release day, because the inference path in SGLang and the RL recipe in Miles are brought up in parallel rather than one after the other. Day-0 coverage is not limited to one architecture family either: it spans

    匹配字段正文

星期三

  1. The Next Platform

    Nvidia 发布 Nemotron 3.5 Lightning 模型与 NeMo Switchyard 路由库

    Nvidia 发布 Nemotron 3.5 Lightning 开源模型和 NeMo Switchyard 路由库,前者面向持续运行的智能体任务,官方称在同级中实现 4 倍吞吐、完成智能体任务速度提升 30%,并可在 Jetson、GeForce RTX、DGX Spark 和 DGX Station 上本地运行。Switchyard 让开发者自定义模型池、路由标准和策略,把推理密集型步骤交给前沿模型、把执行类任务交给 Lightning,官方称其以 Anthropic Opus 4.8 约三分之一成本取得更好准确率。Nvidia 同时公开训练数据与方法,并发布用于训练编码智能体的开放数据集 Nemotron-RL-Agentic-Terminal-Pivot。

    ent levels of intelligence.” Lightning also comes at a time when open models continue to roll into the market, particularly from vendors from China, such as Moonshot AI’s Kimi K3, DeepSeek’s various models, and Alibaba’s Qwen family. Stateside, Meta Glimmer this week rolled out Muse Glimmer, the first in a promised set of open models. (Meaning open weights, but not necessarily open source code for the training algorithm for the models.) Briski noted that over the past year, Nvidia has rolled out

    匹配字段正文

星期二

  1. NVIDIA Developer · Generative AI精选

    NVIDIA 发布 NeMo Switchyard,为 AI 智能体提供跨模型路由

    NVIDIA 发布 NeMo Switchyard,为 AI 智能体提供跨模型路由能力,可在专用模型与前沿模型之间按任务分配请求,以平衡性能、成本与效率。该工具提供免调优的 LLM 分类器、阶段路由器和升级路由器,也支持基于工作负载数据训练的预填充路由器,并可通过 OpenAI、Anthropic 和 Responses API 接入。LangChain 在 145 个多轮智能体任务上测试升级路由器,在 Nemotron 3.5 Lightning 与 Claude Opus 4.8 之间路由,仅 7% 调用发往前沿模型,成本降低 74%,准确率约有 6 个百分点的折让。

    controllable agents better suited for real AI workflows. Consider a system of models performing a computer-use task measured by the Terminal-Bench Hard benchmark (Figure 1). While DeepSeek V4 has the highest overall accuracy in this example, it isn’t the best model for every task group. For instance, Kimi K2.6 is better suited to the ML and RL task groups, while Qwen3.5 397B A17B is preferable for math and science. The remaining six task groups should use DeepSeek V4. This approach can also be a

    匹配字段正文

星期四

  1. Hugging Face

    Baseten 接入 Hugging Face Inference Providers

    Hugging Face Inference Providers 现已支持 Baseten,用户可通过网页、huggingface_hub >= 1.26.1、JavaScript SDK 及多种 Agent Harness 调用其托管模型。请求可使用供应商 API key 直连并由供应商计费,也可经 Hugging Face 路由且不加价;PRO 用户每月获 $2 推理额度,登录的免费用户享有少量免费配额。

    en is available through the Hugging Face SDKs - huggingface hub ( = 1.26.1) for Python and @huggingface/inference for JavaScript. The following examples show how to use the latest DeepSeek V4 Flash through Baseten. Use a Hugging Face token to authenticate - the request will be routed to Baseten automatically. From your favorite Agent Harness Hugging Face Inference Providers are integrated in most Agent Harnesses - including Pi, OpenCode, Hermes Agents, OpenClaw, and more. This means you can plug

    匹配字段正文

星期一

  1. Unsloth精选

    Unsloth 推出 AMD 版本,可在 AMD GPU 上训练和运行 LLM

    Unsloth 发布 AMD 版本,用户现在可以在 AMD 硬件上训练和运行 LLM。该版本与 AMD 合作实现,支持在 AMD GPU 上训练和运行 500+ 模型,覆盖 Windows、WSL、Linux,并可在 3GB VRAM 上训练 Qwen、Gemma。官方称借助自研 Triton kernel 和数学算法,在 Radeon、Instinct、Ryzen 及数据中心 GPU 上最高提速 2 倍、显存占用减少 70% 且无精度损失,同时提供针对 GGUF 与 Safetensors 推理优化的 ROCm 构建。

    t, Ryzen and data center GPUs with up to 2× faster with 70% less VRAM and no accuracy loss via our custom Triton kernels and math algorithms. We also support optimized ROCm builds for GGUF & Safetensors inference. Unsloth is an open-source local UI for faster LLM training and inference, with tool-call healing, code execution, secure web search, remote APIs, and HTTPS deployment. Connect local models to Claude Code, Codex agents and run the latest Kimi, GLM, DeepSeek, Qwen3.6, and Gemma 4 models.

    匹配字段正文

星期二

  1. Hugging Face精选

    Microsoft Foundry 托管计算上的 Hugging Face 模型

    Microsoft 与 Hugging Face 将经过许可与安全审查的数千个开放模型引入 Foundry Model Catalog,目前以预览版提供,并每周更新。模型可通过统一端点部署到配备 NVIDIA A100、H100 或 AMD MI300X 的 Managed Compute,运行时升级和 CVE 修补由平台自动完成;后续将扩展模型与加速器覆盖,并支持 Bring Your Own Weights。

    platform for building and operating agentic AI applications. Foundry starts with the widest model selection on any cloud — models from Microsoft, OpenAI, Anthropic, Meta, Mistral, DeepSeek, Hugging Face, and others, spanning frontier, open-source, and custom weights — all accessible through a single endpoint and a single set of SDKs in Python, C , JavaScript, and Java. On top of those models sits the Foundry Agent Service : multi-agent orchestration with built-in memory, knowledge grounding thro

    匹配字段正文

星期一

  1. Prime Intellect精选

    Prime Intellect 发布 prime-rl 0.6.0,支持万亿参数规模强化学习

    Prime Intellect 发布 prime-rl 0.6.0,可在重智能体负载下训练万亿参数规模模型,并称能在 28 个 H200 节点上以最高 131k 序列长度训练 GLM-5 完成 SWE 任务,步时间低于 5 分钟、批量 256 条 rollout。该版本采用异步 RL,将训练与推理解耦,并给出 FP8 推理、Wide EP、P/D 分离、KV cache 分层卸载、router replay 以及 FSDP、EP、CP 三维并行等优化细节。这些优化同样适用于 Kimi-K2.7-Code、NVIDIA-Nemotron-3-Ultra-550B-A55B-BF16 等其他大型 MoE 模型。

    RL at 1T Scale: prime-rl Performance Deep Dive

    and backward. FP8 training As noted earlier, trainer↔inference mismatch can hurt your training. To fight this, we use DeepGEMM kernels to perform block-scaled FP8, as proposed by DeepSeek V3. This, contrary to popular belief, doesn't really increase the throughput, due to quantization overhead (except for specific configurations); however, it heavily decreases KL mismatch between trainer and inference, as both now use the same precision, and even the same kernels in some cases. This in turn lea

    匹配字段正文

星期五

  1. Modal 官方工程博客

    Modal 开源 Qwen 系列 DFlash 推测解码模型

    Modal 本周发布面向 Qwen 3.5 397B-A17B 的 DFlash 推测解码模型,并与 SGLang 合作优化性能;同时在 Hugging Face 开源 Qwen 3.6 35B-A3B、Qwen 3.5 4B/9B/27B/35B-A3B/122B-A10B 的 DFlash 草稿模型,在已有 DFlash 基线上再获 5% 至 20% 加速。Modal 称 Qwen 3.5 122B-A10B 在 B200 单节点、并发 1 下可超过 1000 tok/s,并给出接受长度从 3 提升到 9 可将加速从 25% 提升到 3 倍的建模分析。

    ed. You can try that out here. We walk through a sample output from this model below. The chart compares the decode speedup from speculation, over the autoregressive baseline, for DeepSeek-V4 Pro deployed on a single B200 node processing a specific workload. The workload in this case is short sequence length ( 4k tokens/sequence) and high concurrency (batches of 32 sequences). The chart at the top shows the predicted speedup factor at a variety of different draft lengths for several drafters, al

    匹配字段正文

星期三

  1. The Next Platform

    Tensordyne 发布 Napier 推理芯片,用对数运算替代矩阵乘法

    Tensordyne 公布其 Napier AI 推理引擎架构,核心思路是把数据转成对数后用加法替代矩阵乘法,官方称相比 Nvidia 和 AWS 的混合架构性能提升一个数量级以上,价格与功耗更低。Napier 采用 3nm 工艺、1380 亿晶体管,支持 NVFP4、FP8、FP16,FP8 稠密算力 2.1 petaflops,配备 144 GB HBM4 和 256 MB SRAM,单芯片功耗 300 瓦,对比 B300 GPU 的 1200 瓦。公司计划 2026 年底开放云端访问,2027 年第一季度向客户交付 beta 版 TDN Pod 系统,2027 年第二季度末开始出货。

    a good idea. If the Tensordyne architecture pans out and can support all of the big inference engines, and Tensordyne can get enough HBM to make them in high volume, this may be a DeepSeek moment for AI hardware. RK Anand, one of the co-founders of Tensordyne, tells The Next Platform that Broadcom is the chip shepherd for the Napier compute engine and that with Broadcom being the third largest buyer of HBM memory on the planet and the third largest buyer of chip wafers from Taiwan Semiconductor

    匹配字段正文

星期一

  1. LMSYS Blog

    LMSYS 发布 DFlash 与 Spec V2 推测解码引擎

    LMSYS 联合 Z Lab 和 Modal 发布 DFlash 推测解码模型与 SGLang 默认的 Spec V2 引擎,DFlash 用块扩散并行起草并通过 KV 注入提升接受长度。在 HumanEval 数据集并发为 1 时,Qwen 3.5 397B-A17B 的 DFlash 模型吞吐达到基线的 4.3 倍以上、MTP 的 1.5 倍。该模型已在 z-lab、modal-labs 和 lmsys 三个 Hugging Face 组织发布,可在 SGLang 中直接部署。

    no impact on model quality. However, many speculative decoding methods, like the EAGLE series and the native multi-token prediction (MTP) modules in recent models like Gemma 4 and DeepSeek-V4, still rely on sequential autoregression – but in the draft model instead of the target. The draft model generates draft tokens one-by-one,a poor fit for modern hardware and a limit on achievable speedup. That’s why Z Lab developed DFlash, which uses a lightweight block diffusion draft model to generate an

    匹配字段正文

星期一

  1. Prime Intellect精选

    Prime Intellect 开源 General Agent 自演化合成智能体环境

    Prime Intellect 开源了 General Agent 环境的首个版本,一个可随时间扩充任务语料的完全合成环境,目前包含 4,504 个任务、覆盖 1,040 个领域和 8,000 多个工具。该环境将任务合成建模为 Synthesizer 与 Solver 两个智能体之间的博弈,任务按 5 个难度层级演化,每层用目标通过率区间做经验校准。早期实验中,在 4,417 条合成工具调用轨迹上做 SFT,将 Nemotron-3-Nano-30B 的 BFCL 从 18.9% 提升到 52.3%,MCP-Atlas 从 0.6% 提升到 12.1%。

    e task is fundamentally broken. It serves as a first sanity check for task solvability when the synthesizer creates a new task instance. Task Evolution: Difficulty Tiers Following DeepSeek-V3.2's methodology (arxiv:2512.02556), we find that iteratively evolving a task from trivial to challenging is substantially easier than one-shotting a challenging task. Hence, the synthesizer first constructs a simple seed task following the spec outlined above and then iteratively increases its difficulty by

    匹配字段正文