←搜索结果

按匹配度 · 共 499 条结果 清除搜索

星期二

  1. LMSYS Blog

    LMSYS 发布 SpecForge v0.3.0:分离式与同置式推测解码训练栈及新 SpecBundle 草稿模型

    LMSYS 发布 SpecForge v0.3.0,将目标模型推理与草稿模型训练解耦为生产者与消费者两个资源池,在 8×H20 上以 3 台 SGLang 捕获服务器加 5 个训练 worker 的拓扑,端到端训练吞吐较此前同置实现提升约 10%。新运行时统一支持 EAGLE3、EAGLE3.1、P-EAGLE、DFlash、Domino 和 DSpark 多种推测解码方法,并新增训练与推理一致性校验流程。同时发布 SpecBundle 草稿模型集合,11 个 checkpoint 中有 9 个来自蚂蚁集团 AQ、RadixArk、招商银行、Domino 作者及社区成员,全部仅用开放数据训练。

    SpecForge online-disaggregated training architecture

    匹配字段摘要

星期日

  1. Sakana AI:Blog

    Sakana AI 推出日语特化 LLM API「Sakana Namazu」

    Sakana AI 发布日语特化 LLM API「Sakana Namazu」,基于 Moonshot AI 的开源模型 Kimi K2.6,用自有数据适配日语与日本业务语境,并内置 Web 搜索和代码执行工具。该 API 兼容 OpenAI 接口,已有代码只需改写 base_url 并设置 API 密钥即可接入。基准方面,它在 JFBench、日英翻译任务和 FairPoliticsQA 上均超过基座模型,其中 FairPoliticsQA 从 34.10% 提升至 56.30%,同时保持 Kimi K2.6 在 AIME26、MMLU-Pro、LiveCodeBench v6 上的推理与编码表现。

    Sakana AI 发布日语特化 LLM API「Sakana Namazu」,基于 Moonshot AI 的开源模型 Kimi K2.6,用自有数据适配日语与日本业务语境,并内置 Web 搜索和代码执行工具。该 API 兼容 OpenAI 接口,已有代码只需改写 base url 并设置 API 密钥即可接入。基准方面,它在 JFBench、日英翻译任务和 FairPoliticsQA 上均超过基座模型,其中 FairPoliticsQA 从 34.10% 提升至 56.30%,同时保持 Kimi K2.6 在 AIME26、MMLU-Pro、LiveCodeBench v6 上的推理与编码表现。

    匹配字段摘要

星期三

  1. NVIDIA Developer · Generative AI精选

    NVIDIA 发布 Isaac for Healthcare 医疗物理仿真框架

    NVIDIA 发布开源 GPU 加速的 Medical Physics Simulation 框架,作为 Isaac for Healthcare 的一部分,用于生成解剖数字孪生、模拟器械与解剖结构交互并训练强化学习策略。其中 Endoluminal Simulation Module 已正式可用,用 XPBD 求解器实时模拟柔性导管在患者特异性血管中的导航;Surgical Simulation Module 处于早期访问,可在单张消费级 GPU 上以超过 30 帧每秒模拟软组织变形与触觉反馈。Cosmos-H 系列生成式世界模型可从机器人动作生成手术视频,Cosmos-H-Dreams 经 FlashDreams 推理引擎实现超过 30 帧每秒的交互式仿真。

    匹配字段摘要

星期一

  1. LMSYS Blog精选

    SGLang 与 Miles 为 Kimi K3 提供 Day-0 支持

    SGLang 与 Miles 宣布在 Kimi K3 发布当天提供 Day-0 支持,前者负责推理、后者负责 RL 训练,与 Moonshot AI、NVIDIA 团队合作完成。K3 是首个 3 万亿参数级别的开源模型,实际为 2.8T 参数、1M token 上下文窗口并具备原生视觉理解,其 69 层 KDA 线性注意力与 24 层 MLA 交织的混合架构打破了常规服务栈的多项假设。文中给出统一显存池、DSpark 投机解码与 ReplaySSM、分阶段并行等方案,并报告在 16 节点 × 4 GB300 上做 DAPO 数学 RL 训练,AIME-2024 贪心评测在 12 小时内从 43.3% 升至 76.7%。

    The three KDA state moves, copy-on-write, snapshot and donate, and where each sits relative to the serial forward stream.

    匹配字段摘要

星期二

  1. Modal 官方工程博客

    Modal 发布 modal-devin,让 Devin Outposts 在 Modal Sandbox 中运行

    Cognition 推出 Devin Outposts,让 Devin 的执行环节迁入用户自控环境,推理仍留在 Cognition 云端。Modal 作为发布伙伴推出开源集成 modal-devin,使 Devin Outpost 会话运行在 Modal Sandbox 中,具备快速冷启动、自定义镜像、快照和百万级沙箱扩展能力,7 月 21 日起进入 alpha。modal-devin 提供 CLI,一条 uvx modal-devin init 命令即可搭建 outpost,并预装 Devin CLI、FFmpeg 和 Chromium。

    匹配字段摘要

星期一

  1. Unsloth精选

    Unsloth 推出 AMD 版本,可在 AMD GPU 上训练和运行 LLM

    Unsloth 发布 AMD 版本,用户现在可以在 AMD 硬件上训练和运行 LLM。该版本与 AMD 合作实现,支持在 AMD GPU 上训练和运行 500+ 模型,覆盖 Windows、WSL、Linux,并可在 3GB VRAM 上训练 Qwen、Gemma。官方称借助自研 Triton kernel 和数学算法,在 Radeon、Instinct、Ryzen 及数据中心 GPU 上最高提速 2 倍、显存占用减少 70% 且无精度损失,同时提供针对 GGUF 与 Safetensors 推理优化的 ROCm 构建。

    匹配字段摘要

星期三

  1. xAI News精选

    xAI 开源编码智能体 Grok Build

    xAI 将编码智能体与 TUI 工具 Grok Build 开源,源码已发布在 GitHub。公开的代码涵盖智能体循环、工具调用分发、终端 UI 以及 skills、plugins、hooks、MCP servers 和 subagents 等扩展系统。Grok Build 现可完全本地运行,用户可自行编译并指向本地推理,通过 config.toml 驱动。

    匹配字段摘要

星期三

  1. Hugging Face精选

    vLLM 的原生速度 Transformers 建模后端

    Hugging Face 更新了 vLLM 的 Transformers 建模后端,使兼容架构无需编写定制推理代码即可达到原生 vLLM 速度。该后端通过 torch.fx 分析模型图,并用 ast 重写操作、应用融合内核,已对 Qwen3 4B、32B 和 235B FP8 MoE 模型进行对比测试。目前尚不支持线性注意力,代码位于 Hub 仓库的自定义模型也可能无法运行。

    Hugging Face 更新了 vLLM 的 Transformers 建模后端,使兼容架构无需编写定制推理代码即可达到原生 vLLM 速度。该后端通过 torch.fx 分析模型图,并用 ast 重写操作、应用融合内核,已对 Qwen3 4B、32B 和 235B FP8 MoE 模型进行对比测试。目前尚不支持线性注意力,代码位于 Hub 仓库的自定义模型也可能无法运行。 · Hugging Face updated vLLM’s Transformers modeling backend so compatible architectures can reach native vLLM inference speed without custom inference code. The backend analyzes model graphs with torch.fx and uses ast to rewrite operations and apply fused kernels, with comparisons covering Qwen3 4B, 32B, and

    匹配字段摘要

星期三

  1. Hugging Face

    Hugging Face 与 Cerebras 将 Gemma 4 用于实时语音 AI

    Hugging Face 与 Cerebras 搭建了开放、模块化的实时语音到语音管线,以 Nvidia Parakeet 识别语音、在 Cerebras 上运行 Google DeepMind Gemma 4 31B,并通过阿里巴巴 Qwen3TTS 生成语音回复。Cerebras 旨在缩短并稳定模型推理延迟;该管线已用于超过 9,000 台 Reachy Mini 机器人,开发者可体验 Demo 并查看 huggingface/speech-to-speech 仓库。

    Hugging Face 与 Cerebras 搭建了开放、模块化的实时语音到语音管线,以 Nvidia Parakeet 识别语音、在 Cerebras 上运行 Google DeepMind Gemma 4 31B,并通过阿里巴巴 Qwen3TTS 生成语音回复。Cerebras 旨在缩短并稳定模型推理延迟;该管线已用于超过 9,000 台 Reachy Mini 机器人,开发者可体验 Demo 并查看 huggingface/speech-to-speech 仓库。 · Hugging Face and Cerebras built an open, modular real-time speech-to-speech pipeline using Nvidia Parakeet for speech recognition, Google DeepMind’s Gemma 4 31B running on Cerebras, and Alibaba’s Qwen3TTS for spoken responses. Cerebras is intended to reduce a

    匹配字段摘要

星期三

  1. Google DeepMind精选

    Google DeepMind 在 Gemini 3.5 Flash 中内置 computer use

    Google DeepMind 将 computer use 作为内置工具集成进 Gemini 3.5 Flash,此前该能力仅以独立的 Gemini 2.5 computer use 模型形式提供。开发者可通过 Gemini API 和 Gemini Enterprise Agent Platform 使用它构建能跨浏览器、移动端和桌面环境感知、推理并执行操作的智能体,面向持续软件测试等长周期与企业自动化任务。为降低实时环境中的提示词注入风险,官方对 computer use 做了针对性对抗训练,并发布两套可选的企业级防护系统。

    匹配字段摘要

星期一

  1. Prime Intellect精选

    Prime Intellect 发布 prime-rl 0.6.0,支持万亿参数规模强化学习

    Prime Intellect 发布 prime-rl 0.6.0,可在重智能体负载下训练万亿参数规模模型,并称能在 28 个 H200 节点上以最高 131k 序列长度训练 GLM-5 完成 SWE 任务,步时间低于 5 分钟、批量 256 条 rollout。该版本采用异步 RL,将训练与推理解耦,并给出 FP8 推理、Wide EP、P/D 分离、KV cache 分层卸载、router replay 以及 FSDP、EP、CP 三维并行等优化细节。这些优化同样适用于 Kimi-K2.7-Code、NVIDIA-Nemotron-3-Ultra-550B-A55B-BF16 等其他大型 MoE 模型。

    RL at 1T Scale: prime-rl Performance Deep Dive

    匹配字段摘要

星期三

  1. xAI News精选

    xAI 的 Grok 4.3 在 Amazon Bedrock 正式可用

    xAI 宣布 Grok 4.3 在 Amazon Bedrock 正式可用,开发者可通过 Bedrock 的推理引擎调用该模型。Grok 4.3 支持 100 万 token 上下文窗口,推理强度可配置为 none、low、medium、high,定价为输入 $1.25 / 百万 token、输出 $2.50 / 百万 token。xAI 称其在 Artificial Analysis Omniscience 基准上取得最低幻觉率,并在 Tau2 Telecom、Vals AI Case Law 与 Corporate Finance 基准上排名第一。

    匹配字段摘要

星期日

  1. Sakana AI:Blog

    Sakana AI 推出首个商用产品 Sakana Marlin 自主调研助手

    Sakana AI 发布首个商用产品 Sakana Marlin,这是一款面向企业的自主型调研助手,输入调研主题后可自主研究最长约 8 小时,输出结构化摘要幻灯片和数十页调研报告。该产品基于长期推理技术,整合了 AB-MCTS 与 The AI Scientist 等研究成果,经过 2026 年 4 月启动的封闭测试、约 300 名来自金融机构、咨询公司和智库等行业的测试者参与打磨。产品提供按量付费及 Pro、Team、Enterprise 等套餐,面向企业战略、咨询、智库等日常调研岗位。

    匹配字段摘要

星期一

  1. Claude Blog

    Anthropic 发布 Swift 包,让 Apple 开发者通过 Foundation Models 框架调用 Claude

    Anthropic 发布新的 Swift 包,为 Apple 的 Foundation Models 框架提供 Claude 支持,开发者可在本地模型处理摘要、抽取等任务后,把需要多步推理、代码生成或联网搜索的请求交给 Claude。该包处理流式输出、工具调用和结构化响应,可直接回填到 SwiftUI 视图,需使用 Anthropic API key,支持 iOS 27、iPadOS 27、macOS 27、visionOS 27 和 watchOS 27。

    匹配字段摘要

星期四

  1. Prime Intellect精选

    Prime Intellect Lab 上线 Nemotron 3 Ultra 后训练支持

    Prime Intellect 宣布其托管后训练平台 Lab 对 NVIDIA Nemotron 3 Ultra 提供 day-0 支持,可在 Blackwell B200/B300 上做托管 RL 训练,配合 vLLM 推理、NCCL 权重广播和 Prime-RL 训练器。平台提供 Environments Hub 中 2,500+ 个开放 RL 环境,并支持 SWE-bench Verified、BrowseComp、τ²-Bench Telecom、Terminal-Bench Hard、IFBench、AA-LCR、GPQA Diamond、RULER-1M 等评测,以及 LoRA 与全权重适配器的一键推理。文中称 Ramp 用 Lab 后训练 35B 检索子智能体 FastAsk,在自有财务表格工作流上达到 66.25% 精确匹配,高于 Claude Opus 4.6 的 61.88%。

    Post-Training Nemotron 3 on Lab

    匹配字段摘要

星期四

  1. Mistral AI

    Mistral 发布工业工程 AI 栈与 Vibe 智能体,并宣布法国 10 MW 数据中心

    Mistral 在 AI Now Summit 上发布面向工业工程的集成 AI 栈,结合物理模型、工程经验与机器人技术,并与 Airbus、BMW、ASML 展开合作,覆盖设计、仿真与生产环节。其智能体工具 Vibe 升级为可处理长周期多步任务的统一智能体,能完成深度研究、交付物起草,以及从需求到合并变更的编码工作。Mistral 还宣布位于法国 Les Ulis 的 10 MW 推理数据中心,计划于 2026 年 Q3 启用。

    匹配字段摘要

  2. Mistral AI精选

    Mistral 将 Le Chat 升级为统一智能体 Vibe,推出 Work Mode 与 Code Mode

    Mistral 将 Le Chat 升级为统一 AI 智能体 Vibe,同时覆盖工作与编码场景,原有对话、设置和订阅方案全部保留。Work Mode 支持企业知识搜索、结构化数据分析、文档报告生成、多步骤任务定时执行和可复用技能,每一步推理与工具调用均可展开查看;Code Mode 在网页端启动远程编码智能体,可连接 GitHub 并运行至提交 pull request。Vibe 同时发布 VS Code 扩展并更新 CLI,支持技能命令、子智能体、会话级权限和 /teleport 会话迁移,定价为免费、Pro 14.99 美元/月、Team 24.99 美元/用户/月及 Enterprise 定制。

    匹配字段摘要

  3. Linear:Now

    Linear 发布 Diffs,加速应用内代码审查

    Linear 发布 Diffs,让用户直接在 Linear 内审查 pull request,并将代码变更与对应的 issue、项目和客户反馈并列呈现。引导式审查会把大型 diff 拆成按推理顺序排列的章节,结构化高亮则过滤格式调整等噪声。该功能从今天起面向所有 Linear 套餐开放。

    Abstract illustration of code review UI

    匹配字段摘要

星期三

  1. 小米 MiMo精选

    小米 MiMo-V2.5 系列 API 永久降价,最高降幅 99%

    小米 MiMo 宣布 MiMo-V2.5 系列 API 永久降价,相比此前定价最高降幅达 99%,并对所有上下文长度统一计价。MiMo Token Plan 同步升级,同等价格下可用 token 增加 5–8 倍,计费规则更简单透明,现有 Token Plan 额度将全部重置;MiMo-V2.5-TTS 仍限时免费。新价格于 5 月 26 日 18:00 PDT 生效,官方称后续会发布推理优化技术博客。

    匹配字段摘要