←搜索结果

按匹配度 · 共 13 条结果 清除搜索

星期二

  1. Rohan Paul

    SubQ Snap 长上下文决策模型发布,384K token 延迟 2.5 秒

    Subquadratic 发布 SubQ Snap,称其为面向企业工作的长上下文决策模型,支持 384K token 多模态上下文,是 Jev 的 12 倍。其延迟为最小上下文 80ms、32K 为 250ms、100K 为 660ms、384K 为 2.5 秒,输入定价 $0.05/百万 token,输出免费,前 1 万名注册用户可获 100M 免费输入 token。Rohan Paul 指出,其延迟随输入近似线性增长,而标准二次注意力在该区间成本约上升 15 倍,这使模型能一次处理 384K token 的代码、文档、日志和截图。

    匹配字段标题

  2. 事件1 条新闻 · 1 个事实

    Moonshot AI 开源 Kimi Vendor Verifier

    Moonshot AI(月之暗面)开源了 Kimi Vendor Verifier(KVV)项目,用于帮助开源模型用户校验推理实现的准确性。该项目随 Kimi K2.6 模型发布,包含六项基准测试,覆盖 API 参数约束预校验、OCRBench、MMMU Pro、AIME2025、K2VV ToolCall 与 SWE-Bench,其中 SWE-Bench 因依赖沙箱未开源。官方称已在 Two NVIDIA H20 8-GPU 服务器上完成全流程验证,顺序执行约需 15 小时,并已针对流式推理、自动重试和断点续跑优化脚本。目前尚无后续发展事实。

    匹配字段摘要

星期五

  1. Moonshot AI · Kimi Blog

    月之暗面开源 Kimi Vendor Verifier,用于校验开源模型推理实现准确性

    月之暗面随 Kimi K2.6 模型发布开源 Kimi Vendor Verifier(KVV)项目,帮助开源模型用户校验推理实现的准确性。KVV 包含六项基准测试,覆盖 API 参数约束预校验、OCRBench、MMMU Pro、AIME2025、K2VV ToolCall 与 SWE-Bench,其中 SWE-Bench 因依赖沙箱未开源。官方称在 Two NVIDIA H20 8-GPU 服务器上完成全流程验证,顺序执行约需 15 小时,并已针对流式推理、自动重试和断点续跑优化脚本。

    匹配字段摘要

星期四

  1. The Verge AI

    Google 为 Gemini 3.8 Live 推出 Live Avatar 动画形象

    Google 在 Gemini 3.8 Live 更新中推出 Live Avatar,用户可在对话时看到实时回应的动画 AI 形象,它会同步口型并展示不同面部表情,目前仅面向 Gemini Enterprise 客户开放。Google 称 Live Avatar 可在其支持的 97 种语言之间切换而不降低视频保真度或产生视觉漂移,还能在说话时在屏幕上调取信息。该功能约一周前随 Gemini 3.8 Live 模型发布,除预设形象库外也允许企业自建,输出带有不可见的 SynthID 水印及尊重身份的防护措施。

    匹配字段摘要

星期三

  1. 通义千问 / Qwen

    Qwen3.8-Max-0902 登顶 Code Arena 并占据 $5/MToken 帕累托前沿

    Qwen3.8-Max-0902 在 Code Arena 的 WebDev 榜单以 1,691 分首次登场即排名第一,并成为混合价格 $5/MToken 下帕累托前沿得分最高的模型。更新后的前沿上,它高于 HY4 Preview(1,629 分、$2.08/MToken)和 Qwen3.8-Flash-Next(1,620 分、$0.39/MToken)。该模型发布后,总榜前三名之外的第 2 至第 4 名已移出帕累托前沿,分别是 Claude Opus 5 (Max) 1,688 分、$20/MToken,Kimi K3 (Max) 1,674 分、$12/MToken,Qwen3.8 (Max) 1,669 分、$5/MToken。Qwen 官方邀请用户在 QwenCloud 上试用该模型。

    匹配字段摘要

星期三

  1. Modal 官方工程博客

    Qwen3.8-2.4T-A95B 上线 Modal,提供 day zero 共享端点

    Qwen3.8-2.4T-A95B 作为开源权重模型发布,并已在 Modal 上线。Modal 与 Qwen 团队在发布前合作,为 Modal Auto Endpoints 提供 day zero 支持,底层由 SGLang 和针对 Qwen3.8 结构调优的定制 DFlash 推测模型支撑。该文本模型将以 OpenAI 兼容的共享端点形式提供一个月,按 token 计费。

    匹配字段摘要

星期六

  1. 事件1 条新闻 · 1 个事实

    Elorian发布首个AI模型Glimpse

    2026年10月17日,Elorian发布其首个AI模型Glimpse。据Testing Catalog报道,Glimpse能在思考过程中回到视频的特定时间点、放大细节,或以更高帧率重放半秒视频后再作答。Elorian自测显示,Glimpse在科学图表阅读和短视频描述上优于GPT-6 Astra;在规划机械臂将奶油奶酪放入碗中的模拟任务时,Glimpse成本为0.035美元,GPT-6 Astra为0.249美元;演示中Glimpse解出5个难度递增的迷宫,Gemini 3.8 Flash解出1/5。同日另一篇报道称,Elorian将Glimpse定位为首个视觉推理模型,用于比较视频中不同时间点的场景变化,并将这种基于帧的推理称为visual thinking,其推理过程中可回到源视频、裁剪区域、抽取指定帧或运行代码来测量和比较所见内容,该机制被称为visual scratch space;联合创始人Andrew M. Dai称其在关键公开视觉推理基准上具备与Astra竞争的前沿性能。目前该模型发布后尚无进一步有证据支持的发展。

    匹配字段摘要

星期日

  1. 事件1 条新闻 · 1 个事实

    Prime Intellect Lab支持Nemotron 3 Ultra后训练

    2026年6月4日,Prime Intellect 宣布其托管后训练平台 Lab 对 NVIDIA Nemotron 3 Ultra 提供 day-0 支持,可在 Blackwell B200/B300 上进行托管强化学习训练,配合 vLLM 推理、NCCL 权重广播和 Prime-RL 训练器。平台提供 Environments Hub 中 2,500+ 个开放 RL 环境,并支持 SWE-bench Verified、BrowseComp、τ2-Bench Telecom、Terminal-Bench Hard、IFBench、AA-LCR、GPQA Diamond、RULER-1M 等评测,以及 LoRA 与全权重适配器的一键推理。同日,Prime Intellect 还宣布加入 NVIDIA Nemotron 联盟,贡献 2,500+ 开源 RL 环境、verifiers 框架、Prime Sandbox 及 NeMo Gym 集成,以 Apache-2.0 / CC-BY-4.0 随 Nemotron 模型发布同步开源。此外,NVIDIA Nemotron 3 Ultra 同

    匹配字段摘要

星期一

  1. Replit Blog精选

    Replit 推出 Replit for Business,提出自驱动公司蓝图

    Replit 发布 Replit for Business,面向企业提供让智能体在受控边界内使用公司知识与系统的底座,目标是帮企业转型为自驱动公司。Replit 称 2026 年上半年其工程师代码产出接近三倍,评审时间、回滚和产品事故持平。客户 SMFL 表示原本需 6 人做 6 个月的开发流程由 1 人 1 周完成,全生命周期成本从约 30 亿日元降至 10 亿日元以下。

    The Rise of the Self-Driving Company — cover image

    核心循环,会选择其子智能体的层级和投入力度,并随着任务展开调整自身的层级和投入。有了这种自由,GPT-6 Astra 将常规实现交给成本更低的子智能体,并自行决定把 token 花在哪里最值得。在 DeepSWE 和 Terminal-Bench 上,Replit Agent 相对于单独使用 Astra 都具有帕累托效率:没有任何已发布的 Astra 基线成本更低且得分更高。它还比 sidekick 架构——即同样设置但配有一个长期存活的 worker——高出 11 分和 16 分。 为什么我们减少脚手架 每一次模型发布都会使框架中固化的假设失效。 随着模型在长周期任务上变得更强,它们不再需要框架层提供那么多脚手架。在实践中,我们观察到它们更倾向于自行委派:使用子智能体进行上下文管理和并行处理。近期的突破,包括 Navier–Stokes 问题,部分来自协调由前沿模型驱动的智能体集群 [1]。 但前沿是参差不齐的。最强的编码模型不一定最擅长设计 UI 或制作幻灯片,也不一定最擅长写邮件。因此我们设计框架,让每个模型按自己的方式工作,同时保留它仍然需要的护栏,并以最低成本实现质量为目标。

    匹配字段正文

星期四

  1. Claude Blog

    Claude 平台在 Google Cloud 全面可用,由 Anthropic 托管

    Claude Models on Google Cloud(Anthropic 托管)正式可用,Google Cloud 客户可借助现有 IAM 凭证、账单和承诺抵扣使用完整的 Claude 平台功能,新功能和 beta 与原生 Claude 平台同日上线。该版本支持 Claude Managed Agents(beta)、代码执行、computer use、Agent skills、MCP connector、Prompt caching 等能力,并提供 Claude Console;Claude Fable 5.1、Opus 5.5、Sonnet 5.5、Haiku 5.5 已可用,Claude Opus 5.5 的 Fast Mode 输出速度最高提升 2.5 倍,输入输出价格为每百万 token 8 美元和 40 美元。Anthropic 作为数据处理器运营该服务,目前提供美国和全球端点;需要 Google 作为数据处理器或有区域数据驻留要求的客户仍可选 Google 托管版本。

    户还可以访问 Claude Console,这是 Anthropic 的开发环境,用于观察和管理使用 Claude 的智能体。该 Console 包含用于编写提示和配置智能体、在托管环境中运行它们、监控用量和成本,以及按工作区管理访问和安全的工具。 Claude Fable 5.1、Opus 5.5、Sonnet 5.5 和 Haiku 5.5 均已可用,新模型发布时会在 Anthropic 托管版本中同步上线。 使用 Claude 在 Google Cloud 上构建的两种方式 在 Google Cloud 上使用 Claude 构建有两种方式。 Google Cloud 上的 Claude 模型(Anthropic 托管)专为希望从第零天起就能访问所有 beta 和正式可用 Claude 平台功能的客户而构建。它最适合希望通过 Google Cloud 访问、获得完整 Claude 平台功能对等的客户。Anthropic 运营该服务并担任数据处理者。 Google Cloud 上的 Claude 模型(Google 托管)仍然是需要 Google Cloud 作为数据处理者、有严格

    匹配字段正文

星期三

  1. 36氪 · AI

    DeepSeek 开源搜索、推理框架与编解码组件,并公开单卡每小时收入

    DeepSeek 在一周内接连推出自研搜索 Search 与 Fetch、推理框架 DeepInfer 和编解码组件 deepseek-recipe,除搜索服务将于 11 月 1 日开始收费外,其余均免费开源。Search 与 Fetch 是面向模型的 JSON 接口,每 1000 次成功请求 5 元,可在 DeepSeek Harness、Claude Code、Codex 中通过服务端工具调用,且不绑定 DeepSeek 模型;DeepInfer 以 Apache 2.0 开源离线推理版本,兼容英伟达和国产算力平台。官方部署实践还披露单一集群每天 155 万亿 Tokens 吞吐、平均每卡每小时 38 美元收入,按此计算单卡月收入约 2.7 万美元。

    arch与Fetch也并不绑定在DeepSeek的模型上。只需要有一个DeepSeek的API就能在任何模型上调用Search与Fetch。 第二个是DeepInfer。 DeepInfer是DeepSeek线上大规模服务正在用的推理框架。这次开源的是它的离线推理版本和核心能力,协议是Apache 2.0,可以在英伟达和国产算力平台上运行。 很多人以为,一个模型发布出来,把权重文件下载到自己的电脑里,事情就结束了。 其实不是。权重只是一大堆数字,想让它能高效地运行起来,中间还隔着一整套工程。而这套工程就叫做推理框架。 模型就像一本写满字的书,纵使书中自有颜如玉,书中自有黄金屋,它自己也不会说话,更不可能回答你的问题。 DeepInfer就是让这本书开口的程序。你给它发一句话,它把这句话喂给模型文件,模型文件里的数字被调动起来,算出回答,再返回给你。 DeepSeek官方表示,模型的能力边界由模型本身划定,而如何让这些能力以合理的成本服务海量用户,是推理框架要解决的核心问题。 第三个是deepseek-recipe。 就像在不同国家打招呼一样,中国说“你好”,美国说“Hello”。不同模

    匹配字段正文

星期二

  1. The New Stack精选

    DeepSeek 开源其 API 背后的推理引擎 DeepInfer,同时支持 Nvidia 与华为昇腾

    DeepSeek 开源了用于生产环境服务其模型的自研推理框架 DeepInfer,采用 Apache 2.0 许可,可让开发者在自有基础设施上运行 DeepSeek-V4.1-Flash,并计划支持后续模型。该框架包含 FlashMLA、DeepGEMM、DeepEP 等优化计算内核与通信库,支持投机解码、异步调度和结构化输出,同时开源了处理请求与响应转换的 deepseek-recipe 库(提供 Rust 和 Python 版本)。硬件方面首日支持 Nvidia SM100(Blackwell)架构和华为昇腾 950 NPU 系列,Hopper 等旧架构未列入;批量不变推理与确定性采样仅在 Nvidia 硬件上可用,公开性能数据也基于 Nvidia GPU。当前版本支持离线推理,但缺少 KV cache 管理、跨机推理阶段分离和副本负载均衡等完整生产服务组件。

    ll 数据中心 GPU。值得注意的是,另一个受支持的平台是华为的昇腾 950 NPU 系列,这使这家中国芯片制造商与 Nvidia 一同出现在 DeepSeek 的兼容硬件列表中。较旧的 Nvidia 架构,包括 Hopper,则明显缺席。 这也与 DeepSeek 在 2025 年公布的开放源代码计划相呼应。当时该公司不愿发布其完整的推理引擎,但承诺在未来模型发布前与硬件制造商合作,目标是从第一天起就让其模型可在不同的芯片架构上使用。 美国的出口限制使中国企业获取 Nvidia 最先进芯片变得更加复杂,这也为 DeepSeek 与华为日益紧密的关系增添了另一个维度。9 月,彭博社报道称,DeepSeek 计划在内蒙古的一个新数据中心部署至少 16 万颗华为昇腾 950DT 芯片,专门用于运行其模型。该公司在训练方面主要依赖 Nvidia,不过《The Information》9 月报道称,DeepSeek 也计划增加使用华为芯片进行训练,预计最早在第四季度交付。 当月晚些时候,路透社报道称,DeepSeek 与华为正在合作开发软件工具,旨在让昇腾处理器更易于编程,这进一步凸显了该公司

    匹配字段正文

星期五

  1. 量子位

    平头哥公布 T-Head SAIL 软件栈开源进展,扩大真武芯片框架与加速库开放范围

    平头哥在云栖大会公布 AI 软件栈 T-Head SAIL 的最新开源进展,已开源 PyTorch-for-sail 框架适配、sailify 源码迁移工具、Triton-for-sail 算子开发工具,以及 DeepGEMM-for-sail、FlashAttention-for-sail 等计算加速项目。SAIL 是围绕真武 AI 芯片打造的类 CUDA 软件栈,连接 PyTorch 等上层框架与底层硬件,负责模型迁移、编译执行、计算加速和开发调试。据现场披露,真武 AI 芯片已服务 20 多个行业的 650 多家客户,截至 2026 年 9 月在 ModelScope 上提供 39 个量化模型,覆盖 Qwen、DeepSeek、Kimi 等系列,累计下载超过 34.8 万次。

    是怎么实现的,再根据自己的模型和业务负载继续改。 过去需要交回芯片厂商的问题,现在业务团队有机会自己定位、自己优化。更了解模型的人,可以直接参与决定模型怎样在芯片上运行。 换句话说,T-Head SAIL开源不是多了一个下载入口,而是让开发者真正参与到芯片性能优化里。 3、新模型出来后,最好Day 0就能跑。 对于不少开发者来说,还有一个迫切需求就是—— 新模型发布当天,最好就能在自己的算力平台上试起来。 现在模型的更新节奏基本上是几周一更。如果适配慢了一轮,业务团队尝试新技术的时间也会跟着推迟。尽快支持新模型,甚至做到Day 0可用,已经成为客户对算力平台的期待。 平头哥也在持续提供面向真武适配的模型资源。按照现场演讲披露的数据,截至2026年9月,其在ModelScope上已提供 39个量化模型,覆盖Qwen、DeepSeek、Kimi等系列,累计下载超过34.8万次。 这些已经完成适配的模型,可以减少用户自行准备的工作,让部署和测试更早开始。 与此同时,TensorFlow、JAX适配版本、自研推理引擎,以及PCCL、DeepEP-for-sail等通信组件和调试监控工具,也还在

    匹配字段正文