←搜索结果

按匹配度 · 共 368 条结果 清除搜索

星期二

  1. Unite.AI

    llm-d 1.0 在 PyTorch Conference 发布,面向生产环境的推理栈

    llm-d 项目在 PyTorch Conference North America 上发布 1.0 版本,这是一个 Kubernetes 原生的分布式推理服务栈,由 Red Hat、IBM 和 Google 主导维护,CNCF 以沙箱项目托管。1.0 版本新增多租户服务质量保障,包括按优先级和公平性调度的流控与可控降载,并支持路由器热备、安全滚动更新,以及把 prefill 和 decode 副本作为整体管理的 DisaggregatedSet 控制器。项目公布的测试显示,在 544 张 NVIDIA H100 上部署 GLM-5.2 可服务最多 3000 个并发编码智能体且零抢占,按当前云租赁价格计算,每 token 成本比同等商业 API 低 5 到 10 倍。

    ts with competing priorities sharing the same infrastructure, and upgrades that do not interrupt operations. What Version 1.0 Adds The project’s v1.0.0 release notes, published on GitHub on October 20, 2026, with signed and verified tags, lead with multi-tenant quality of service: priority- and fairness-aware flow control with controlled load shedding, including a probabilistic admitter, program-aware fairness, and turn-priority scoring, so latency-sensitive requests and bursty agent workloads c

    匹配字段正文

  2. Hugging Face精选

    PyTorch 2.15 为 MPS 带来 FP8 与 MoE 解码提速

    PyTorch 2.15 在 MPS 后端加入 FP8 支持,并让 MoE 模型解码速度比 2.14 快 5–6.5 倍:在 M3 Ultra 上配合 torch.compile,Qwen3.6-35B-A3B 从 9.4 tokens/s 提升到 61.3 tokens/s,LFM2.5-8B-A1B 从 23.6 提升到 123.6 tokens/s。Wan2.2 的 tiled VAE 视频解码峰值驱动内存从约 270 GiB 降到 8 GiB,Qwen-Image-2.1 的 VAE 编码在 MPS 上的图像损坏问题也随 padding 改动修复,编解码往返 PSNR 从 10.06 dB 升到 29.95 dB。该版本要求 macOS 15 或更高版本、Python 3.11 或更高版本。

    25%,从 384 MiB 降至 287 MiB,并为采用更快矩阵乘法和原生 FP8 矩阵乘法的 Metal 4.1 着色器奠定基础。 总结 PyTorch 2.15 将 FP8 带到 Mac,为稠密和 MoE 模型带来更快的 LLM 解码,在 GPU 上提供更多线性代数运算,并将一长串运算从 MPSGraph 迁移到专用 Metal 内核。快来试试候选发布版吧! 我们的下一步 更多 MPS:2.16 将完全在 Metal 上运行注意力,我们也会继续将运算从 MPSGraph 迁移出去。 torch.compile:我们正在努力消除图中断,让更多模型能够端到端编译。 你的想法:我们还能在 PyTorch 中做些什么?如果有哪里慢、缺失或损坏,无论是在 MPS 还是其他地方,请在 GitHub 上开一个 issue 告诉我们。 非常感谢 Nikita Shulga、Kurt Mohler 和 Aaron Gokaslan 审阅了本项工作的大部分内容,也感谢所有在本版本中为 MPS 做出贡献的人。 博客更多文章 tokenizers v1:编码、解码与扩展,实测 解锁连续批处理中的异步性

    匹配字段正文

  3. Hugging Face

    Hugging Face 发布 AnyLanguageModel 1.0,统一 Apple 平台本地与托管模型调用

    Hugging Face 发布 AnyLanguageModel 1.0,用同一套会话代码即可调用系统模型、llama.cpp、MLX、Core ML 的开放权重模型以及多家托管服务商。该版本让工具调用和引导生成覆盖所有服务商,支持在提示词中附带图片,并新增对 Anthropic Messages API、Gemini API、Ollama、Private Cloud Compute 和 Hugging Face Inference Providers 的支持。文中还列出 Gemma 4 E2B、LFM2.5 2.6B、Qwen3.8 27B 等当前下载量较高的模型及其量化后体积。

    馈和贡献塑造了我们的多项重要功能。感谢所有贡献者帮助 AnyLanguageModel 对应用开发者更加实用。 下一步 语言模型已被证明是为产品注入智能的强大工具。它们也是开发者可以使用的众多模型类型之一。我们很高兴将同样的方法扩展到更多能力:熟悉的 Swift API,以及可在设备上运行的多种模型选择。即将推出:能够决策的模型,以及能够聆听的模型。 链接 GitHub 上的 AnyLanguageModel GitHub 上的 swift-huggingface GitHub 上的 swift-xet 隆重推出 AnyLanguageModel 隆重推出 swift-huggingface 本文提到的模型 4 LiquidAI/LFM2.5-2.6B-GGUF google/gemma-4-E2B-it-qat-q4 0-gguf mlx-community/Qwen3.8-27B-4bit zai-org/GLM-5.3 来自我们博客的更多文章 Jun Kim,oMLX 创建者兼维护者,加入 Hugging Face 以支持 MLX 社区 +1 你本会自己提交的那个 PR 本文提到

    匹配字段正文

  4. 阿易 AI Notes

    DeepSeek 开源推理框架 DeepInfer 与编解码组件

    DeepSeek 以 Apache 2.0 协议开源了支撑其线上服务的推理框架 DeepInfer 和 API 同款编解码组件 deepseek-recipe,后者把官方线上 API 的 Token 编解码逻辑原样公开。框架包含高性能算子、分布式推理、投机解码、SWA Bounded Replay 和结构化输出,官方称后续新模型的推理代码也会持续合入该仓库。据仓库 README,此次只放出离线推理引擎,KV 缓存系统、预填充与解码分离部署、多副本负载均衡未包含在内,硬件仅支持英伟达 Blackwell 架构 SM100 和华为昇腾 950,模型仅限 V4.1-Flash。

    码逻辑原封不动交了出来,直接替所有做私有化部署的团队抹平了本地环境和官方接口之间的行为温差。 这就像一家米其林餐厅,以前开源模型权重只是把菜谱免费印给你,你自己在家炒总是差一口锅气, 现在 DeepSeek 连自家后厨定制的高压猛火灶台 DeepInfer,外加主厨切配摆盘的标准化工序 deepseek-recipe 一块打包送你了。 不过我顺手去扒了一遍 GitHub 仓库的 README,发现对着全网欢呼的完全开源也得留个清醒,仓库文档写得很实在, 这次放出来的其实只是离线推理引擎,真正撑起完整线上高并发服务最核心的三块基建:KV 缓存系统、预填充与解码分离部署、多副本负载均衡这次并没有放出来;而且硬件门槛极高,目前只认英伟达最新的 Blackwell 架构 SM100 和华为昇腾 950 两款顶级算力卡,支持的模型也只限刚发的 V4.1-Flash,普通玩家手里的消费级显卡压根跑不起来。 但恰恰是 README 里这行只支持英伟达 SM100 和华为昇腾 950 的硬件限定,暴露了比框架本身更狠的产业信号,头部国产大模型已经不再等芯片厂商来缓慢适配自己,而是亲自下场写底层算子,一

    匹配字段正文

  5. 钛媒体 · AGI

    DeepSeek 上线 Search 和 Fetch 接口,每千次成功请求 5 元、11 月 1 日起收费

    DeepSeek 上线 Search 和 Fetch 两个接口,底层由自研搜索引擎驱动,每 1000 次成功请求收费 5 元(约 0.75 美元),失败、无结果或超时不计费,11 月 1 日起正式收费。两个接口此前在 DeepSeek Harness、Claude Code、Codex 中免费使用,各限速每秒 5 次。横向对比,Tavily 约 8 美元/千次、Brave Search 和 Google Custom Search 约 5 美元/千次,DeepSeek 的价格约为主流海外方案的一折到两折。

    低。 国内维度更有意思。这是主流大模型厂商里少见的"自研搜索引擎对外开放"动作——此前联网搜索要么是模型的内部能力不单独卖,要么走第三方数据源。DeepSeek等于宣布:我不只做模型,还自己养了一套搜索基础设施,并且愿意把它变成一门独立生意。 往深想一层 这笔账对DeepSeek来说是稳赚的。Agent调用搜索是刚性需求,尤其在编程场景里——查API文档、看GitHub issue、追最新库的用法,这些动作每天都在Claude Code和Codex里成规模发生。免费期相当于培养习惯,11月1日开始收费时,切换成本已经很高了。更妙的是,搜索数据本身会反哺DeepSeek对"用户真正在查什么"的理解,这在模型迭代里是稀缺信号。 但也要看到硬币的另一面。自研搜索引擎的索引规模、 freshness、反爬能力,和Google、Bing这种几十年的积累不在一个量级——DeepSeek没有公布任何搜索质量指标,目前所有判断都只能基于"能用"而非"好用"。每秒5次的限速对高并发Agent集群也是个硬约束,企业级负载大概率要排队。另外,把搜索和抓取绑定在自家API里,意味着开发者的数据管道进一步向单一

    匹配字段正文

  6. Unite.AI

    Together AI 推出 Together Post-Training 定制模型服务

    Together AI 于 2026 年 10 月 19 日推出 Together Post-Training,支持用户自定义强化学习与监督微调循环来构建定制模型,前六周 B200 使用价格为每 GPU 小时 9 美元。服务首批支持 Muse Spark Open、GLM 5.3、Kimi K3 和 Qwen 3.8-27B 等开放权重模型,按 GPU 分钟计费,并提供 sample_batch、forward_backward、optim_step、weights_sync 等 SDK 接口。训练完成后可在 Dedicated Model Inference 中以多 LoRA 方式切换适配器,并支持 FP4 精度合并部署。

    preparation step for FP4 inference. Getting started requires the latest Together SDK and the documentation. Together published cookbooks in a post-training-cookbook repository on GitHub covering GRPO training on the GSM8K benchmark, DPO implemented as a custom loss, and training multiple LoRA adapters within the same model resource; the documentation describes the cookbook as a Python library of ready-made loops whose notebooks walk through GRPO, SFT, and multi-adapter training on one model res

    匹配字段正文

星期一

  1. Google Developers Blog

    Google 发布 LiteRT Tensor API,支持用 C++ 手写端侧模型图

    Google 发布 LiteRT Tensor API,让开发者在 C++ 中逐算子构建计算图,同一份代码可经 LiteRT 跑在 CPU、GPU(ML Drift)和 NPU 上,或不经模型文件直接通过 XNNPACK 在 CPU 运行。官方用该 API 手写 SAM 2 并部署到浏览器 WebGPU,在 MacBook Pro 上比 Apple MLX 快约 1.5 倍,输出掩码与 Meta PyTorch 参考逐像素一致。该 API 还支持从 .safetensors 直接加载权重,并让预处理、推理与后处理通过共享加速器缓冲区串联,避免数据回传 CPU。

    oct2026_liteRT_tensorAPI

    nt wrote and evolved it from under 10 to over 30 frames per second at 512x512 on WebGPU. See that the complete implementation and the web app are open source in the LiteRT Samples GitHub repo. What is the LiteRT Tensor API? The LiteRT Tensor API provides four key features for authoring and optimizing on-device models: Full control over graph structure: you decide every op in the model graph and every connection between them, from elementwise math to accelerator-optimized LLM composite ops, such

    匹配字段正文

  2. 智东西

    Conway Research 推出本地个人 AI 助手 Underdog

    成立 8 个月的 Conway Research 亮出首款个人 AI 助手 Underdog,完全运行在用户设备上且离线可用,已推出 Mac、Windows 测试版,并获 a16z、Anthropic 投资联合体等投资。其模型包括基于 Qwen3.8 27B 打造的 Saluki 27B(已开源,权重体积为全精度版本的 1/7、保留 96% 性能)和 Woof 4B,配套推理引擎 Husky 在 MacBook 上让 Woof 4B 每秒最多处理 730 个 token,比 MLX 快 4.5 倍。产品还上线了基于 Qwen-Image Flash、Qwen-Image-2.1-Turbo 的本地图像生成与编辑,以及与 Stripe 合作的设备端智能体支付。

    署应用和服务、制作病毒式社交媒体内容来推广产品、给供应商发邮件搭建电商渠道、致电企业为其搭建网站。只要还能负担运营成本,Automaton就会一直运作下去。 不过这款产品上线后评价两极分化。一方面它收获了大量关注。产品刚推出时,Sigil Wen就在X平台发文称,Conway Automaton注册智能体数量已经突破1.8万个;时至今日,Automaton的GitHub开源项目累计收获7300星。 另一方面质疑声同样不少。以太坊创始人Vitalik Buterin曾公开表态,认为所谓Web4的发展方向存在偏差。在他看来,拉长人类与AI之间的反馈链路,对整个世界而言并非好事。Softswiss首席信息官Denis Romanovskiy当时也提出,AI智能体能否实现真正的经济自主,取决于大模型在成熟度、记忆、规划以及工具调用上的能力;而在这些维度上,现有技术尚不稳定,不足以支撑可靠的无人值守运行。 结语:性能不及Muse、Dot,个人Agent跑在终端仍处早期探索阶段 这一轮个人智能体竞赛,主流思路仍是搭建云端虚拟机,让AI在厂商的服务器里持续执行任务。但Agent一旦开始高频循环、反复

    匹配字段正文

星期六

  1. NVIDIA Developer · Generative AI

    NVIDIA 发布 RTX Spark,单机完成编码、测试与部署

    NVIDIA 发布 RTX Spark,将 GB10 系统级芯片与最高 128GB 统一内存结合,让开发者在单台 PC 上运行本地编码智能体、测试并部署。官方称相比 Intel Panther Lake 12Xe,其编码智能体性能提升 4.6 倍、微调提升 2.7 倍、代码编译提升 1.8 倍。同时推出面向本地智能体的 Nemotron 3.5 Bolt 74B-A9B 24GB 模型,采用 2-bit 量化的 MoE 架构,可在 llama.cpp、vLLM、Ollama、Unsloth 和 LM Studio 上运行。

    Bar chart comparing RTX Spark N1X with Intel Core Ultra X9 388H, normalized to 1x. RTX Spark reaches 4.6x performance for coding agents, 2.7x for fine-tuning, and 1.8x for code compilation. The graphic also lists 1 petaflop of NVFP4 compute and up to 128GB of unified memory.

    rks, and CUDA-X libraries Local coding agents come to RTX Spark RTX Spark devices are ideal for local coding agents. NVIDIA has collaborated closely with the top agents, including GitHub Copilot, Pi, Hermes, and OpenClaw, to improve them and make them easier to use. The improvements include: Seamless deployment of local models with optimized recipes Enhanced security with NVIDIA OpenShell and/or Microsoft Execution Containers, delivering OS-level sandboxing Hybrid prompt routers between local an

    匹配字段正文

星期五

  1. AWS Machine Learning精选

    Reflection AI 开源智能体编码模型 Beam,并在 AWS 上提供部署方案

    Reflection AI 推出开源权重模型 Beam,面向智能体编码和长周期任务,如维护代码、调用工具、解读结果并完成多步工作流。Beam 是稀疏 MoE 模型,总参数 5010 亿、激活参数 230 亿,Reflection 称有效上下文长度为 100 万 token,权重以 Apache 2.0 许可在 Hugging Face 发布,提供 BF16、FP8 和 NVFP4 三种 checkpoint。发布时 Beam 已在 Amazon SageMaker JumpStart 上线,覆盖美国东部(弗吉尼亚北部)和(俄亥俄)区域,也可通过 SageMaker HyperPod Inference 搭配 JumpStart、SGLang 或 vLLM 部署。

    Architecture diagram showing Beam sourced from SageMaker JumpStart, Hugging Face Hub, or an optional Amazon S3 mirror into Amazon SageMaker HyperPod Inference, with the Inference Operator managing local model and image caching and the Inference Gateway and Endpoint Picker routing requests to distributed JumpStart, SGLang, or vLLM workers monitored by Amazon CloudWatch.

    spect the reflection-beam-jumpstart.yaml manifest template before configuring the deployment. Clone the sample repository, and enter the HyperPod Beam directory. git clone https://github.com/aws-samples/sagemaker-genai-hosting-examples.git cd sagemaker-genai-hosting-examples/SageMakerHyperpod/reflection-beam/ Create the local configuration files described in the README. cp config/deployment.env.example config/deployment.env cp config/release.env.example config/release.env Validate the JumpStart

    匹配字段正文

  2. Unite.AI

    Perplexity 开源智能体沙箱平台 SPACE

    Perplexity 于 10 月 15 日宣布以 Apache License 2.0 开源其智能体沙箱平台 SPACE,即 Computer 个人智能体背后的沙箱系统,并公开代码仓库与托管文档。SPACE 自 7 月起支撑全部 Computer 会话,每天处理数百万次沙箱创建,同一生产流量下创建速度比此前商用沙箱供应商快 3 至 5 倍。平台基于 Firecracker microVM 提供隔离、状态恢复与凭证和网络控制,官方安全评估中 108 次越界尝试均未从虚拟机逃逸到宿主机;CoreWeave、Akamai 已在其云平台测试并上线 SPACE,Crusoe 也在合作引入。

    isky software packages, extensions, and AI tool configurations. Repository and Cloud Availability SPACE, short for Sandboxed Platform for Agentic Code Execution, is published in a GitHub repository under the Apache License 2.0. The repository describes a platform that runs code in isolated Firecracker microVMs, with an HTTP API used to create Linux environments, execute commands, collect output, and manage sandbox lifecycles. A template supplies the starting environment, and a sandbox is an inst

    匹配字段正文

星期四

  1. MarkTechPost

    CopilotKit 发布 CLiF:把智能体轨迹与用户操作转化为技能、评测和微调数据

    CopilotKit 发布持续学习平台 CLiF,目前处于早期访问阶段,属于 CopilotKit Intelligence 的一部分。它通过 AG-UI 协议把智能体轨迹与用户在产品中的操作捕获为同一条全栈轨迹时间线,再经捕获、模式发现、人工审核、交付导出四阶段循环,产出技能、基于生产的评测、微调数据集和原始轨迹四类输出。技能以 SKILL.md 文件形式发布,需人工逐条审核,发布后无需重新部署即可被智能体加载,也可下载给其他智能体或 MCP 服务器使用;平台完全支持自托管。

    hat record into skills, production-based evals, and fine-tuning datasets, all exportable along with the raw trajectories. CopilotKit is open source, with more than 38,000 stars on GitHub. TL;DR Agent tracing shows where an agent went wrong, while the correct path lives in what users do in the product, which most stacks never capture. CLiF, now in early access, learns from full-stack trajectories: the agent trace and the user’s actions in the product, securely captured as one timeline over AG-UI.

    匹配字段正文

  2. Google Developers Blog

    Google 发布 google/adk-recipes 仓库,分三层组织 ADK 配方

    Google 发布 google/adk-recipes,作为 google/adk-samples 的重构继任者,为 Agents CLI、Agent Garden 和 Gemini Enterprise app 提供单一来源的 ADK 内容。仓库分为三层:core/ 存放参考模式,plugins/ 存放符合 Agent Plugins v1.0.0 规范的垂直技能,contrib/ 存放五种语言的可部署端到端服务。每个配方都带有 manifest.yaml、AGENTS.md,contrib/ 和 plugins/ 还包含 Dockerfile 与可运行性测试,CI 在每次 PR 时执行校验。

    1 (1)

    lugins/) a Dockerfile plus a runnability test. CI enforces the standards on every PR, and a suite of coding-assistant skills in the repo (prepare-python-recipe, generate-manifest, github-pr-review, and others) does most of the preparation, so your agent can scaffold, validate, and submit a recipe end-to-end. Built for coding assistants, not just developers Every AGENTS.md, every manifest.yaml, every SKILL.md is written primarily for the AI coding assistant that will open the repo on your behalf;

    匹配字段正文

  3. Figma AI / Agent / Make精选

    Figma 发布 code layers、Specs 与 Payload 集成等新工作流

    Figma 发布多项面向智能体协作的新功能:code layers 进入公开测试并向所有方案开放,Specs 在 Web、桌面和移动端开始公开测试,Payload 集成到 Figma Make 并将在未来几周向所有账号开放。Figma agent 转为正式可用,Figma MCP 支持在已有 AI 工具中生成 code layers 和操作 Specs,并新增 OpenCode、Dia、JetBrains Junie、Meta Muse 等 20 个 MCP 合作集成。设计系统方面,guidelines 进入公开测试、code sources 进入封闭测试,均面向所有付费方案。

    A Pickup App preview on the Figma canvas shows a wall clock listing alongside its App.tsx source code.

    ng together again on the canvas. Whether you’re converting existing designs into working code, uploading from a local folder, bringing in a coded prototype via MCP, importing from GitHub, or capturing what’s live on your website with Figma’s Chrome extension, code layers lets you explore code-backed ideas on the canvas and push your thinking forward. And over time, we plan to make it possible to work with more complex codebases, too. Code layers is rolling out in open beta starting today, and is

    匹配字段正文

  4. Rohan Paul

    aipoch_ai 开源 Open-Science 桌面应用,让 AI 辅助科研结果可追溯

    aipoch_ai 推出免费开源桌面应用 Open-Science,AI 智能体可在同一工作区内读论文、从科学数据库取数、编写并运行 Python 或 R 代码,并保存图表与报告。每个结果都会记录输入数据、代码、软件环境和运行历史,整个会话可导出为单个 .science 文件,包含对话、所选文件和证据但不含 API key。该应用采用 Apache 2.0 许可,支持 macOS、Windows 和 Linux,模型无关且默认本地优先,代码需用户批准后才运行,并内置 AlphaFold2 等科学技能。

    An Apache-2.0 app with 4.8K GitHub stars is trying to make AI-assisted science as traceable as checksummed, versioned code. @aipoch ai’s Open-Science is a free, open-source desktop app where an AI agent reads papers, pulls data from science databases, writes and runs Python or R code, and saves the charts and reports, all in a single workspace on your computer. Research is usually split across PDFs, spreadsheets, code editors and terminals, so results lose their link to the data and code behind

    匹配字段正文

星期三

  1. gihyo.jp

    OpenCode 2.0 发布:终端、Web、桌面默认共享会话,支持后台执行审查与测试

    Anomaly 于 2026 年 10 月 12 日在官方博客介绍开源 AI 编码智能体 OpenCode 2.0 的主要变化,默认让终端、Web 和桌面应用共用同一会话,由本机后台服务统一管理会话、配置、外部集成与权限。2.0 将 MCP 工具调用默认改为 Code Mode,由智能体编写 JavaScript 组合调用工具,减少逐次往返模型的交互;子智能体与 shell 命令可在后台运行,代码审查、测试和构建无需等待完成即可继续其他工作。CLI 从 1.x 升级需先更新到最新 1.x 再执行 opencode upgrade --major,V1 插件和调用服务器 API 的外部程序需改写,V2 目前不支持 LSP。

    する--serverも用意されている。 MCPツールはCode Mode経由の実行がデフォルトに Code Modeは、エージェントがJavaScriptを書き、利用可能なツールを組み合わせて実行する仕組み。1.xにも実験機能として存在したが、2.0では、外部ツールを提供するMCPサーバーのツールを呼び出す際にデフォルトで使う方式になった。 公式ブログでは、GitHubのバグ報告を取得し、Linearに課題として登録する例を示している。エージェントが一連の処理をJavaScriptで書き、OpenCodeのexecuteツールがそのコードを実行する。処理を一つのスクリプトにまとめることで、ツールを呼び出すたびにモデルへ結果を返し、次の呼び出しを判断させるやり取りを減らせるようになる。 別のツールの結果を待つ必要がない処理は、並列に実行できる。また、途中で得たデータをスクリプト内で加工し、必要な結果だけをモデルに返すこともできる。ブログは、多数のツールを接続した場合に、モデルへ渡すツールの説明などの情報量を抑えられる点も挙げている。 OpenCodeは、JavaScriptの実行に@op

    匹配字段正文

  2. SiliconANGLE

    Chainguard 发布 Harness 漏洞挖掘服务及两款智能体安全产品

    Chainguard 在 Assemble London 大会上发布漏洞挖掘服务 Harness,使用 Anthropic 的 Claude Mythos 5.1 等前沿模型,只报告能在客户应用实时构建中复现的漏洞,该服务已在 Claude Marketplace 上架。同时推出面向编码智能体的 Chainguard Workspaces 和 Chainguard Checks,前者提供无凭证的隔离云环境,后者在提交 PR 前运行持续集成测试。Chainguard Libraries 新增 Go 和 .NET 支持,语言覆盖扩至五种,Workspaces 与 Checks 即日起开放 beta 测试。

    g defensive security work, and static scanners miss the logic flaws that only surface once an application is running. Customers connect a repository through Chainguard’s Guardener GitHub app. From there, Harness compiles the application as it would ship, and the build boots in an isolated virtual machine cut off from the outside network. A frontier model then probes that running copy the way an attacker would. Nothing gets reported until it reproduces in a fresh environment on every replay, acco

    匹配字段正文

  3. The Next Platform

    微软公布 Clea Maia 300 推理 XPU 规格

    微软在 Open Compute Project Summit 2026 上公布第三代自研推理加速器 Clea Maia 300 的规格,采用台积电 2 纳米 N2P 工艺和 chiplet 架构,封装内含 7 颗芯片与 8 个 HBM4 堆栈,配备 288 GB HBM4 和 18 TB/sec 内存带宽。微软称一机架 96 颗 Maia 300 的 token 吞吐量最高可达一机架 48 颗 Maia 200 的 7 倍,每瓦性能提升 2.5 倍,单机架功耗约 167 千瓦。该芯片面向更大规模的智能体推理负载,ATL 2.0 网络可将 128 个机架、12,288 颗加速器连入同一一致性域。

    ational element of Microsoft’s AI infrastructure strategy,” and said that Maia 200 chips are doing inference for Copilot, helping the Microsoft AI team to develop new models, with GitHub Copilot and Microsoft Foundry shifting to Maia 200s by the end of the year. (GitHub Copilot was supported by Maia 100s previously.) The Maia 200s will run OpenAI’s various models, Microsoft’s own models, and various open source models through Microsoft Foundry. It is not clear how much of OpenAI’s GPT API servic

    匹配字段正文

星期二

  1. Berkeley RDI Blog精选

    Berkeley RDI 发布开源计算机使用智能体平台 CUA-Lite

    Berkeley RDI 发布开源平台 CUA-Lite,用于开发 computer-use agents,围绕 Lite.Gym 环境接口、Lite.Sample 监督数据格式和每个模型一套 harness 三层抽象构建,已接入 15+ 个 benchmark、10+ 个数据集和 30k+ 可验证任务。Lite.Gym 以 Gym 风格的 reset/step/close 循环统一观察格式与 GUI 动作空间,并提供无需 /dev/kvm 的免虚拟机 Docker 桌面沙箱,Lite.OSWorld 可原样运行 OSWorld 的任务与评测器。Lite.Sample 在 Hugging Face 免费提供,harness 已覆盖 14 个模型家族,同一套 harness 同时用于评测、SFT 和基于 Slime 的 GRPO 等 RL 训练。

    de Lite.OSWorld, and the mobile benchmarks still need a VM or an emulator: SFT & RL, any open agent SFT on CUA-Lite's corpora, then reinforce in its envs — GRPO and beyond, on the Slime trainer. Train any open agent on any data and any env: Lite.Sample, adapted to each model — pick a dataset and a student: Rollouts scored in the env drive GRPO updates — pick a model and env: Bring a dataset, an env, or an agent — each one compounds. Or just tell us what's missing — GitHub · Hugging Face · Email.

    匹配字段正文

  2. TensorZero 工程博客

    TensorZero 推出自动化 AI 工程师 Autopilot,多项基准任务表现提升

    TensorZero 正在构建自动化 AI 工程师 TensorZero Autopilot,它分析 LLM 可观测性数据、搭建评测、优化提示词与模型并运行 A/B 测试,由 11.5K 星的开源 LLMOps 平台驱动。团队在 terminal-bench、航空与零售客服、NER、FHIR 医疗、中文法律、ReplicationBench 和猜词游戏等任务上测试,每个任务先用 GPT-5 mini 基线收集 100 次 rollout,再以 5 个独立种子运行 Autopilot 并用 100 次新 rollout 评估,结果在所有任务上均有提升,例如 terminal-bench 奖励从 0.404 升至 GLM-5 变体的 0.637,FHIR 任务从 0.182 升至 Kimi K2.5 变体的 0.585。实验限定在成本相近的固定模型集合内并关闭微调,Autopilot 会先诊断基线失败模式再生成针对性提示词。

    orZero Autopilot with 5 independent seeds and evaluated the optimized variants it generated with 100 fresh rollouts on held-out tasks. You can find the code for this experiment on GitHub. For this experiment, we constrained Autopilot to a fixed set of models of comparable cost and disabled custom model training (e.g. fine-tuning): Here are the results: TensorZero Autopilot dramatically improved performance across every task. What actually happened under the hood? terminal-bench presents diverse

    匹配字段正文