←搜索结果

按匹配度 · 共 268 条结果 清除搜索

星期六

  1. MarkTechPost

    Prime Intellect 推出 Prime Inference,为前沿开源模型提供无服务器与预留推理服务

    Prime Intellect 发布 Prime Inference,为前沿开源模型提供无服务器端点和预留 GPU 容量,支持 OpenAI SDK 接入 https://api.pinference.ai/api/v1,并具备跨数据中心自动故障转移。该平台在公开发布前内部日均处理近一万亿 token,负载来自 RL rollout、合成数据生成、评测和长时间运行的编码智能体。其服务栈结合 NVIDIA Dynamo、vLLM、Mooncake 和 FlashInfer,采用预填充与解码分离部署,测试中 p90 词元间延迟降低近 40%,GLM-5.3 在 GB200 NVL72 上以 1:4 预填充解码比实现每组 66 个会话、每用户 101 tok/s。

    匹配字段摘要

星期五

  1. gihyo.jp

    TesterArmy 开源 AI 智能体 E2E 测试框架 e2e

    TesterArmy 开源了用 AI 智能体验证 Web 与移动应用的端到端测试框架 e2e,源码以 Apache-2.0 许可发布在 GitHub,CTO Oskar Kwaśniewski 于 2026 年 10 月 1 日在 X 上介绍。测试用 TypeScript 编写,agent.act() 用自然语言指定目标,agent.assert() 由 AI 判定画面是否符合预期,两者可与定位器断言混用,也可完全不用 AI。框架通过 Playwright 操作 Chromium、Firefox、WebKit,通过 agent-device 操作 iOS 模拟器和 Android 模拟器,并支持缓存复用已验证操作、e2e explore 探索测试和 e2e mcp 供编码智能体操作应用。

    匹配字段摘要

  2. NVIDIA Blog

    NVIDIA GPU 加速 OpenAI GPT-6 Astra Ultrafast,token 生成最高快 8 倍

    OpenAI 推出 GPT-6 Astra Ultrafast,运行在 NVIDIA Blackwell GPU 上,已通过 OpenAI API 以及面向符合条件的 ChatGPT Work 和 Codex 用户开放。该模式借助针对 Blackwell 架构的推理优化,token 生成速度最高可达 Astra Standard 模式的 8 倍,可缩短编码智能体的编辑、测试、调试循环,并减少工具调用之间的等待时间。OpenAI 还使用自家模型优化 NVIDIA GPU 上的推理软件,以持续提升响应速度。

    匹配字段摘要

星期四

  1. A6 a6-051 · Cerebras:Blog

    Cerebras 上线 GLM-4.6,推理速度超 1000 tokens/秒

    Cerebras 在其 Inference API 上线 GLM-4.6,称这是其目前能力最强的模型,在推理、工具调用和编码上有较大升级,速度超过 1000 tokens/秒。Cerebras 表示,GLM-4.6 在许多任务上输出水平与 Sonnet 4.5 相当,但速度快 17 倍、价格便宜 25%。该模型即日起在其按量付费开发者档(10 美元起)和 Cerebras Code 订阅(50 美元/月起)提供,并支持 Cline、VS Code、OpenCode、RooCode 等工具。

    匹配字段摘要

  2. A6 a6-051 · Cerebras:Blog

    Cognition SWE-1.6 在 Cerebras 上实现最高约 950 tokens/秒推理

    Cognition 的 SWE-1.6 与 SWE-grep 系列由 Cerebras Inference 提供推理,编码性能达到前沿水平,速度最高约为 GPU 的 5 倍。SWE-1.6 在 Windsurf 快速档上最高可达 950 tokens/秒,SWE-Bench Pro 成绩为 50.4%,高于 SWE-1.5 的 40.1%。该模型还更多使用并行工具调用、更少循环,并更依赖自身工具而非终端命令。

    匹配字段摘要

  3. Modal 官方工程博客

    Modal 发布 VM Sandboxes、Modal Clusters 等运行时更新

    Modal 在首届 Runtime 大会上公布多项运行时更新,包括让智能体获得完整 Linux 计算机的 VM Sandboxes、与主沙箱同主机隔离运行的 Sandbox Sidecars、通过 @modal.clustered 装饰器正式开放的多节点集群 Modal Clusters,以及保持客户端会话绑定同一容器的 Sticky Sessions。VM Sandboxes 已被 Linear、Legora、Snorkel 用于编码智能体和评测,Modal Clusters 则支撑 Decagon 的后训练、1x 的预训练和 Runway 的实时推理。Endpoint Candidates 目前面向部分客户私测,可将生产流量镜像到备选服务方案以比较质量、延迟、吞吐和成本。

    匹配字段摘要

  4. Modal 官方工程博客

    Modal 推出 Sandbox Sidecars 低延迟信任边界

    Modal 发布 Sidecars,一种与主 Sandbox 同主机运行但保持隔离的容器,用于在可信与不可信代码之间建立安全边界。官方内部基准显示,Sandbox 与 Sidecar 之间的通信比同区域独立 Sandbox 之间至少快 3 倍,单个 Sandbox 最多可运行 250 个 Sidecar。Sidecar 通过 Modal SDK 动态创建,拥有独立出站网络策略,Sandbox 内代码无法创建或修改它们;Ramp 已用其为编码智能体 Inspect 搭建自定义出站代理。

    匹配字段摘要

  5. Comfy Blog

    Comfy API 上线:把 ComfyUI 工作流部署为生产 API

    Comfy 发布 Comfy API,付费 Comfy 套餐用户可将 ComfyUI 工作流连同自定义节点、LoRA、模型和 Python 依赖打包成不可变 release,部署为带独立 URL 的自动扩缩 API 端点。Build 会记录 ComfyUI 版本、自定义节点、模型与依赖,测试环境与部署环境一致;支持通过 comfy-cli 和 Comfy Skills 在终端或编码智能体中完成打包部署,SDK 目前支持 Comfy API 与 Comfy Cloud API。该服务在 platform.comfy.org 控制台管理部署、用量与 API 密钥,GPU 按秒计费、存储按小时折算,从 Standard 套餐起提供,用量单独计费。

    Jacob Segal's avatar

    匹配字段摘要

星期三

  1. 通义千问 / Qwen

    Qwen3.8-27B 上线 Nebius Token Factory

    Qwen3.8-27B 现已在 Nebius Token Factory 上线,这是一款 27B 稠密模型,面向编码、研究和智能体工作流,重点在于规划和完成多步任务。Qwen 官方账号转发了这一上线消息,并称该模型可用于构建智能体和深度研究等多步工作流。

    匹配字段摘要

星期二

  1. Inception Labs Blog精选

    Inception 的 Mercury 扩散 LLM 上线 Azure AI Foundry

    Inception 宣布 Mercury 扩散大语言模型在 Azure AI Foundry 上线,面向企业开发者提供商用规模的 dLLM。该模型通过扩散架构并行生成多个 token,推理速度最高可达同类自回归模型的 10 倍,在知识、编码、指令遵循和数学基准上与 Gemini 2.5 Flash、Claude 4.5 Haiku 相当。它支持 128K token 上下文窗口、原生工具调用和 JSON schema 结构化输出,API 兼容 OpenAI,目前在美国和加拿大区域提供,软件许可费用为 $0.78/小时,计算费用另计。

    匹配字段摘要

  2. AWS Machine Learning

    xAI 的 Grok 4.7 上线 Amazon Bedrock

    xAI 的 Grok 4.7 已在 Amazon Bedrock 上线,支持 500K token 上下文窗口和 low、medium、high、xhigh 四档可配置推理强度,通过 bedrock-runtime 的跨区域推理配置文件提供服务,支持 Responses、Chat Completions 和 Converse API。xAI 称这是其编码与知识工作能力最强的模型,训练中加大了长耗时任务的强化学习比重,因此更擅长自我校验并更有效利用长上下文。Artificial Analysis 的独立评测显示其在长周期智能体知识工作和编码智能体上提升最大,但每任务输出 token 约为原来的两倍。

    匹配字段摘要

星期一

  1. A6 a6-052 · Fireworks AI精选

    Fireworks AI 推出 FireRouter with Opus 路由模型

    Fireworks AI 发布 FireRouter with Opus,这是其首个缓存感知路由器,已在 CLI 上线并首次以独立路由模型形式提供,任何 Fireworks 账号都可将其作为 serverless endpoint 调用。该路由器在 Claude Opus 5.5、GLM 5.3 和 GLM 5.3 Flash 之间按任务适配度、模型成本与缓存命中损失进行路由。经过一个多月内部 A/B 测试,编码任务准确率为单独使用 Opus 的 98.1%,每次会话成本从 15.36 美元降至 6.63 美元,降幅 57%(±19 ppts),缓存命中率为 94.2%,单独使用 Opus 时为 97.8%。

    匹配字段摘要

  2. Fireworks AI

    Fireworks AI 推出 FireRouter with Opus 路由模型

    Fireworks AI 发布 FireRouter with Opus,这是首个缓存感知路由器,已在 CLI 上线,并首次作为独立路由模型提供,任何 Fireworks 账号都可将其作为 serverless 端点调用。该路由器在 Claude Opus 5.5、GLM 5.3 和 GLM 5.3 Flash 之间按任务适配度、提示词缓存成本和切换代价选择模型。内部一个多月的 A/B 测试显示,编码任务每次会话成本从 15.36 美元降至 6.63 美元,降幅 57%(±19 个百分点),准确率为纯 Opus 的 98.1%,缓存命中率 94.2%,纯 Opus 为 97.8%。

    匹配字段摘要

星期四

  1. LangChain Blog

    LangSmith 上线 Trajectories:按时间顺序查看智能体会话

    LangChain 在 LangSmith 中推出 Trajectories,把一次智能体会话中人类、AI 与工具的消息按首次出现顺序聚合展示,去掉嵌套 run 结构,便于定位智能体行为偏离的环节。该功能开箱支持 LangChain、LangGraph、Deep Agents、OpenAI 与 Claude 的 agent SDK,以及 Codex、Claude Code、Cursor 等编码智能体,并可用在线评测器对 trajectory 打分、送入标注队列或数据集,导出用于监督微调。Trajectories 现已在美国所有套餐中可用。

    LangSmith Trajectories thread

    匹配字段摘要

星期三

星期三

  1. goose 官方博客精选

    goose 用可重入状态机替换经典 agent loop

    goose 官方博客介绍其已用可重入状态机替换经典 agent loop,持久化的对话作为主状态,每项 agent 行为编码为 Operation,按顺序检查并只应用第一个生效者的效果。这样服务器无需在等待输入时保持协程和局部变量存活,进程重启或换前端都能从上次持久化的步骤继续。作者称该改动让代码更易测试、重构和实验,新想法可作为 Operation 加入流水线而无需改动状态机核心。

    A goose walking from a tangled agent loop into an orderly sequence of machines

    匹配字段摘要

星期六

  1. Cognition 模型 / Devin 博客

    Cognition 在 Devin Desktop 与 CLI 中推出 Fusion

    Cognition 将 Fusion 引入 Devin Desktop 和 CLI,这是一种双模型协作架构,用户选择一个前沿模型作为 lead 负责规划与审查,再选一个成本更低的模型作为 sidekick 负责执行。官方称 Fusion 在主要编码基准上比其他模型 harness 最高效率提升 39%,推荐组合为 Fable 5.1 搭配 SWE-2。Cognition 表示,用 Fable 5 替换 Opus 4.8 作为 lead 后,尽管单 token 价格翻倍,会话成本平均反而降低 9%,FrontierCode 得分更高。

    匹配字段摘要

星期六

  1. Satya Nadella

    GitHub Copilot 的 HydraFusion 展示从模型选择转向模型编排

    GitHub Copilot 的 HydraFusion 通过协调多个模型来规划、构建、评审并完成编码任务,成本最高可降低 67%。这一方案展示了异构模型生态在提升结果与成本效益方面的价值。

    GitHub Copilot 的 HydraFusion 通过协调多个模型来规划、构建、评审并完成编码任务,成本最高可降低 67%。这一方案展示了异构模型生态在提升结果与成本效益方面的价值。 · HydraFusion in GitHub Copilot coordinates multiple models to plan, build, critique, and complete coding tasks, delivering outcomes at up to 67% lower cost. It demonstrates the value of a heterogeneous model ecosystem in improving cost-to-outcome efficiency.

    匹配字段摘要

星期六

  1. Unsloth精选

    Unsloth 将 GLM-5.3 量化至 2-bit,可在 256GB Mac 本地运行

    Unsloth 宣布 GLM-5.3 现已支持本地运行,其 2-bit 量化版本把模型从 1.51TB 压缩到 239GB,体积减少 83%,精度保留约 81%。该版本可在 256GB Mac 或相应 RAM/VRAM 配置上运行,Unsloth 同时放出了使用指南和 GGUF 文件。GLM-5.3 由 Z.ai 开放权重,官方称其面向智能体编码与网络防御。

    匹配字段摘要

星期四

  1. Unsloth精选

    Unsloth 发布 GLM-5.3-Flash 本地运行 GGUF 量化版

    Unsloth 宣布 GLM-5.3-Flash 可通过其 GGUF 量化版本在本地运行,3-bit 量化需要 128GB 内存,并附上使用指南与 GGUF 下载链接。被引用的 Z.ai 发布信息显示,GLM-5.3-Flash 为 320B-A18B 模型,采用 MIT 许可证,原生多模态并支持 1M token 上下文窗口,此前以 Ox Alpha 名义预览,完全运行在中国 AI 芯片上。Unsloth 称该模型在 DeepSWE、编码与智能体基准上可与 Claude Opus 4.8 相比。

    匹配字段摘要