←搜索结果

按匹配度 · 共 148 条结果 清除搜索

星期四

  1. Baseten 工程博客

    Baseten 优化 Qwen3-ASR 批量转写,单卡吞吐提升 7 倍

    Baseten 工程团队通过原生音频解码、KV cache FP8 量化和减少主机与设备同步,把 Qwen3-ASR 1.7B 在单张 RTX PRO 6000 上的批量转写吞吐提升 7 倍、延迟降低 6.9 倍。优化后一小时音频的转写成本约为 0.0013 美元,即每音频小时 1/10 美分,词错误率没有明显变化。该优化版本已作为 Baseten Model Library 的默认部署,可通过 OpenAI 兼容的转写客户端调用。

    How Baseten gets 7x throughput on Qwen3-ASR batch transcription

    匹配字段摘要、正文

星期三

  1. Arena

    GPT-6.1 Terra 在 Code Arena WebDev 排第 14,1671 分且每任务成本降 28%

    Arena.ai 公布,OpenAI 的 GPT-6.1 Terra (Max) 在 Code Arena: WebDev 以 1671 分排第 14,比 GPT-5.6 Terra 高 151 分,后者现居第 56。其每任务中位成本为 $0.40,比 GPT-5.6 Terra 的 $0.56 低 28%。同家族中,它比第 4 名 GPT-6.1 Sol(1752 分)低 81 分,但每任务中位成本低 75%;比第 11 名 GPT-6 Sol(1677 分)低 6 分,成本低 76%。

    匹配字段摘要、正文

星期六

  1. Artificial Analysis精选

    Kimi K3.1 Pro 在 Artificial Analysis 网络安全指数得 64%,居开放可用模型首位

    Kimi K3.1 Pro 在 Artificial Analysis Cyber Index 上得分 64%,比此前的开放可用模型领先者 DeepSeek V4.1 Flash 1017(57%)高 7 分,比仅通过 OpenAI 可信访问计划提供的 GPT-6 Sol(Daybreak Blue,max,69%)低 5 分。该指数由 CWE-Bench-AA、DeepsecBench-AA 和 CyberGym-E2E-AA 三项基准组成,K3.1 Pro 在 CyberGym-E2E-AA 上拿到 95%,高于 GPT-6 Sol(Daybreak Blue)的 93%。其单任务成本为 2.81 美元,高于 GPT-6 Sol(Daybreak Blue,max)的 1.77 美元和 DeepSeek V4.1 Flash 1017 的 0.42 美元,原因是每 token 价格虽比 Kimi K3 低 33%,但输入 token 用量约为 2 倍。

    匹配字段摘要、正文

星期五

  1. 邵猛

    Coding Agent 榜单升级 v2.0:Claude Opus 5.5 以 61.7 领跑

    Artificial Analysis 发布 Coding Agent Index v2.0,用 Cognition 的 FrontierCode v1.1 替换 DeepSWE,并收紧仓库问答评分,榜单评的是模型加 harness 组合。当前第一是 Claude Code + Claude Opus 5.5(max)61.7,其后为 Claude Code + Sonnet 5.5 的 59.3 和 Muse Code + Muse Wonder Full 的 58.9,首个 OpenAI 组合 Codex + GPT-6 Astra 为 54.7。同一批 21 个配置在新旧榜单上均值从 54.8 降至 47.4,20 个下降,主因是 FrontierCode 均值约 45.1%,远低于 DeepSWE 的 65.6%。

    匹配字段摘要、正文

星期三

  1. 邵猛

    如何用决策模型做 LLM Evals:从阈值调优到概率校准的完整实践

    文章介绍如何把决策模型当作廉价 LLM Judge 做自动评估,并基于 98 条公寓租赁 AI Agent 真实生产 trace(61 条失败、37 条无失败)对比 Jev、Perplexity Decider、Liquid d1、Cloudflare Clef、OpenAI Decisions API 五家模型。作者用分层五折交叉验证在训练折选阈值、留出折测量,发现调优阈值对原本不达标的模型收益明显,Perplexity 每 100 次评估 0.82 美分、F1 0.79,OpenAI Decisions F1 0.87 但贵约 4.5 倍。可靠性图显示部分模型分数严重失准,Clef Flash 一组预测失败概率约 8% 的样本实际失败率达 60%,Platt scaling 修复三个模型却让 OpenAI 的 Brier 从 0.159 升到 0.164。

    匹配字段摘要、正文

  2. 马东锡 NLP

    Hamel Husain 发布教程:如何用决策模型做 Evals

    Hamel Husain 发布新博客,讲解如何用决策模型做 Evals,包括为任务选择决策模型、调整其阈值(不要默认 0.5 合适)以及解读模型给出的分数,文中配有多个交互图表。马东锡 NLP 转发时提到,近期出现的决策模型包括 TypeSafe 的 Jev、Perplexity 的 Decider、Cloudflare 的 Clef 和 OpenAI 的 Decisions API,它们输出概率而非长文本,常被用作 LLM-as-a-Judge 的替代方案。

    匹配字段摘要

  3. Arena

    GPT-6 Luna 与 GPT-6.1 Sol 占据 Agent Arena Pareto 前沿 6 个位置

    Arena 的 Agent Arena Pareto 前沿共 11 个位置,OpenAI 的 GPT-6 Luna 与 GPT-6.1 Sol 按不同推理档位占据其中 6 个。GPT-6 Luna 在每任务低于 $0.10 的区间拿下 4 个最优位置中的 3 个,覆盖 Max、Medium 和 Low 档;GPT-6.1 Sol 则覆盖每任务 $0.22 至 $0.65 区间。加上 GPT-6 Astra(Max),OpenAI 模型共占 7 个前沿位置,Arena 据此指出切换推理档位有时比换模型更能保持在成本与性能的最优点。

    匹配字段摘要、正文

  4. Artificial Analysis

    Krea 3 Ultra 在 AA 图像编辑榜排第 5,Fast 模式第 11

    Artificial Analysis 在 AA-Image-Editing v2.1 榜单上测得 Krea 3 Ultra 排第 5,编辑质量接近 Nano Banana 2.1 和 MAI-Image-2.6,默认的 Fast 模式排第 11。Ultra 是 OpenAI、Google、Microsoft 之外排名最高的图像编辑模型,在 17 个分类中有 15 个进入前 7,动画与游戏、Frontier 两类均列第 2。价格方面,Fast 每 1K 图像 0.03 美元、每 1K 参考图 0.02 美元,Ultra 仅支持 2K 输出,一张 1K 参考图的 2K 编辑为 0.27 美元。

    匹配字段摘要、正文

星期一

  1. Artificial Analysis 完整文章精选

    Artificial Analysis 上线 HealthBench 与 HealthBench…

    Artificial Analysis 为 OpenAI 的 HealthBench 和 HealthBench Professional 两个健康对话基准上线排行榜,前者含 5000 段与普通用户及卫生工作者的对话,后者为 525 段全部面向临床医生的对话。HealthBench Professional 上 GPT-6 Astra(max)以 66.0% 的长度调整分居首,GPT-6.1 Sol(max)为 65.1%,Claude Sonnet 5.5(max with fallback)为 63.0%。HealthBench 上 Claude Sonnet 5.5(max with fallback)以 62.1% 领先,DeepSeek V4.1 Flash(max)为 60.9%;Claude Opus 5.5 与 Claude Fable 5.1 平均回答约 5900 字符,长度调整后失分超过 11 分。

    匹配字段摘要、正文

  2. n8n Blog

    如何在 NVIDIA DGX Spark 上不调用云 API 运行 n8n AI 工作流

    n8n 博客发布教程,介绍如何在一台 NVIDIA DGX Spark 上本地部署完整模型栈,让 n8n 工作流在不调用云 API 的情况下完成转录、OCR、文档问答和图像生成。整套栈通过 LiteLLM 暴露一个 OpenAI 兼容端点,主模型为 Qwen3.6-35B-A3B 的 NVFP4 版本,单用户生成速度 120 tokens/s,八用户合计 359 tokens/s。作者实测发现图像生成会让对话速度降到约三分之一,建议小团队把图像任务排队或放到非工作时间。

    匹配字段摘要、正文

星期五

  1. The Decoder

    Google Gemini 4 Argon 在 ARC-AGI-3 得分 97.5%,但换测试环境后降至 49.8%

    Google DeepMind 的新前沿模型 Gemini 4 Argon 在 ARC-AGI-3 上以 Provider Adapter Harness 测试环境取得 97.5%,成本 4800 美元,成为继 OpenAI 之后第二个跨过 95% 的实验室,仅次于 GPT-6 Astra 的 99.9%。在只允许简单笔记的 Standard Harness 下,低推理档得分降至 49.8%,且因 API 问题未能跑完全部 55 个游戏。Epoch AI 的 ECI 指数上 Argon 得 165 分,与 Fable 5.1 持平,但在数学 ECI 排第八、软件工程指数排第六。

    匹配字段摘要、正文

星期三

  1. Ethan Mollick

    Ethan Mollick 实测 Gemini 4:整体大幅跃升,复杂多智能体任务仍落后

    Ethan Mollick 在 Gemini 4 发布前花了不少时间试用,认为它相比前代 Gemini 是大幅跃升,也是首个跨过 Fable/Mythos/Astra 门槛的非 OpenAI、非 Anthropic 模型,个性与品味明显区别于 Claude 或 Astra。在创意写作等方面它至少与 OpenAI、Anthropic 持平,但在复杂多智能体任务上落后,且倾向于对结论过于笃定、略显偷懒,Antigravity 工具链也不如竞品。他仍预计以 Gemini 4 为基础会带来模型能力的快速提升。

    匹配字段摘要、正文

星期五

  1. Artificial Analysis

    Artificial Analysis 网络安全指数纳入受限访问模型,GPT-6 Sol (Daybreak Blue) 登顶

    Artificial Analysis 宣布其 Cyber Index 首次纳入受限访问模型,GPT-6 Sol (Daybreak Blue, max) 登顶该指数并位于成本与能力帕累托前沿。该模型仅通过 OpenAI 的 Daybreak 计划开放,在整个指数测试中未触发任何安全拦截,总分比公开可用的 GPT-6 Sol (max) 高 32 分。其单任务成本为 1.77 美元,低于 Grok 4.7 (xhigh) 的 11.67 美元。

    匹配字段摘要、正文

  2. Arena精选

    Arena 发布 Alignment Index,GPT-6.1-Sol 以 87.9 分居首

    Arena 发布 Alignment Index,用于衡量 AI 智能体在真实使用中的安全与对齐表现,基于 27 个模型的 90K+ 真实智能体会话构建,考察越权行动、虚假归因和虚假完成三类信号。榜单中 OpenAI 的 GPT-6.1-Sol 以 87.9 分居首,Anthropic 的 Claude-Opus-5.5 为 83.2 分,SpaceXAI 的 Grok-4.7 为 82.7 分;OpenAI 在三项信号上的观测比率也最低,分别为 0.89%、1.98% 和 2.34%。Arena 表示各实验室的新模型普遍优于前代,且随着对话变长,失准风险会上升。

    匹配字段摘要、正文

星期四

  1. Wired AI

    三位工程师让 GPT-6 Astra 开丰田 Corolla 去 In-N-Out,并发布 DrivingBench

    Axiom 的三位 AI 工程师把 OpenAI 的 GPT-6 Astra 接入一辆 2024 款丰田 Corolla 的摄像头与转向系统,让模型自己把车开到 In-N-Out 的取餐窗口,全程有安全驾驶员踩在刹车上待命。他们同时发布 DrivingBench 基准,在停车场简易赛道上只有 Astra 能跑完全程且速度很慢,Claude Fable 5.1 完成 45%,Grok 只完成 11%。工程师认为这种驾驶能力可能来自多模态规模扩展带来的涌现能力,而非专门训练。

    匹配字段摘要、正文

星期一

  1. Clément Delangue

    Hugging Face 把 Claude Code、Codex 等编码工具变成 RL 训练环境

    Hugging Face 的 Clément Delangue 宣布把 Claude Code、Codex、Hermes、Pi、opencode 等编码工具变成 RL 环境,不改动工具本身也不改动训练代码,全部开源。做法是用一个 capture proxy 伪装成模型 API,兼容 OpenAI Chat Completions、OpenAI Responses、Anthropic Messages、Gemini 四种格式,转发到 vLLM 并记录 token ID 与 logprobs,再交给 TRL 训练,目前已有 10 个工具接入且均未修改。在 LFM2.5-2.6B 上,单工具训练后 OpenCode 从 34% 提升到 58%,四工具同时训练后四者均提升(42% 到 54%),而用 Qwen3.8-27B 的 3,189 条 rollout 做 SFT 只停在 47.5%。

    匹配字段摘要、正文

星期六

  1. A6 a6-012 · Arena

    GPT-6.1 Sol 进入 Arena Agent 榜单第 5,每任务中位成本 0.56 美元

    Arena 的 Agent Arena 榜单显示,OpenAI 的 GPT-6.1 Sol (Max) 以第 5 名进入榜单,得分提升 11.23%,并改变了帕累托前沿。其每任务中位成本为 0.56 美元,比 GPT-6 Sol 低 39% 且得分高 1.52 分,比 GPT-6 Astra 低 81% 且差距在 1.04 分以内。相比 Claude Fable 5.1 (Max)、Claude Opus 5.5 (High) 和 Claude Sonnet 5.5 (Max),其成本分别低 88%、65% 和 80%,得分差距分别为 3.08、2.59 和 1.29 分。

    匹配字段摘要、正文

星期四

  1. A6 a6-051 · Cerebras:Blog精选

    Cerebras 发布 GLM 4.7 迁移指南:10 条提示词与参数调优规则

    Cerebras 发布 GLM 4.7 迁移指南,称其为 Z.AI 最新开源模型,在 LiveCodeBench 上超过 Anthropic 和 OpenAI 模型、仅次于 Gemini 3,并在 GPQA 和 AIME 上超过 Claude Sonnet 4.5。指南给出 10 条使用规则,包括把强制指令放在系统提示词最前、使用 MUST 等明确措辞、显式指定回复语言、为智能体设定角色,以及把任务拆成小步骤以弥补其不支持交错思考。在 Cerebras 上 GLM 4.7 支持约 131K 上下文和最多约 40k 输出 token,可通过 disable_reasoning 和 clear_thinking 控制推理,推荐 temperature=1、top_p=0.95,并兼容 OpenAI Python SDK。

    Cerebras 发布 GLM 4.7 迁移指南,称其为 Z.AI 最新开源模型,在 LiveCodeBench 上超过 Anthropic 和 OpenAI 模型、仅次于 Gemini 3,并在 GPQA 和 AIME 上超过 Claude Sonnet 4.5。指南给出 10 条使用规则,包括把强制指令放在系统提示词最前、使用 MUST 等明确措辞、显式指定回复语言、为智能体设定角色,以及把任务拆成小步骤以弥补其不支持交错思考。在 Cerebras 上 GLM 4.7 支持约 131K 上下文和最多约 40k 输出 token,可通过 disable reasoning 和 clear thinking 控制推理,推荐 temperature=1、top p=0.95,并兼容 OpenAI Python SDK。

    匹配字段摘要、正文

星期六

  1. Together AI Blog精选

    Kimi K3 开发者完整指南:2.8 万亿参数、1M 上下文与 Together AI 用法

    Together AI 发布 Kimi K3 开发者指南,介绍 Moonshot AI 这款 2.8 万亿参数开源权重模型,采用 KDA 混合线性注意力、Attention Residuals 与 Stable LatentMoE(896 个专家激活 16 个),支持 1M token 上下文和原生视觉输入。指南给出 OpenAI 兼容 API 的 reasoning_effort(low/high/max,默认 max)、流式 reasoning_content、结构化输出、工具调用与动态工具加载等用法,并说明采样参数固定为 temperature 1.0、top_p 0.95。定价为每 1M token 缓存命中输入 $0.30、缓存未命中输入 $3.00、输出 $15.00,思考 token 按输出计费。

    Together AI 发布 Kimi K3 开发者指南,介绍 Moonshot AI 这款 2.8 万亿参数开源权重模型,采用 KDA 混合线性注意力、Attention Residuals 与 Stable LatentMoE(896 个专家激活 16 个),支持 1M token 上下文和原生视觉输入。指南给出 OpenAI 兼容 API 的 reasoning effort(low/high/max,默认 max)、流式 reasoning content、结构化输出、工具调用与动态工具加载等用法,并说明采样参数固定为 temperature 1.0、top p 0.95。定价为每 1M token 缓存命中输入 $0.30、缓存未命中输入 $3.00、输出 $15.00,思考 token 按输出计费。

    匹配字段摘要、正文

星期五

  1. Together AI Blog精选

    Together AI 如何构建全球最快的语音转文字技术栈

    Together AI 优化 ASR 全链路,使 NVIDIA Parakeet-TDT 0.6B v3 可在不到 10 秒内转录约 20 小时语音,并与 OpenAI Whisper Large v3 一同成为 Artificial Analysis 排名中延迟最低的两款模型。其方案采用多配置 TensorRT、条件 CUDA 图、Unix 域套接字、共享内存和 epoll,解码器提速 2–3 倍。通过 gc.freeze() 排除预分配对象的 GC 扫描后,约 200 ms 的 p95 延迟尖峰也随之消失。

    Together AI 优化 ASR 全链路,使 NVIDIA Parakeet-TDT 0.6B v3 可在不到 10 秒内转录约 20 小时语音,并与 OpenAI Whisper Large v3 一同成为 Artificial Analysis 排名中延迟最低的两款模型。其方案采用多配置 TensorRT、条件 CUDA 图、Unix 域套接字、共享内存和 epoll,解码器提速 2–3 倍。通过 gc.freeze() 排除预分配对象的 GC 扫描后,约 200 ms 的 p95 延迟尖峰也随之消失。 · Together AI optimized its full ASR serving path, enabling NVIDIA Parakeet-TDT 0.6B v3 to transcribe roughly 20 hours of speech in under 10 seconds; together with OpenAI Whisper Large v3, it ranks among the two lowest-latency models on Arti

    匹配字段摘要、正文