swyx 评 Gemini 4 Carbon 登顶 AA 智能指数:前沿实验室数量翻倍
推荐理由作者以 Gemini 4 Carbon 登顶 AA 智能指数为引子,讨论前沿实验室数量翻倍与 bitter lesson 的反例。
模型评测、基准测试、横向比较与能力边界。
推荐理由作者以 Gemini 4 Carbon 登顶 AA 智能指数为引子,讨论前沿实验室数量翻倍与 bitter lesson 的反例。
推荐理由作者转述第三方评测结论的同时,点出测试所用工具这一变量,读者可据此判断该对比的可信边界。
推荐理由Arena 的实测数据把 Carbon 相对 Argon 的提升拆到可操控性、任务完成率和用户情绪三个信号上,便于判断差距来源。
推荐理由Artificial Analysis 的评测显示,Mistral Large 4 开放权重后 token 效率提升 39%、幻觉率从 41% 降至 28%,可据此判断开源模型的性价比位置。
推荐理由榜单给出 GPT-6.1 Terra 在 Agent Arena 的排名与每任务成本对比,可据此判断其性价比位置。
推荐理由ARC Prize 给出 Meta 新模型在 ARC-AGI 三个版本上的成绩与单任务成本,可与同分竞品直接对比。
推荐理由PromptArmor 用自家高传播攻击样本横评多款模型,给出中外模型在钓鱼、数据外泄和运行恶意软件上的差异。
Pydantic 的 Michael Pfaffenberger 用 5 个小型 Pydantic AI 应用、8 个模型做了 5,276 次评分运行,对比 code mode 与直接工具调用。长任务上 code mode 平均成本降 58%、耗时降 51%、成功率提高 16 个百分点;但 5 条目的短任务在 5 个任务中有 3 个反而贵了 21% 到 38%。作者认为模型写循环比充当循环更擅长,差距随任务变长而扩大。

推荐理由作者用 5,276 次运行对比 code mode 与工具调用,给出长任务成本、耗时和正确率随规模变化的曲线。
推荐理由原文列出 v5 指数新增与升级的基准及移除项,并给出头部模型分数与单任务成本差距,可据此比较各模型能力与开销。
Ai2 发布 Old Ideas, Novel Problems 研究与配套基准,测试 GPT-5.1、GPT-5.2、GPT-5.4、Claude Sonnet 4.5、Claude Opus 4.5 和 Claude Opus 4.6 六个模型判断研究想法新颖性的可靠性。结果显示评估设置的小改动会带来剧烈差异:GPT-5.4 在 Human+Generated 数据上换用更简单的提示词后,准确率从 93.5% 降到 40.9%,低于随机水平。研究还发现检索与额外推理并不稳定提升判断质量,两个专门构建的新颖性评估系统表现不如简单的 Claude Opus 4.6 提示词基线,且成本更高。
推荐理由Ai2 用 ICLR 2026 评审信号构建基准,量化了提示词微调就能让新颖性判断准确率大幅翻转的不稳定性。
Google 的 Gemini 4 Carbon 在 Artificial Analysis Intelligence Index v5 上以 59 分排名第一,在 9 项评测中的 HLE-Diamond、Terminal-Bench-Science、AA-Omniscience、AutomationBench-AA 四项领先。在 Coding Agent Index 上,搭配 Antigravity CLI 的 Gemini 4 Carbon(high)得 59 分,落后 Claude Code 搭配 Claude Opus 5.5(max,62 分)3 分。该模型上下文窗口为 1M tokens,支持文本、图像、视频和语音输入,标准定价为每百万输入/输出 tokens 4/20 美元,目前向部分用户开放并提供 50% 折扣。
推荐理由Artificial Analysis 的独立评测给出 Gemini 4 Carbon 在 Intelligence Index v5 登顶及与 Claude Opus 5.5 的分项对比。
推荐理由第三方评测机构给出 GPT-6.1 Terra 在智能、成本与幻觉率上的具体对比,可据此判断其性价比位置。
推荐理由Arena 给出 Kimi K3.1 Pro 在 Agent Arena 的排名、成本与分项信号,可据此判断其智能体能力位置。
推荐理由Kimi K3.1 Pro 在 Code Arena 的排名与成本数据,可与 Claude Opus-5 及前代 K3 直接对照。
月之暗面发布 Kimi K3 的升级版 Kimi K3.1 Pro,采用 MoE 架构,总参数 2.8 万亿、激活参数 1040 亿,896 个专家中每次激活 16 个。据 Artificial Analysis 评测,该模型以 55 分位列 Intelligence Index 第四,高于 GPT-6 Astra 的 53 分,前代 Kimi K3 为 44 分。它在 Terminal Bench 4.0 以 67% 排名第一,前代为 13%,Claude Sonnet 5.5 为 64%;定价为每百万输入 token 2 美元、每百万输出 token 10 美元,但输出速度 73 tokens/s 低于 81 tokens/s 的平均水平。
推荐理由榜单给出了分项得分与单任务成本,可对比开放权重模型与受限访问模型在网络安全任务上的差距。
月之暗面发布推理模型 Kimi K3.1 Pro,在 Artificial Analysis 智能指数上得分 55,排名第 4,比 Kimi K3 的 44 分提升 11 分,仅次于 Claude Opus 5.5(58)、Claude Sonnet 5.5(56)和 Muse Wonder Full(56)。其智能体能力提升明显,GDPval-AA 得分 1,846 Elo 排第 3,Terminal-Bench 4.0 得分 67%(Kimi K3 为 13%),AutomationBench-AA 从 58% 升至 73%。模型上下文窗口 1M tokens,总参数 2.8T、激活参数 104B,支持文本和图像输入,定价为每 1M 输入/输出/缓存命中 token 2/10/0.20 美元,三项均比 Kimi K3 低 33%;权重尚未公布,发布后将成为得分最高的开源权重模型,开源与闭源领先模型的差距将从 12 分缩小到 3 分。
推荐理由评测机构给出 Kimi K3.1 Pro 在智能指数与智能体基准上的具体分数,并对比其与闭源头部模型的差距。
英国 AI Security Institute 在自建网络靶场上评估了 2024 年 8 月至 2026 年 2 月发布的七款模型,发现每一代模型在固定 token 预算下都优于前代:在 32 步企业网络攻击靶场中,10M token 预算下平均完成步数从 GPT-4o 的 1.7 步升至 Opus 4.6 的 9.8 步。将推理算力从 10M 提升到 100M token 可带来最高 59% 的增益且未见平台期,按当前价格 Opus 4.6 单次 100M token 尝试约需 80 美元。在 7 步工控系统靶场中模型进展有限,10M token 下多数模型完成零步,100M token 下 Opus 4.6 平均 1.4 步。

推荐理由英国 AISI 用自建网络靶场对比七款模型的多步攻击能力,给出了推理算力与攻击进度的量化关系。
微软 MAI-DxO 诊断系统在发表于 Science 的同行评审研究中,对《新英格兰医学杂志》病例记录的诊断准确率为 83.2%,使用参考资源的全科医生为 36.1%。研究提出 Sequential Diagnosis Benchmark(SDBench),将 304 个期刊病例和 325 个 MIMIC-IV-ED 急诊病例转为可逐步提问、开检查的分步诊断任务,并按准确率和检查成本计分。DxO 搭配 GPT-5 在无预算约束下平均每例成本 5,431 美元,作者同时说明该对比不涉及专科医生、多学科团队或真实临床实践。
推荐理由论文给出分步诊断基准与成本约束下的准确率对比,可看多智能体编排在临床推理中的实际增益。