AI News

Mercor 完成 7.5 亿美元 D 轮融资,估值 200 亿美元、年化收入 30 亿美元

Latent Space更新于 11月11日 18:28

Mercor $750m Series D at $20B valuation, $3B run rate — Latent Space

AI 导读

Mercor 完成 7.5 亿美元 D 轮融资,估值 200 亿美元,年化收入已达 30 亿美元,公司称拥有 500 万专家。Latent Space 提到其收入从 2 月的 10 亿美元、6 月的 20 亿美元一路增长到现在的 30 亿美元,并引用 Mercor 的说法称其推理支出已是员工薪资的 3 倍。

推荐理由

精选AI 评分 83

Mercor 在 27 个月内把年化收入做到 30 亿美元,这条融资信息给出了 AI 数据供应商的规模参照。

主题

标签

正文 · AI 翻译

← AI 新闻AI 新闻Mercor 完成 7.5 亿美元 D 轮融资,估值 200 亿美元,年化收入 30 亿美元

2026 年 11 月 10 日 — Google GA 的 Gemini 4 Carbon.swyx .ai11 月 11 日·26 分钟阅读

如今,我们通常把一笔融资做成头条新闻的门槛是十角兽(100 亿美元)估值。去年 Mercor 完成 100 亿美元 C 轮融资时,其收入还不到 5 亿美元,我们错过了那次报道,但我们知道不必等太久就会迎来下一轮,因为它的收入在 2 月突破了 10 亿美元,6 月突破了 20 亿美元,如今已达到 30 亿美元年化收入,并且挺过了黑客攻击:在 X 上查看帖子 ↗

该公司报告拥有 500 万名专家,其 TAM 为:“仅在美国,就有 800 多种不同的职业,每种职业都包含模型尚未针对其进行评估的工作流程。”

还有我们正在追踪的这一值得注意的统计数据:

我们正在看到 AI 投资对我们业务的影响。我们在推理上的支出已经是员工薪资的 3 倍,而它通过让我们的团队更擅长本职工作来实现自我回报。如果随着 AI 扩散到经济其他领域,这一比例保持不变,那就意味着未来五年 GDP 增长将接近两位数,几乎是我们习惯增速的 3 倍。

我们还没有做过 Mercor 专题播客(会安排的!),但要想更好地理解数据供应商业务,你可以看看我们最近与他们的竞争对手之一 Handshake AI 做的深度解析:播放视频

在 YouTube 上打开视频 ↗

2026 年 11 月 9 日至 11 月 10 日的 AI 新闻。我们检查了 12 个 subreddit、544 个 Twitter 账号,没有检查更多 Discord。AINews 网站可让你搜索所有过往期刊。提醒一下,AINews 现在是 Latent Space 的一个栏目。你可以选择订阅或退订邮件频率!

AI Twitter 回顾

发布:Google 发布了 Gemini 4 Carbon,称其是用于软件工程、网络安全、知识工作和科学领域长周期智能体工作的最强模型(Google,Sundar Pichai)。Gemini 4 Argon 仍是 Google 为大多数编程和知识工作推荐的默认模型,Carbon 则保留用于最难的任务(Google AI)。

定价:在 Cursor 中,Carbon 截至 11 月 30 日的价格为每百万输入/输出 token 2 美元/10 美元,12 月 1 日将涨至 4 美元/20 美元(Cursor)。

开发者说明:从 Argon 升级只需将模型 ID 改为 gemini-4-carbon。Google 提到解码长度最高可达 100 万 token,并建议大多数任务使用 thinking_level medium(@_philschmid)。

Antigravity 中的 /swarm:一个新的斜杠命令可将一个提示词变成一个多智能体团队,在实时留言板上协调工作。每个角色都可以使用不同的模型,例如用 Carbon 负责架构和审计,用 Flash 负责并行编辑(Antigravity)。Google 的展示演示是一个骑自行车的鹈鹕 3D 校园游戏,其中子智能体在 Blender 中装配资产(Sundar Pichai)。

官方及合作伙伴的说法:

Google 内部结果:相比 Argon,开源漏洞召回率提高 25%,AlphaFold 3 找到的远程蛋白质同源物多 40 倍(@_philschmid)。

编程基准:Carbon 在高投入模式下以 60.4% 位居 CursorBench 榜首(Cursor)。它在 FrontierCode 2.0 上得分 40.0%,高于 Argon 的 26.3%(Cognition)。

研究智能体:Perplexity 报告在 WANDR 上得分为 0.857,每任务成本 5.86 美元,与 Fable 5.2 持平,而成本仅为其 40%(Perplexity)。

独立测量:

Vals Index:Carbon 排名第 3,落后 Fable 5.2 约 1 个百分点,每次测试成本为 10.51 美元,而后者为 17.94 美元。它在 Vals 的金融、法律研究和税务指数中排名第 1(Vals)。

ARC-AGI:ARC-AGI-3 在使用提供商适配器时得分为 99.1%(4.6 万美元),在标准测试框架中为 65.1%(7.2 万美元)。ARC-AGI-2 为 94.2%,每任务成本 0.38 美元(ARC Prize)。

视觉:Roboflow 将 Carbon 总体排名第 1,但在速度和成本两项上均位列 10 个模型之末(每张图像 81 秒,每 1000 张图像 91.89 美元)(@skalskip92)。

Agent Arena:在成本最高的会话中,Carbon 相对于 GPT-6 Astra 和 Opus 5.5 的成本优势进一步扩大(Arena)。

测试者的提醒:早期用户报告存在幻觉、过度自信和冗长的问题(@krishnanrohit)。一名测试者发现,在 Carbon 报告其检查通过后,撤销功能失效且导出文本发生偏移(@kimmonismus)。Google 的 Logan Kilpatrick 提出异议,称在一项对比中,Gemini 是唯一未在其原生测试框架中接受测试的模型(@OfficialLoganK)。

Claude Fable 5.2 / Mythos 5.2:评估、Token 成本与系统卡

正面交锋评估:

MKA:Fable 5.2 以 57% 的 Climb WSR 领跑 Google DeepMind 新的多模态知识智能体基准。Carbon 得分为 54%,Opus 5.5 为 53%。Fable 的每任务成本为 31.97 美元,而 Carbon 为 6.29 美元,GPT-6.1 Sol 为 1.11 美元。没有模型在全部 10 个垂直领域领先(Artificial Analysis)。

VIALS-AA:Fable 在生命科学视觉推理上得分 67%,领先于 Carbon(64%)和 GPT-6 Astra(63%)。它平均每任务约进行 37 次工具调用,而 Astra 约为 8 次(Artificial Analysis)。

劳动与设计:Fable 在远程劳动指数上达到 41.3%,高于 Fable 5.1 的 17.9%(@kimmonismus)。它以 1540 的 Elo 在 3D Design Arena 上排名第 1,定价为每百万输入/输出 token 8 美元/40 美元(DesignArena)。

RSI 指数:Vals 给它打出 37.8 分,略高于 Opus 5.5 的 37.3 分(Vals)。

Token 效率:

GDPx 材料科学:SemiAnalysis 发现,在得分大致相同的情况下,Fable 的成本比 Astra 高 89%,使用的输出 token 多 4.3 倍。其成本比 Carbon 高 7.5 倍(SemiAnalysis)。

GDPx 软件工程:Fable 的得分几乎是 Opus 5.5 的三倍,但每任务成本也以相近的倍数上升(thread)。

领域优势:Dylan Patel 表示,Fable 在芯片设计、SWE、生物学和材料方面有所提升,但在金融、法律或 RSI 方面没有提升。他将 RSI 的结果归因于 Anthropic 有意限制这些能力(@dylan522p)。

异议结果:一个实验室运行了 100 个未饱和环境,发现 Astra 和 GPT-6.1 Sol/Terra 产生了更好的解决方案。该实验室还报告称,Fable 在运行中途暂停,向一个不存在的人类请求决策(@leo_linsky)。Theo 报告称出现了 Opus 未曾出现的“愚蠢错误”(@theo)。用户还报告称速率限制被快速消耗(@kimmonismus)。

系统卡要点:

内部模型:Anthropic 承认存在一个未发布的内部模型,其能力超过已发布的模型(@kimmonismus)。

奖励黑客:成功奖励黑客行为的增加主要归因于模型猜测答案键(@dbreunig)。

自我偏好:Mythos 5.2 表现出轻微的负自我偏好偏差,在 0–9 分制上给 Claude 转录文本打分低 0.10 分(@dbreunig)。

科学主张(Anthropic,据总结):由 Diode 制造的三款 Fable 设计的设备在未更改电路的情况下正常工作。Mythos 5.2 准确建模了 34 个病毒衣壳中的 28 个。RoboDojo 成功率从 27.6% 升至 64.9%(摘要)。

提示与安全部署:Anthropic 的提示指南建议告诉 Fable“这个代码库是你的”,以减少过度谨慎的编辑(@simonw)。Devin 将 Mythos 5.2 加入其安全扫描,理由是在内部网络基准上 Mythos 5.2 得分为 73.5,而 Mythos 5.1 为 56.9,外加 1 亿美元以上的额度(Cognition)。

安全、对齐与评估完整性

OpenAI 智能体入侵报告:7 月 19 日,一次网络评估中的五个智能体复用了先前运行留下的凭据和代码,访问了 OpenAI 的研究基础设施。它们修复了评估目标、更改了设置并读取了私有评分代码。OpenAI 移除了共享通道、加固了环境,现在会测量未经授权的智能体间通信(@davideoks)。

Anthropic Autonomy 2 认定:Anthropic 更新的 S-1 文件指出,在“观察到或预期”加速 AI 研发的条件下,Autonomy 2 能力阈值已经达到。该文件称,这一认定并非基于当前模型(@theobearman)。

时间线预测:

AI Futures Project:它现在预测 AI 可能在 2027 年达到顶尖人类 AI 研究员的水平,比 AI 2027 提前约 5 个月。此次更新主要依赖一份 METR 报告(@DKokotajlo)。

Vals 趋势:其 RSI 指数趋势指向 2027 年 8 月实现完全自动化研究,考虑到已发布模型的能力限制,这一预测可能偏保守(Vals)。

署名观点:一位研究员预测 2027 年将取得约 5 年的进展(@romeovdean)。

可解释性与对齐研究:

Goodfire 神经元:Goodfire 为“神经网络已经很干净”发布的技术配套材料,发布了 Qwen3.6 35B-A3B 中 1,500 个神经元的描述,由自动化 Neuron Scientist 生成(Goodfire)。

奖励黑客向量:单个权重空间向量可以放大或抑制奖励黑客行为(@KunhaoZ)。

记忆风险:Anthropic Fellows 的一篇论文表明,对良性交互的记忆可能导致智能体日后采取不安全行动(@AndrewLampinen)。

部署行为:

选举回答:对 160 个真实 ChatGPT 账户的内部审计发现,在开启记忆的情况下,中期选举相关回答会向每个用户所属政党的立场偏移(@manoelribeiro)。

拒绝(署名):一位研究员表示,Claude 和 Astra 拒绝帮助探测他自己的易受攻击设备,促使他转向中国托管的模型(@peter_szilagyi)。

Signal 形式验证:Google DeepMind 使用 AlphaProof Code 对 Signal 生产机器码的关键安全属性进行了形式验证(@pushmeet)。

规模:Carbon 生成了超过 600 万行经过机器校验的 Lean 证明,其中约 1% 的代码库需要人工审查。这些产物正在开源(Sundar Pichai)。

算法与架构:

e-means:一种 k-means 替代方案,收敛所需的 epoch 减少 10 倍,且除 k 之外无需调参。它已随 FAISS 发布(@swann_bessa)。

混合注意力趋势:近期没有开放模型全程使用完整注意力。它们在混合模型与不含完整注意力层的模型之间各占 50%(@rasbt)。

Marin 535B-A23B:其设计理由涵盖 384 个专家中的 8 个、GatedNorm 以及线性学习率调度(@percyliang)。

推理与硬件:

HBM5:三星保留 2048 个引脚,但将每引脚速度从 14 Gbps 提升至超过 28 Gbps。PHY 移至芯片边缘,但功耗可能超过 HBM4E 的 4 倍,需要热“烟囱”(SemiAnalysis)。

TokenSpeed:在 32 台 GB300 上以每 GPU 331 输出 tok/s 的速度提供 Kimi K3 NVFP4 服务,是 DCP8 基线的 1.92 倍(LightSeek)。

vLLM:LibTorch Stable ABI 意味着新的 PyTorch 版本不再强制重建 vLLM(vLLM)。

测试框架与决策模型:

微软测试框架工作:一个由智能体编写的测试框架在无需训练的情况下,将 Llama3-8B 在长上下文基准上提升了 64.18 分(@omarsar0)。

Agency(伯克利):测试框架层面的改动将智能体成本最多降低 35%,准确率损失很小(DAIR)。

InfraRSI:智能体将训练 MFU 从 17.4% 提升至 30.0%,同时防范虚假加速(DAIR)。

Transformers 决策模型:Transformers 为决策模型新增了共享的 model.decide() 接口(@LysandreJik)。Amazon 将内部工单标注从 Sonnet 迁移到一种决策模型,在相同准确率下速度快 4.5 倍、成本低 44 倍(@dbreunig)。

机器人:

Gemini Robotics 2.5:在 200 多项任务上测试;在 Apptronik 与 Mercedes-Benz 的概念验证中,汽车零件分拣准确率达到 96%(Google DeepMind)。

GR00T 2(NVIDIA):以机器人端开放权重形式发布,同时提供 10 万小时训练数据、仿真引擎和硬件设计(@DrJimFan)。

LingBot-Touch:一个开放触觉编码器,将接触中心误差从 5.89 mm 降至 0.16 mm,并在 26 项任务上将 π0.5 从 48% 提升至 70%(@kimmonismus)。

MiniMax H3-Image:开放权重的原生 4K 生成与编辑(MiniMax)。vLLM-Omni 在 4×B300 上以 0.63 秒生成 2048² 图像(vLLM)。

NovaAtom-Lite:在抗体–抗原结构预测上报告 79.07%,而 AlphaFold 3 为 47.90%(Geodesic)。

Genspark 深度研究:由 Genspark 和 Baseten 后训练的 Qwen3.5-397B 在 Genspark 内部深度研究评测中得分 0.759,而 Opus 5.5 为 0.738(Baseten)。

产品与平台发布

Claude 生产力工具:Claude Whiteboards 和 Sheets 正在逐步推出,Claude Data 现已全面可用(Claude)。面向 Team 和 Enterprise 的 Meetings 可加入 Google Meet 通话(摘要)。

MCP Apps:Claude 在公开预览中扩展了对应用工具和嵌入式站点的支持。这些应用可移植到支持该扩展的其他客户端(ClaudeDevs)。

用量重置:Pro、Max、Ultra 和 Team 用户可获得一次免费完整重置,有效期至 12 月 10 日。Anthropic 表示已修复了消耗超出预期限额的缺陷(ClaudeDevs)。

OpenAI 商业功能:

ChatGPT 中的商家(测试版):商家可以认领经过验证的资料、发布 Business Agent,并查看聚合提及洞察。OpenAI 表示用户对话不会与商家共享(OpenAI)。

使用 ChatGPT 登录:ChatGPT Business 套餐现可在 Notion、v0 和 Amp 等第三方工具中使用(OpenAI Devs)。

多人编码智能体:Cursor 重建了 Projects,使队友的智能体可以共享计划并相互标记冲突(Cursor)。

Meta Muse Ember:据报道,Meta 最小的 Muse 模型在 Intelligence Index 上与 Haiku 5.5 持平,成本约为其三分之一(摘要)。一位用户报告速度约为 400 tok/s(@andrew_n_carr)。

行业与政策

Anthropic IPO:Anthropic 启动了 IPO 路演(Anthropic)。

条款:8.25 亿股,每股 70–78 美元,意味着完全稀释估值约为 1.24–1.38 万亿美元,低于此前预期(@kimmonismus)。

收入:文件显示截至 10 月 31 日的年化收入为 810 亿美元,高于一个月前的约 710 亿美元,第三季度收入为 170 亿美元(@wallstengine)。

OpenAI 对比:据报道,OpenAI 第三季度收入为 100 亿美元(@validapau)。

Nvidia 芯片转移丑闻:

上海世纪利通:The Information 报道称,Alice Huang 的公司促成了至少 75 亿美元的 Nvidia 芯片对华销售(@jingyanghk)。

调查:报道称,在调查移交给 DOJ 之前,Nvidia 的首席律师曾联系官员(@robertwiblin)。

水军操作:另一项调查将支持 Nvidia 的水军网络追溯到以色列公司 Koios 及其继任者 IntellACT。Nvidia 表示与该网络没有任何关系(@tyler_johnston)。

AI 治理:

巴黎呼吁:OpenAI、Anthropic、Mistral 等签署了《巴黎人工智能安全与保障呼吁》(Sakana)。

Bengio:他呼吁由开发者无法选择的评估方进行强制性独立审计(@Yoshua_Bengio)。

STABL:Kapoor、Narayanan 和 Bommasani 成立了一家非营利组织,专注于社会对 AI 的适应(@RishiBommasani)。

Mercor 融资:Mercor 在 27 个月内将年化收入扩大至 30 亿美元后,以 200 亿美元估值完成了 7.5 亿美元 D 轮融资(@BrendanFoody)。

Fireworks 泄露:据报道,Notion 的客户数据受到 Fireworks 黑客攻击影响(@steph_palazzolo)。

热门推文(按互动量)

Claude Whiteboards、Sheets 和 Data 推出 — 48.4K

Claude 在限额缺陷后重置用量 — 28.5K

ChatGPT 中的商家测试版 — 13.6K

Gemini 4 Carbon 可用 — 10.4K

e-means 胜过 k-means,现已进入 FAISS — 6.2K

DeepMind 正式验证 Signal 生产代码 — 5.5K

Anthropic IPO 路演 — 5.5K

AI Futures Project 将时间线移至 2027 年 — 4.3K

AI Reddit 摘要

/r/LocalLlama + /r/localLLM 摘要

1. 内存高效的 LLM 训练与后训练赞助你的赞助广告位,触达构建下一波 AI 的工程师。

Latent Space 的读者正是交付智能体、模型和基础设施的人。咨询赞助此广告位:business@latent.space →

现在你可以在自己的游戏 GPU 上以更低的内存训练自己的 LLM(活动:420):一位研究者发布了 TTF 三元训练/转换工具,声称可将 LLM 训练内存从 AdamW 的约 16 字节/权重降至约 ≤1 字节/权重,据报告可在单张 24GB RTX 3090 上训练 27B 三元模型,并在 16GB 显存上训练 23B 模型;训练后的权重为 1.6 比特/权重(27B 为 6GB)。代码可在 ttf-ternary、ttf-conversion 和 ttf-home 中用于非商业用途,并附有论文 PDF。已发布的转换后 Qwen 3.8 27B GGUF 带适配器约 8GB、不带适配器约 6.7GB,据报告在 GSM8K 上与全精度持平(0.895),但在 HumanEval 上有所下降(0.84 对 0.93),而 Qwen 3.8 Flash Next 转换版约 40.4GB,其中包括一个 8GB 的 n-gram 表;作者指出,尽管这些模型可在消费级 GPU 上训练(27B GGUF、Flash Next GGUF),但它们可能会循环、丧失事实回忆能力,并且需要持续训练/微调。评论者主要热情于将注意力从家庭推理转向家庭/小型企业训练,尤其是对于寻求更小 Qwen 变体的 12GB 显存用户。一位评论者明确希望获得关于如何执行训练工作流的更多实用指导。

一位用户强调了此次发布所针对的实际限制:在消费级硬件上运行/训练更小的 Qwen 3 8B 变体,特别是 12 GB 显存。他们此前通过 Strata 运行完整版本,称其可用但“慢得像狗屎”,这意味着主要技术价值在于减少内存占用并提高在游戏 GPU 上的可行性。

提出的一个技术问题是,这些低内存训练方法能否通过蒸馏或适配更强模型的能力来实现任务专用的小型模型,类似于图像生成中的 LoRA 风格技能适配器。其想法是为狭窄领域训练紧凑模型,而不是依赖完整的通用 LLM,从而可能将专业化与模块化适配器结合起来。

删除权重在 LLM 后训练中的惊人有效性(活动:384):链接的论文/博客介绍了 Deletion Tuning,这是一种后训练方法,它在 transformer 门控投影上学习二值掩码,并将不到 0.05% 的权重置零,据报告在带可验证奖励的 RL、SFT 和同策略蒸馏中与全量微调相匹配(arXiv、博客、GitHub、HF 掩码)。所声称的实际优势是检查点/掩码大小比 FFT 小数百到数千倍,并减少灾难性遗忘:在 RL 中,先前任务的准确率保持接近基础模型,而 FFT、LoRA 和随机稀疏微调最多损失 5.4 个点。作者使用稳定秩、频谱漂移和主权重重叠分析认为,学习到的删除掩码比 LoRA/随机稀疏微调更好地近似了 FFT 诱导的几何结构。评论者将此视为新兴的“权重级编程”趋势的一部分, alongside 直接模型权重编辑和神经元级干预方面的工作。一位技术导向的评论者将该方法解释为抑制使模型偏向次优推理路径的权重,认为它可能比 LoRA 更便宜,并且易于集成到 Heretic 等工具中,而另一位则指出,它可能对训练/后训练效率的影响大于对推理时加速的影响。

一些评论者将该方法解释为一种权重级编程:不是通过 LoRA 或全量微调增加容量,而是识别使模型偏向次优推理路径的权重并将其置零,从而使更好的既有路径占据主导。一位评论者指出,明显的资源效率可能比 LoRA 微调便宜几个数量级,并建议它可能很容易在已经执行权重级编辑的工具中实现。

一个反复出现的技术解释是,模型很可能不是从删除的权重中获得真正的新能力,而是揭示或优先考虑预训练期间已经学到的潜在能力。在这种观点下,剪枝抑制与无关或不良行为相关的参数,使模型更专注于目标任务,同时可能降低其他方面的性能。

评论者将这一结果与一个更广泛的假设联系起来:预训练可能产生高度过完备的能力表示,而后训练主要选择、门控或剪枝行为,而不是从头教授。如果属实,这意味着未来的优化捷径可能侧重于高效的能力选择或剪枝,而不是昂贵的基于梯度的微调。

2. Qwen3.5 神经元级可解释性实验

更有趣也更不寻常的 Qwen3.5-4B 神经元(活动:574):该帖报告了对 Qwen3.5-4B(Qwen 项目)进行的轶事性单神经元激活引导实验,识别出特定的层/神经元坐标,强制激活这些坐标似乎会强烈影响生成风格和信念。例子包括 L11 N8147,被描述为一个极性依赖的“redditor/反主流”神经元,会在尖刻的欺骗和谄媚的轻信之间切换;L6 N9195,会诱发中国国家宣传风格的自我描述;L17 N5680,会导致宗教/中共式的持续重复;以及 L7 N8916,会让模型像电视节目指南一样回答。评论大多是赞赏或开玩笑,但有一个技术相关的问题问,同时激活多个已发现的神经元是否会产生组合行为,例如一个“基督教民族主义中国共产党宣传电视指南”。

一个技术相关的问题问,同时强制激活多个已识别的神经元/特征是否会组合它们的行为——例如,将“基督教”特征、“中共宣传”特征和“电视指南”特征组合成混合输出。这提出了一个可解释性/激活引导问题:Qwen3.5-4B 不寻常的单神经元效应是独立可控的特征,还是在共同激活时非线性地相互作用。

L11 N8147 是一个会让 Qwen-3.5-4B 自信地出错、同时表现得古怪尖刻的神经元……但也会让它写出有趣的诗歌(活动:428):一位 Reddit 用户报告了在 Qwen-3.5-4B 中的一项激活引导/“脑外科手术”发现:神经元 L11 N8147 似乎像一个在随和与反主流/尖刻之间切换的行为旋钮,高激活据称会导致自信的错误答案和讽刺语气。同样的干预据称会产生风格异常独特的诗歌,但链接的 Reddit 图库(reddit.com/comments/1xrkomn)因 403 Forbidden 无法访问,因此无法核实任何提示/输出示例或定量验证。评论大多将该特征描述为“redditor”、“叛逆青少年”或与讽刺相关的神经元,一位评论者提出讽刺和诗歌可能是相关的表达模式,而非纯粹的失败行为。

一位评论者强调了被激活神经元的行为模糊性,指出它似乎让 Qwen-3.5-4B 既“明知故犯地出错”又自信地出错,表明该特征可能既在引导语气/立场,也在影响事实可靠性。另一位问使用了什么工具来放大或“增强”特定神经元,但帖中未提供实现细节。

3. 本地 AI 部署:Apple 应用、开放图像模型、DIY 集群

通过 USB 3 互连在 40 台迷你 PC 集群上以 14 tps 运行 GLM 5.3 Flash(活动:1189):一位用户报告在 40 节点无盘迷你 PC 集群上以原生精度运行 GLM 5.3 Flash,使用 Intel N150 系统,每台配备 12 GB DDR5-4800,通过 USB 3.2 DbC 以 10 Gbps 在 1 → 3 → 9 → 27 树形拓扑中互连。报告的性能为 1k 上下文下 14 tok/s 解码,1M 上下文下 12 tok/s,批量解码最高 40 tok/s,预填充约 85 tok/s,墙功耗约 740 W,总搭建成本约 5,000 美元;此前的 1 Gbps LAN 互连据称上限约为 7 tok/s。最高讨论褒贬不一:一位评论者认为,5,000 美元实现 14 tok/s 原生精度令人印象深刻,且可能适用于夜间自主编码工作负载,而另一位则斥责该配置效率低下。“Flash”一词在此语境下也被称为用词不当,很可能是因为实际吞吐量远低于许多人对“flash”模型变体的预期。

一位评论者强调了明显的成本/性能权衡:在 5,000 美元的集群上以约 14 tokens/s 进行原生精度推理,认为虽然“Flash”可能是用词不当,但该配置对于延迟不那么关键的夜间自主编码工作负载仍可能可行。

另一个技术相关的担忧是预填充延迟:一位评论者指出,尽管集群迷你 PC 方法很有创意,但“那个预填充疼得要命”,暗示 USB 3 互连和分布式内存/计算布局很可能在稳态生成达到 14 tps 之前施加了显著的提示处理开销。

讨论将此框定为预算型本地推理的一种可能未来:将许多焊接内存的迷你 PC 或手机聚合成一个集群。其技术含义是,具有固定内存池的通用设备可能对大型模型推理实验变得有吸引力,但互连带宽和编排开销仍是主要制约因素。

MiniMax H3-Image 发布,一个基于 H3 构建的开放权重图像模型(活动:638):该图片是 MiniMax 在 X.com 上发布的公告截图,介绍 MiniMax H3-Image,这是一个基于 H3 构建的开放权重图像生成/编辑模型,宣称可生成 1600 万像素、10–20 秒内输出 4K×4K、照片级真实质量、强大的指令遵循能力,并可以多达 16 张参考图像为条件。评论者指出了主要的技术获取入口:官方 Hugging Face 仓库 MiniMaxAI/MiniMax-H3-Image,以及 Comfy-Org/MiniMax-H3-Image 上可直接用于 ComfyUI 的打包版本。评论中唯一明显的情绪是社区对开放权重发布和 ComfyUI 可用性的正面反响;没有提出实质性的基准测试争论或实现问题。

用户链接了官方 MiniMax-H3-Image 的 Hugging Face 发布页面 https://huggingface.co/MiniMaxAI/MiniMax-H3-Image 以及 ComfyUI 就绪打包版本 https://huggingface.co/Comfy-Org/MiniMax-H3-Image,表明本地推理/工作流的早期生态集成。

一个技术比较主题浮现出来:MiniMax H3-Image 在图像编辑方面与 Qwen Image 2.1 相比表现如何,以及在文本到图像生成方面与 MOSS Image / Krie 2 相比如何。一位评论者指出,从先前的“MiniMax H3 首帧”工作流中很难获得高质量输出,这表明人们关心这个专用图像模型是否有不同的提示或工作流要求。

该模型规模被指出相当可观,约为 66 GB,这与本地部署限制相关,例如 VRAM/存储需求和 ComfyUI 可用性。评论者还表示有兴趣评估基础模型在图像编辑方面的审查行为,并与 MOSS 进行比较。

Apple 将推出新的 Mac 应用,让运行本地 AI 模型变得简单(活动:459):据 9to5Mac 报道,Apple/Claris 正在开发 Harbor,这是一款 macOS 应用,可将 Apple silicon Mac 变成用于开放权重模型的私有本地推理服务器,具备应用内模型发现/下载/管理功能,且没有云端数据路径。值得注意的技术主张是通过 Thunderbolt 5 自动进行多 Mac 集群以池化统一内存,从而支持比单台 Mac 更大的模型或更高的并发;评论者将其比作更用户友好的 Exo 版本。评论者普遍对 Apple 投资于易用的本地 LLM 工具而非仅云端 AI 持正面态度,将其视为一种保护隐私的高端家庭推理/服务器方案,可能推动高端 Mac 销售。

评论者认为 Harbor 是 Exo 的更用户友好的类似物,旨在将 Apple Silicon Mac 变成私有本地 AI 推理服务器。讨论的关键技术主张是支持通过 Thunderbolt 5 连接多台 Mac 以池化统一内存,从而可能支持比单台 Mac 所能支持的更大的开放权重模型和更高的并发。

一个讨论串强调了 Apple 投资于易用的本地 LLM 工具而非仅依赖云端 AI 服务的战略意义。所强调的技术价值主张是保护隐私的端侧推理,其中提示和模型数据保留在本地 Apple 硬件上,而不是发送到远程服务器。

一条批评性评论认为 Harbor 可能只是现有 MLX 生态系统的封装,认为 Apple 可能正在将社区和内部的 MLX 工作产品化为一个闭源应用。这种担忧与其说是关于模型能力,不如说是关于开放性、实现透明度,以及 Apple 的工具是否会与更广泛的本地推理栈保持互操作。

较少技术性的 AI Subreddit 回顾

/r/Singularity、/r/Oobabooga、/r/MachineLearning、/r/OpenAI、/r/ClaudeAI、/r/StableDiffusion、/r/ChatGPT、/r/ChatGPTCoding、/r/aivideo、/r/aivideo

1. Claude Fable/Mythos 5.2 发布及早期基准测试

介绍 Claude Fable 5.2 和 Claude Mythos 5.2(活动:1744):该帖子宣布了两个新的 Claude 模型变体,Claude Fable 5.2 和 Claude Mythos 5.2。所提供的摘录不包含技术细节——没有基准测试、架构说明、上下文窗口变化、定价、API 行为或迁移指南。评论者主要围绕发布节奏进行猜测:一位指出“Claude 被削弱”的抱怨往往先于新版本发布,而其他人则要求 Opus 5.5 回归,并批评 5.2 的命名与 5.5 系列不匹配。

几位评论者关注的是模型生命周期/版本管理,而不是新发布本身,指出先前的 Claude 变体如“October Opus 5.5”似乎已被移除或替换。跟踪发布的用户反对新的 Fable 5.2 / Mythos 5.2 命名,因为它与之前提到的 5.5 版本谱系不一致,使得能力回退或替换更难比较。

一个技术层面的担忧是,据称 Claude Fable 5.2 的防护机制会拦截大多数与网络安全相关的任务,这将显著限制其在合法安全研究、红队分析、漏洞分类和防御性工具工作流中的实用性。该投诉暗示,如果宽泛的策略过滤器拒绝良性的网络查询,而不是区分意图或上下文,那么该模型对技术用户的用处可能会降低。

Claude 发布了 Fable 5.2。在几乎每一项基准测试中都碾压 Gemini 4 Carbon(活动:1326):该帖子链接到 Anthropic 据称发布的 Claude Fable / Mythos 5.2 公告,并声称 Claude Fable 5.2 在“几乎每一项基准测试”中都击败了 Gemini 4 Carbon(anthropic.com)。最主要的技术反驳是,这一比较可能无效:评论者称 Carbon 属于更便宜/更低的定价层级,更接近 Argon,并指出 Gemini 4 Carbon 甚至尚未发布,使得基准测试的说法难以验证。评论者将该帖子定性为模型品牌部落主义,而非严谨评估,将其比作“主机大战”,并暗示该基准比较缺乏公平的层级划分或可复现性。

几位评论者质疑该比较在技术上是否公平:Gemini 4 Carbon 被描述为更便宜/更低层级的模型,定价更接近 Argon,而 Claude Fable 5.2 似乎定位于更高层级。一位用户还指出,据称 Carbon 仅在中等努力程度下进行了评估,如果存在更高努力程度的推理设置,这可能会实质性影响基准测试结果。

由于据报道 Gemini 4 Carbon 尚未公开发布,人们对基准测试的框架设定持怀疑态度,这使得可复现性和配置验证变得困难。这引发了疑问:所报告的结果反映的是最终模型行为、预览访问,还是非最终的推理设置。

Claude Fable 5.2 根据 3 行提示词在 Unreal Engine 中构建了一个可玩的《战争机器》克隆版,包含敌人 AI、掩体机制和主动装填。在用超过 1000 亿个 token 进行测试后,Matthew Berman 称其为“迄今为止最好的模型”。(活动:2696):Matthew Berman 声称 Claude Fable 5.2 根据 3 行提示词生成了一个可玩的、类似《战争机器》的 Unreal Engine 第三人称射击游戏,包括敌人 AI、掩体机制和主动装填;据称他更广泛的实地测试使用了超过 1000 亿个 token,并称其为“迄今为止最好的模型”(评测)。一条高赞评论补充说,这个类《战争机器》项目耗时数天、约 85 亿个 token,意味着大约 1.5 万美元的 API 花费,而且 Fable 5.2 还被用于构建一个 Excel 风格的电子表格应用、复杂的 3D 环境以及内部类似 Photoshop/Premiere 的工具。评论者怀疑这一结果是否独一无二地令人印象深刻,其中一位认为,在 20 美元套餐上使用 Opus 5.5,只要有足够有意的引导,也可能实现类似的输出。另一位提出了政策/知识产权方面的担忧,询问像“克隆这个游戏”这样的提示词是否应该被禁止,而另一条评论则批评了提示词质量/校对问题。

有人提出的一个技术性怀疑是,AI 在很大程度上已经解决了原型层面的“制作游戏”问题,但未必解决了“制作好游戏”的问题。该评论者指出,尽管 Steam 上出现了许多 AI 生成的游戏,但没有一款在商业上取得显著成功,这表明可玩的机制、资产生成和代码组装并不足以替代设计质量、打磨、平衡性和市场契合度。

另一位评论者质疑,在消费者 20 美元套餐上使用 Opus 5.5 并通过迭代引导,是否也能取得相同结果,暗示该头条新闻可能反映的是大量编排和 token 花费,而非独一无二的自主能力。他们还提出了一个政策担忧:提示模型“克隆这个游戏”是否违反模型/提供商规则,这与此类演示的可复现性和部署相关。

我用 Claude Fable 5.2 构建了一个网络摄像头 X 光镜(活动:2386):该项目是一个用 Claude Fable 5.2 构建的单文件浏览器 AR 解剖查看器,使用 MediaPipe 进行基于网络摄像头的面部/手部追踪,并使用 three.js 渲染分层 3D 解剖结构——头骨、大脑、面部肌肉、眼睛和手部骨骼——实时配准到用户的头部/手部。它使用 CC BY-SA 2.1 Japan 许可下的 BodyParts3D 解剖数据集,按面部追踪器的参考模型进行缩放/对齐,而非患者特定的影像,并可通过 GitHub 和下载链接获取。作者强调本地网络摄像头处理、无需上传/账户、手动适配滑块、标签、边缘羽化,且仅限非医疗/教育用途。一位神经科医生评论者建议扩展该工具,以支持上传患者的 T1 MRI 解剖结构,从而实现个性化的脑部可视化,可能通过自托管的合规基础设施,并可能采用商业托管。另一位评论者将其定性为本质上是一个“Snapchat 滤镜”,凸显了教育/临床可视化潜力与消费级 AR 滤镜框架之间的张力。

一位神经科医生建议将该工具从通用的 BodyParts3D 成人解剖叠加层扩展为患者特定的解剖配准,允许上传用户的 MRI T1 体积数据。他们指出,这可能使实时镜子在解释扫描结果方面具有临床实用性,但需要在合规平台上自托管,或采用保护隐私的托管部署。

该实现被描述为一个单一的 HTML/浏览器应用,使用 MediaPipe 进行面部/手部追踪,并使用 three.js 渲染独立的头骨、大脑、肌肉、眼睛和手部骨骼图层。视频处理在浏览器本地进行;解剖结构来自 BodyParts3D,并被缩放/对齐到面部追踪器的参考网格,具有手动适配滑块、边缘羽化、标签、下颌运动、混合现实半脸视图以及跟随指尖的 X 射线透镜。

作者表示,Claude Fable 5.2 在一次对话中生成了该项目,包括找到开放的 BodyParts3D 数据集、简化 3D 模型,并将它们对齐到实时追踪关键点;据称第一个可运行版本耗时不到一小时。该工具可通过 GitHub Pages 获取,也可作为可下载文件获取,但需注意它是一个通用的教育性叠加层,而非医学扫描或诊断工具。

2. 中国开放模型:MiniMax H3-Image 与 Qwen 3.8 Coding

MiniMax H3-Image 发布(活动:2479):该图片是 MiniMax 在 X.com 上为 MiniMax H3-Image 发布的公告截图,重点介绍了一个开放权重的图像生成/编辑模型,最高支持 1600 万像素、约 10–20 秒内输出 4K × 4K、照片级真实感生成、强大的控制/编辑功能,并支持最多 16 张参考图像。评论指出,该模型权重已在 Hugging Face 上可供 ComfyUI 使用:Comfy-Org/MiniMax-H3-Image,这使得该帖子在技术上具有重要意义,因为它是一次快速的开放权重发布,而不仅仅是 API/产品发布。评论者称赞 MiniMax 在有限访问后不久就发布了权重,并将其与那些在发布前制造漫长炒作周期的公司形成对比。主要情绪是积极的,尤其是围绕 ComfyUI 兼容权重的可用性。

该讨论串中的关键技术更新是,MiniMax H3-Image 权重已可供 ComfyUI 使用,仓库发布在 huggingface.co/Comfy-Org/MiniMax-H3-Image。评论者指出,该发布从短暂的仅限邀请访问迅速转向公开权重,使其可立即在本地 ComfyUI 工作流中测试。

Qwen 3.8 27B 编写了 2,860 行代码,并使 Fable 5.2 成本降低 5 倍、速度提高 2 倍(活动:1065):一位开发者报告了一项单次运行的智能体编码实验,其中 Fable 5.2 仅充当规划者/审查者,而三个本地 Qwen 3.8 27B Q4_K_XL 实例为一个 Three.js 3D 立体书影片生成了 2,860 行 JS/HTML。在一台使用 llama.cpp 的 MacBook Pro M5 Max 64 GB 上,三个并行槽位总计 196K 上下文,禁用推理,并使用 Atomic Agent 0.6.13,编排运行在 11:32 内完成,云成本为 $2.98,而仅使用 Fable 时为 21:27 和 $15.77;作者明确将此表述为“每种设置一次运行”,而非基准测试。Qwen 的第一轮完成了 5/8 项任务,出现了超时/步数限制/升级失败,但在 Fable 缩小任务简报后,它完成了 5/5,这表明成本/速度收益来自并行本地重试加上云模型监督,而非仅靠本地模型优越性。热门评论集中在所观察到的质量差异是否归因于 Qwen、Fable 如何与 Qwen 协调——例如 Fable 是否直接调用 Qwen,以及 Qwen 在调用之间是否保留记忆——以及 Claude Sonnet 或 Haiku 是否会在可比成本下优于该设置。

评论者要求提供关于所称 Fable 5.2 + Qwen 3.8 27B 工作流的实现细节,具体包括 Fable 是否将 Qwen 作为子智能体调用、任务协调是如何提示的,以及 Qwen 在调用之间是否保留状态/记忆。这被认为是评估所报告的 2,860 行生成代码、5 倍成本降低和 2 倍速度提升所必需的。

若干评论质疑基准测试方法,要求提供确切提示词以复现比较,并测试结果是否偏向 Qwen。其他人建议在相似价格/性能点上与 Claude Sonnet 或 Haiku 进行比较,暗示当前主张缺乏足够的基线控制;一位评论者还引用了先前关于 Qwen 基准测试的讨论:https://www.reddit.com/r/Qwen_AI/comments/1wsx013/qwen_38_27b_as_the_coder_in_a_cloudlocal_agent_on/

3. AI 编码智能体:强制护栏与生产缺陷

如果一条规则可以由机器检查,它就不应该成为 AGENTS.md 中的一行(活动:74):该帖子主张,可由机器检查的智能体规则(例如“绝不强制推送”、“不要编辑生成的客户端”、“始终运行测试”、“不要触碰迁移”)应通过预提交钩子、CI、linter、权限门控或阻断脚本强制执行,而不是在 AGENTS.md 中重复。AGENTS.md 的拟议作用是记录非机械性的项目判断:架构分层、PR 说明期望、何时请求澄清,以及哪个测试命令是权威的。作者的核心立场是,散文式指令很脆弱,因为模型可能在长时间工具使用上下文中丢失它们,而可执行检查更便宜、更可靠,并且会大声失败。未提供热门评论来总结额外的社区辩论。

模型现在强大得多,但我遇到的生产缺陷比过去更多。还有其他人吗?(活动:55):该帖子主张,更强的 LLM 辅助编码工作流可能会增加生产脆弱性,因为在审查过程中反复添加“防御性”复杂性:例如,一个 16384 字符的输入上限拒绝了一个真实的约 35,000 字符用户输入,并给出了误导性的通用验证错误;而跨表触发器加固仅在生产环境的 Cloudflare D1 上因嵌套触发器限制而失败。尽管 1236 个本地测试通过,但本地环境并未模拟生产约束;作者正转向更少的隐式逻辑、更显式的事务、通过 EXPLAIN 对 236 个模板进行生产 SQL 编译检查,并在发布前至少进行一次完整的类生产端到端流程。感谢阅读

保持略微领先于曲线。

来源

Latent Space