TensorZero 工程博客汇总了其开源 LLM 基础设施的多篇文章，最新一篇为 2026 年 5 月 12 日 Alan Mishler 的《Even (very) noisy LLM evaluators are useful for improving AI agents》。此前文章涵盖 LLM API 隐藏成本、自动化 AI 工程师、LLM Gateway 中的 Bandit 自适应实验、OpenAI RFT 评估、5-30x 更便宜的蒸馏推理，以及逆向分析 Cursor 的 LLM 客户端等主题。
匹配字段摘要、正文
Moonshot AI 开源 Kimi K2，这是总参数 1 万亿、激活参数 320 亿的 MoE 模型，包含基础版 Kimi-K2-Base 和后训练版 Kimi-K2-Instruct，在非思考类模型的前沿知识、数学和编码任务上达到 SOTA。该模型针对智能体任务优化，可自动调用工具完成多步任务，并采用 MuonClip 优化器在 15.5T token 上预训练且无训练尖峰。Kimi 网页端和移动端用户即日起可免费选用，API 兼容 OpenAI/Anthropic 接口，暂不支持视觉功能。
匹配字段摘要、正文
DeepSeek 发布并开源 DeepSeek-V4 Preview，包含 V4-Pro（1.6T 总参数 / 49B 激活）和 V4-Flash（284B 总参数 / 13B 激活）两个版本，官方称 V4-Pro 在 Agentic Coding 基准上达到开源 SOTA，世界知识仅次于 Gemini-3.1-Pro。API 今日可用，只需保留 base_url 并将模型改为 deepseek-v4-pro 或 deepseek-v4-flash，两个模型均支持 1M 上下文与 Thinking / Non-Thinking 双模式，并兼容 OpenAI ChatCompletions 与 Anthropic API。官方提示 deepseek-chat 与 deepseek-reasoner 将于 2026 年 7 月 24 日 15:59（UTC）后完全下线，目前请求会路由到 deepseek-v4-flash 的非思考 / 思考模式。
DeepSeek 发布并开源 DeepSeek-V4 Preview，包含 V4-Pro（1.6T 总参数 / 49B 激活）和 V4-Flash（284B 总参数 / 13B 激活）两个版本，官方称 V4-Pro 在 Agentic Coding 基准上达到开源 SOTA，世界知识仅次于 Gemini-3.1-Pro。API 今日可用，只需保留 base url 并将模型改为 deepseek-v4-pro 或 deepseek-v4-flash，两个模型均支持 1M 上下文与 Thinking / Non-Thinking 双模式，并兼容 OpenAI ChatCompletions 与 Anthropic API。官方提示 deepseek-chat 与 deepseek-reasoner 将于 2026 年 7 月 24 日 15:59（UTC）后完全下线，目前请求会路由到 deepseek-v4-flash 的非思考 / 思考模式。
匹配字段摘要、正文
DeepSeek API 发布重大更新，deepseek-chat 和 deepseek-coder 两个模型新增 JSON Output、Function Calling、Chat Prefix Completion（Beta）和 8K max_tokens（Beta），并新增 /completions 接口的 FIM Completion（Beta）。JSON Output 与 Function Calling 均兼容 OpenAI API，Function Calling 单次最多支持 128 个函数并支持并行调用。Beta 功能需将 base_url 设为 https://api.deepseek.com/beta，max_tokens 默认 4096、开启 Beta 后最高可设 8192。
DeepSeek API 发布重大更新，deepseek-chat 和 deepseek-coder 两个模型新增 JSON Output、Function Calling、Chat Prefix Completion（Beta）和 8K max tokens（Beta），并新增 /completions 接口的 FIM Completion（Beta）。JSON Output 与 Function Calling 均兼容 OpenAI API，Function Calling 单次最多支持 128 个函数并支持并行调用。Beta 功能需将 base url 设为 https://api.deepseek.com/beta，max tokens 默认 4096、开启 Beta 后最高可设 8192。
匹配字段摘要、正文
Kevin Roose 携新书《The AGI Chronicles》做客 ChinaTalk，与研究员 Jasmine Sun 一起回顾 OpenAI、Anthropic、DeepMind 的发展史，以及那群过度思考、过度担忧人工智能的人。Roose 此前供职于 Hard Fork，现已离开《纽约时报》。
匹配字段摘要、正文
软银创始人孙正义正寻求从包括阿联酋在内的海湾投资者处筹集高达1000亿美元资金，用于扩大其在人工智能领域的投资。知情人士称，这笔资金将用于设立基金收购企业，并以人工智能等技术提升其运营效率，旗下机器人与物理AI公司Roze预计在其中发挥关键作用。此前软银已向OpenAI累计投入646亿美元、持有约13%股份，并因OpenAI推迟IPO至2027年而面临杠杆压力。
匹配字段摘要、正文
Simon Willison 发布 ttok 1.0，将默认 tokenizer 从 GPT-4 切换为 GPT-5/GPT-6。他引用 William Liu 的实验称，GPT-5.5、5.6 Sol/Terra/Luna 与 GPT-6 Astra/Sol/Luna 共 7 个模型在 31 个测试样本上均报告 44,794 个 token 且完全一致，但 OpenAI 尚未确认 GPT-6 与 GPT-5 系列使用同一 tokenizer。
匹配字段摘要、正文
Nvidia 投资的数据中心公司 Firmus 撤回原计划估值超 300 亿美元的上市计划，称原因是近期市场波动和当前市场状况。澳大利亚养老基金 UniSuper 等机构因估值顾虑放弃参与此次 IPO，Firmus 表示将转向私募市场融资。该公司在澳大利亚、新加坡等地运营液冷数据中心，客户包括 OpenAI 和 Meta。
匹配字段摘要、正文
Simon Willison 发布基于 OpenAI 开源 tiktoken 库的 token 计数 CLI 工具 ttok 0.4，修复了一个 Click 警告、更新了 CI，并新增 --list-models 命令用于列出可用模型。该工具可通过 uvx 运行，用于统计文本的 token 数量。
匹配字段摘要、正文
Artificial Analysis 宣布其 Cyber Index 首次纳入受限访问模型，GPT-6 Sol (Daybreak Blue, max) 登顶该指数并位于成本与能力帕累托前沿。该模型仅通过 OpenAI 的 Daybreak 计划开放，在整个指数测试中未触发任何安全拦截，总分比公开可用的 GPT-6 Sol (max) 高 32 分。其单任务成本为 1.77 美元，低于 Grok 4.7 (xhigh) 的 11.67 美元。
匹配字段摘要、正文
AI 模型众包排行榜 Arena 宣布完成 2 亿美元 B 轮融资，估值 31 亿美元，由 Lightspeed Venture Partners 和 Khosla Ventures 领投，Salesforce Ventures、01 Advisors、Dell Technologies Capital、Endeavor Catalyst、a16z、Felicis 等参投。公司称 6 月年化营收达到 1 亿美元，而 1 月 A 轮融资时估值为 17 亿美元、年化营收 3000 万美元，估值约十个月接近翻倍。Arena 还为其排行榜新增对齐类别，按未授权操作、错误归因和虚假完成任务等问题对模型排名，目前 OpenAI 的多个模型位居初步对齐榜前列，Claude Opus 5.5 和 Claude Fable 分列第六和第九。
匹配字段摘要、正文
Ben Affleck 本周因多段采访视频走红，他在 GQ 和 Bloomberg Screentime 2026 活动上讲解机器学习、神经网络、Transformer、张量、GPU 与推理等概念，并称自己会写 Python 脚本。他透露曾走访 OpenAI，并通过解冻权重、只训练最后一层电影化层来微调开源视频模型，该技术已用于其电影《Animals》的后期制作。
匹配字段摘要、正文
Lightspeed Venture Partners 在错过 OpenAI、ElevenLabs 和 Hugging Face 等 AI 早期项目后，于 2023 年 4 月由联合负责人 Ravi Mhatre 和 Bejul Somaia 召集全球合伙人开了一场长达七小时的会议，要求当天清空日程、重新规划方向。这家风投由此启动自我重塑，转向包括 PE 式 roll-up 在内的新策略，如今有望凭借对 Anthropic 的投资获得回报。
匹配字段摘要、正文
Arena 宣布完成 2 亿美元 B 轮融资，估值 31 亿美元，同时发布 Alignment Index，基于 90K+ 真实智能体会话、覆盖 27 个模型，从 Unauthorized Action、False Attribution、Deceptive Completion 三项信号评估 AI 智能体的安全与对齐。榜单显示 OpenAI 的 GPT-6.1-Sol 以 87.9 分居首，Claude-Opus-5.5 为 83.2 分，Grok-4.7 为 82.7 分，OpenAI 三项信号发生率分别为 0.89%、1.98% 和 2.34%。
匹配字段摘要
Arena 发布 Alignment Index，用于衡量 AI 智能体在真实使用中的安全与对齐表现，基于 27 个模型的 90K+ 真实智能体会话构建，考察越权行动、虚假归因和虚假完成三类信号。榜单中 OpenAI 的 GPT-6.1-Sol 以 87.9 分居首，Anthropic 的 Claude-Opus-5.5 为 83.2 分，SpaceXAI 的 Grok-4.7 为 82.7 分；OpenAI 在三项信号上的观测比率也最低，分别为 0.89%、1.98% 和 2.34%。Arena 表示各实验室的新模型普遍优于前代，且随着对话变长，失准风险会上升。
匹配字段摘要、正文
Anthropic 发布 Claude Haiku 5.5，这是 Haiku 系列约一年来的首次更新，定价与 OpenAI 的 GPT-6 Luna 持平，同日还下调了 Sonnet 5.5 与订阅方案价格。Artificial Analysis 的独立评测显示其 Intelligence Index 为 43（最高 effort），比上一代 Haiku 提升 26 分，略高于 GLM-5.3 Flash（42）、Gemini 3.8 Flash（41）和 GPT-6 Luna（38），但落后 Claude Sonnet 5.5（56）13 分。该模型支持 1M token 上下文（Haiku 4.5 为 200k），首次引入 effort 设置与自适应思考，主要代价是 token 消耗偏高，最高 effort 下每个 Index 任务约用 162k 输出 token，约为 GPT-6 Luna 的 3 倍。
匹配字段摘要、正文
Luca Guadagnino 执导的讽刺电影《Artificial》在纽约电影节首映，聚焦 OpenAI CEO Sam Altman 的崛起与被短暂罢免，Andrew Garfield 饰演 Altman。影片按真实里程碑分章叙事，从 2000 年代初 Ilya Sutskever 在多伦多大学结识 Geoffrey Hinton，到 2012 年技术以逾 4000 万美元被 Google 收购、2013 年两人加入 Google、2015 年 Menlo Park 晚宴，以及 2017 年 OpenAI 系统在 Dota 2 中击败人类冠军。
匹配字段摘要、正文
Architect Financial Technologies 推出 Liquid Inference，这是一个对每次 LLM 推理请求进行实时拍卖的路由器，提供方为指定模型报价，买方按最低且符合自身规则的报价成交。买方可在生成前锁定最高价格，并设置单任务成本上限、首 token 时延、最低吞吐、区域、零数据保留和提供方或模型白名单等规则，计费仅按实际用量。该服务兼容 OpenAI 与 Anthropic 客户端，官方称支持 Claude Code、Codex、OpenCode、Cursor、Pi 和 Cline，前 500 名用户可获 20 美元免费推理额度，推荐可获被推荐方费用的 20%。
匹配字段摘要、正文
a16z 发文指出，AI 正在消除财务数据瓶颈，让 CFO 从记账者转向设计公司运营系统的构建者。Anthropic 财务团队已构建并维护 70+ 财务专用 AI 技能，其中一个可将月度财务审查完成度做到 90-95%，把数小时人工压缩到约 30 分钟；OpenAI CFO Sarah Friar 的团队则用自定义 GPT 做投资者关系和采购，并用实时仪表盘取代静态董事会材料。
匹配字段摘要、正文
Google 于 10 月 7 日将图像、视频、音频电子透水印检测网站 SynthID Detector 的适用范围扩大到普通用户，除 Google 外还支持 OpenAI、NVIDIA、Kakao 的 AI 生成内容，并计划近期支持 Apple 的生成内容。用户需登录后上传文件检测是否含有 SynthID 透水印，视频和音频还能看到检出透水印的区段，目前不支持文本检测。Google 说明未检出透水印也不能否定 AI 生成，因为非 SynthID 模型或透水印推出前的内容本就不带该信号，大幅加工也可能削弱信号。
匹配字段摘要、正文