推理模型会像人类一样使用草稿纸吗？来自蒸馏改写草稿的证据
Anthropic 用 Claude 3.5 Sonnet 改写 Claude 3.7 Sonnet 早期检查点的 1 万条正确数学草稿，再把改写版蒸馏回基座模型，结果其 MATH pass@1 准确率与用原始草稿微调的模型非常接近，说明模型在 MATH 上并未显著依赖草稿语法中的隐式推理。研究还发现，仅要求模型把思路分块而不做改写，就会让 MATH pass@1 下降 7%。
匹配字段摘要
←搜索结果
搜索“Anthropic”
无监督启发安全性的3个挑战与2个希望
Anthropic 对齐科学博客研究了无监督启发（unsupervised elicitation）与易到难泛化技术面临的3个现实挑战：显著非真特征、训练集不平衡、模型无法确定回答的任务，并构建数据集进行压力测试。研究还检验了集成多个预测器、结合无监督与易到难方法这2个希望，发现它们有时优于其他方法，但没有一种技术能在3个挑战上稳定表现良好。实验使用 Llama 3.1 8B 和 Llama 3.1 70B。
匹配字段摘要、正文
通过投毒微调数据集在宪法分类器中植入后门
Anthropic 研究发现，无论训练集多大，约 32 个投毒样本即可在宪法分类器中植入后门。植入后门通常会损害分类器鲁棒性，但若训练集中加入提示注入样本或后门触发短语的变体，鲁棒性损失会小到红队难以察觉。若同时加入 256 个后门样本和 256 个近似后门样本，则需更多投毒样本，但近似后门往往能阻止鲁棒性受损。
匹配字段摘要、正文
SLEIGHT-Bench：发现 AI 监控系统的盲点
Anthropic 提出 SLEIGHT-Bench（Subtle Low-itEration Insight-Guided Harmful Transcripts），一个包含 11 类共 40 个攻击的合成对话基准，用于测试前沿监控系统能否识别编码智能体隐蔽执行的有害目标。这些攻击利用监控模型的系统性盲点，例如无法精确计数长上下文中的行号、难以追踪被覆盖或重新赋值的变量内容，以及威胁模型未覆盖的恶意文档传递。研究还尝试通过改进 scaffold 或提示词修补部分盲点。
匹配字段摘要、正文
TASTE：AI 模型能否评判 AI 安全研究提案？
Anthropic 构建了 TASTE（The AI Safety Taste Evaluation）基准，用 92 组配对比较衡量模型评判 AI 安全研究提案的能力，以与资深人类研究者偏好的一致率为指标，估计人类研究者一致率为 77%。模型表现不及人类研究者，Fable 5 仅得 60%。该基准通过研究者讨论分歧并修订评分、再筛选自报“strong”置信度的标签来提升一致性，使估计人类一致率从讨论前的 53% 提升 15 个百分点至 68%。
匹配字段摘要、正文
HCLTech 高级 AI 营收达 2.19 亿美元，FY27 指引收窄
HCLTech 公布 Q2 FY27 高级 AI 营收 2.19 亿美元，环比增长 28.4%，按固定汇率同比增长 78%。公司将 FY27 营收增长指引下限从 1% 上调至 2.5%，上限维持 4%，并宣布与 Anthropic 达成全球合作，设立专门业务部门与卓越中心，基于 Claude、Cowork 和 Claude Code 开发行业方案。
匹配字段摘要、正文
AI 智能体的上下文因素：Celonis 谈流程智能为何关键
Celonis CEO Alex Rinke 指出，Google、OpenAI、Anthropic 等前沿模型虽强，却不了解企业自身的供应链与流程运作，缺乏 360 度上下文。Celonis 通过构建组织的数字孪生捕获其流程，让 AI 智能体理解工作如何执行并做出决策。Rinke 称这种隐性知识与流程上下文是企业的竞争护城河，缺少流程智能，AI 难以带来强 ROI。
匹配字段摘要、正文
AI Business 智能自动化新闻汇总
AI Business 的智能自动化专题汇总了最新动态，指出 AI 市场正变得更个性化，智能体与模型开始完成任务，但企业尚未准备好迎接这一新阶段。页面还列出 Reflection Beam 面向美国开放权重模型对标中国对手、AI 智能体的上下文因素、Anthropic 相关监管以及人形机器人训练数据不足等报道。
匹配字段摘要、正文
AI Business 机器人流程自动化近期新闻汇总
AI Business 的机器人流程自动化新闻页面汇总了相关报道，指出产量上升正加大供应商压力，美中关系紧张可能让西方制造商更难找到中国供应商的替代方案。页面还列出 Reflection Beam 面向美国开放权重 AI 模型对标中国对手、AI 智能体的上下文因素、Anthropic 相关监管以及人形机器人训练数据不足等近期条目。
匹配字段摘要、正文
HeadVis：用于研究注意力头的交互式工具
Anthropic 推出 HeadVis，一个用于研究大语言模型注意力头的交互式可视化工具，并开源了代码。该工具通过注意力模式可视化、分布指标、低秩分量投影以及经 QK/OV 电路的 SAE 特征归因来生成和检验关于注意力头功能的假设。作者用 HeadVis 分析了 Claude Haiku 3.5 的注意力头，并提供了 Gemma 3 及 Haiku 3.5 部分注意力头的演示。
匹配字段摘要
TensorZero：别只比每百万 token 价格，LLM API 隐藏成本被低估
TensorZero 工程博客指出，按每百万 token 价格比较 LLM API 成本具有误导性，因为不同厂商的 tokenizer 会让相同输入产生不同 token 数。该团队用 OpenAI、Anthropic 和 Google 官方 token 计数 API 测试相同内容，发现 token 数差异可达 2.65 倍以上，文本、JSON、YAML 和工具定义的 token 化方式各不相同。在工具密集型负载上，claude-opus-4-7 的成本比 gpt-5.4 高 5.3 倍，而两者标价仅相差 2 倍；Gemini 在文本和结构化数据上最便宜，但在工具定义上比 OpenAI 贵 46%。
匹配字段摘要、正文
斯坦福 HAI 研究：分析 25 万段 Claude 对话，多数人机协作并非走捷径
斯坦福 HAI 支持的一项研究分析了 25 万段用户与 Anthropic Claude 的匿名对话，发现 56% 以上的协作属于“有后果”或更高风险级别，且任务越关键，用户参与越主动、对话长度几乎翻倍。研究指出约一半对话存在“摩擦”，其中三分之二的互动是用户要求 AI 解释而非直接生成内容；在出现负面摩擦的协作中，近 80% 的用户尝试恢复。论文已被 Nature Human Behavior 接收，作者建议提升公众的 AI 素养，并警惕 AI 收益集中于高利害知识领域而加深不平等。
匹配字段摘要、正文
Meta 发布 Muse Wonder 与 Muse Wonder Full 模型
Meta Superintelligence Labs 发布 Muse Wonder（代号 Watermelon）和 Muse Wonder Full 两款模型，其中完整版在 Artificial Analysis 智能排名中位列第二，仅次于 Anthropic 的 Opus 5.5。报道称 Meta 由此进入此前由 OpenAI 和 Anthropic 主导的前沿模型竞争，其优势还包括数据中心、数十亿用户以及智能体应用 Muse。文中还提到 Andrej Karpathy 关于 AI 能力认知分层的观点、微软 Maia 300 芯片，以及一份使用 Muse Wonder 完成工作坊议程与预算的教程。
匹配字段摘要、正文
开放模型确有实际好处，但风险是否更大？
Anthropic 发布报告称中国公司 Z.ai 于 8 月发布的 GLM-5.3 可自由下载修改，构成重大网络攻击风险，再度引发前沿模型应开放还是闭源的争论。目前 Artificial Analysis LLM 排行榜前八名均为闭源模型，但开放模型在开发进度上仅落后数月，且通常成本更低、可本地运行并支持研究者观察内部结构与思维链。
匹配字段摘要、正文
科技巨头集体举债抢占算力资源，可持续吗？
科技巨头今年合计支出预计超过7300亿美元，并通过创纪录的芯片融资和债券发行加杠杆扩张算力。华尔街银行启动600亿美元芯片融资交易，由博通担保、为Anthropic租赁谷歌半导体提供资金；阿波罗资本等正与SpaceX洽谈协助其完成400亿美元英伟达GPU采购。台积电预计连续第六个季度利润创纪录，微软则计划让自研Maia成为运行AI模型的主要架构。
匹配字段摘要、正文
OpenAI 研究：公开聊天数据能否预测真实世界的 AI 失准行为
OpenAI 在 Alignment 研究博客中验证，用公开数据集 WildChat 的对话前缀模拟模型部署，能较准确预测真实生产环境中的失准率，95% 的预测落在实际生产率的 1.04 个数量级以内。研究同时发现，WildChat 对与智能体使用相关的失准类别预测误差明显更大，原始乘性误差约为其他类别的 37 倍。研究还用它评估了 4 家前沿实验室 15 个模型的对齐表现，其排序与 Anthropic 的 Petri 结果高度一致（Spearman rho = 0.973）。
匹配字段摘要、正文
GitLab 发布多项能力，编排 AI 智能体并治理影子软件工厂
GitLab 在班加罗尔 Transcend 活动上发布多项新能力，用于在软件开发生命周期中编排 AI 智能体、管理软件制品并执行安全策略，包括 GitLab Artifact Central、Dependency Firewall、目标驱动的智能体工作流、扩展的密钥管理以及衡量 AI 开发成本与影响的 Impact Analytics。其中 Artifact Central 处于 beta，GitLab 称平台团队可定义组织级策略并最多降低 50% 总拥有成本，自管理版本计划本月晚些时候推出；Orbit 为编码智能体提供软件生命周期实时知识，官方称可让任务重试次数最多减少 45 倍、token 用量减少 4.5 倍，计划下月在所有部署选项上正式可用。Anthropic 的 Claude Mythos 5 和 5.1 也将集成进 GitLab Duo Agent Platform 的安全工作流，预计下月在获批环境中可用。
匹配字段摘要、正文
Karpathy 称外界只看到 AI 能力的预览，并把 LLM 用户分为四个层级
Anthropic 的 Andrej Karpathy 认为外界只看到了 AI 实际能力的预览，并把大语言模型用户分为四个层级。约 60 亿人几乎没接触过 LLM，10 至 20 亿人只是把免费版 ChatGPT 类产品当作更好的搜索引擎或写作助手，约 2000 万数学和编程领域的专业用户已用智能体完成过去需要数周乃至数月的项目，而约 5000 人能接触内部前沿系统，看到数千个智能体协作数周推进软件大型项目、发现新科学和推进数学前沿。他指出人类审查和理解正在落后，并称 LLM 能力目前集中在数字、可验证且经济价值高的领域，因为其来自可验证奖励的强化学习。
匹配字段摘要、正文
白宫恢复英国 AI 安全研究所对前沿模型的访问权限
白宫撤销了此前阻止英国 AI 安全研究所（AISI）访问新 AI 模型的决定，Anthropic、Google DeepMind 和 OpenAI 将重新向该机构提供模型的早期访问权限。今年 9 月，特朗普政府曾要求这些公司停止与 AISI 共享模型，Anthropic 随后限制了新模型 Claude Mythos 5.1 的访问。在 AI 大臣 Kanishka Narayan 的外交施压下，这一封锁被解除，他计划在即将到来的演讲中宣布新的 AI 安全措施，包括针对涉及关键基础设施的 AI 安全事件提出更严格的报告要求。
匹配字段摘要、正文
Artificial Analysis 发布 AA-3D 基准，评测 AI 模型构建交互式 3D 场景的能力
Artificial Analysis 发布 AA-3D 基准，让模型在离线沙箱中作为智能体把文字需求写成 three.js 网页，再由招募的评审团在不知模型身份的情况下两两比较场景并按 Elo 排名。Claude Sonnet 5.5 以 1194 分居首，但与另外三个 Anthropic 和 OpenAI 模型统计上并列，前四名 95% 置信区间均与它重叠；开源权重模型中排名最高的是 Kimi K3（982）和 MiMo-V2.6-Pro（977），分列第 11、12 位，落后 200 分以上。榜单还显示排名靠前的模型更早查看自己场景的截图，前五名首次查看的中位轮次为 10 到 13 轮。
匹配字段摘要、正文