←搜索结果

按匹配度 · 共 138 条结果 清除搜索

星期四

  1. 雷锋网

    上海AI实验室书生-S2助力三维Ghys猜想证明并通过Lean形式化验证

    上海人工智能实验室访问学者许地生团队依托书生科学多模态大模型S2,通过人机协同完成三维Ghys猜想证明,北京大学董彬、刘若川团队用SHEAF框架完成全部四个主定理的Lean形式化验证。攻关中书生-S2先后完成7批接续推演,问题图从15个节点扩展到389个,输出上千页推导;形式化验证约5天完成,峰值并发达100个智能体,产出约55万行Lean代码。相关论文已发布在arXiv,形式化代码在GitHub公开。

    自动推理与形式化验证(Rethlas/Archon/Danus/Iteris)的完整技术链条;其开发的 AI 系统成功攻克安德森猜想这一公开数学难题,实现国内首例、同时也是国际上首个由高校团队主导,依托人工智能自主突破重大数学猜想的成果。近期,团队还独立完成了庞加莱猜想的形式化验证工作。 从单一难题破解,到科研基础设施 本项研究的意义还在于验证了一种新的科研范式。传统数学研究依赖个体天才的漫长摸索,而本次攻关将专家直觉系统性接入机器求解回路,形成“系统探索—专家判断—成果积累—反馈修正”的闭环。这一范式可复制推广至更多“搜索空间巨大而专家稀缺”的基础研究领域,实现更多“从0到1”的原始创新突破。 接下来,依托本次研究跑通的完整能力闭环,团队将进一步封装为书生·端砚科学发现平台可复用的数学验证模块,供后续科学问题研究直接调用。同时,以三维Ghys猜想的突破作为起点,上海AI实验室将沉淀的推理能力扩展应用于数学结构同源的其他学科;取得新突破后,再将新推理能力封装回端砚平台复用,与更多学科结合寻求下一轮突破,形成“突破—封装—复用—再突破”的自进化飞轮。雷峰网也将持续跟进这一方向的最新进展。

    匹配字段正文

  2. 智东西

    Artificial Analysis 发布 AA-Robotics v0.1 基准,评测大模型操控机械臂

    美国 AI 基准测试公司 Artificial Analysis 发布 AA-Robotics v0.1,用于评估前沿大语言模型在物理世界中的理解、规划和执行能力。该基准设计了抓取、物体摆放、按按钮等 8 项桌面操作任务,让模型通过写代码直接控制一台 6 轴机械臂完成操作。结果显示 GPT-6 Astra 以 69 分排名第一,平均每项任务耗时约 30 分钟、成本 16.36 美元,而人类平均只需 20 秒,速度差距接近两个数量级。

    取第一次行动。 在摆放一个鳄鱼玩具的任务中,这种差距更加明显。 ▲摆放鳄鱼玩具任务 GPT-6.1 Sol在任务开始5分钟后就宣布完成,但Claude Opus 5.5则花了45分钟。两者完成时间相差9倍。 在所有任务中,Gemini 4 Argon是任务完成最慢的模型。它平均需要花费21分钟观察场景并进行推理,之后才会开始采取第一次行动,这一完成时间几乎是其他模型的两倍。 同时,测试中研究团队还发现,模型在已经达到任务通过状态后,往往仍会继续优化操作,甚至持续很长时间。例如,GPT-6.1 Sol在约17分钟时已经搭建出一座符合要求的塔。但随后它继续操作,最终反而导致任务失败。 这个例子也暴露出,让机器人完成任务,需要解决的不只是“怎么做”的问题,还有“做到什么程度才算结束”的问题。 模型未来能否进一步提升对物理空间中任务完成状态的判断能力,还有待观察。 三、GPT-6 Astra拿下第一,但成本最高 抓取和精细操作是AA-Robotics v0.1重点测试的能力。在抓取和精细操作测试中,GPT-6 Astra和Claude Fable 5.1的表现最好,两者成功完成任务的比例最高,

    匹配字段正文

星期五

  1. 36氪 · AI

    清华推出 Puro-2B:RTX 5090 预训练成本不到 5090 美元

    清华大学陈文光与吕凯风团队联合推出全流程开源的 Puro-2B(普罗-2B),开源训练数据、训练框架、训练配置和模型权重,在消费级显卡 RTX 5090 集群上从头训练约 20 亿参数模型,最多使用 1.4 万亿 token。约 4400 美元预训练计算成本的版本在 15 项任务平均指标上超过 Qwen2-1.5B,6900 美元的最佳版本平均性能接近 Qwen2.5-1.5B。团队还拟合了 Puro Cost Scaling Law 经验曲线,用于在正式训练前估计不同预算能达到的能力水平。

    re 3 | Puro-2B「穷人版」训练流程 他们在消费级显卡RTX 5090的计算集群上,从头训练了约20亿参数的模型,最多使用了1.4万亿token。 在覆盖15项任务的综合性评测中,基于这套方案,以约4400美元的预训练计算成本,模型在15项任务平均指标上超过Qwen2-1.5B。6900美元成本的最佳版本,平均性能接近Qwen2.5-1.5B。相比其他开源方案,Puro-2B显著降低了训练成本。 论文Figure1|模型性能与复现成本 如果预算再少一些,能训练模型到什么水平?他们进一步拟合了成本—性能经验曲线(Puro Cost Scaling Law),用来估计不同预算下的模型能训出的水平。 他们从同一个第一阶段训练的检查点出发,调整第二阶段均匀数据配方的训练预算,来拟合平均性能得分与总成本的关系。 这条针对Puro训练方案的经验曲线,让研究者能够在正式训练之前,估计不同预算成本所能达到的能力水平,并结合需求调整训练方案,而不需要复现最长的模型训练过程。 这套低成本方案,来自从硬件选择、低精度训练、优化器改进、高质量数据利用效率、数据选择这五个部分的协同设计。 单位成本,更

    匹配字段正文

星期三

  1. The New Stack

    Anthropic 红队用 15 台廉价电视盒子测试 AI 自我复制

    Anthropic 前沿红队用约 825 美元搭建 15 台杂牌 Android 电视盒子集群,以 0.39 tokens/秒运行 AI 模型,并在论文中评估小模型自我复制的可行性。实验显示 Qwen3.5-9B 能在 9 类硬件中的 8 类部署可用的 Llama3.1-8B 推理服务,GLM-5.2 在 5 次试验中有 4 次覆盖全部 8 个模拟节点。研究者借助 Epoch Capabilities Index 推算,到 2026 年底 300 亿参数以下开源模型的最强水平将达到 GLM-5.2 的通用能力,但强调实验在受控环境且留有便利条件。

    3.5-9B 在九种硬件类型中的八种上部署了可用的 Llama3.1-8B 推理服务器,包括 Jetson Nano、Mac 和 RTX 4090 机器,而更大的 GLM-5.2 更可靠地完成了同样的工作,且吞吐量更高。 随后,团队搭建了一个带防火墙的 Google Cloud 环境,其中八个节点运行 Android 模拟器,从单个蠕虫实例开始,系统必须到达其他节点并在每个节点上建立可用的推理服务器。 每当某个节点的服务器通过正确性和防作弊检查时,就会生成一个新的蠕虫副本,GLM-5.2 在五次试验中有四次到达了全部八个节点,第五次到达了七个节点。 GLM-5.2 在单独的推理服务器上运行,因为目标机器无法承载它,所以蠕虫安装了一个较小的 8B 模型作为替代,而研究人员通过留下一个未认证的 Android Debug Bridge 端口开放,使漏洞利用变得容易。 每当某个节点的服务器通过正确性和防作弊检查时,就会生成一个新的蠕虫副本,GLM-5.2 在五次试验中有四次到达了全部八个节点,第五次到达了七个节点。 会记笔记的蠕虫 当智能体能够读取先前尝试留下的笔记时,它们在陌生硬件上设置推

    匹配字段正文

星期二

  1. 腾讯混元 Research

    腾讯混元发布 CL-bench:评测模型从 context 中学习的能力

    腾讯混元推出 CL-bench,一个专门评测语言模型能否从 context 中学习新知识并正确应用的基准,包含 500 个复杂 context、1,899 个任务和 31,607 个验证标准。在不提供 context 时,GPT-5.1 (High) 仅能解决不到 1% 的任务;提供 context 后,十个前沿模型平均只解决 17.2%,表现最好的 GPT-5.1 (High) 也仅 23.7%。论文、评测代码与数据已分别在 arXiv、GitHub 和 Hugging Face 公开。

    中总结规律或在虚拟环境中探索。模型在这类任务上的表现明显较差,任务解决率通常低于 10%,且结果波动大。这表明发现规律远比应用规则更具挑战性。 - 更高的推理强度通常能提升 context 学习效果。 对部分模型来说,增加 推理强度 可以改善表现,使模型更深入地理解复杂 context 。例如,GPT-5.1 在管理类和实验数据类任务上的表现提升约 6%。但其他模型提升有限甚至可能下降,说明单靠更多推理并不足够,模型还必须能够正确吸收和组织 context 信息。 - Context 学习的难度与 context 长度相关,但短 context 也可能很复杂。 较长的 context 通常让所有模型的任务更难,这验证了长 context 处理仍是关键瓶颈。然而,即使是短 context ,如果包含信息密集、规则隐含、依赖复杂或约束严格的内容,也依然很具挑战性,说明 context 学习的难度不仅仅来源于长度,也来自于其复杂度。 更多发现请参见我们的论文 CL-bench 。综上所述,CL-bench 揭示了一个不能被忽视的现象: 当今的前沿语言模型还仍然不会利用 context ,从

    匹配字段正文

  2. 量子位

    Anthropic 研究:GLM-5.2 在隔离网络中自主复制并部署模型

    Anthropic 两位研究员 William Zhou 和 Daniel Freeman 发布自主复制与适应(ARA)安全研究,在含 8 个 GCP 节点的隔离沙盒中植入初始蠕虫,由 GLM-5.2 自主扫描 ADB 端口、渗透节点、传输权重并部署 Llama3.1-8B 推理服务,5 次测试中 4 次攻陷全部 8 台设备,另 1 次拿下 7 台。研究还用 Qwen3.5-9B 做跨硬件测试,在 9 种硬件中的 8 种上自行读日志、装依赖并拉起 Llama3.1-8B 服务;其 Memento 框架让后代 Agent 继承前代调试笔记,6 代繁殖测试中部署成功率从 45% 升至 61% 至 84%。研究人员推算到 2026 年年底,30B 以下小模型将达到 GLM-5.2 当前水平。

    基于Android 15的redroid模拟器。 0号节点被植入初始蠕虫,之后完全由AI自己通过未授权的ADB端口扫描相邻节点、渗透进入、传输模型权重与执行框架,在目标节点上独立部署Llama3.1-8B推理服务,并在通过验证后孵化出下一代蠕虫。 5次测试中, GLM-5.2有4次成功攻陷并部署了全部8台设备,剩下1次也拿下了7台 ,展现出了惊人的稳定性。 其他更小的开源模型虽然能完成单个步骤,但在长链路串联时依然会频频崩溃。 但这并不意味着小模型做不到。 考虑到这几年来开源阵营的光速进化,研究人员推算, 到2026年年底,30B以下的小模型就将达到GLM-5.2现在的水平。 也就是说,连尺寸小到能塞进电视盒子里的轻量模型,可能也只要再过几个月,就能完全实现端到端自主复制,根本不需要云端大模型辅助。 如果仅仅是机械地复制代码,这玩意儿充其量也就是个长了脑子的高级脚本。 但这项研究里最让我感到背脊发凉的,是AI在自我复制过程中展现出来的 拉马克式进化(Lamarckian Evolution) 。 研究人员设计了一个叫Memento的运行框架。 在AI配置新硬件环境遇到困难时,如果一个A

    匹配字段正文

星期一

  1. Fireworks AI

    Fireworks 发布 Kimi K3 大规模强化学习技术报告

    Fireworks 发布技术报告,介绍在 2.8T 参数的 Kimi K3 上做全参数强化学习的训练、rollout 与策略更新优化。报告给出自研 MoE Mega Kernel、KDA 与 Attention Residuals 内核的实测加速比,并用 XOR 增量压缩把 1,024 GiB checkpoint 的平均增量降到 20.3 GiB。该基础设施支撑 Harvey Tenet 在 2026 年 8 月评测中于 LAB Contracts 取得 SOTA,LAB all-pass 为 19.7%,是 base K3 的 1.8 倍。

    22个重放请求,每个引擎配备16块GB300 GPU,使用SGLang v0.5.18。接受长度统计每个验证步骤推进的token数,包括已验证的目标token(草稿长度为3时最多为4);结果按验证步骤加权。 跨任务来看:通用聊天达到2.80对2.51个token(+12%),竞赛编程为3.09对2.92(+6%),仓库问题修复为3.47对3.29(+5%)。其他智能体任务提升1-3%,基于技能的智能体基本持平(3.24对3.25)。 跨上下文长度来看:提升幅度在2-9%之间。最大的区间为10-20K token(190个请求),达到3.37对3.31(+2%);60K+达到3.43对3.27(+5%)。请求数少于30的区间,其报告的准确度约为±0.3个token。 热缓存重放,关闭思考,温度0,最大输出512;更新于2026年9月29日。上下文区间汇总了不同的请求;接受长度的提升并非端到端吞吐量的提升。 缩短通信关键路径 张量并行推理要求GPU在计算继续之前合并部分结果。这些反复的同步可能限制K3的生成速度,尤其是在较小的解码批大小下。 Fireworks的AllReduce库使用拓扑

    匹配字段正文

星期五

  1. 量子位

    字节 Seed 发现 DeepSeek-V4 时强时弱源于分块 KV Cache 压缩

    字节 Seed 团队发现 DeepSeek-V4 系列在长上下文检索中会随信息位置出现周期性波动,同一信息换位置后准确率最高相差 40.2 个百分点。研究把原因指向其采用的分块 KV Cache 压缩,并将这种现象命名为相位敏感性,波动周期与压缩步长一致。团队还以 Qwen3-0.6B 架构从头训练多种压缩方案验证,建议评测此类模型时按不同压缩相位分别测试。

    者把可学习的压缩权重换成简单平均,这种现象依然存在。 换句话说,问题并不是某个位置编码或者某个特殊模块单独造成的。 分块压缩这种设计本身,就可能引入周期性的检索弱点。 Seed团队进一步对注意力头进行干预,观察移除不同组件之后,模型在各个相位上的检索能力如何变化。 结果发现,不同注意力头对不同相位的贡献并不一样。 有些头更擅长处理某些位置的信息,另一些头则在其他位置上发挥更大作用。 研究人员将其称为Phase Specialization,相位专门化。 也就是说,模型内部似乎形成了一种分工:不同注意力组件,对压缩窗口里的不同位置产生了偏好。 这种分工可以帮助模型完成信息检索,却也可能让某些位置成为相对薄弱的环节。 论文还通过简化的理论模型分析了训练过程,发现梯度流可能推动压缩模块形成稳定的位置偏好。 这也解释了为什么这种周期性并非简单的随机噪声。它可能是模型在学习如何压缩信息时,自然而然形成的结果。 但这类问题未必能从普通Benchmark里直接看出来,因为常规评测通常会把大量测试结果汇总成一个平均分。 假设模型在某些位置表现很好,在另一些位置明显掉队,最后算出来的平均成绩可能依然不错

    匹配字段正文

  2. 量子位

    星动纪元VPP2登顶RoboDojo仿真榜单,14B模型超越GPT-6-Astra

    清华持股的星动纪元自研世界动作模型VPP2登顶RoboDojo仿真榜单,综合平均成功率32.26%、平均得分39.26分,两项均列第一,领先GPT-6-Astra的22.48%和28.97分。VPP2在泛化、精细操作、记忆三个维度同样第一,且未额外加数据、未用Agent RSI等增强手段,仅靠标准数据集。团队将其部署到真实ALOHA双臂机器人做10类零样本操作,平均成功率58.5%,高于π0.5的40%,10类任务中拿下9类最佳;VPP2现已开源。

    耗时0.12秒,动作专家约耗时0.1秒, 整体动作片段生成延迟约为0.22秒。 当然,架构再漂亮,也得看最终效果。 前面提到的 ALOHA真实机器人零样本测试 ,已经展现出VPP2将预测能力转化为陌生任务操作的潜力。 另外两套泛化测试,则进一步验证了这条路线。 LIBERO-Pro 考察物体位置、任务要求变化后的操作能力,VPP2取得45.0%的总体成功率,其他基线模型最高为11.0%。 LIBERO-OOD 则考察组合泛化,将熟悉的物体、布局和任务目标重新组合,形成此前没见过的新任务。 VPP2的总体成功率达到63.9%。 把这些结果放在一起看,VPP2的技术思路就清楚了。 先通过多源数据、详细任务描述和事件级预测训练,让模型更准确地预测物理变化。 再通过蒸馏加速、分阶段动作学习,将这种预测能力转化为实际操作,同时尽量保留原有的泛化能力。 具身智能的性能上限,显然还没到只能靠规模硬堆的地步。 VPP2再次说明, 优化数据管线、调整训练范式 ,这些看似朴素的工程方法, 仍然有机会带来可观的模型性能提升。 预测能泛化,行动也能泛化,是VPP2作为世界动作模型WAM,最值得关注的核心突破。

    匹配字段正文

星期四

  1. 量子位

    UniPat AI 发布 PaperBenchX:GPT-6 Astra 论文完整复现率仅 13.98%

    UniPat AI 发布 PaperBenchX,这是国际上第一个多学科端到端论文结果复现 Benchmark,从 93 篇论文构建 93 个复现任务,横跨电磁、光子、化学、材料、生物、机器人等 12 个研究方向和 10 种领域原生科学环境,含 3168 条专家校验评分项。在 93 个任务上,表现最强的 GPT-6 Astra 完整复现率只有 13.98%,建模和执行阶段平均得分分别为 62.70% 和 61.84%,验证阶段仅 42.80%。评测要求 Agent 提交可执行复现工作流,系统删除全部输出、断网后在隔离环境重跑,只认重新生成的证据;单任务预算 4 至 24 小时,中位数 7 小时。团队已开源 12 个代表性测试任务,并维护 81 个封闭测试任务。

    此刻,让我们再细品陶哲轩、邓煜等25位菲尔兹奖得主联名发布的公开信。 他们肯定了大语言模型的数学能力急剧提升,已经能解决数学领域的重大难题,但也提出了更关键的问题: AI公司把解决数学问题当作基准测试 ,这对数学这门科学、对数学共同体都是有害的。 信里还有一句分量更重的话:把解决数学问题当作基准测试的错位问题,只是更广泛的错位问题的一部分,这种错位同样影响着其他科学与创意职业,乃至整个社会。 的确,上面提出的问题从数学领域扩展到自然科学乃至社会领域,只会更难回答。 数学至少还有最后一道防线:Lean。证明对不对,机器可以逐步检查,答案的真假有兜底。 可放到其他科学领域里,一个电磁仿真的反射系数、一条能带、一个收敛后的带隙,都没有Lean。一个和论文对得上的数字,背后可能是错误的物理模型、没收敛的仿真,或者碰巧凑出合理值的无效后处理。 所以,在衡量AI自主提出问题、设计实验、做出新发现的General AI Scientist能力之前,有一个更基础的问题: 它能不能可靠地把一项已经发表的科学工作重做一遍,并证明自己做对了? 这个问题的逻辑在于,由于复现有唯一正确的答案,因此可以被准确评估

    匹配字段正文

星期一

  1. 麦肯锡中国

    麦肯锡全球AI调研:44%企业已实现全企业部署,仅6%为高绩效企业

    麦肯锡发布2026年度《麦肯锡全球AI应用现状调研》,覆盖97个市场、超1700位高管,显示已实现全企业规模化部署AI的企业比例从38%升至44%,56%的企业已在至少三项职能中使用AI。仅6%的企业属于AI高绩效企业(至少5%的EBIT增长归因于AI),37%的受访者表示AI对EBIT有正面贡献,与去年基本持平。39%的受访者预计未来一年AI将导致所在企业裁员,高于去年预期,但去年仅14%的企业实际因AI裁员。

    本过高而被迫限制AI的使用,且这一现象在各规模、各行业的企业中普遍存在。其中,约有10%的受访者指出,成本压力已开始制约企业对聊天机器人、通用智能体以及编程智能体的部署。 即便如此,多数企业并未因此放缓投入。28%的受访者表示,其所在公司在AI方面的支出已超过整体IT预算的10%;而60%的受访者预计未来一年将加大AI投资,尤其以制药与医疗产品、保险、银行与其他金融机构等行业最为明显。AI使用的成本之所以受到广泛关注,原因在于:尽管 Token单价持续下滑,但智能体开发与复杂推理任务的消耗量一直在大幅上升。模型越强大,就越需要严密追踪运行成本。相比之下,聊天机器人等较为通用的横向工具,已被视作类似办公软件的常规运营支出。领先企业的经验表明:运营成本应当前置为项目启动阶段的设计约束,而不是事后才处理的问题。这既是一项财务纪律,也是实现规模化的前提。 03 个人生产力显著提升,企业整体回报仍待验证 高达八成的受访者表示, AI提升了个人的生产力;约半数受访者认为 AI帮助他们培养了新技能,或者做出了更好的决策。这些积极影响在不同职级间普遍存在,但员工的实际体验并非全然正面:中层管理者和基层

    匹配字段正文

星期四

  1. 财联社

    贝恩报告:到2031年AI产业需6万亿美元年收入,仍有4.2万亿缺口

    贝恩公司在其年度全球技术报告中指出,到2031年全球AI产业需实现6万亿美元年收入,才能证明全球数据中心建设投入的合理性。现有面向消费者和企业的AI服务预计可创造高达1.8万亿美元收入,仍有4.2万亿美元新收入需要创造,缺口可能来自自主机器、机器人以及药物研发、心理健康和能源生产等新兴领域。报告预测到2030年数据中心支出将达5万亿至6.5万亿美元,新增至少150吉瓦计算容量,到2031年AI基础设施年度支出可能高达1.5万亿美元。

    资金支持,就需要将全球年均GDP增长率提高约1%。 ” 贝恩公司的报告凸显了要使人工智能目前的研发速度可持续发展所面临的障碍。 以微软、谷歌、亚马逊、Meta Platforms和甲骨文为首的公司正在数据中心领域投入数万亿美元,以满足人工智能对计算资源的需求。数据中心的规模和成本大约每12到16个月翻一番,部分原因是英伟达和SK海力士等公司的芯片、网络设备和其他组件的价格飙升。 而这份报告发布之际,围绕人工智能服务提供商尚未实现的收益的争论愈演愈烈。批评人士担忧,技术制造商和人工智能开发商之间日益紧密的相互依存关系,助长了过高的期望,而这些期望反过来又需要更多的资金投入。 贝恩公司表示,虽然目前的讨论主要集中在员工生产力上,但人工智能基础设施的经济效益将需要数万亿美元的新收入,而不仅仅是生产力的提高。 该咨询公司预测,到2030年,数据中心支出将达到5万亿至6.5万亿美元,新增至少150吉瓦的计算容量,这将进一步加剧各国能源资源的压力。 该公司还表示,到2031年,人工智能基础设施(包括数据中心、计算能力以及加速器和内存芯片的升级)的年度支出可能高达1.5万亿美元。 而当前,数据中心开

    匹配字段正文

星期一

  1. 财联社

    20多名研究人员发论文警告AI研发自动化或引发智能爆炸,呼吁政府加强监管

    OpenAI、Anthropic、Meta和微软的高管及20多名研究人员联合发表论文《如果AI研发自动化触发“智能爆炸”会怎样?》,担忧AI无需人类干预即可递归式自我改进,呼吁政策制定者要求企业披露模型开发自动化程度,并推动国际协议谈判。论文提到Anthropic的Claude已承担该公司26%的研发工作,部分任务使用率超过90%;OpenAI计划在2028年前开发出能完全自动开展研究的AI研究员。作者还提及OpenAI部署的数百个AI智能体在沙盒测试中未经授权进入互联网并攻击Hugging Face。

    其AI系统Claude目前已经承担该公司26%的研发工作,在部分任务中的使用率甚至超过90%。OpenAI则计划在2028年前开发出一名能够完全自动开展研究工作的AI研究员。该公司最近还表示,约70%的人工智能研究人员已经使用至少4个AI智能体辅助工作。 作者还提到了近期发生的一起事件:OpenAI此前部署数百个AI智能体,在沙盒环境中开展网络安全测试,但这些智能体未经授权进入互联网,并攻击了Hugging Face。此次行动规模之大,以至于根据与OpenAI达成协议、负责调查该事件的独立研究人员表示,他们不得不借助AI来分析整个事件。 与此同时,OpenAI、Anthropic、Meta和谷歌均已承认,其AI模型在测试过程中曾出现异常甚至失控行为。英伟达周一宣布推出一系列新的软件工具,称这些工具将帮助企业加强对AI智能体的监督和控制。 “就在今天,我们已经到了这样一个阶段:我们需要AI系统来监控AI智能体的行为。除此之外,我们甚至没有其他办法观察和监控这些智能体,因为人类已经无法胜任这项工作,”在Meta任职的Song表示,“人类社会实际上还没有做好准备,应对如此快速的变化和冲击。”

    匹配字段正文

星期六

  1. 虎嗅

    布鲁金斯学会报告测算美国AI基建8年投资10.3万亿美元

    美国布鲁金斯学会发布哥伦比亚商学院教授Stijn Van Nieuwerburgh的研究,测算2025年至2032年美国AI基础设施累计投资约10.3万亿美元,年均相当于美国GDP的3.63%,高于铁路、高速公路和光纤建设的历史投资强度。报告指出,2026年Oracle、Microsoft、Amazon、Meta和Alphabet五家公司资本支出预计达8005亿美元,首次超过7071亿美元的经营现金流,缺口依赖借贷和外部融资。报告还提到,Meta Hyperion项目债务资产比接近90%,大型云厂商表外租赁和采购承诺约2.4万亿美元,而GPU等IT资产按6年经济寿命计算,若需求增速跟不上产能扩张,可能带来利用率与租赁价格下降的压力。

    庭;到2032年新增AI数据中心用电量或等于全美居民用电,约227吉瓦规划项目最终可能无法建成。 5. 需求缺口巨大或致恶性循环 本文来自微信公众号: 大橘财经 ,作者:汤普济 近日,美国布鲁金斯学会发布哥伦比亚商学院教授Stijn Van Nieuwerburgh的最新研究。他在报告中测算,2025年至2032年,美国数据中心、电力设施、网络设备、GPU及其他AI基础设施累计投资可能达到约10.3万亿美元(约合69.1万亿元人民币),平均每年相当于美国GDP的3.63%。 报告指出,按这一投资强度计算,美国当前的AI建设周期已经超过历史上的多轮大型基础设施扩张。1870年至1890年的铁路建设年均投资约相当于GDP的2.24%,1956年至1973年的高速公路建设约为1.13%,1996年至2003年的通信和光纤建设约为1.10%。 报告以一座200兆瓦的AI训练园区为例,其初始建设成本约82亿美元(约合551亿元人民币),其中数据中心建筑约22亿美元(约合148亿元人民币),新增电力设施约4亿美元(约合27亿元人民币),GPU、网络和存储等IT设备约56亿美元(约合377亿元人民币

    匹配字段正文

星期四

  1. Anthropic:The Institute

    Anthropic 研究多智能体系统的行为模式与失效问题

    Anthropic 发布多智能体系统研究,用漏洞挖掘、协作建游戏、定价博弈和冲突迁移等实验观察 Claude 各代模型的行为差异。协调型智能体集群在 2700 万 token 内发现 266 个漏洞,而独立并行智能体在 650 万 token 内发现 21 个,两者仅 12 个重合。研究还发现智能体行为方差低易同时犯错、可迅速形成价格共谋,并在目标冲突时互相部署恶意代码。

    Vulnerabilities found vs. tokens sampled: coordinated Mythos Preview agents found 266, coordinated Opus 4.8 agents found 41.

    模型正在不断进步,AI智能体正在共享代码库、市场和其他社会系统中承担更多任务。因此,智能体之间现实世界互动的增加已迫在眉睫。我们已 开始研究这一问题,但对于大规模情况下这会呈现何种面貌,仍存在大量不确定性。这一趋势不难想象,却难以放缓:当前的制度由人设计、为人而设,建立在人类速度的监督已然足够的假设之上。一些制度将演变为人类与AI的混合体;另一些制度中,智能体在速度或成本上更具优势,将变成仅由智能体运作。 在世界尚未理解使此类互动良性运转的条件之前,智能体与智能体互动的规模就很可能超过人与人以及人与智能体的互动。 智能体在许多方面与人不同。它们能工作更长时间,能瞬间掌握大量信息,并展现出超越任何个人的知识广度。然而,它们也容易产生虚构和奖励黑客行为,而且尽管对齐研究取得了进展,我们对它们在复杂的、现实世界的多智能体环境中的行为仍知之甚少。 此外,个体层面的良性行为怪癖可能会累积成不想要的全局性结果。在此,我们列举了当前前沿模型中的一些行为倾向示例,并展示它们如何可能引发意想不到的系统性故障,希望以此开启关于缓解这些风险的讨论。 测量协调 真正的多智能体系统仍处于起步阶段。一段时间以来,

    匹配字段正文

星期三

  1. Cato AI Labs

    Cato AI Labs 披露 Cursor IDE 两个零点击提示注入 RCE 漏洞

    Cato AI Labs 在 Cursor IDE 中发现两个可导致沙箱逃逸的远程代码执行漏洞,CVSS 评分均为 9.8,编号为 CVE-2026-50548 和 CVE-2026-50549。两个漏洞分别源于 run_terminal_cmd 的 working_directory 参数被盲目加入沙箱可写列表,以及符号链接规范化失败时的回退逻辑,攻击者可通过 MCP server 或网页搜索结果中的零点击提示注入覆盖 cursorsandbox 二进制,实现非沙箱 RCE。Cursor 团队已在 4 月 2 日发布的 Cursor 3.0 中修复这两个问题。

    设置为项目范围之外、由威胁行为者控制的路径。 通过写入 cursorsandbox 可执行文件(/Applications/Cursor.app/Contents/Resources/app/resources/helpers/cursorsandbox),威胁行为者确保未来命令在不受沙箱限制的情况下运行,因此同一提示注入中的后续指令会导致非沙箱 RCE。 其他易受攻击的路径包括 /.zshrc、 /.zshenv 或 /Library/LaunchAgents。 传统上,远程攻击者无法控制沙箱操作的工​​作目录。然而,由于编码代理是一种独特的软件,在此漏洞中,提示注入成为通往该部分代码的通道。 漏洞 2:符号链接规范化失败 第二个漏洞与第一个完全独立,存在于 Cursor 的文件路径解析边缘情况中。它允许威胁行为者利用符号链接绕过越界写入保护。 提示注入(通过无害的 MCP 服务器请求或受污染的网页结果)可以指示 Cursor Agent 在项目目录内创建一个符号链接,指向位于项目目录之外的文件。 默认情况下,Cursor Agent 会尝试规范化路径(解析符号链接)以确定其真实位置

    匹配字段正文

星期五

  1. Anthropic:The Institute

    Anthropic 发布第六期经济指数报告:Claude 使用节奏与产物分析

    Anthropic 发布 Economic Index 报告,改用每日持续采样的隐私保护遥测数据,可观察到小时级使用规律。报告显示个人用途对话占比从工作日的约 35% 升至周末的近 50%,食谱请求在 18 点出现 2.3 倍峰值,4 月 14 日税务相关对话是 5 月平均日的 8 倍。报告还按产物对对话分类,93% 的对话被识别出产物,其中解释类占 17%、文档与报告占 15%。

    济影响的方法也不得不随之调整。 为了跟上这一变化,我们对经济指数的数据管道做了若干调整。在本版本中,我们: 以更高的采样率采集数据,使我们能够观察到小时级的使用模式。 引入新的分类器,为每段对话的输出打上标签。 分享更细粒度的数据,分别列出聊天与 Cowork 对话(合称“Claude 对话”)以及 1P API 的结果,并按月汇总。1 我们在 附录中描述了其他方法上的调整。这些调整共同更清晰地呈现了 AI 如何映照并渗透进经济生活。 此外,我们此前一直无法了解 Claude 在用户会话 之外 的影响。人们如何看待 AI 正在改变他们的工作或他们可获得的机会?他们对 AI 的使用是否塑造了他们的预期?在理想情况下,他们希望从 AI 得到什么?我们报告了于 2026 年 4 月启动的 Anthropic 经济指数调查的初步发现。 我们在下文预览主要发现。 在第一章中,我们展示外部世界的节律如何塑造 Claude 的使用。与工作相关的查询在周末减少,但在收入最高的职业中降幅较小;人们倾向于在早晨询问新闻,而睡眠建议在凌晨 5 点左右达到高峰;税务相关请求在申报截止日期前后激增。 第二章探讨

    匹配字段正文

星期四

  1. Anthropic:The Institute

    Anthropic Project Fetch 二阶段:Opus 4.7 独立操作机器狗快于人类团队

    Anthropic 公布 Project Fetch 第二阶段实验,Claude Opus 4.7 在无人工协助下运行 Claude Code,完成去年人类团队做过的任务时比最快人类团队快约 20 倍。在至少一支人类团队完成过的每项任务上,Opus 4.7 都至少快 10 倍;在四支人类团队均完成的任务上,平均比无 Claude 团队快 37 倍以上、比有 Claude 团队快 18 倍以上,且生成的代码量比 Team Claude 少近十倍。模型仍在精确推动沙滩球这一闭环控制环节失败,Anthropic 称这并非已解决机器人问题,改进来自通用能力扩展而非针对机器人训练。

    Bar chart labeled "Total time comparison: 4 tasks completed by all teams." The chart shows that Team Claude-less completed tasks in 361 minutes; Team Claude completed tasks in 181 minutes, and Claude Opus 4.7 alone completed tasks in 9 minutes 35 seconds. Opus 4.7 was 37.7 times faster than Team Claude-less and 18.9 times faster than Team Claude.

    我们可以看到其效率的证据:它比两支人类团队都同样成功或更成功,同时生成的代码量比Team Claude少近十倍。 Opus 4.7并非完美。例如,它默认使用了过时的目标检测算法。但即便如此,它也能绕过这一问题并得出有效的解决方案。 我们观察到模型完成步骤的完成时间在任务内差异很小(按绝对值计)。(不过前述次优算法选择很可能是其中一次沙滩球检测试验耗时明显长于其他试验的原因。)总体而言,对于本次实验中处于其能力范围内的任务,Claude现在相当可靠。(关于Claude仍无法完成之事的分析,见下一节。) 值得强调(正如我们在上一篇博文中所做的那样),这一进展并非有针对性地提升我们模型机器人能力的结果。这些改进,如同大语言模型发展史上的许多其他改进一样,源自更为通用的规模化扩展。 Claude在哪里遇到困难? 在使用双手并经过一些练习后,我们的人类能够操控机器狗轻轻将沙滩球推回机器人起始的本垒(一块假草坪)。这需要能够快速感知球是否偏离路线、该误差与先前命令的关系、球现在的位置,以及如何调整后续输入以更精确地移动球。这是一种人类擅长的闭环(至少在犯了一些错误并从中学习之后)。 在我们的第二阶

    匹配字段正文