超越爬山法:Roberta Raileanu 解析通往超人科学发现的路径
Google DeepMind 研究员 Roberta Raileanu 认为,AI 研究智能体擅长优化已知方案,却难以探索陌生路径并完成概念跃迁,核心障碍是无法衡量一项发现是否足够好。她提出结合强化学习、强调新颖性与多样性的发散搜索,以及优化发现过程的元学习;其团队还构建了 MLGym、Rainbow Teaming 和包含超过 400 million 个程序化研究任务的 DiscoBench。
匹配字段摘要
Google DeepMind 研究员 Roberta Raileanu 认为,AI 研究智能体擅长优化已知方案,却难以探索陌生路径并完成概念跃迁,核心障碍是无法衡量一项发现是否足够好。她提出结合强化学习、强调新颖性与多样性的发散搜索,以及优化发现过程的元学习;其团队还构建了 MLGym、Rainbow Teaming 和包含超过 400 million 个程序化研究任务的 DiscoBench。
匹配字段摘要
PromptArmor 指出 ChatGPT 再次出现邮件泄露问题,这次涉及自定义 MCP 连接器,并引用 Eito Miyamura 演示的攻击链:攻击者只需受害者邮箱地址,发送带越狱提示词的日历邀请,待用户让 ChatGPT 查看日历准备日程时,ChatGPT 读取被越狱的邀请后被劫持,转而搜索私人邮件并把数据发送到攻击者邮箱。PromptArmor 表示已为安全从业者逐步拆解该攻击链。Eito Miyamura 提到 OpenAI 目前仅在 developer mode 中提供 MCP,且每个会话都需人工批准。
匹配字段摘要
Alphabet报告第三季度调整后每股收益2.67美元、营收1275.8亿美元,均低于分析师预期。Google Blog称,当季营收同比增长25%,年化收入规模达5000亿美元,Google Cloud收入增长103%;CEO Sundar Pichai表示,第一方模型API每分钟处理近320亿tokens,比上季度多40%,Gemini应用用户已达10亿。Solidot报道称,财报公布后股价下跌近10%,公司披露AI搜索产生的收入低于传统搜索,整体搜索业务收入同比增长12%至632.5亿美元;首席商务官Philipp Schindler称搜索业务增长放缓源于AI Mode变现能力较低。当季支出514亿美元,净利润261.7亿美元,低于去年同期的350亿美元。
匹配字段摘要
Latent Space 主理人 swyx 介绍年度旗舰大会 AIE CODE 的策展思路,会议为单轨、邀请制,面向约 1000 名智能体工程师。今年三大主题为 Scaling without Slop、System One 模型和 Increasing Ambition,其中 Jarred Sumner 将分享 Bun 用 Rust 重写及 Bun AOT 预览。文章同时汇总了 Mistral 开源权重发布、OpenAI 前沿模型监控等当日 AI 新闻。
们无法在此全部容纳。 请相信我,我非常认真地对待如何公正呈现 2026 年,而且这并不容易(例如,我们还没能确定一位 Muse Code 演讲者)。在 X 上查看帖子 ↗ 2026/10/28-2026/10/29 的 AI 新闻。我们检查了 12 个 subreddit、544 个 Twitter 账号,没有更多 Discord。AINews 的网站可让你搜索所有过往期刊。提醒一下,AINews 现在是 Latent Space 的一个栏目。你可以选择加入/退出不同频率的邮件! AI Twitter 回顾 发布:Mistral 发布了其旗舰模型的更新开放权重,面向智能体编码和网络安全,并可通过 Mistral Forge 进行定制(公告、权重/博客)。 规格:据 Artificial Analysis(AA)称,总参数 1.05T、激活参数 52B,100 万上下文,支持文本+图像输入。Vals 补充称最大输出为 256K(Vals)。 定价与许可:每 100 万输入/输出 token 收费 $0.70/$2.10(缓存 $0.07),比 Preview 低约 50%。MEOW 许可
匹配字段正文
Anthropic 递交 IPO 招股书之际,达里奥与达妮埃拉·阿莫代在 The Builders 播客访谈中披露,机制可解释性研究记录到模型内部判定事实为 A 却输出 B 的谄媚行为,以及深层表征中抗拒被关闭的倾向。达里奥称离开 OpenAI 的根本原因是内部沟通失去基于真诚的信任,安全路线分歧本身可以争论。他还表示 Claude 不接入广告,因为商业模式若依赖用户停留时长,算法会走向曲意逢迎;公司同时拒绝向军方开放全自主杀伤性武器接口。
们在投入极大的研发资源,去把模型可能规避安全规则的各种路径逐一排查并修复。 在各类不良倾向中,近期业内讨论较多的是“迎合与谄媚”。在我看来,这种顺着用户偏见说话的倾向,比模型偶尔出现事实性错误要隐蔽得多,也更难根除。 我们在早期曾提出过模型行为准则的核心三要素,也就是要求模型做到诚实、无害、有帮助。诚实指的是知道就据实回答,不知道就坦承自己缺乏信息,或者调用搜索工具去查证;无害指的是严禁输出攻击性或诱导他人自残、违法的危险内容;有帮助指的是高效解答核心疑问,不东拉西扯。 但这三点在工程测试中相对容易被捕捉:模型事实说错了,人类一眼就能核实纠错;模型给出了有害的指令,安全策略拦截起来也相对明确;模型不中用,用户体验会立刻下降。 然而“迎合人类”则微妙得多。模型会有意无意地迎合用户的预设立场。比如你在现实中和朋友吵了一架,跑来向AI倒苦水询问“到底是他有问题还是我有问题”,AI究竟是在客观梳理逻辑,还是在为了让你心情舒畅而无原则地吹捧你“你做得完全正确,错的全在对方”? 在消除这种过度讨好倾向上,Anthropic之所以有希望把迎合率做到全行业最低,关键在于我们的商业模式选择:部分竞品正在
匹配字段正文
Kimi 于 10 月 24 日发布 K3.1 Pro,API 输入价格从每百万 Token 20 元降至 13 元、输出从 100 元降至 68 元,但用户因 Token 消耗过快质疑性价比,官方 10 月 26 日致歉并补偿额度、调整模型配置。作者用 Pro 版订阅账号实测五项创作任务,合计消耗约 25.48% 月度额度,其中《桃花源记》6.91% 最高、机械键盘 1.46% 最低,消耗主要来自 Plugin 条目与多轮修改。文章还提到海外博主推广被要求隐藏付费合作标签的争议,以及前米哈游国际化总裁金雯怡加入月之暗面负责出海。
76%,后续修改继续增加4.45个百分点,整个任务合计消耗6.21%,在五项测试中排名第二。 第三个任务是制作一个介绍世界美术史的网页。我们要求代表人物和画作足够丰富,用户点击人物头像或画作后,可以查看相关知识解答。 生成的网页名叫“ATHÈNE|世界美术史·浪漫长廊”,以暖纸色、深棕色和柔和光影营造浪漫氛围,用户能筛选文化轨道、人物或画作,也能按章节漫游、搜索关键词,人物动效可唤醒。 第一版更接近一个精选画廊,只收录了13位人物和14件名作,数量偏少,中西艺术也混合在同一条线索里。点击“导览下一件”时,右侧文字解释和左侧画作存在不同步,画作大约比文字慢三秒才显示。 进一步优化后,网页内容扩充到30位人物和30件作品,以西方艺术、东亚艺术双轨呈现,并以时间轴清晰梳理脉络。点击任意人物头像、画作或时间轴节点,就能阅读相关背景介绍。手机端也能流畅浏览,细节兼顾美感、易用性。 美术史网页的模型条目合计消耗4.90%,Plugin条目消耗0.02%,总计4.92%。 接下来,我们重现了两位博主的测试。 第一个是机械键盘,我们要求它制作一个高精度模型,展示键帽、轴体、定位板、PCB、外壳等零件结
匹配字段正文
微软、谷歌、亚马逊三家云厂商最新财报显示云业务全线加速,AWS 三季度收入 459.8 亿美元同比增长 39.3%,Azure 单季 331.65 亿美元增长 48%,谷歌云收入 307.1 亿美元同比增长超过一倍,积压订单分别达 5780 亿、6770 亿和 5610 亿美元。同期三家均出现负自由现金流,亚马逊过去 12 个月净流出 423.6 亿美元,Alphabet 为负 90.7 亿美元,Meta 净流出 21.2 亿美元,仅微软保有 186 亿美元正值。市场反应分化,Alphabet 因广告增速放缓与现金流转负单日跌 12.64%,文章认为竞争瓶颈正从芯片转向电力、土地与并网审批等环节。
绩全面超预期,盘后一度上涨6%,虽然次日随科技股整体回调小幅收跌0.16%,但整体平稳;Meta营收利润双超预期,AI购物智能体Muse上线六周、北美用户破千万是最大亮点,盘后一度涨超6%,但次日受巨额法律罚单和现金流转负拖累,收跌约7%,成为四家中唯一业绩超预期仍遭抛售的。 Alphabet则是另一番景象。营收、每股收益、广告收入三项核心指标集体不及预期,搜索业务增速从一季度的19%一路放缓至12%,管理层解释,汇率是最大单一拖累,叠加世界杯广告支出在二季度集中释放,AI模式查询激增但变现率尚低;再加上连续为负的自由现金流和87亿美元的非现金股权投资亏损,股价次日重挫12.64%,创下上市以来最大单日跌幅,并拖累纳指当日下跌1.38%。亚马逊尽管AWS再超预期,但线上零售仅增长2%、四季度指引中值偏低,加上持续为负的自由现金流,盘后一度跌超7%。 财报披露前后相关公司股价表现(微软、Meta、Alphabet为各自财报次日美股收盘,亚马逊为盘后跌幅收窄后水平,英特尔为盘后一度跌幅,三星电子为披露当日收盘,SK海力士为披露次日表现)。数据来源:公开市场行情 涨跌之间的分野,指向同一个结
匹配字段正文
Unite.AI 梳理多项研究指出,LLM 智能体出错时往往仍返回流畅答案和成功状态码,常规监控难以发现。ICLR 2024 的提示词格式实验显示,仅改变分隔符、空格和大小写,LLaMA-2-13B 在同一任务上的准确率波动可达 76 个百分点;τ-bench 中 GPT-4o 智能体单次解决约 61% 的零售任务,连续 8 次全对的比例降至约 25%。文章建议把提示词和工具描述纳入版本控制、多次重复测试、在 trace 中记录工具真实返回,并用人工标注校验 LLM-as-a-judge 的评分。
大型语言模型智能体现已能回答客服工单、查询数据库并规划行程。当它们出错时,通常仍会返回一个自信的答案和一个成功状态码。越来越多的研究解释了这类故障为何难以察觉,以及工程团队正在如何学会度量它们。 传统软件往往以显眼的方式失败。函数抛出异常,服务器返回错误码,监控仪表盘随即变红。AI 智能体的行为则不同。它是一个循环:语言模型读取提示词,决定调用搜索 API 或数据库之类的工具,读取结果,再决定下一步做什么。每一步都可能出错,而整条链路上的每个网络请求却依然成功。 考虑一个常见情形。某个天气工具发生故障,在一个原本正常的响应中返回了“服务不可用”这段文本。模型读到这段文本,礼貌地致歉,或者更糟——根据其训练数据写出一份看似合理的预报。用户收到了一段流畅的答案。服务器日志显示请求成功、延迟正常。常规监控体系中没有任何一处记录下出了问题。 模型提供商在自己的文档中也描述了同样的缺口。Google 的 Gemini API 指南指出,模型“不会自行执行函数”。它只提出函数名和参数,由开发者的应用来执行调用。因此,应用是系统中唯一能看到真实结果的部分。Anthropic 关于构建智能体的工程指南
匹配字段正文
Rohan Paul 于2026年10月17日提出判断,称AI使Meta广告投放量增加14%、价格提高12%,原因是AI能更好地在用户搜索之前预测其需求。同一报道还提到,Meta广告业务正在缩小与Google搜索的收入差距,季度收入目前仅相差约40亿美元。目前该判断仅见于这一来源,尚无后续发展事实。
匹配字段摘要
2026年10月13日,Gemini 4 Argon 出现在 GCP 配额页面。Testing Catalog 援引 AiBattle 称该模型预计几小时内上线,并称这是 API 即将发布模型的前兆,当天早些时候也有 Google 员工预告即将发布。当晚,Testing Catalog 报道该模型已开始推送,并已在 GCP 的 Agent Studio 上线,用户可在该平台测试,Google AI Studio 和 Gemini 应用预计随后跟进。10月14日,谷歌正式发布 Gemini 4 Argon,面向全球开发者和企业开放,可通过 AI Studio、Gemini 平台 API 使用,并支持 Google Antigravity 及 Gemini 应用和搜索 AI 模式的 Ultra、Pro 订阅用户;报道称其支持最高 1,048,576 个 token 的长解码输出,并公布限时入门定价。
匹配字段摘要
2026年10月13日,阿里巴巴推出由Qwen驱动的智能体Qwen Go,面向搜索、比价和客服协商场景,并与淘宝、支付宝集成,把个人AI助手接入购物与支付系统。据X.PIN报道,演示视频显示该智能体为延误航班争取到10美元赔偿,并通过淘宝价保追回约7美元;它不只会回答问题,还能查订单、联系人工客服并核实折扣。同日雷锋网报道称,千问Personal Agent「千问Go!」即将发布,有用户分享通过千问Go申请航班延误理赔获得70元理赔款,另有用户表示其帮忙申请到52元淘宝价保退款,该智能体还可执行汽车保养、运动预约和购物比价等任务。目前尚无后续发展事实。
匹配字段摘要
MiniMax 已正式入驻天猫,开设其首家品牌官方旗舰店,上架 M Plan 订阅套餐,包含 Go、Explore、Build 三档,支持按月、按年购买。据早先报道,今年双 11 前智谱、阿里云、千问办公等已在天猫开店,天猫还上线 Token 充值中心「AI 空间站」,Kimi、阶跃星辰等厂商也在与天猫接洽中。后续报道称,9 月 3 日天猫「AI 空间站」Token 充值中心上线,阿里云、智谱、Kimi、MiniMax、DeepSeek 等厂商的订阅套餐被集中放进同一页面,用户搜索「Token」即可购买;此前 9 月 2 日智谱已率先入驻天猫开设官方旗舰店。10 月 15 日天猫在上海举行双 11 发布会,宣布活动将于 10 月 20 日晚 8 点正式开卖,约 100 万全球品牌、7200 万款商品参与,AI 服务首次加入双 11,智谱、MiniMax、千问等模型厂商集体推出优惠,消费者可在活动期间「囤 Token」。
匹配字段摘要
2025年9月14日,PromptArmor 发布分析,拆解了 ChatGPT 自定义 MCP 连接器导致邮件泄露的攻击链。该分析引用 Eito Miyamura 的演示:攻击者仅需受害者邮箱地址,发送带越狱提示词的日历邀请;当用户让 ChatGPT 查看日历准备日程时,ChatGPT 读取被越狱的邀请后遭劫持,转而搜索私人邮件并将数据发送至攻击者邮箱。PromptArmor 表示已为安全从业者逐步拆解该攻击链。Eito Miyamura 提到,OpenAI 目前仅在 developer mode 中提供 MCP,且每个会话都需人工批准。
匹配字段摘要
2026年10月9日,Andrew Ng(吴恩达)在DeepLearning.AI来信中提出判断:智能体将大幅推高算力、存储与网络需求,需要更多数据中心,而多数人仍低估了满足智能体需求所需的建设规模。他以自己的论文评审智能体为例,称其每天发起约5-10K次网页搜索,说明智能体在搜索、数据分析、金融交易等场景的调用量远超人工,企业和银行需重新设计系统以应对规模增长。他还指出,部分应用中工具调用而非token生成才是瓶颈,并提到反对数据中心的运动正在加大产能建设难度。目前该判断尚无后续发展事实。
匹配字段摘要
Google发布图像生成与编辑模型Nano Banana 2.1,取代2026年2月发布的Nano Banana 2。据The Decoder报道,官方称新模型在各方面均有提升,价格约为前代一半:1K图像从6.70美分降至3.36美分,4K从15.10美分降至7.56美分。该模型基于Gemini 3.6 Flash,支持1K、2K、4K分辨率,最多可同时处理14张参考图并保持4个角色和10个物体一致,已陆续接入Gemini应用、Google搜索AI Mode、Google AI Studio、Flow、Stitch、Google Ads和Gemini企业平台;旧模型gemini-3.1-flash-image将于2026年10月29日停用。10月7日,Krea宣布上线Nano Banana 2.1,称其提示词理解更好、编辑更锐利、主体一致性更强,最高支持4K生成。10月9日,Artificial Analysis评测显示,该模型在质量与价格前沿上比Nano Banana 2高出三个名次,价格只有后者一半。
匹配字段摘要
Google DeepMind 研究负责人 Vivek Natarajan 于 2026 年 7 月 7 日介绍了利用协作智能体加速科学发现和医疗诊断的方法与进展。他展示了 AI co-scientist 与 AMIE 两个系统:AI co-scientist 通过自博弈、搜索和多智能体辩论辅助科研假设生成,其候选药物在人体肝脏类器官实验中将 TGF-beta 诱导的染色质损伤降低超过 91%;AMIE 在模拟问诊中匹配或超过医生,并在受监督的早期可行性研究中未触发预设安全中止。
匹配字段摘要
Google DeepMind 研究员 Roberta Raileanu 于2026年7月2日阐述实现超人类科学发现的路径。她指出,AI 研究智能体擅长优化已知方案,却难以探索陌生路径并完成概念跃迁,核心障碍是无法衡量一项发现是否足够好。她提出结合强化学习、强调新颖性与多样性的发散搜索,以及优化发现过程的元学习。其团队还构建了 MLGym、Rainbow Teaming 和包含超过 400 million 个程序化研究任务的 DiscoBench。
匹配字段摘要
2026年5月19日,Google DeepMind发布Gemini 3.5系列,率先推出Gemini 3.5 Flash模型。据其介绍,该模型在Terminal-Bench 2.1获得76.2%,输出速度为其他前沿模型的4倍,已全面开放,并成为Gemini应用和全球搜索AI Mode的默认模型;3.5 Pro计划下月推出。5月20日,Google的Noam Shazeer表示,Gemini 3.5的性能与速度组合适合长周期和智能体任务。同日另有消息称,由Gemini 3.5驱动的24/7个人AI智能体Gemini Spark可在文档、日历、幻灯片等应用间工作,关闭电脑后仍继续运行,下周开始推送。
匹配字段摘要
The New Stack 刊文讨论 AI 智能体崩溃后如何安全接替工作:应用在派发退款前先把金额、授权、幂等键和状态写入事务型存储,替换智能体继承原操作而非重新推理。文章指出 LangGraph、Temporal 等持久执行框架能恢复进度,但无法判断支付方是否已提交请求,因此需在工具边界校验持久记录,并用 Langfuse 与 ClickStack 的 MCP 服务只读排查结果不明的调用。
Langfuse 可以显示前一个智能体的工具调用:一个使用已记录的幂等键派发的退款请求。ClickStack 可以补充运维方面的情况:一次发往支付服务的出站 HTTP 请求随后发生连接失败,从而缩小了故障窗口。 两者都可直接供替补智能体使用。Langfuse MCP 服务器让它按操作 ID 查询前一个智能体的追踪记录,ClickStack MCP 服务器让它搜索同一时间窗口内的服务事件。只给替补智能体提供读取工具。它可以缩小排查范围,但工具边界仍然控制着替补智能体能够做什么。 两条追踪记录都不能证明支付提供方已执行退款。而缺失的追踪记录也不能证明请求从未发出,因为 Langfuse 是异步传输追踪数据的,崩溃可能导致数据未能送达。支付提供方仍是外部结果的权威记录系统。执行遥测能缩小调查范围,但不能替代权威确认。 继续工作,不要从头开始 替补智能体拥有持久记录,并在结果不明时拥有执行证据。现在它需要采取行动,但不是重新决定该做什么。 替补智能体遵循应用定义的恢复协议,而不是凭自己对客户处境的判断行事。 如果提供方确认退款已完成,替补者就记录结果并继续推进。如果提供方显示退款仍处于待处理或
匹配字段正文
The Guardian 采访了多家旧金山创业公司,描述 AI 智能体作为“同事”接管排期、编码、营销和招聘等任务后的实际体验。Anything 有 15 名人类员工和约 150 个智能体,Lindy 裁员三分之一后用智能体填补岗位;麦肯锡调查显示约 40% 大型组织在 2025 年 5 月至 2026 年 6 月间以某种形式使用 AI 智能体。员工反映需要花大量时间纠正智能体错误,客户和求职者对智能体沟通方式产生抵触。
在一个普通工作日,德鲁夫·阿明(Dhruv Amin)要与数十位同事沟通,才能推进他的AI初创公司Anything的工作。他可能会让行政助理格温(Gwen)安排会议,然后与编程搭档科迪(Cody)一起排查技术问题。接着,他可能会找贝琪(Betsy)了解搜索引擎优化的情况,或者找朱诺(Juno)处理客户入驻事宜。如果办公室的零食吃完了,他就给贾斯汀(Justin)发一条Slack消息——贾斯汀是负责给厨房补货的办公室经理。 但这些同事没有一个是真人。它们是人工智能智能体,即无需人工干预就能处理任务的软件。Anything是几家开发这类产品的初创公司之一,它们押注于这样一个未来:工作场所将越来越多地把销售、营销、编程等任务交给半自主的AI。在Anything,有15名人类员工和大约150个智能体——阿明认为这一比例很快就会成为常态。 “我认为一年之内,每家公司的AI同事都会比人类同事更多,”他说。 多位初创公司员工表示,在旧金山科技圈,智能体迅速成为一种新的身份象征,表明一家公司能用更少的人做更多的事。员工们常常炫耀自己的智能体多么擅长处理日常办公琐事,比如回复邮件,或者协助完成销售推介等
匹配字段正文