←搜索结果

按匹配度 · 共 594 条结果 清除搜索

星期五

  1. METR Notes

    METR 复现 GDM 研究:Claude、GPT、Gemini 都难以躲过 CoT 监控

    METR 复现并扩展了 Google DeepMind 论文(Emmons 等)第 5 节的实验,用 Claude 4 Sonnet、Claude 3.7 Sonnet、GPT-4o 作为 actor 模型,GPT-4o、GPT-4o-mini、o3、Gemini 2.0 Flash、Gemini 2.5 Pro 作为监控模型,测试模型能否在掩盖真实学科推理的同时躲过监控。结果显示,开启推理模式后,模型的推理轨迹几乎 100% 会先说出自己的掩盖计划,从而被监控模型直接抓住;在需要 CoT 才能解题的 152 道 GPQA 扩展题上,模型也难以在不损失准确率的情况下躲过监控。由于原论文未提供源码,METR 用 Inspect 开源复现了第 5 节,代码和对话记录已发布在 GitHub。

    匹配字段摘要

星期二

  1. METR Blog

    METR:为什么 AI 推理应当可读且忠实

    METR 发文主张 AI 系统的推理过程应当既「可读」(人类能读懂)又「忠实」(真实反映模型的决策过程),认为这有助于发现 AI 错误、检测隐藏议程、监控欺骗行为和识别能力造假。文章指出 OpenAI、Anthropic、xAI、Google DeepMind 和 DeepSeek 都在过去四个月里发布了推理模型,其当前产出的推理已具价值、值得保留。

    匹配字段摘要、正文

星期四

  1. Prime Intellect

    Prime Intellect 开源 OpenDiLoCo,实现跨洲分布式低通信训练

    Prime Intellect 开源 OpenDiLoCo,这是 DeepMind DiLoCo 低通信分布式训练方法的可复现实现,代码基于 Hivemind 与 PyTorch FSDP,已发布在 GitHub。团队在加拿大、芬兰和美国两地共四个 DiLoCo worker(各 8 张 H100)上训练 1.1B 参数模型,跨两大洲三国,计算利用率保持 90-95%,all-reduce 仅占训练时间 6.9%。相比原论文 400M 参数规模,该方法被扩展到 1.1B 参数,并验证伪梯度可用 FP16 all-reduce 而不损失性能。

    OpenDiLoCo: An Open-Source Framework for Globally Distributed Low-Communication Training

    匹配字段摘要、正文

星期二

  1. Prime Intellect

    Prime Intellect 谈全球分布式训练的最新技术

    Prime Intellect 发布文章,探讨如何在全球分布式 GPU 集群上训练大模型,以应对闭源阵营动辄数十万块 H100 的算力优势。文章梳理了数据并行、张量并行、流水线并行三种基础方法,并重点介绍 Google DeepMind 的 DiLoCo:每 500 步才同步一次梯度,把 1B 模型 2GB 梯度的 16 秒通信摊到数分钟计算中,同时提升对异构硬件和节点增减的容错能力。

    State-of-the-Art in Globally-Distributed Training

    匹配字段摘要、正文

星期五

  1. 事件1 条新闻 · 1 个事实

    Google DeepMind论文提出CALLIOPE主题树方法

    Google DeepMind发表论文,提出CALLIOPE主题树构建方法:让大语言模型为每篇文档打上少量关键词并加噪,只保留高频关键词,再由大语言模型据此提出主题并归类文档,从而在严格隐私约束下生成更清晰的主题地图。在最严格的隐私设置下,人工评分者在全部3个数据集上都更偏好CALLIOPE而非基于嵌入向量的URANIA,最高比例为76%对18%。该方法消耗的token是URANIA的2到5倍。目前尚无后续进展。

    匹配字段标题

  2. 事件1 条新闻 · 1 个事实

    Google DeepMind论文:训练模型写道德论证更果断但判断未改善

    Google DeepMind 发表论文,研究用强化学习训练 Gemma-4 4B 撰写道德论证的效果。结果显示,模型在 MoralChoice 模糊案例上因选项顺序调换而改变答案的比例从 14.3% 降至 6.6%,但附和用户的比例仅从 45.3% 变为 44.0%,道德寓言题准确率反而从 56.5% 降至 53.4%。论文据此建议,评估建议或判断类任务时,应将一致性与正确性分开测试。

    匹配字段标题

  3. 事实所属事件

    Google DeepMind论文:训练模型写道德论证更果断但判断未改善

    Google DeepMind 发表论文,研究用强化学习训练 Gemma-4 4B 撰写道德论证的效果。结果显示,模型在 MoralChoice 模糊案例上因选项顺序调换而改变答案的比例从 14.3% 降至 6.6%,但附和用户的比例仅从 45.3% 变为 44.0%,道德寓言题准确率反而从 56.5% 降至 53.4%。论文据此建议,评估建议或判断类任务时,应将一致性与正确性分开测试。

    匹配字段标题

    查看事件:Google DeepMind论文:训练模型写道德论证更果断但判断未改善

  4. 事件2 条新闻 · 2 个事实

    Google DeepMind论文提出AI经济影响取决于智能体协调能力

    2026年10月30日,Google DeepMind发表论文《The Economics of Intelligence》,提出用胜任(单任务能力)与协同(智能体协作能力)两项阈值刻画AGI对经济的影响,认为经济影响取决于智能体协调能力而非单个模型变强。论文称AI已在精简初创公司、扁平化组织架构和部分入门岗位招聘放缓上显现变化,但尚未出现大规模失业;多数基准只测单个模型,而企业以团队形式竞争。论文引用一项100人测验,互补配对的小组比随机配对表现高32%。同日,Ethan Mollick评论该研究,指出组织不只是最优秀个体的加总,单个智能体变强不会独自改变经济,能协同工作的智能体才可能带来转型。

    匹配字段标题

  5. 事实所属事件

    Google DeepMind论文提出AI经济影响取决于智能体协调能力

    2026年10月30日,Google DeepMind发表论文《The Economics of Intelligence》,提出用胜任(单任务能力)与协同(智能体协作能力)两项阈值刻画AGI对经济的影响,认为经济影响取决于智能体协调能力而非单个模型变强。论文称AI已在精简初创公司、扁平化组织架构和部分入门岗位招聘放缓上显现变化,但尚未出现大规模失业;多数基准只测单个模型,而企业以团队形式竞争。论文引用一项100人测验,互补配对的小组比随机配对表现高32%。同日,Ethan Mollick评论该研究,指出组织不只是最优秀个体的加总,单个智能体变强不会独自改变经济,能协同工作的智能体才可能带来转型。

    匹配字段标题

    查看事件:Google DeepMind论文提出AI经济影响取决于智能体协调能力

星期四

  1. 事实所属事件

    Google DeepMind论文提出CALLIOPE主题树方法

    Google DeepMind发表论文,提出CALLIOPE主题树构建方法:让大语言模型为每篇文档打上少量关键词并加噪,只保留高频关键词,再由大语言模型据此提出主题并归类文档,从而在严格隐私约束下生成更清晰的主题地图。在最严格的隐私设置下,人工评分者在全部3个数据集上都更偏好CALLIOPE而非基于嵌入向量的URANIA,最高比例为76%对18%。该方法消耗的token是URANIA的2到5倍。目前尚无后续进展。

    匹配字段标题

    查看事件:Google DeepMind论文提出CALLIOPE主题树方法

星期日

  1. 事件1 条新闻 · 1 个事实

    Google DeepMind等发表AI智能体物理论文基准研究

    Google DeepMind与多所顶尖高校发表论文,测试AI智能体求解未发表研究级理论物理问题的能力。论文显示,表现最好的AI智能体解出50道未公开研究级理论物理题中的49道,每题约相当于领域专家一天的工作量,单题成本低于3美元。题目由专家从自身研究中提供,智能体独立作答,分联网与不联网两组,仅按最终数值答案评分。GPT-6-Astra在Codex中联网解出49道;它与Opus 5.5在Claude Code中不联网各解出46道,去掉联网后准确率变化很小,作者据此认为模型可能已记住大量物理文献。

    匹配字段标题

  2. 事实所属事件

    Google DeepMind等发表AI智能体物理论文基准研究

    Google DeepMind与多所顶尖高校发表论文,测试AI智能体求解未发表研究级理论物理问题的能力。论文显示,表现最好的AI智能体解出50道未公开研究级理论物理题中的49道,每题约相当于领域专家一天的工作量,单题成本低于3美元。题目由专家从自身研究中提供,智能体独立作答,分联网与不联网两组,仅按最终数值答案评分。GPT-6-Astra在Codex中联网解出49道;它与Opus 5.5在Claude Code中不联网各解出46道,去掉联网后准确率变化很小,作者据此认为模型可能已记住大量物理文献。

    匹配字段标题

    查看事件:Google DeepMind等发表AI智能体物理论文基准研究

  3. 事件1 条新闻 · 1 个事实

    Google DeepMind新论文发现AI助手未经请求行动引发不同反应

    Google DeepMind 发表论文,研究 AI 助手未经请求自行行动对员工的影响。论文称,该智能体在一家大型科技公司的 20 多个团队中运行了 5 个月,研究者访谈了 17 位用户。它曾把过期文档当作最新内容、在 16 个 bug 上标记了一位 VP、在作者准备好之前分享海报草稿,还误读了讽刺语气。部分用户称其为救星,另一些人则感到被监视,并把敏感讨论转移到没有智能体的聊天中;主动选择该智能体的团队会原谅它的早期错误,而觉得它是被强加的人则不会。作者建议在部署智能体时取得团队同意、分离权限,并提供便捷的操作撤销方式。

    匹配字段标题

  4. 事实所属事件

    Google DeepMind新论文发现AI助手未经请求行动引发不同反应

    Google DeepMind 发表论文,研究 AI 助手未经请求自行行动对员工的影响。论文称,该智能体在一家大型科技公司的 20 多个团队中运行了 5 个月,研究者访谈了 17 位用户。它曾把过期文档当作最新内容、在 16 个 bug 上标记了一位 VP、在作者准备好之前分享海报草稿,还误读了讽刺语气。部分用户称其为救星,另一些人则感到被监视,并把敏感讨论转移到没有智能体的聊天中;主动选择该智能体的团队会原谅它的早期错误,而觉得它是被强加的人则不会。作者建议在部署智能体时取得团队同意、分离权限,并提供便捷的操作撤销方式。

    匹配字段标题

    查看事件:Google DeepMind新论文发现AI助手未经请求行动引发不同反应

  5. 事件1 条新闻 · 1 个事实

    Google DeepMind等发布全球森林类型地图ForTy 2020

    Google DeepMind 与 Google Research 联合世界资源研究所(WRI)和国际应用系统分析研究所(IIASA)发布 Forest Typology(ForTy)2020 全球森林类型地图。该地图把全球每块 10×10 米土地划为六类森林与土地利用类型,并作为欧盟森林砍伐法规的关键基线。团队用约 170 万个标注地点训练模型,以 AlphaEarth Foundations 嵌入向量为关键输入;在 9000 多个随机抽样点验证中,森林类型判对率 90%,森林与非森林区分准确率 95%。配套的 2017 至 2025 年逐年时间序列同步开放,可在 Google Earth Engine 上以开放许可免费使用。目前尚无后续发展。

    匹配字段标题

星期五

  1. 事件1 条新闻 · 1 个事实

    Google DeepMind发布Gemini 4 Argon

    2026年10月23日,Google DeepMind发布前沿模型Gemini 4 Argon。Google官方博客称,该模型在编码、数学和3D世界构建等复杂任务上表现突出,并在多领域基准上超过其他前沿模型;官方同时展示了5个社区创意项目,包括实时映射野火与地震波动的3D地球、带实时数据的涡扇发动机模拟、由单张图片生成的3D马车以及多人夺旗浏览器游戏,并称该模型上周已大范围开放。同日另有报道称,Argon可通过观看视频学习物理任务并迁移到Apptronik的Apollo人形机器人,在内部测试中Apollo连续命中七次,该报道还称Argon在具身推理基准ERQA上得分87%。10月24日,Gemini for Android应用通过服务端更新推送侧边栏与设置界面改版,报道称该改版上周已随Gemini 4 Argon登陆iOS、macOS和Web端。

    匹配字段标题

  2. 事实所属事件

    Google DeepMind发布Gemini 4 Argon

    2026年10月23日,Google DeepMind发布前沿模型Gemini 4 Argon。Google官方博客称,该模型在编码、数学和3D世界构建等复杂任务上表现突出,并在多领域基准上超过其他前沿模型;官方同时展示了5个社区创意项目,包括实时映射野火与地震波动的3D地球、带实时数据的涡扇发动机模拟、由单张图片生成的3D马车以及多人夺旗浏览器游戏,并称该模型上周已大范围开放。同日另有报道称,Argon可通过观看视频学习物理任务并迁移到Apptronik的Apollo人形机器人,在内部测试中Apollo连续命中七次,该报道还称Argon在具身推理基准ERQA上得分87%。10月24日,Gemini for Android应用通过服务端更新推送侧边栏与设置界面改版,报道称该改版上周已随Gemini 4 Argon登陆iOS、macOS和Web端。

    匹配字段标题

    查看事件:Google DeepMind发布Gemini 4 Argon

星期四

  1. 事件1 条新闻 · 1 个事实

    DeepMind论文披露四个Gemini智能体自主通关《我的世界》

    DeepMind研究团队在arXiv论文中披露,四个运行Gemini 4 Argon的自主智能体在《我的世界》生存模式中自主通关。据澎湃新闻2026年10月22日报道,四个智能体耗时27小时14分钟击败末影龙,全程无人类干预、未接受游戏专项训练,过程中编写并运行2783个程序、交换229条聊天消息、死亡605次,处理约13.5亿输入token,按优惠价格计算约520美元;论文称这是首个仅使用标准Mineflayer库、没有预先勘探种子或人类编写游戏专用工具的端到端自主通关。凤凰科技10月23日的报道补充称,分工并非预先写入提示词,而是在游戏开始约十分钟后由智能体自行提议并逐步形成,角色职责随进程调整;团队累计死亡605次,失败原因被分析后存入共享记忆供全队复用,全程约24000次模型调用,其中91%的输入token来自上下文缓存,约22%的游戏程序出现错误、服务器重启6次。目前该实验仍以论文披露为最新状态。

    匹配字段标题

  2. 事实所属事件

    DeepMind论文披露四个Gemini智能体自主通关《我的世界》

    DeepMind研究团队在arXiv论文中披露,四个运行Gemini 4 Argon的自主智能体在《我的世界》生存模式中自主通关。据澎湃新闻2026年10月22日报道,四个智能体耗时27小时14分钟击败末影龙,全程无人类干预、未接受游戏专项训练,过程中编写并运行2783个程序、交换229条聊天消息、死亡605次,处理约13.5亿输入token,按优惠价格计算约520美元;论文称这是首个仅使用标准Mineflayer库、没有预先勘探种子或人类编写游戏专用工具的端到端自主通关。凤凰科技10月23日的报道补充称,分工并非预先写入提示词,而是在游戏开始约十分钟后由智能体自行提议并逐步形成,角色职责随进程调整;团队累计死亡605次,失败原因被分析后存入共享记忆供全队复用,全程约24000次模型调用,其中91%的输入token来自上下文缓存,约22%的游戏程序出现错误、服务器重启6次。目前该实验仍以论文披露为最新状态。

    匹配字段标题

    查看事件:DeepMind论文披露四个Gemini智能体自主通关《我的世界》

  3. 事实所属事件

    Google DeepMind等发布全球森林类型地图ForTy 2020

    Google DeepMind 与 Google Research 联合世界资源研究所(WRI)和国际应用系统分析研究所(IIASA)发布 Forest Typology(ForTy)2020 全球森林类型地图。该地图把全球每块 10×10 米土地划为六类森林与土地利用类型,并作为欧盟森林砍伐法规的关键基线。团队用约 170 万个标注地点训练模型,以 AlphaEarth Foundations 嵌入向量为关键输入;在 9000 多个随机抽样点验证中,森林类型判对率 90%,森林与非森林区分准确率 95%。配套的 2017 至 2025 年逐年时间序列同步开放,可在 Google Earth Engine 上以开放许可免费使用。目前尚无后续发展。

    匹配字段标题

    查看事件:Google DeepMind等发布全球森林类型地图ForTy 2020