←新闻详情

Latent Space更新于 10月27日 19:19

John Platt 谈 AI for Science:Google ERA 如何自动求解可评分科学问题

🔬 An Oscar, Two Asteroids, and the Algorithm in Your sklearn: John Platt on AI for Science

AI 导读

Google 的 John Platt 介绍了团队开发的 Empirical Research Assistance(ERA),它用 Gemini 维护实验树、以类似蒙特卡洛树搜索的方式挑选并变异 notebook,把可写成评分函数的科学问题自动化求解,已产出至少十篇论文。ERA 在 Gemini 2.0 到 2.5 之间出现质变,从完全不可用变为效果出色,并被用于飞机凝结尾迹等气候变化研究。

正文 · AI 翻译

🔬 一座奥斯卡奖、两颗小行星,以及你 sklearn 里的那个算法:John Platt 谈 AI for Science 我们与谷歌的奥斯卡获奖“超级极客”聊了聊科学自动化、应对气候变化,以及未来世代如何在超级智能 AI 时代为科学做贡献 Brandon Anderson 2026年9月22日 27 1 2 分享 文字稿 你有多常能有机会和一位既拿过奥斯卡奖、又发明了教科书级机器学习算法的嘉宾交谈?John Platt 拥有一座奥斯卡奖、两个教科书级算法、两颗以他命名的小行星,以及一个为 6 的 Erdos-Bacon 数。这无疑是我们迄今读到过的最有趣的嘉宾简介。而结果是一场史诗般又妙趣横生的对话,涵盖谷歌的 Empirical Research Assistance(ERA)、AI 如何帮助应对气候变化,以及大量关于科学与 AI 协同演化的精彩故事。

John 的同事 Dave Bacon 喜欢打趣 John,说他的职业生涯特点就是比下一个大热点早二十年。这可能指的是卷积神经网络(有人认为是 John 创造了这个术语)、聚变研究、量子计算。十多年来,John 和谷歌一直致力于用 AI 和计算解决人类一些最困难的问题。最近,John 和他的团队把目光投向用 AI 解决任何可以写成评分函数的科学问题。

多年来,John 的团队攻克了许多困难的科学问题。在解决这些问题的过程中,他们注意到一个规律:许多科学问题都可以归结为 John 所说的“可评分任务”。一旦有了评分函数,目标就是找到能最大化该分数的代码。困难之处在于构造评分函数,但即便有了评分函数,找到最大化者仍可能需要付出相当大的努力。

John 的团队着手将这一通用问题的求解自动化。这源于“auto-Kaggle”AI 的想法——它能解决你抛给它的任何 Kaggle 问题。Kaggle 归谷歌所有,所以所有数据都已就绪,他们可以轻松获取!

成果就是谷歌的 Empirical Research Assistance,简称 ERA(论文、github、博客)。1 ERA 在概念上出奇地简单。Gemini(或你选择的 LLM)维护一棵不断生长的树,记录过去的实验(notebook)及其走向。它是蒙特卡洛树搜索的近亲:在每次迭代中,上置信界规则挑选出最有希望进行变异的 notebook。这是乐观策略而非贪婪策略,所以有时甚至第五好的 notebook 也会被选中。随后 Gemini 为每个 notebook 提出变异方案,一次大约十个。每个分支的历史是共享的,因此不同的叶节点可以相互学习。

“这几乎就像拥有一个不睡觉、极度热切的博士生。”

进化算法自 70 年代就已存在,但之所以这次能奏效,是因为 Gemini 确实知道该往哪里看!更有趣的是,Gemini 2.0 和 2.5 之间出现了一次阶跃式变化,它从完全不起作用变成了效果极佳。

ERA 如此强大,以至于 John 和他的团队用它解决了许多悬而未决的问题,至少产出了十篇论文。其中一些与气候变化相关,我们将在下一节讨论。

于是,我们不得不问:如果你有一个优化之神,你如何避免自欺欺人?John 的回答是,ERA 提供的是预测模型。确保这些模型真正具有描述性,是科学家的责任。这其中一部分只涉及良好的、老派的严谨机器学习科学。“它是一把电动工具。它能把你的手指切掉。”这引出了一段有趣的讨论,关于 Kaggle 竞赛,以及人们能以多么有趣的方式过拟合数据集,却并未真正解决你真正关心的问题:谷歌的凝结尾迹检测竞赛的获胜者注意到了标签中半个像素的误差(原点是在像素的角上还是中心?),而这竟成了获胜秘诀的一部分。这对赢得 1.5 万美元很棒,但如果你真的想解决凝结尾迹问题,就没那么有用了。

“人们自己也会像这些 LLM 一样,试图进行奖励黑客。这要追溯到古德哈特定律:任何成为目标的指标,作为指标就不再有效。”

那么他建议从哪里开始呢?

“永远先拟合线性回归。就做。就做。就做。或者 SVM。”

John 和他的团队为减缓气候变化的影响做了大量工作。我们谈到了他们的几项举措。

也许我们谈到的最有趣的结果是减少飞机凝结尾迹(contrails)的影响。那些你看到飞机后面拖着的小条纹,竟然占到了所有人为导致的全球变暖的1%?!其中一些冰晶尾迹可以滞留数天。这些冰晶在红外波段是黑色的,就像一条保温毯,日夜困住热量。

这里发生的事情很容易理解:一片大气区域变得“冰过饱和”,2 一点点废气为水蒸气提供了凝结核,水蒸气随即结晶。这里的规模令人震惊:一克废气就能产生十公斤冰晶。

原则上,这一切的解决方案相当简单!我们知道大气中哪些部分最可能形成尾迹。只要让飞机下降一两个飞行高度层就行了。问题解决了,对吧?嗯,难的部分在于核算到底避免了多少变暖。这是一个反事实问题,其中部分内容让 John 的团队困惑了两年多。他们有一个可用的模型来处理困住热量那一半,但没有处理反射阳光那一半。ERA 能够找到一个简单模型,其中包含一些他们未曾考虑到的混杂因素。破解了!

对气候进行建模通常是个难题。气候最好被看作许多不同可能天气结果的吸引子。3 这使得建模难得多。

“天气是你在吸引子上的位置,而气候是吸引子的统计特性。气候的问题在于我们正在改变它。吸引子本身在变化,它在移动。”

John 和他的团队既致力于治疗气候变化的症状,也致力于治疗其病根,并在该领域还有其他几项工作。我们简要介绍的另一个有趣例子是 FireSat,这是一种利用卫星星座在火灾变得太大而无法扑灭之前快速识别火灾的方法。对于任何住在加利福尼亚的人来说,你都明白这个问题。在干旱年份,一场小火就可能烧毁数十万英亩。如果你能在这场火只有一间屋子那么大时发现它,它就能被扑灭。等到它烧到一英亩,我们面对的问题就难得多。

到现在应该很清楚,John 对科学、计算和 AI 的交汇处有着令人难以置信的独特见解。John 谈到了他 1982 年跟 Richard Feynman 上的一门关于计算物理学的课。4 那时量子计算还是一个定义不清的概念,既没有理论也没有实验支持。John 回忆说,每周二是客座讲座,每周四则是 Feynman 解释为什么周二的客座讲师错了。John 还回忆起在基本上没有算力的年代做科学研究的经历,每秒一百万次运算在当时就是最前沿。

John 的建议是什么:最重要的技能是培养深厚的领域专业知识。除了攻克难题,没有别的办法培养品味。其中一个令人惊讶的部分是,John 建议花时间用老式方法做事。摆弄工具,就自己动手实现东西。

“你可以开车上山,也可以徒步上山,也许偶尔徒步一下是可以的,甚至很有趣。”

总结一下,John 向听众传达的信息是,科学家仍然会有用武之地,而且如果说有什么变化,那只会为“创造性的东西、严谨的东西、哲学的东西”开辟更多机会。但别忘了花时间做那些枯燥的基础工作。

“世界上似乎有一种强烈的冲动,要优化并榨干一切。但当你过度优化时,你确实会失去一些东西。那是过拟合。”

无论你最终使用什么工具,John 的建议都和 Feynman 四十年前给他的一样:你绝不能欺骗自己,而你自己是最容易被欺骗的人。

我们和 John 聊得很开心。希望你也喜欢!

如果你问 John,核聚变是三年后的事,而不是三十年后。以及为什么劳森判据意味着每种聚变方案都有致命弱点。

为什么超导量子比特仍然很挑剔。

他以母亲命名的那颗小行星,结果发现它有一颗卫星。

无人谈论的迫在眉睫的氦短缺。

NeurIPS 是如何从人们闯入 Snowbird 的一场私人研讨会开始的,以及为什么 Hopfield 网络就是你所需要的一切。

在磁盘只有 80 MB、大小像洗碗机的 VAX 上做 Carver Mead 的系统管理员。

1985 年用胶片、立体镜和一封写给 Brian Marsden 的信寻找小行星。Vera Rubin 天文台在六周内发现了 11,000 颗。

费曼效应:在房间里时一切都清清楚楚,你一离开就没了。

量子回声、NISQ 时代,以及为什么他认为量子既不是三十年后的事,也不是明天的事。

一家想把汞注入聚变反应堆并出售嬗变所得黄金的初创公司。“这可能行不通。”

John 给自己团队的 20% 时间规则:为了学习而做事,你甚至不必告诉他做什么。

ERA 的 GitHub 仓库提供了一个开源实现,它运行了 Gemini,但可以与任何 LLM 一起使用。ERA 目前尚未作为 Google 产品提供。

“冰过饱和”指的是水蒸气,而不是液态水。冷空气能容纳一定量的水蒸气,而有两种不同的极限:与液态水达到平衡的量,以及与冰达到平衡的较小量。在冰点以下,一团空气可以处于这两个极限之间。它含有的水蒸气超过了冰所能容忍的量,但又不足以凝结成水滴,而没有凝结核,冰也不会直接从水蒸气中形成。所以水蒸气就悬在那里,处于亚稳态,有时持续数天,直到有东西为它提供凝结核。

我们最近在 Anima Anandkumar 的节目中谈到了天气与气候的交叉,我们计划在未来的节目中更多地讨论天气和气候。

这其实是关于量子计算的,但那是在早期,还没人真正知道这意味着什么,它只是 Feynman 和其他几个人在琢磨的一个模糊想法。

来源

Latent Space