Google DeepMind 论文提出用胜任与协同两项阈值衡量 AGI 经济影响
New Google DeepMind paper says AI is already changing the economy, just not in the way people look for.
Google DeepMind 发布论文《The Economics of Intelligence》，提出用胜任（单任务能力）与协同（智能体协作能力）两项阈值来刻画 AGI 对经济的影响。作者认为 AI 已在精简初创公司、扁平化组织架构和部分入门岗位招聘放缓上显现变化，但尚未出现大规模失业；多数基准只测单个模型，而企业以团队形式竞争。论文还引用一项 100 人测验，互补配对的小组比随机配对表现高 32%，说明共享相同弱点的 AI 模型即使单挑胜过每个人，也可能输给配合良好的人类团队。
推荐理由
AI 评分 62
论文把能力拆成单任务胜任与智能体协同两项阈值，解释了为何基准分数上涨而经济指标几乎不动。
主题
查看原帖我加入了 @GoogleDeepMind，开展一项关于 AGI 经济学的研究计划。今天，我与 Andrew Koh（@andrewjkoh）和 Shane Legg（@ShaneLegg）一起，非常激动地发布《智能经济学》（The Economics of Intelligence），这是我们团队关于 AGI 将如何改变经济的一系列项目中的第一个。 能力提升如何改变经济，又在何时改变？在本项目中，我们根据能力如何改变经济来定义经济能力的阈值，例如最低限度的 AGI。随后，我们追踪经济——市场结构、就业和工资——在跨越不同能力体制的转型过程中如何变化。 我们已经看到 AI 智能体能做的事情呈指数级增长，但更广泛的经济似乎几乎惊人地没有变化。部分原因是，单打独斗的 AI 智能体是错误的經濟对象；经济转型是一种均衡结果，其中组织相互竞争。考察智能在组织内部如何发挥作用，转型将取决于两个关键能力阈值何时被跨越：胜任（在个人技能上的增益，例如编程、数学）和协同（智能体合作与共同工作的能力上的增益）。 我们表明，经济转型呈现何种面貌，取决于 AI 是变得超级胜任、超级协同，还是两者兼具——即人工超级智能（ASI）体制。追踪这一转型可以说明，为什么真正可见的转型可能来自协同能力的提升——这是大多数基准尚未追踪的一项能力。超过某个阈值后，AI 能力可以打破企业规模的科斯天花板，并带来一个与今天所见截然不同的经济。 两个主要结论： 1. 要理解转型的路径，我们应更密切地追踪智能体协同。 2. AI 的影响很可能先体现在工资上，然后才是市场结构或就业。 我们对这篇论文感到非常兴奋。期待听到大家的想法。 链接：https://t.co/9DTGSeKoSA
查看原文
I joined @GoogleDeepMind to develop a research program on the economics of AGI. Today, together with Andrew Koh (@andrewjkoh) and Shane Legg (@ShaneLegg), we are incredibly excited to release The Economics of Intelligence, the first in a series of projects from our group on how AGI will change the economy. How do capability improvements transform the economy, and when? In this project, we define thresholds of economic capabilities, e.g., minimal AGI, based on how they transform the economy. We then track how the economy–market structure, employment, and wages–changes during the transition across capability regimes. We have seen exponential increases in what AI agents can do but the broader economy seems almost remarkably unchanged. Part of the reason is that the solo AI agent is the wrong economic object; economic transformation is an equilibrium outcome where organizations compete. Looking at how intelligence functions within organizations, transformation will depend on when two key capability thresholds are crossed: competence (gains on individual skills, e.g., coding, math) and coordination (gains on ability of agents to cooperate and work together). We show that what economic transformation looks like depends on whether AI becomes supercompetent, supercooperative, or both—the regime of artificial superintelligence (ASI). Tracking this transition shows why the real visible transformation may come from improvements in coordination—a capability most benchmarks don’t yet track. Past a certain threshold, AI capabilities can break the Coasian ceiling on firm size and lead to an economy that looks drastically different than the one we see today. Two main takeaways: 1. To understand the path of transformation, we should be tracking agentic coordination more closely. 2. The impact of AI will likely show up in wages before market structure or employment. We are really excited about this paper. Excited to hear people’s thoughts. Link: https://t.co/9DTGSeKoSA
正文 · AI 翻译
Google DeepMind 的新论文指出，AI 已经在改变经济，只是并非以人们所寻找的方式。
它正通过更精简的初创公司、更扁平的组织架构以及部分入门级岗位招聘放缓来体现，但并未表现为大规模失业。
该论文认为，AI 带来的重大经济变革取决于智能体学会协同，而非每个模型变得更聪明。
AI 模型在许多单人任务上已能与专家匹敌，但就业和生产率数据却几乎未见变化。大多数基准测试只考察单个模型，而企业是以团队形式竞争的。
他们构建了一个经济模型，分别追踪两种能力：单任务胜任力和智能体之间的协同能力。胜任力的提升会逐步推动工资变化，但协同能力一旦越过临界点，少数大型 AI 公司就能突然接管大型标准化市场。
在一项 100 人参与的测验中，互补配对以覆盖彼此弱点的两人小组比随机配对的小组表现高出 32%。AI 副本共享相同的弱点，因此一个单挑能胜过每个人的模型，仍可能输给配合良好的人类团队。