Manhattan Project 第二幕:Barnett Koven 谈美国创新与超级智能
The Manhattan Project, Take Two
Accenture Federal Services AI 与数据董事总经理 Barnett Koven 在 ChinaTalk 播客中讨论美国如何在超级智能竞赛中保持领先,以及政府风险规避如何拖累其相对竞争对手。他谈到涉密 AI 环境中的“枪与装甲竞赛”、用实体解析和预测建模执行 BIS 出口管制并拆解解放军的空壳公司网络,以及 DOE 的 Genesis Mission。
正文 · AI 翻译
曼哈顿计划第二幕
Barnett Koven 谈美国创新与超级智能,Jordan Schneider 与 Phoebe Chow 主持,2026年10月29日
在全球竞争的新时代,站在超级智能创新的最前沿就等于拥有地缘政治实力。为保持领先地位并确立下一轮世界秩序,美国正着手巩固其优势。
Barnett Koven 是埃森哲联邦服务公司(Accenture Federal Services)AI 与数据业务董事总经理。在加入埃森哲联邦服务公司之前,他曾在业界任职,并在马里兰大学担任教职;在那里,他的反叛乱研究表明,一些最具影响力的定量研究得出的结论恰恰完全相反。
我们讨论……
为什么“不作为本身就是一种风险”——以及政府的风险规避如何在与不那么谨慎的竞争对手较量时雪上加霜
涉密 AI 环境中的“枪与装甲竞赛”:防御成本呈指数级增长,而进攻成本仅线性增长
用于 BIS 出口管制执法的实体解析与预测建模,以及揭开解放军的空壳公司迷局
DOE 的 Genesis Mission 与埃森哲联邦服务的“科学研究骨干”
感谢埃森哲联邦服务公司为我们带来本期节目。
现在就在你最喜欢的播客应用上收听。
从反叛乱到 Genesis
Jordan Schneider:我们来聊聊你的职业轨迹。你是怎么从研究反叛乱(COIN)的博士,走到 DOE 和 Genesis Mission 的?
Barnett Koven:当然。我在拉丁美洲待了很长时间,亲眼目睹了秘鲁和哥伦比亚一些极其凶残的叛乱活动造成的后果,最终去读了博士,研究反叛乱战略——具体来说是反叛乱期间的发展援助和其他非动能干预措施——如何导致叛乱暴力的时空扩散。我非常喜欢这项研究,并寻求机会做更多与政策相关的研究,而这在学术界未必是常态。后来我在马里兰大学获得了一份教职,那也很棒——那是一所研究型大学,在那里我受到鼓励,除了教授应有的传统教学和发表成果之外,还能做一些政府资助的研究。我非常享受那段经历。
2005年,秘鲁警察在瓦努科地区打击游击队。来源。
然而,我做了大量混合方法研究,想要进行的实地考察和数据收集变得越来越难。那时,我在一家竞争性咨询公司有不少朋友,多年来他们一直联系我,想拉我加入。我终于说,好吧,管他呢,至少先聊聊看。通过那家公司一些非常有影响力的领导者,我意识到这将是一个机会,可以把我在研究生院学到、并在马里兰大学磨练的严谨研究方法和定量技能应用于现实世界的问题,而且是以一种更贴近使命、更贴近政策制定者和政府的方式来做——希望他们能真正受益于并使用这些洞见。
Jordan Schneider:我们来谈谈其中一些。有哪些事情找上了你?
Barnett Koven:总的来说,最酷的两个项目是利用自然语言处理从外交电报中提取洞见。你可能不知道,国务院每天在各驻外机构和华盛顿总部之间往来的电报大约有3000份。这些电报充满了文本形式的洞见,但没有人会去读3000份电报,更不用说每天记住并吸收所有这些内容了。所以这里的目标是利用生成式 AI 革命之前的老派自然语言处理方法,提取并归类其中一些洞见,使其易于检索,从而为政策制定提供参考。
我对我们在那里所做的工作感到非常、非常自豪。话虽如此,如果把时间快进五年到今天的我,我会完全换一种做法。现在可用而当时没有的一些工具,本可以把一个为期六个月、涉及六人团队的快节奏项目,加速成两个人几周内就能完成的事情,而且做得同样好甚至更好。
来源。真信者与风险规避者
Jordan Schneider:好,我们来聊一下这个。软件真的很便宜,任何人都能运行 Claude Code、Codex 之类的东西——在你与政府打交道的过程中,那种“比12个月前可能做到的要多得多”的顿悟,在多大程度上已经出现了?
Barnett Koven:这里最省事的回答是:视情况而定。而且某些政府客户比其他客户走在前列得多。部分原因是他们独特的使命,以及这一使命与这些变化的相关程度。但部分原因也只是风险规避。例如,我们的一些执法客户在这方面往往表现出更多的风险规避倾向。话虽如此,我认为其中一些怀疑态度其实非常健康。
Jordan Schneider:等等,抱歉——你是说,如果由大语言模型为我收集证据,我就无法证明案件?你这话是什么意思?
Barnett Koven:我只是说对二阶和三阶影响感到紧张,无论是敏感信息被暴露给公众,还是因为法院裁决而导致证据价值被削弱——而且已经有一些围绕生成式 AI 生成的法律文书之类的法院裁决。所以我并没有指任何具体的事情,但可以从很多不同方向来展开这一点。
Jordan Schneider:明白了。好,但那些相信者——他们的共同点是什么?
Barnett Koven:有几种解释。一些真正的相信者是从产业界首次进入政府,他们在美国企业界的先前工作中已经见识过这些工具的力量,而那里的采用增长或许是最先发生的。另一些人则只是对自己的使命充满热情,虽然他们中有些人可能已在政府工作了几十年,但他们特意让自己紧跟最新最好的事物,并且只要某样东西预示着在其细分领域、在其工作范围内会有重大进步,他们就愿意尝试几乎任何东西。
Jordan Schneider:是啊,我们在这些实验室身上看到的是一种有趣的动态,对吧?一方面,我能想出一些疯狂有趣的小应用,而且有些高级用户用三个人的人力就建立起了价值十亿美元的企业。但另一方面,这些实验室也都在与咨询公司、私募股权公司签署这些合作关系——因为,不,你今天不可能只按一个按钮就让 AI 为你解决一切。显然仍然需要这一层由真实的人组成的人类层来发现问题并解决问题。我只是觉得这很有意思——我们还没有到那一步,即好吧,GPT 7.0 或 Claude Mythos 4.0 就能直接解决政府中的一切问题。
Barnett Koven:有几个动态在起作用。首先,这些模型是在开放互联网上可获得的内容上训练的,而这在许多方面与企业客户以及政府的细分使命截然不同,后者都拥有非常敏感的数据,这些数据通常不在公共领域中,也不可用于训练这些工具。所以,认为这些工具开箱即用就能完成你和我所做的日常任务,比如规划购物清单——绝对可以。但这与参与复杂的外交政策谈判本身并不是完美的类比。
第二点是数据科学中一直存在的垃圾进、垃圾出问题,而在这里这个问题被加剧了。有人不仅需要具备机构知识,还需要知道数据存放在哪里、现有数据中存在哪些明显的局限等等,才能从这些模型中获得最大价值。我要说的最后一点是,元数据管理在这里变得极其重要。拥有干净、经过精心整理的元数据,能为大语言模型提供一些额外的上下文可供抓取,从而大幅提升输出质量。大语言模型时代的镜像思维
Jordan Schneider:你提到了用于高风险外交政策谈判的 AI。我最近一直在思考的一件事是,针对这一点的评估会是什么样子。战术层面的决策,你多少能理解——你以前做过反叛乱相关的工作。好吧,如果你给模型大量摄像头,随着时间推移,它们能弄清楚谁在奇怪的时间点带着枪离开房子。但如果你说的是外交政策决策——比如,你希望确保乌克兰和平协议中包含什么?
可怕的是,这些模型太强了,它们似乎能让你的生活轻松太多,它们能为你写《华盛顿邮报》的专栏文章,以至于那种想要借助它们来思考的诱惑会非常高,好吧,普京给了我这10点,我想回敬的10点是什么。但我想知道你是否对以下问题有任何想法:你会想用什么样的战略层面谈判评估来测试这些模型,才能真正有信心地说,不,这比我的俄罗斯事务主管官员或其他人更强——或者说它真的能提升他们的能力。
Barnett Koven:简单的答案就是拿它和人类比较。给俄罗斯事务主管官员和模型完全相同的提示,看看它们各自给出什么结果,然后比较结果。如果模型得出的结论与俄罗斯事务主管官员相似,那么正在发生两种情况之一:要么两者表现同样好,要么两者被同样的因素所偏见,表现同样差。这种镜像思维现象——对吧,我们一直花钱让美国政府里的人深入研究俄罗斯、深入研究中国,不管当下对手是谁,然而他们总是从自己作为美国军官的视角出发,并且至少潜意识里假定那个所谓的竞争对手或敌对国家里,体制的运作方式是一样的。我认为这是有问题的。
不过,另一种情况是,当它们出现分歧时,你就可以开始追问它们为什么分歧。如果你足够聪明,并且掌握背景信息,你就可以让模型出错,看看它在哪里犯错。或者你可以说,啊哈,我其实在这里学到了东西,其中的推理非常新颖,我们没想到这一点,我们需要把它纳入进来。
Jordan Schneider:是的,这很有意思。其实今天早上我还在和一个人聊天,他曾在“深层政府”里待了很长时间,现在到了体制外,可以组建一支国际团队——所以有一位住在东京的日本公民担任他们的日本分析师。他们就说,瞧,这确实挺有意思,但我只跟美国人合作,我的整个收件箱里全是美国人以及他们对世界的分析。所以,这些模型能够戴上不同的帽子、持有不同视角——而这些视角并不等同于,你知道的,生活在2026年的美国公民——这个想法很有意思。如果你只用美国的模型,是不是就漏掉了什么?或者,如果我们主要是用英语互联网的数据来训练——这其实会是个很有意思的调校方向。就像,好吧,假装你是一名中国事务官员,或者一名国安部分析师,或者一名澳大利亚分析师。你会怎么思考这些问题?
好,在进入BIS那部分之前,再说一个反叛乱(COIN)的问题。AI会不会——除了做目标定位之外,AI能帮你赢得一场叛乱吗?而且我们在目标定位上并不差,对吧?那不是问题所在。
Barnett Koven:我觉得问题在于能否把叛乱分子和普通民众区分开来。如果你能识别出谁是叛乱分子,那么想出一个解决办法——无论是动能手段还是其他方式——并不特别困难。我觉得这是个非常有意思的问题。而且我认为美国在反叛乱上做得还算不错的原因之一,是美国军方愿意把决策权下放到下级军官和士官。这之所以行得通,是因为部队教育背景高、训练水平高,以及这种普遍存在的信任。
话虽如此,我认为在边缘端、在战术设备上配备机器学习模型,可能有助于提供额外的背景信息,或许还能成为那些下级军官和士官在极有限的背景下被要求迅速做出极其艰难决定时的参谋。
Jordan Schneider:是的,我是说,与普京谈判结束乌克兰战争这件事,是一对一的,对吧?你没法对它做实验。但好吧,我有一千个村庄、一万名不同的军官在四处活动,有人会先建水处理厂,有人会投资警察局——你可以在特定情境或特定时间段内从中学习,而我认为实际的国家元首谈判那类事情则会极其困难。但好吧,我是个信徒。倒不是说我们应该发动一场战争来测试它,但是……
好,那我们来谈谈你们去埃森哲之后与联邦政府合作的一些工作。也许从商务部开始。数据和AI如何能解锁更好的出口管制执法,这个愿景是什么样的?
Barnett Koven:是的。至少就你的播客和中国而言,当下的热门话题是出口管制政策。这个问题有两面。第一:究竟应该管制什么?第二:这些管制有多有效?要注意,无论是中国还是其他国家,你面对的是一个会思考的对手,他们会不断改进规避这些法规、获取他们想要的任何技术的方式。在当前时刻,我们主要谈论的是先进半导体,其次是关键矿产——尽管我认为中国在后者供应链的很大一部分上已经相当成功地垄断了市场。
在这里,我们可以做几件事。其一,基于过往行为进行一些预测建模,以尝试识别高风险实体。财政部的海外资产控制办公室在这方面已经做了相当长时间的工作,针对毒贩等人,试图确定接下来要制裁哪些账户。同样的逻辑也可以应用于这种目标定位。
但另一个方面是揭开这团空壳公司构成的迷宫。首先,合法公司——尤其是财富500强公司——出于各种正当的法律和税务目的而拥有多个子公司。所以空壳公司本身既非常普遍,又不一定表明存在不法行为。我们发现非常有用的一个做法是利用实体分析,比如实体解析,来尝试就如何合并不同的公开数据集以及美国政府专有数据集,再加上彭博和标普的企业记录数据,做出有依据的决策,从而创建一个包含各公司及其相互关系的总库——以便更容易地识别出:是的,事实上,这家我们从未听说过的空壳公司,通过另外七家企业实体,与解放军的一个采购部门有关联。
Jordan Schneider:那是不是——现在有一些边缘案例,前沿模型可以完成过去必须有人盯着两样东西看然后说,哦,这是同一家公司,这样的工作。这就是如今这件事被加速的方式吗?
Barnett Koven:没错。而且你不一定需要生成式AI来做这件事——更传统的AI/ML也可以用。为了判断在这里使用LLM或前沿模型是否真的合理,你会想问各种细致的问题。但总的来说,是的。
Jordan Schneider:是的。我想问题是,这个比例是多少——你提到你们有Databricks的合作关系——这些东西里有多大比例只是第一层级,这些在2016年就该做完了,但今天的新技术只是让它更便宜、更快;相比之下,哦天哪,有了这些,我们抓到了那些如果没有今天可用的技术就永远抓不到的人?
Barnett Koven:从历史上看,在最近四五年生成式AI革命之前,我会告诉你,一个高端数据科学团队实际所做的工作中,80%是相对常规的数据工程——为了支持高级分析而对底层数据进行清洗和转换。我认为其中很大一部分仍在发生。现实是,我们政府中的大量数据,以及商业领域的数据,都还没有为AI/ML做好准备,更不用说生成式AI了。话虽如此,在这五年间,这个比例也许从80%降到了65%。LLM本身可以作为加速器用于大量这类机械的ETL工作,这也意味着我们的客户——无论是政府还是商业客户——更有动力去真正做那项烦人、费力的数据清洗工作——因为现在我可以以五年前三分之一或四分之一的成本来完成它。
Jordan Schneider:所以雄心——在BIS,你可以用你的预算做更多梦,就像我可以完成一个三年前能做的三倍大的项目。
Barnett Koven:100%。10倍工程师与Token预算
Jordan Schneider:我想谈谈人才。你们是联邦承包商。在过去的ChinaTalk节目中,我们有很多关于国家能力下降及其挑战的讨论——政府需要有能力做自己吃的饭。AFS为什么应该存在?政府依赖外部参与者帮助其在这方面提升技能,理由是什么?
Barnett Koven:我要给你的答案是针对AFS以及我们少数几个拥有真正强大商业业务的竞争对手——因为我认为那才是真正的差异化因素。具体来说,我们约有15,000名员工专门服务于美国联邦政府。我们在全球有80万员工,主要服务于全球财富3000强。我们都听过这些偏见,即美国企业界领先——或者整个企业界在创新方面领先于美国政府。这是一个我们可以展开的更长的讨论。但现实是,驱动因素和激励结构相当不同。
话虽如此,如果你有80万人服务于全球财富3000强,并且他们以快速步伐创新,那么将这些创新提升并转移到政府中的能力,我认为是极具价值的。让美国政府汲取我们多年来与商业客户共同开发的洞见,并从第一天起就从中受益,而不是不得不自己投资并解决这些问题。这也给了我们巨大的回溯能力。如果政府想做一件新的、新颖的事情,而他们无法雇用一个人作为联邦雇员来做这件事,因为他们只需要这项技能两周,我们在组织的某个地方有那个新颖的人可以引入,而且这个人大部分时间可以被有效地用于服务商业客户。这种灵活性也是价值的一部分。
Jordan Schneider:从人员角度来看,思考这一点很有意思,尤其是在数据工程、数据分析师、广义软件工作方面。在以前的时代,你可以有10倍工程师,而现在你可以有100倍或1000倍工程师,如果有人真正懂得如何以富有成效的方式消耗token。
当你与政府的不同角落互动时,你见过这些人吗?他们存在于外面吗?你看到人们梦想出的最疯狂的事情是什么,这又如何与你们的工作互动?
Barnett Koven:我们在AFS生态系统的其他部分支持DARPA和IARPA,显然那些是政府中做这种真正疯狂实验的部分。我听说过类似的事情,甚至数字要高得多,就预期token消耗而言。话虽如此,我认为对于政府以及成熟企业中的大多数企业用例,我们应该走向的方向是:如何更明智地决定我们在哪里使用生成式AI和代理式AI。这并不意味着盲目地向问题扔token,因为那不会带来可持续的企业级解决方案。相反,我们如何引入几十年来经过验证的传统非生成式AI/ML——让它成为解决方案的80%或90%,因为它有效且效果良好,然后我们在问题的某些细分方面撒上生成式和代理式AI,在这些方面传统AI/ML无法表现得那么好。
这样做,你限制了token消耗,从而保持总拥有成本较低,但实际上通过使用确定性流程而不是概率性流程来处理可以确定性回答的问题部分,你会得到更好的结果。我认为这就是秘制酱料——这就是像AFS这样的公司可以带来的东西。这并不意味着我不支持在真正早期的实验阶段、在考虑将某事物投入生产之前很久,就把一切扔给LLM。坦率地说,这确实让我们的团队以及其他团队能够更具创新性,尝试事情并失败——但做得更快,然后从失败中学习。
Jordan Schneider:是的,你看现在CEO们不得不考虑,比如,我不只是雇一个工程师,我雇的是一个工程师加上随这个人而来的——1万、10万、50万美元的资本支出。而答案是,我们不知道,对吧?而且这会随时间变化。联邦预算流程会——你往往是从国会那里拿到人员编制,对吧?不一定是算力预算。就说BIS吧,曾有一个长达数年的努力,想给他们多争取1亿美元。而且,你知道,如果我们专注于执行任务——任务是增加50名案件官员吗?任务是五名案件官员加上一大堆模型,被迅速启动起来追踪每一条新闻和地球上每一艘船,以弄清什么东西正在某处被走私吗?我不知道。就是这种,花政府的钱来得到你想要的结果的最优方式是什么,这可能是很长一段时间以来最开放的问题。
Barnett Koven:绝对是这样。而且政府的预算流程——现实地说,你今年的预算是在两年前就定下来的,差不多吧。这在这里是个问题。不只是你提到的人员编制,还有你的token消耗是多少,你从云服务提供商那里来的底层算力账单是多少。鉴于创新的快速步伐、变化的快速步伐,这将变得越来越难以预测。
我认为,在仍然提供问责的同时解决这个问题的办法是:第一,在这个模型的token和那个模型的token之间、这个用例的token和那个用例的token之间,提供多一点可替代性,只要它们与总体优先事项挂钩。第二,在部门或机构层面进行汇总——因为很可能的情况是,某个机构里的这个特定办公室有一个我们无法预料到的真正新颖的用例,但你知道吗,那边的另一个部门有一个问题,光靠往问题上砸token是很难简单解决的。在整体部门内部,就这笔预算如何花,拥有一定的可替代性,同时配以适当的FinOps,以便有问责——我不是建议我们盲目花纳税人的钱,或者干脆取消约束——如果政府想继续利用这些最新最伟大的创新,这将是他们必须走的方向。枪与装甲的竞赛
Jordan Schneider:你想谈谈这件事的国家安全部分吗?因为如果你想在一个涉密数据中心或别的什么地方做所有这些事,那又是另一整套前置时间,这可不只是把它从BIS挪到《芯片法案》或商务部随便什么——你得建一个地方、买芯片,这可不是改预算里的一行。
Barnett Koven:是的,绝对是这样。过去一周我和两家不同的基础模型公司谈过,两家都在吹嘘说,嘿,我们在最新最伟大的模型向公众开放的同一天,就把它们发布到我们FedRAMP但非机密的美国政府环境中了。现实是,一旦你到了IL6+——那些涉密环境——情况就不是这样了,而且鉴于这里的安全约束,现实上也不可能是这样。
话虽如此,这非常像一场军备竞赛。我有一个很了不起的博士生,她曾是一名陆军网络军官,回来读博士,她研究了政府中AI时代的风险规避。她最有洞见的观点是:不作为本身就是有风险的。我们常常专注于为我们即将采取的行动降低每一个风险,而我们可能因为能看到的风险而不采取那个行动,却忘了这样一个事实:如果我们什么都不做,不仅存在风险,而且几乎可以保证,我们会被那些比我们更不厌恶风险、愿意一次又一次承担风险的同行和近同行竞争者甩在后面。我确实认为,特别是在中国身上,我们已经看到了这一点。
Jordan Schneider:你能谈谈把某个东西从非机密网络带到机密网络需要什么吗?我的意思是,你只是担心那些模型会到处乱跑删东西,还是说只是秘密数据中心里没有算力?
Barnett Koven:所以算力在涉密环境中其实问题较小。更多的是需要设置什么样的护栏。这些数据有没有任何可能泄露到外面去?再说一次,在涉密环境中更难,但并非不可能。是否存在这样的风险:这个模型会往我们的环境里注入某些可能有害的东西?而且坦率地说,这个模型是否被以某种方式投毒,以至于它会给我们错误的答案?关于投毒已经有一些了不起的研究。
不幸的是,这有点是一场枪与装甲的竞赛,其中进攻的成本随时间线性增长,而防御的成本则指数增长。当我们谈论涉密空间时,想干坏事的人有一种固有优势。所以那里只是需要格外谨慎。曼哈顿计划的姿态
Jordan Schneider:我们稍微谈谈能源部吧。什么是Genesis Mission?
Barnett Koven:是的,绝对可以。能源部宣布了Genesis Mission,在白宫有一个签字仪式,我们的CEO Ron Ash参加了。最初有26家不同的公司——埃森哲联邦,然后主要是基础模型公司、超大规模云服务商等等——聚在一起签署了这项承诺,要与DOE合作、与美国政府合作,以兑现这一承诺。
这一承诺实际上意味着,能源部将成为整个美国政府中生成式AI的牵头机构,而我们将把生成式AI的进步视为——我从一些客户那里听到的描述是——类似于曼哈顿计划,这很方便,因为你后面就挂着那张21世纪的海报。提供适当的资源,确保美国在这一领域保持领先地位,更重要的是,确保我们能够安全地在关键科学发现和其他用例周围建立护城河,以降低生成式AI应用的风险。因为我刚才对你说的重点并不是我们不应该在涉密环境中使用这些工具——只是需要更加谨慎。事实上,不使用它们才是错误的答案,因为,还是回到我关于风险的那句话。
来源。《构建骨干》
Jordan Schneider:那么AFS将如何解决这个问题?
Barnett Koven:我们正在做的是构建我们俗称的科学研究骨干。这是基础设施,将允许各实验室、DOE总部、NNSA、关键行业和学术伙伴之间进行安全协作——并配备工具,从硬科学研究实验室中常见的商用仪器(比如西门子等公司制造的设备)中提取数据,并通过强大的访问控制使其可访问,但对那些有知情需要、且对其研究事业有价值的人来说是可访问的。
现在困难的部分与其说是想出最新、最伟大的基础模型——坦率地说,有些基础模型公司在这方面做得非常出色。问题在于如何将这些模型连接到像科学研究这样的细分用例,并确保它们能够访问相关的训练数据和相关洞见。
Jordan Schneider:明白了。我们举个例子。桑迪亚今天正在做的一件没有足够多人意识到的事情是什么,或者一个如果没有这个、到2028年就会消失的洞见是什么?随便挑一个实验室。
Barnett Koven:随便挑一个实验室。一个答案会围绕供应链安全。供应链安全的一个方面是,在哪里有机会改变我们生产关键矿产的方式?铍就是一个很好的例子。它实际上可以从多种不同类型的矿石中提炼,其中一些过去在商业上不可行,但也许现在可行了。有多少数据在100年前被丢弃了,因为当时有更便宜、更容易的方法,而现在这种方法不再可能,因为一个战略竞争对手已经垄断了那种矿产类型的市场?然后,关于犹他州和内华达州等地地下究竟埋藏着什么、可能与解决这个问题相关的数据又在哪里?而与那些地质研究分开的是,关于调整我们处理现有采矿作业尾矿方式的新方法的底层数据又在哪里,以便尝试回收过去只是废矿物的东西——因为同样,当时这样做不合理,或者我们没有技术来实际提取它们?
犹他州的斯波尔山矿是世界上最大的铍产区。来源。
Jordan Schneider:所以科学研究这些废气没有排出来的原因之一,不仅在于你只能发表具有统计显著性的结果,还在于这对研究人员本身来说很烦、工作量更大。就像,好吧,如果我只需要写12样东西,现在我还得上传另外11个数据集。这方面有什么解决方案?
Barnett Koven:嗯,AI可以替你写报告。我的意思是,这里说得有点轻率——我确实认为这里仍然需要有人在环——但如果它能完成80%的工作,为什么不呢?我们在数据工程中看到了这一点。我监督的所有数据工程师几乎无一例外都讨厌做的一件事就是为他们的代码写文档。但这至关重要,这样下一个人才能从他们停下的地方接着做,我们才能质询他们是否真的做了他们认为自己做了的事,或者这里是否存在一个可能后果严重的错误。我们已经看到Claude Code和Codex在为我们做注释或代码文档方面取得了惊人的进展。
同样的逻辑也非常适用于报告撰写。坦率地说,就报告应该是什么样子而言,已发表的同行评审文章构成了一个惊人的文本语料库,因此期望一个模型能帮你完成80%的工作并不算不合理。
Jordan Schneider:但如果我在做物理实验,重要的是我要完成所有步骤,对吧,并且记住所有步骤。我的意思是,最终的理想状态是不是就是我在实验室里放一台摄像头,它随时间记录并写下我所做的一切?所以如果我只倒了半烧杯而不是一整烧杯,它就会注意到并记录下来,上传到你的系统里,同时让我知道这里存在某种用户操作失误,这就是为什么我没能发现新的铍化合物?
Barnett Koven:有可能是这样。实际上,很多这类研究已经比较自动化了,所以并不是我手工测量,而是使用仪器来完成——而这些仪器产生的输出基本上没有被采集,或者至少没有被保留下来。所以我甚至不认为我们必须安装实体摄像头,我们只需要采集那些数据,并真正对其加以利用。
Jordan Schneider:太酷了。我对此很期待。我认为这对人类是净利好。我们会发现更多酷东西。
你能谈谈这项工作中有安全保障与无安全保障的部分吗?
Barnett Koven:当然可以。要让这项工作在关键矿产、核能、电网可靠性——坦率地说,还有我们与同级和近同级竞争对手的竞争的所有方面,而这些竞争将产生重大后果——在研究中被接受,一个关键点就是确保虽然这些数据在我们希望其访问的人之间易于共享,同时也要有强有力的防护措施。
这些应该是存在于现有安全云环境中的模型,甚至可能是裸金属环境。我们的国家实验室在高性能计算上投入巨大,因此他们拥有大多数企业和其他机构所没有的裸金属基础设施。但同时还要实施非常稳健的RBAC和ABAC控制,使你能够做到极其精细,细到行或列级别——谁在什么情况下、为了哪项研究应该拥有访问权限。很可能的情况是,你会希望在国家实验室内部比与某些大学合作伙伴、比与某些国际大学合作伙伴等更广泛地共享。这种精细度对于让这个体系运转起来至关重要。
Jordan Schneider:RBAC和ABAC——基于角色和基于属性的访问控制。你想解释一下那是什么吗?
Barnett Koven:当然可以。用通俗的话说,这里的想法是让决定变得非常非常容易:基于你在组织中的特定角色,你应该有权访问某条数据——或者绝对不应该有权访问。在政府系统以及大多数企业系统中,你登录时会使用某种物理令牌或唯一登录名和密码之类的东西。因此,利用这种单点登录,系统会识别出你是这个人、这是你在更大研究体系中的角色、这些是你在做的项目等等——并自动管理访问权限。重要的是,要依据生成该数据的个人或组织所设定的规则。
而且我认为,除了技术层面之外,一个关键部分是我们如何获得各利益相关方的支持。这里的关键将是确保最终他们对所生成数据如何共享拥有自主决定权,并能够传达这种知识。但随后这些RBAC和ABAC控制意味着你不必给那边的John发邮件说,这是我正在做的工作,我能请你给我访问权限吗——然后John也不会从全职研究科学家变成全职回邮件和批权限的人。
Jordan Schneider:但如果我是能源部长,而且反正所有支票都是我签的,我能不能直接说,抱歉,你必须把这个分享给我认为负有责任的每一个人?实际的摩擦点是什么?
Barnett Koven:嗯,那样的话,答案是有细微差别的——我要先声明,我不是律师。我是两个律师的孩子,但这只能让我走到这一步。取决于你何时与联邦政府签署研究资助或合同,会有你同意的条款和条件,而根据这些条款,将决定信息如何使用。通常,尽管并非 exclusively,政府会为其自身目的保留对其资助研究的权利。但这并不一定意味着他们可以直接将其分享给第三方商业实体或大学合作伙伴之类。再说一次,这将非常取决于单个资助或合同的条款和条件。
Jordan Schneider:明白了。实验室对此兴奋吗?我不知道——如果我是科学家,那一定很有趣。就像,好吧,如果我现在只记录了我工作的10%,那么现在你就是效率提升10倍的科学家,而且你甚至不用做任何其他事,只需偶尔点一下上传。
Barnett Koven:我想是的。目前,虽然我们有可行的演示之类的东西,但我们还没有到部署这个、让他们能够亲手操作的阶段。所以我认为,真正的兴奋会在人们能够上手玩的那一刻到来,尤其是对科学家或像我这样天生好奇的人而言。能够真正触摸它、摆弄它,才是真正的区别所在。我对这个概念相当兴奋,但我加倍兴奋,因为我实际上已经玩过我们在AFS正在做原型的东西了。