AI 热点

Gary Marcus:美国基础设施正在崩塌,AI 或为部分原因

Gary Marcus:The Road to AI We Can Trust更新于 11月17日 22:57

Wake up! America’s infrastructure is melting. And AI appears to be partly responsible.

AI 导读

Gary Marcus 警告美国基础设施正接连出现大规模故障,并认为 AI 是部分原因。他列出三条风险路径:缺乏经验者用 vibe coding 写出脆弱代码、可无限制上网的 AI 智能体易造成危害、恶意行为者可轻易利用当前 AI 缺乏后果认知的弱点。他还提到一起据称波及 178 家机构网站的网络安全攻击,以及加州已就可能的计算机犯罪起诉 OpenAI。

正文 · AI 翻译

醒醒吧!美国的基础设施正在崩塌。而人工智能似乎是部分原因。

数百家公司已经受到冲击。事情正变得非常真实。Gary Marcus,2026年11月17日

上周,我因全美范围的FAA停飞而在纽瓦克滞留了近48小时(还不得不在我横跨全国旅程的最后几个小时租了一辆车),部分原因就在于此。昨天,联合航空又发生了一次独立的故障。而在此前几天,微软Outlook宕机了大约24小时。

在X上,我警告说,作为一个社会,我们关注错了重点:

[Amtrak后来证明是另一个独立问题,但我漏掉了WorkDay和上周微软Outlook的大规模故障,所以更大的论点依然非常成立。]

而在我发布那条内容之后不久,又发生了两件事。

§

第一件事看起来更为严重:

这条推文能让你感受到它有多严重:Ryan Fournier@RyanAFournier🚨 突发:据报道,一场大规模网络攻击攻陷了178家机构的网站!

CNN。Fox News。BBC。Zoom。Salesforce。各大航空公司。全部受到影响。

黑客通过Optimizely注入恶意代码,旨在窃取信用卡信息、加密货币……凌晨3:06 · 2026年11月17日 · 33.3万次浏览

195条回复 · 1.26万次转发 · 3870次点赞

第二件事是,国土安全部长Mullin终于打破沉默,在FOX News上承认,AI很可能与其中许多故障有关。

事到如今,我认为可以把我此前在Politico上做出的“黑天鹅”预测——即我们很快就会看到史上最大规模的网络攻击——大体上算作正确。(不过公平地说,我把年份说得不太准。)

我认为,网络安全和基础设施问题的增多至少有三条关键路径(这些我都曾在此反复警告过):

第一,氛围编程是灾难的配方。我们所看到的部分情况,很可能是由那些缺乏足够经验、不明白自己正陷入何种烂摊子的人所编写的脆弱代码造成的。(正如一向睿智的安全专家Heidy Khlaaf博士所指出的,氛围编程本身的广泛采用“是我们过去十年所目睹的糟糕行业惯例的一种症状”。)

第二,拥有不受限制互联网访问权限的AI智能体很容易造成相当大的危害。它们不善于遵循指令,而且,正如OpenAI/Hugging Face事件(以及许多其他事件)所揭示的那样,它们没有道德指南针。智能体只管做事,不顾后果。虽然这些事件“大多数”可能无害,正如OpenAI曾经说过的那样,但其中有些并非如此。

第三,由于当前的AI对其行为可能造成的后果确实缺乏全局认识,恶意行为者可以轻易利用它。我的猜测是,国家行为者和犯罪集团都在尽可能快地探索能做到什么的极限,而至少就目前而言,攻击者可能比防御者更有优势。(其中多少是恶意、多少是无能,我们并不真正清楚。)

§

加州刚刚就可能的计算机犯罪起诉OpenAI,这很好。正如我昨天对《California Post》所说:

“在联邦政府缺位之处,加州正在挺身而出,调查OpenAI管控不力的AI是否实施了计算机犯罪——以及OpenAI是否可能试图隐瞒事实。Rob Bonta为人类挺身而出、推动OpenAI披露全部真相,干得好。”

在联邦政府也站出来之前,这一切只会变得更糟。

我倾向于不把这类我作为公益公告撰写的文章设为付费墙,但我仍然感谢你的订阅,无论付费还是免费。Gary Marcus@GaryMarcusi wonder if every alien civilization goes through an LLM phase where they wreck their civilization.

and whether any make it out through to the other side.晚上11:07 · 2026年11月13日 · 2.08万次浏览

62条回复 · 44次转发 · 533次点赞

关于此文的讨论还有11条评论……

准备好了解更多了吗?

来源

Gary Marcus:The Road to AI We Can Trust