Gary Marcus：美国银行正遭受 AI 智能体攻击

突发新闻：美国银行正遭受AI智能体的攻击

谁知道下一块基础设施会遭到攻击。Gary Marcus，2026年10月22日

“我们认为，世界应当接受一些坏事的发生，以换取这项技术带来的好处以及人们拥有自主权”

——萨姆·奥尔特曼，10月3日

来自Axios的Madison Mills的突发新闻：

完整文章在此。“这些发现令银行高管感到警觉，他们正争相限制对其系统的访问，因为AI的发展速度超过了金融机构的应对能力”。次日情景！

§

与此同时，这远非此类新闻的全部。10月11日，法国的制冷系统遭到攻击，这些攻击可能由智能体促成。日本也正出现一波持续增长的网络安全攻击浪潮。更不用说OpenAI等方对Hugging Face和澳大利亚政府等目标长达数月的攻击了。

昨天，《The Information》就一个名为Cybercartel的拉丁美洲黑客组织的所作所为发出了不祥的报道：

这令人不安，不仅因为黑客正在加大利用智能体进行恶意活动，还因为他们不需要最先进的“前沿”模型就能制造混乱。

这应当为那些把所有注意力都集中在监管“前沿模型”（通常以它们使用的算力规模来衡量）上的人敲响警钟。即使我们停止开发未来的前沿模型，我们仍将面临现有模型被滥用所带来的严重问题。

显然，监管努力不应只聚焦于前沿，也不应只聚焦于对未来模型可能行为的担忧。当前的模型已经在全社会造成严重问题，涉及从教育到政治（通过深度伪造和大规模虚假信息）再到银行业的各个领域。完全无视这一切而只关注推测性的未来，将是一个错误。

§

2025年初，我在Politico上警告说，我们将面临网络安全领域的一场完美风暴，原因有四。

第一，生成式AI日益普及且价格不断下降，是网络攻击者的完美工具。尽管它不可靠且容易产生幻觉，但它在以几乎零成本生成听起来可信的文本（例如诱骗人们泄露凭据的网络钓鱼攻击）和深度伪造视频方面极为出色，使攻击者能够扩大攻击范围。一个网络犯罪团伙已经骗取了香港一家银行2500万美元。

第二，大型语言模型众所周知容易受到越狱和“提示注入攻击”等手段的影响，而对此尚无已知的解决方案。

第三，生成式AI工具正越来越多地被用于编写代码；在某些情况下，这些编码者并不完全理解所写的代码，而自动生成的代码在某些情况下已被证明会引入新的安全漏洞。

最后，在这一切之中，美国新一届政府似乎决心尽可能放松监管，削减成本，甚至公开羞辱员工。尽职尽责的联邦雇员可能会感到恐惧，许多人会倾向于另谋出路；执法和调查的质量与数量几乎必然会下降，使世界极易受到愈发肆无忌惮的攻击。

好吧，我们到了这一步。

§

以下是另外三项预测：

无论生成式AI造成多大的混乱，AI行业都不会承担真正的责任

特朗普政府几乎不会追究他们的责任。