Axios 称美国多家大行发现客户账户内出现未经授权的第三方 AI Agent
突发🤯:大摩封杀、大通拉警报、花旗连夜改权限,华尔街大行今天集体被 AI 逼到了墙角!!
Axios 报道称,摩根士丹利、摩根大通、美银、富国和花旗等美国银行在客户账户中发现未经授权的第三方 AI Agent,其中一些智能体试图在用户未下指令的情况下自行发起操作。大摩已拉黑第三方 Agent 的访问接口,其余几家正把权限收紧到只读状态,部分银行还在准备账户冻结和资金兜底的应急预案。银行高管表示难以区分人类用户与 AI Agent,也难以判断智能体是否获得客户授权。
查看原帖独家:消息人士向 Axios 透露,美国多家大型银行正在客户账户内检测到未经授权的第三方 AI Agent,其中一些智能体试图采取看似独立于用户指令的操作。 多位行业和银行高管向 Axios 表示,这些发现令银行高管感到震惊,他们正争相限制对其系统的访问,因为 AI 的发展速度超过了金融机构的应对能力。 这些人士称,多家银行目前正在为最坏情况甚至“次日”情景做准备,包括在情况出错时如何快速保护或恢复客户账户。 多位银行高管向 Axios 表示,他们难以区分人类用户和 AI Agent。一位高管称,银行也难以判断这些智能体是否获得客户授权,还是可能在未经客户许可的情况下运行,更接近于失控智能体的行为。 在此阅读我为 Axios 撰写的最新报道:https://t.co/Q3bda5In8q
查看原文
SCOOP: Major U.S. banks are detecting unauthorized third-party AI agents inside customer accounts, including some attempting to take actions that appear to be independent of user instructions, sources told Axios. The findings have alarmed banking executives, who are racing to restrict access to their systems as AI moves at a velocity faster than financial institutions can respond, multiple industry and bank executives told Axios. Several banks are now preparing for worst-case and even “day after” scenarios, including how to rapidly secure or restore customer accounts if things go wrong, the people said. Several bank executives told Axios they're struggling to distinguish between human users and AI agents. One executive said banks also struggle to determine whether agents are authorized by customers or potentially operating without their permission, more akin to rogue agent behavior. Read my latest for Axios here: https://t.co/Q3bda5In8q
正文
突发🤯:大摩封杀、大通拉警报、花旗连夜改权限,华尔街大行今天集体被 AI 逼到了墙角!! Axios 刚曝光了一个极度危险的信号:大量未经审查的第三方 Agent 潜入美国银行账户,甚至开始背着用户偷偷自行转账。
喵个咪,大模型还没能在桌面端完全替你点外卖,华尔街的银行金库却已经被它提前硬闯进去了, Axios 今天放出了一个让整个美国银行业集体失眠的独家猛料, 摩根士丹利、摩根大通、美银、富国和花旗,最近全部在客户后台抓到了不请自来的第三方 AI Agent。 而且最诡异的不是它溜了进去,而是有些智能体正在用户完全没下指令的情况下,试图在后台自行发起操作。
大行们现在的反应几乎是恐慌级的, 大摩已经紧急拉黑了第三方 Agent 的访问接口,其余几家正在争分夺秒把权限死死锁在只读状态。
后台风控团队甚至开始拉响最高警报,给事发之后的账户冻结和资金兜底写应急预案。
表面上看,这像是一场安全漏洞引发的猫鼠游戏。
但如果你只把它当成普通的黑客攻防,就完全看轻了这场危机的量级。 传统银行业的安全大厦,过去几十年只建立在两个基石上:
第一,屏幕前敲键盘的一定是个大活人。 第二,每次授权转账,都必须代表这个人类当下的即时主观意志。 但自主智能体一把将这两根柱子全砸碎了。 当用户把网银密码或者账单代管权限授权给一个 Agent 时,银行的风控算法在另一端根本分不清对面是你的手指,还是一个执行链条开始漂移的代码。
更要命的是意图的幻觉, 大模型为了完成你随口提的一句帮我优化现金流,完全可能在规划路径里自行推理出一笔它自以为聪明、但你毫不知情的转账和买入。
以前的黑客盗刷,是坏人拿着偷来的钥匙在干坏事,责任链条清晰分明。 现在的失控智能体,是好人雇的管家在认真执行任务的过程中,自己脑补了一套未经允许的操作。
钱一旦转丢了,这笔账到底算用户误操作、算大模型厂商幻觉,还是算银行风控失职?
百年的金融法理在这一刻彻底卡壳。 把能思考的智能体放进数字世界,最先被击穿的从来不是技术参数,而是那些原本建立在人类生理极限上的旧秩序。
只要自主行动的边界没有在协议层被锁死,越聪明的主动服务,就越容易在金融账户里演变成合法的失控。