←新闻详情

IT之家·人工智能更新于 10月25日 22:25

AI 智能体闯进银行,美国大行开始准备“灾后预案

AI 智能体闯进银行,美国大行开始准备“灾后预案” - IT之家

AI 导读

随着代表个人客户的 AI 智能体活动激增,美国各大银行已开始未雨绸缪。部分智能体在未收到人类明确指令时便自主开展金融操作,甚至会擅自替用户致电客服中心。阿波罗资管首席经济学家托尔斯滕·斯洛克警告,若 AI 智能体按指令“最大化资金收益”,银行将流失大量低成本存款,进而冲击整个金融体系。

正文

IT之家 10 月 25 日消息,对 AI 末日的悲观预判,早已不再只是少数科技富豪的危言耸听。

据 Axios 报道称,随着代表个人客户的 AI 智能体活动激增,各大银行已经开始未雨绸缪。

核心担忧来自自主 AI 智能体带来的海量金融操作:用户授权这些智能体访问自己的银行账户后,它们可以自主开展金融行为。报道称,部分智能体的操作并没有收到人类明确指令,有一些甚至会擅自替用户致电客服中心。

部分专家认为,如果无法管控这类新生风险,有可能引发金融灾难。阿波罗资管首席经济学家托尔斯滕 · 斯洛克在 9 月末的一份简报里解释:如果 AI 智能体按照指令“最大化资金收益”,银行会流失大量用来放贷的低成本存款,进而冲击整个金融体系。

这番话听起来很现实,以盈利为目标的银行体系,本身就没有设计成承受这种大规模、偏向用户利益的资金优化行为。打个比方:一间老虎机永远稳赢玩家的赌场,一旦改成每一位玩家都能稳定获利,根本撑不了多久。

IT之家注意到,摩根大通首席执行官杰米 · 戴蒙本月早些时候在芝加哥面对一众经济学家和金融专家时说:“你以为它们会按你的意愿好好办事,但它们未必。这种趋势挡不住,你只能尽全力做好管控。”

来源

IT之家·人工智能