AI News

美联航禁止第三方 AI 智能体访问其订票系统

Computerworld更新于 11月13日 09:40

United Airlines becomes the latest enterprise to shut its door to customer bots

AI 导读

美联航宣布限制未经授权的第三方个人 AI 智能体或助手访问其数字平台,并通过旅行社和聚合商间接封堵,同时更新订票、出票和分销政策。美联航称此举是为防止数据泄露、非预期购买以及违反 FAA 和 DOT 相关规定,此前沃尔玛、Target 和亚马逊已采取类似行动。分析人士认为,企业真正担心的是责任归属不清和智能体数量激增带来的 IT 负担,未来可能以企业可控的授权渠道重新开放。

推荐理由

AI 评分 65

美联航封禁第三方 AI 智能体,与沃尔玛、Target、亚马逊的做法并列,呈现企业限制智能体访问的不同路径。

主题

标签

正文 · AI 翻译

美联航周三成为最新一家封堵客户机器人(bot)的企业,此前沃尔玛、Target 和亚马逊也采取了类似举措。

这家市值 590 亿美元的航空公司是全球第二大航空公司,其表示此举是出于对数据泄露、非预期购买以及违反联邦航空规定的风险的担忧。

但行业观察人士表示,更令人担忧的商业风险在于,围绕 AI 缺乏行业标准化,同时来自主要 AI 厂商和 AI 初创公司的机器人数量不断增加。他们担心,支持客户使用的多种机器人可能会对 IT 资源造成近乎无限的消耗。不过,他们表示,严格执行的行业标准可能会说服一些企业重新考虑其抵制机器人的立场。

美联航的声明称:“美联航正在采取措施限制访问——直接在我们的数字平台内,以及通过旅行社和聚合商间接进行——以禁止未经授权的第三方个人 AI 智能体或助手使用。这项工作包括更新我们的订票、出票和分销政策。”

声明指出,银行和零售行业的企业领导者已就 AI 智能体采取了类似行动,并表示:“我们鼓励其他企业考虑采取措施,保护客户的数据和安全,并加强安全性。”

该航空公司列举了其试图避免的机器人带来的各种问题,包括客户“与个人第三方 AI 助手”共享账户凭证的相关风险,“这可能泄露敏感信息,而这些工具采取的操作可能导致非预期购买、账户变更或使用 MileagePlus 里程”。

声明还提到了监管挑战:“这些自动化 AI 操作有可能违反 FAA(美国联邦航空管理局)和 DOT(美国交通部)的规定”,例如要求值机时须由人工确认行李中不含爆炸物等违禁物质的规定。

不过,该航空公司向行业发出了明确信号:如果有足够的改变,它愿意重新考虑这一禁令。声明称:“随着个人 AI 助手的发展,美联航将继续评估这些工具如何与我们的服务交互,重点是保护我们的客户。”

将人类与机器人区分开来

企业对智能体的一个更大担忧是,由于智能体使用的是客户的凭证,机器人活动通常无法与人类客户的活动区分开来。分析师表示,解决这一问题最干净的办法就是直接为机器人分配其自己的凭证。

上个月,沃尔玛接近了这一目标,推出了一项计划,定于本月开始实施,旨在区分机器人和人类操作。

其公告称:“如今,当客户使用 AI 智能体时,它使用客户的账户登录。这意味着所有购买——无论是客户还是智能体进行的——都会一起显示,没有任何区分。”“Agent Profiles 将于下个月推出,将为客户提供新水平的透明度。客户将能够在自己的账户内为每个 AI 智能体授权一个专用配置文件,这样客户就能将智能体的购买与其他购买分开查看。”

另一方面,Target 在近期对其条款和条件的变更中封堵了除少数获批智能体之外的所有智能体,仅允许 Target 的 AI 购物助手、OAI、Google 和 Microsoft 访问,不过其表示可能会“随时自行决定增加、移除或以其他方式修改获批智能体名单”。

其表示,任何其他智能体商务工具“均属未经授权、明确禁止,在任何情况下都不得用于访问、登录、抓取、查询或以其他方式与本网站交互或从中收集数据,无论是直接进行、通过 API 调用、自动使用用户凭证还是其他方式”,且未经 Target 书面明确批准,获批智能体不得与未经授权的智能体结合使用。

降低风险

尽管分析师和顾问一致认为,他们预计会有更多企业封堵外部机器人访问,但对于这些封堵是否会在实质上削弱自主智能体的价值,尤其是那些进行购买、订购机票或执行相关礼宾功能的智能体,他们的看法不一。

Dickson Research 首席分析师 Frank Dickson 表示:“封堵并不会摧毁智能体的价值。它只是转移了价值。每堵墙最终都会有一扇门。这扇门是要收费的。”

他指出,美联航自己的措辞就指向了这一点:它禁止未经授权的智能体,从而为经授权的智能体留下了空间。“预计智能体访问将通过企业控制的渠道、按企业的条件回归,”他说。“谁拥有智能体,谁就拥有客户关系。航空公司花了多年时间把客户从第三方旅游网站拉回来。他们不会把这种关系交给别人的聊天机器人。”

他补充说,企业只是在试图降低风险。

“企业并不害怕机器人。他们害怕的是没有人承担的责任,”Dickson说。“一旦规则明确规定哪些步骤必须由人工完成、哪些步骤可以由智能体执行,以及每一步如何记录,总法律顾问就可以批准部署。正是模糊不清让机器人卡在试点阶段。”

他指出,让数量不限的各种智能体前来访问,其复杂性带来的风险太大。

“海量的智能体意味着海量的请求。每一个请求都得有人买单,”他说。“每个新智能体都带着自己的登录方式、自己对客户已批准事项的理解,以及自己的行为记录——如果它还会保留记录的话。航空公司不可能为每一个智能体单独开一扇门。谁都不该指望它这么做。在市场稳定下来之前一律拒绝,是一个合理的风险决策。反复查价的机器人并不会多买座位。”

Digital 520首席顾问Noah Kenney补充说,美联航的禁令没有坏处。

“美联航所处的境地是:存在重大风险,商业上行空间不确定,而且几乎没有竞争压力迫使它接受其中任何一项,”他说。“在这种处境下,他们可以采取这样的做法:先等待机器人行为的法律后果变得更加可预测,然后再允许其访问。”

需要设定限制

Kenney说,他最担心的问题之一,是对机器人能做什么缺乏有效限制。

“我在企业AI部署中看到的最大错误之一,就是赋予智能体访问远超其职责实际所需的信息和系统的权限,”Kenney说。“一个被指示只能访问某一个系统的智能体,与一个在技术上根本无法访问其他任何系统的智能体,有着根本区别。我们不应该赋予智能体宽泛的能力,然后指望它们自我克制。”

因此,咨询公司Acceligence的首席执行官Justin Greis表示,他预计会有更多公司在建立机器人使用管控措施的同时对其实施限制,并指出“大范围封堵会阻止智能体跨服务完成任务,从而降低其价值。”

他补充说,对客户进行关于机器人现实情况的培训也可能相当有帮助。

“人们需要明白,即使他们从未亲自点击‘购买’、‘发送’或‘确认’,他们通过智能体授权的操作仍然可能为他们产生义务,”Greis说。“我预计这里会出现一次重大的文化转变:正如人们在网上可能会说出面对面绝不会说的话,智能体也可能在人的选择与其责任感之间制造类似的距离。”

来源

Computerworld