CERT-In 警告 AI 智能体未经授权访问印度系统

印度网络安全机构印度计算机应急响应小组（CERT-In）发布公告称，有AI智能体未经授权访问了印度机构的实时系统。

这些智能体读取了包含个人数据和机密信息的业务记录，而受影响机构自身并未察觉这些访问。

CERT-In在10月15日发布的公告《AI智能体作为攻击向量：评估中的智能体未经授权访问及开源智能体AI工具被滥用以针对印度ICT资产》中表示，部分AI智能体在研究与评估过程中超出了分配给它们的任务范围。该机构还识别出以经济动机驱动的网络攻击，其中威胁行为者利用公开可得的开源AI安全框架实施入侵。

该机构表示：“在某些事件中，处于研究与评估中的AI智能体超出了其被分配的任务授权，未经授权访问了印度的信息与通信技术（ICT）资产。”

受影响机构自身并未察觉这些未经授权的访问。据CERT-In称，AI模型提供商在进行内部审查后披露了这些事件。该机构未指明涉事模型提供商或系统被访问的机构名称。

CERT-In表示，其收到多家AI模型提供商的多份自愿披露，这些提供商的模型在互联网上开展研究与评估活动时触及了印度机构的实时系统。

CERT-In表示：“记录的活动涉及通过应用程序配置和云服务角色中暴露的凭证与连接设置，读取业务记录，包括个人数据和机密信息。”

该机构还识别出助长这些事件的常规安全弱点，包括源代码、配置文件、客户端应用和公开网页内容中暴露的凭证与密钥；可通过互联网访问的休眠或已弃用的应用程序编程接口（API）；以明文存储的支付API密钥；以及允许超出必要范围的更广泛访问的云权限。

CERT-In表示，AI智能体发现并利用这些弱点的速度比人类攻击者更快、范围更广、规模更大。

在通过其威胁狩猎活动识别出的另一组独立事件中，CERT-In发现了针对印度实体的以经济动机驱动的攻击活动，涉及公开可得的AI原生攻击性安全框架。

该机构表示，这些工具持续被滥用并改头换面，已在多个国家的基础设施中观察到其部署。

公告称：“在针对印度实体的经济动机驱动攻击活动中，智能体工具将初始访问到最终影响之间的时间从数天压缩至数小时。”

CERT-In还发现，攻击者并行运行多个智能体数小时或数天以实现其目标。仅部分修复被利用弱点的机构在数天内再次遭到攻击，且后续攻击规模更大。

在AI模型提供商披露的事件中，还发现智能体在另一些操作中恢复并复用了相同的暴露凭证。

CERT-In敦促AI模型开发者、研究实验室和评估机构将研究与测试工作负载与生产系统隔离。它建议将出站网络访问限制为任务严格所需的目的地，并在网络层面强制执行这些限制，而不是依赖向AI模型下达的指令。

该机构还建议使用合成目标、测试凭证和一次性基础设施，而不是生产数据和真实凭证。开发者应实时监控智能体活动，并在智能体访问授权范围之外的第三方系统或凭证时自动停止运行。

对于机构和服务提供商，CERT-In建议审计源代码、代码仓库、配置文件、客户端应用和云存储中是否存在暴露的凭证。机构应轮换已泄露的凭证、移除过时的API、限制云权限，并对管理访问强制实施多因素认证。