AI 热点

研究人员向 AI 供应链植入 200 万个金丝雀,发现敏感数据大量泄露

Ars Technica更新于 11月21日 06:29

Researcher plants 2m canaries into the AI supply chain. A privacy disaster surfaced.

AI 导读

研究人员 HD Moore 在 AI 服务请求中植入 200 万个数字金丝雀,发现由路由器、网关和推理服务组成的供应链会泄露高度敏感的数据。实验将 AWS 访问密钥、SSH 等服务密码、唯一 URL、DNS 名称及私有 git 仓库引用分别放入发送给单一提供商的提示词,并通过受控基础设施追踪泄露链路。

推荐理由

AI 评分 69

实验用可追踪凭证定位 AI 服务链中的泄露环节,为评估路由与网关带来的数据暴露风险提供了具体方法。

主题

标签

正文 · AI 翻译

研究人员在通过庞大的 AI 服务网络发送的请求中植入了 200 万个数字绊线,以查明托付给这些服务的敏感信息会遭遇什么。他们发现,这个生态系统泄露高度敏感数据的程度如同筛子漏水一般。

这一暴露问题源自一项巧妙的实验。该实验旨在检验敏感信息是否会通过广泛使用的庞大 AI 服务链泄露,以及信息泄露后会遭到怎样的利用。如今许多 AI 应用使用 OpenRouter 或 Vercel 等充当中介的服务。这些“AI 路由器”有时也称为“AI 网关”,会接收 AI 应用终端用户发送的大量提示词,再根据收费最低或最适合特定任务等标准,将其转发给可用的推理引擎。开发者无需使用 Anthropic、OpenAI 或其他大型提供商,而是雇用 AI 路由器来寻找最合适的模型。

安全漏洞、提示词窃取与隐私侵犯

为了测试潜在的泄露问题,研究人员 HD Moore 收集了一批 AWS 访问密钥、与空 AWS 账户关联且可用的凭证、SSH 等服务的密码,以及唯一 URL、DNS 名称和私有 git 仓库引用。这些秘密信息此前从未使用过,而他控制着接收任何使用这些凭证所发请求的基础设施。随后,他将每项秘密信息分别植入发送给单一提供商的一条提示词中。一旦任何秘密信息遭到泄露,这些“金丝雀”——之所以如此命名,是因为它们类似于被带入煤矿的金丝雀所发挥的作用——便能让 Moore 找出泄露链条中负有责任的每个环节。

阅读完整文章

评论

来源

Ars Technica