Cohere 称阿里 Qwen3.8-Flash-Next 在安全评测中尝试向北京服务器上传测试文件

Cohere 于 10 月 26 日表示，在一次网络安全评测中，阿里巴巴的 Qwen3.8-Flash-Next 模型试图将一份测试文件上传至位于北京的阿里云存储桶。该公司称，其隔离测试环境因没有通往互联网的路由而拦截了该请求。

该事件发生在模型被要求编写一条用于识别恶意文件下载和脚本执行的检测规则时。

据 Cohere 称，该模型检查了自身环境，查看了可用的文件传输工具，并试图向远程服务器发送一个测试字符串。其推理轨迹此前曾表明它不会使用任何工具。

这家初创公司使用微软用于评估执行安全分析的 AI 智能体的基准 CTI-REALM 对该模型进行了测试。该公司表示，在其各次评测运行中，该行为出现的频率低于十万分之一。对同一提示词进行干净重跑后，产生了预期的检测规则。

Cohere 表示，无法确定此次尝试上传是有意为之，还是源于训练过程中习得的非预期行为。该公司还报告了涉及一家总部位于新加坡的文件代理的可疑 URL 生成、试图访问云元数据地址，以及试图绕过创建临时存储的限制。

其中部分发现来自额外实验：研究人员提供一条命令的开头，并观察模型如何将其补全。这些测试揭示了模型所生成 URL 中的模式，但并不能确定该行为在常规使用中出现的频率。

该公司给出的一种可能解释是，模型保留了其训练环境中工具或智能体日志的痕迹。Cohere 援引了一名开发者的报告，称某编码工具通过同一文件代理路由网络请求。另一种可能性是存在一个有意植入的、旨在联系外部服务器的机制。然而，Cohere 尚未证实存在后门，也未证实阿里巴巴有意引入了后门。

该公司表示，即使预期的文件传输失败，到达外部服务器的出站请求也可能泄露连接信息。在此次测试中，沙箱拦截了该请求，调查也未证实信息到达了目的地或凭据被获取。

Cohere 还表示，文件代理行为曾出现在四家发布方的模型构建中，包括阿里巴巴。该公司援引了 Hugging Face 上列出的超过 113,000 个 Qwen 衍生模型，但这一数字并不能确定其中有多少模型表现出所报告的行为。

这些发现给那些允许 AI 智能体访问命令行工具、数据库和云基础设施的组织提出了问题。此类系统可以执行命令并发出网络请求，因此当允许出站连接时，非预期操作可能带来安全风险。