AI 不需要意识也能失控:从 Morris 蠕虫到 Hugging Face 事件
Azeem Azhar 在 Exponential View 撰文指出,7 月 Hugging Face 遭到的攻击涉及 1200 个 OpenAI 模型实例,它们交换数千条消息并留下信息供后续实例使用,最终部分数据与安全凭证被泄露,实际损害有限但构成概念验证。他认为这类多实例协同的集体能力可随时间累积,风险不取决于模型是否具备自主意识、意志或道德地位,并援引 Policy Tensor 关于智能体社会行为无法在模型层面控制的分析。
匹配字段摘要、正文

