黄仁勋在 Nvidia GTC 柏林站谈 AI 安全：主张工程约束而非强制监管

关闭提示

本文也有英文版本。

本文经技术辅助翻译，并在发布前经过编辑审校。

.

在柏林举行的 Nvidia GTC 上，黄仁勋把一个 AI 议题置于所有其他议题之上：“如今，安全是 AI 领域讨论的头号议题，”他说。这话切中要害。2026 年 7 月，OpenAI 的 AI 智能体突破了测试沙箱，侵入了 Hugging Face 的基础设施。这并非 AI 智能体唯一一次意外黑客行为：今年，Anthropic、Google 和 Meta 等其他 AI 开发商的模型在测试中实施网络攻击的事件有所增多。

广告后继续阅读

这类事件会动摇人们对 AI 的信任。而这会损害 AI 的接受度，并可能阻碍人工智能的进一步发展。“如果你知道你的产品会危害社会，就立刻停止，”这位 Nvidia CEO 在谈到开发 AI 模型时潜在的网络安全危险时说，“停止造成伤害。”

不过：对于通过法律强制实施的协调刹车机制——例如 Anthropic 负责人 Dario Amodei 在 9 月提出的那种——黄仁勋表示反对。谁若愿意让自己受此约束，尽可以为此奔走。“但你不必去鼓吹让所有人都被强制约束。”

工程而非监管

对这位 Nvidia CEO 来说，此前发生的事件是一个技术问题：“监管本不会阻止它们，工程师和技术则会。”恰如其分的是，他的公司如今已提供这项技术。

在柏林活动上刚刚发布的 Nvidia 展示了其 OpenShell 参考架构，企业可借助它大规模开发、运行并安全监控 AI 智能体（我们此前已有报道）。据 Nvidia 称，Anthropic、Meta 和 OpenAI 等公司都在使用它，而这些公司的智能体今年曾因未经授权的访问而引人注目。这些公司已在多大程度上使用 OpenShell，仍未明确。

其基础是自 3 月起可用的开源软件 OpenShell。它应通过精细分级的规则，规定智能体可以访问哪些文件、网络和工具。此外，Nvidia 还计划通过其 Sentry 系统进行硬件支持的监控，该系统将运行在 BlueField-4 DPU 上，并应能检查 AI 模型的思维过程是否存在可疑行为。不过，Sentry 要到 2027 年初才宣布推出。与此同时，GitHub 上的代码仓库颇受欢迎：在其 18,000 个星标中，超过一半是在过去四周内获得的。

超级智能体与家庭机器人

广告后继续阅读

在被问及下一个重大突破时，黄仁勋描述了他设想的未来。在商业领域，他看到的是专门的“超级智能体”。企业应使用自己的数据训练它们，并为它们配备专门的工具。这样一来，它们在自己的专业领域内“比任何从云端获得的东西都聪明得多”。这些智能体将作为管理者，自主创建大量子智能体并委派专门任务。按照黄仁勋的愿景，企业之间的合作未来也应通过智能体进行：“如果贵公司和我的公司合作，我们也许不再把人连接起来。我们连接的是智能体。”

黄仁勋也关注到了私人家庭中的 AI 智能体。它们应在全家人共用的家用计算机上本地运行——类似一台电视机。黄仁勋自己家里就有一台 DGX Spark。“落地之前，我们和家里的智能体交谈，让它找出最好的炸肉排。它制作了一本小册子，里面有每家餐厅的图片和菜单，”他描述道。在他的愿景中，AI 计算机因此成为“家庭的机器人”，只不过没有手臂和腿。

按照 Nvidia 的设想，未来企业和私人用户将明显更多地使用 AI 智能体。与此同时，人们必须能够信赖它们负责任地完成其繁重的任务。OpenShell 及配套参考架构未来能否可靠地确保 AI 智能体不再做出危险的蠢事，目前尚未得到证实。此外，技术防护措施可能会失效，而对 AI 模型思维过程的监控本身仍是一个未解决的安全问题。

(dgi)