什么是开放权重 AI 模型？

你可能在使用聊天机器人时，并不会去想背后是谁在控制这个模型。然后一次更新改变了它的回答方式，或者你想让它帮你处理一些你更愿意留在自己电脑上的私密事情。

开放权重模型让你可以下载预训练好的 AI 并自行运行。你需要软件来使用它，还需要一台能带得动它的电脑，但你能保留一份可用的副本。虽然聊天机器人最受关注，但图像和视频生成器也可能有开放权重的选项。

不过，下载一个 AI 模型并不一定就给了你不受限制的许可，也不一定会揭示它是怎么做出来的全部信息。当然，你在如何使用 AI 上获得了更多自主权，但“开放”这个词仍然留下了很多没说清的地方。下面介绍什么是开放权重模型、你能用它做什么，以及在自己尝试之前需要考虑什么。

更多来自 CNET

什么是开放权重模型，它们如何工作？

在聊天机器人中，AI 模型就是生成答案的软件。在训练过程中，模型通过调整数十亿个称为神经网络权重的数值来学习模式。当你提问时，模型利用你的提示词和这些学到的模式来预测接下来应该出现什么文本，并逐段构建出答案。

闭源模型的开发者，包括 ChatGPT 和 Claude 背后的开发者，都将其权重保密。开放权重模型则将其训练好的权重公开提供。这意味着你可以下载它们，并使用兼容的软件运行自己的副本。

“每当一个模型开放权重，所有权重就会散布在互联网各处，比如 Hugging Face 和其他服务器上，”AI 公司 Mistral 的科学副总裁 Pierre Stock 对 CNET 说。“所以实际上几乎不可能切断对这个模型的访问。”

借助免费的模型和应用，你可以在本地聊天，无需订阅或使用费。更重要的是，完全本地的设置还能让你的提示词和文件不经过 AI 提供商的服务器。

如果你不熟悉技术也不用担心，因为你不必编写代码或打开终端就能做到。LM Studio、Ollama 和 Jan 等桌面应用让你只需简单安装就能下载并运行开放权重模型，在你的 Mac 或 PC 上直接提供类似 ChatGPT 的界面。你仍然需要一台能带得动你所选模型的电脑。一切安装完成后，你就可以离线继续聊天。

如果你知道怎么做，还可以在许可证允许的情况下通过进一步训练来调整模型。你不必从头训练一个全新的模型。

开放权重与开源

人们经常把这两个词混用，但它们的意思并不完全相同。一个开放权重模型也可以是开源的，但仅发布权重并不符合开源促进会（Open Source Initiative）的定义。

开发者必须分享用于训练和运行它的代码。他们还必须提供足够的训练数据信息，让有技能的人能够构建出一个运作方式大致相同的模型。相关条款必须允许人们使用、研究、修改和分享它。

按照 OSI 的定义，开发者不必分享他们用于训练模型的数据。自由软件基金会表示，这应当成为协议的一部分，用户应能自由使用和修改这些数据。

一些开放权重许可证限制商业用途，这意味着一个模型可能可以免费下载，却不能用于你想出售的应用。这种限制会让它不符合 OSI 的定义。开源许可证仍然可以要求你在分享自己修改过的版本时保持相同的条款。

James Martin/CNET

哪些模型拥有开放权重？

在独立 AI 测试公司 Artificial Analysis 的开放权重模型智能排名中，中国模型目前处于领先地位。你可能已经知道 DeepSeek，但还有 Moonshot AI 的 Kimi K3 和阿里巴巴的 Qwen3.8 系列，它们都提供可下载的权重。

一些美国替代品来自那些知名聊天机器人背后的公司。OpenAI 在 ChatGPT 之外单独提供 gpt-oss 模型，谷歌则有 Gemma 模型。Meta 有 Muse Glimmer，并在其 Llama 模型之外增加了 Muse Spark Open，英伟达则有 Nemotron。

你也不必局限于聊天机器人巨头。美国初创公司 Reflection 发布了 Beam，其权重现在可供下载。另一家美国初创公司 Thinking Machines Lab 提供其模型 Inkling。

欧洲有法国的 Mistral AI 作为竞争者。其可下载模型包括 Mistral Large 3 和较小的 Ministral 3 系列。名为 Le Chonk 的较新 Mistral Large 4 现已推出，并提供可下载的权重。

这里提到的并非每个模型都能在笔记本电脑上运行。一些较大的模型需要服务器硬件，而较小的版本可以在个人电脑甚至手机等更小的设备上运行。

有哪些局限？

开放权重模型在你的笔记本电脑上离线运行时仍然可能产生幻觉。它也可能带有训练中产生的偏见。开发者可能发布权重但将训练数据保密，使外界无法完全核查其中包含的内容。

性能因模型和任务而异，所以仅凭开放性并不能告诉你它是否会胜过闭源替代品。

修改模型的自由也意味着人们可以削弱或移除其安全防护措施。

“护栏对于开放权重模型是必要的，”Stock说。当我问及如果人们在下载模型后可以移除这些保护措施，该如何保证安全时，Stock说：“通过大量工作，你可以部分绕过护栏，”并将这样做的难度与自己微调模型相提并论。

一旦人们下载了副本，原始开发者对后续发生的事情控制有限。公司可以切断某人对其在线服务的滥用，而发布更安全的替代品也不会更新每个人的下载。

然而，这些同样的下载让独立研究人员能够更仔细地检查模型并找出缺陷。研究人员可以自己测试更改，而不必依赖开发者来调查投诉。

在有关美国可能对中国模型实施限制的报道之后，微软和其他公司在捍卫开放权重的一封公开信中引用了这一好处。他们主张，保持这些工具可用有助于安全团队防御使用AI的攻击者。

“当你开放权重一个模型时，你本质上是在让整个生态系统共同进步，”Stock告诉CNET。

Google/CNET

开放权重模型对你有用吗？

开放权重模型可以起草电子邮件、总结文档、分析本地文件并帮助编码，就像云模型一样。然而，当你在本地运行一个模型时，它的速度和处理长文档的能力取决于模型以及你计算机的内存和处理能力。

较大的模型通常在有充足内存或强大GPU的计算机上运行得更流畅，比如配备16GB或36GB RAM的Mac，不过较小的模型可能在8GB的Mac上也能运行。

如果你已经拥有必要的硬件，那么值得考虑安装一个开放权重模型。但如果你必须买一台新电脑来运行它们，请权衡这一成本与每月20美元的云模型订阅费。

你也可以通过开发者自己的网站使用一些开放权重模型，由他们为你运行，比如DeepSeek和Kimi。这比自己下载和运行模型省事，但你的提示词会发送给提供商。

如果你只是偶尔需要帮助写邮件，并且不介意使用在线服务，那么托管聊天机器人可能就很适合你。ChatGPT、Gemini和Claude都有免费计划，所以避免订阅并不一定需要运行你自己的AI。

开放权重让你可以选择更多地自己掌控，更不用说将敏感文档保留在你的设备上。一个在你无法访问互联网时仍能继续工作的助手听起来很棒。能够在你喜欢的模型的开发者停止在线服务后仍保留该模型也是如此。

“你不想生活在一个有人可以切断你模型访问的世界里，”Stock说。

随着开放权重模型被安装到更小的设备上，未来也看起来很有希望。谷歌的Gemma模型包括适用于手机和笔记本电脑的较小版本。Mistral也有类似的一系列模型，包括针对特定用途和设备设计的专用模型。

“例如，我们还有专门针对音频的模型，”Stock说，“而那些模型真的可以装进智能手表里。”

Barbara Pazur

撰稿人

Barbara是一位专注于AI和新兴技术的科技作家。凭借在软件开发领域担任系统图书馆员的背景，她为报道带来了独特的视角。Barbara曾在美国和爱尔兰生活，现居克罗地亚。她报道人工智能和科技创新领域的最新动态。她的作品借鉴了多年在科技及其他领域的经验，将技术专长与对技术如何塑造我们世界的热情融为一体。