Hugging Face 发布 AnyLanguageModel 1.0，统一 Apple 平台本地与托管模型调用

可直接替换的兼容 API

随后，同一套会话代码即可用于系统模型、通过 llama.cpp、MLX 和 Core ML 运行的开放权重模型，以及下方列出的托管服务商。

过去一年中，我们新增了多项重要功能：

工具调用适用于所有服务商。

引导生成同样适用于所有服务商，包括嵌套的 @Generable 类型及其数组。

图像支持让你可以使用 Foundation Models 27 的语法将图像附加到提示词中，包括在 iOS、macOS 和 visionOS 27 上使用系统模型时。

在 OS 27 上，AnyLanguageModel 还可与任何符合 Foundation Models 的 LanguageModel 协议的模型配合使用，包括 Core AI 模型。

除 AnyLanguageModel 之外，我们还构建了 swift-huggingface 和 swift-xet，将 Hub 的加速模型下载功能引入 Swift 应用。

托管模型同样支持

今年对托管模型的支持也有所扩展。AnyLanguageModel 现在支持：

Open Responses，适用于任何具有兼容端点的服务商

Anthropic 的 Messages API，支持自适应思考和 effort 选项

Google 的 Gemini API

Ollama

Private Cloud Compute，在 OS 27 上

Hugging Face Inference Providers，以及通过自定义基础 URL 接入的其他 OpenAI 兼容端点，例如 OpenRouter

借助 Inference Providers，你可以使用因体积过大而无法在设备上运行的开放权重模型，且会话代码保持不变：

托管服务商享有与本地模型相同的功能：引导生成、带流式传输的工具调用，以及响应中的 token 用量。

推理内容现在也成为转录的一部分。当你切换服务商时，如果新服务商无法重放推理块，这些推理块会自动从请求中省略。

API 密钥来自闭包而非字符串，因此你的应用可以从自己的服务器获取短期令牌。README 说明了何时应让用户自带密钥，以及何时应通过代理路由请求。

AnyLanguageModel 也可在 Linux 上运行，因此同一套代码可用于服务器。

开放权重模型变得更强

在我们让本地模型更易用的同时，模型本身也变得更加强大，使小模型成为一个不错的起点。以下是目前 Hub 上下载量最高的一些模型：

来自 Google 的 Gemma 4 E2B，GGUF 格式，采用量化感知训练，Q4_0 下约 3.4 GB。

来自 Liquid AI 的 LFM2.5 2.6B，GGUF 格式，Q4_K_M 下约 1.7 GB。

来自阿里巴巴的 Qwen3.8 27B（MLX 版），4 位量化下约 16 GB。

前两个模型可在 iPhone 上运行，Qwen3.8 27B 可在配备 32 GB 或更多内存的 Mac 上运行。选择 MLX 模型只需一行代码：

如果你手头有四台顶配 Mac Studio，来自 Z.ai 的 GLM-5.3 在 BF16 下约需 1.5 TB。对于其他人来说，可以通过 Inference Providers 使用它。

升级到 1.0

如果你要升级现有应用，请参阅 AnyLanguageModel、swift-huggingface 和 swift-xet 发行说明中的迁移指南，以帮助更新代码。

社区反馈和贡献塑造了我们的多项重要功能。感谢所有贡献者帮助 AnyLanguageModel 对应用开发者更加实用。

下一步

语言模型已被证明是为产品注入智能的强大工具。它们也是开发者可以使用的众多模型类型之一。我们很高兴将同样的方法扩展到更多能力：熟悉的 Swift API，以及可在设备上运行的多种模型选择。即将推出：能够决策的模型，以及能够聆听的模型。

链接

GitHub 上的 AnyLanguageModel

GitHub 上的 swift-huggingface

GitHub 上的 swift-xet

隆重推出 AnyLanguageModel

隆重推出 swift-huggingface

本文提到的模型 4

LiquidAI/LFM2.5-2.6B-GGUF

google/gemma-4-E2B-it-qat-q4_0-gguf

mlx-community/Qwen3.8-27B-4bit

zai-org/GLM-5.3

来自我们博客的更多文章

Jun Kim，oMLX 创建者兼维护者，加入 Hugging Face 以支持 MLX 社区

你本会自己提交的那个 PR