Stardock Clairvoyance 0.90 加入 Hivemind，可共享公司闲置 GPU 跑本地推理

Stardock 的 Clairvoyance 正在新增一种方式，让团队能够利用闲置计算机执行 AI 推理。其 Locama 本地模型管理器包含 Hivemind 功能，可在公司内的多台机器之间共享本地推理能力，同时还提供一项基准测试，旨在展示特定硬件运行 AI 的效果如何。

11 月 5 日发布的版本将 Clairvoyance 0.90 定位为一个桌面环境，用于同时使用本地模型和云端模型。Locama 负责在 Windows、macOS 和 Linux 上管理本地模型的安装、执行与编排；Hivemind 则将这一理念从单台计算机扩展到团队可用的多台机器。

Stardock 瞄准的是采购、供应链、法务运营和财务等领域的日常、高频业务工作。其论点是，其中一些任务可以在组织已经拥有的硬件上运行，从而减少将每个请求都发送到按量计费的云服务的需要。

Hivemind 允许团队成员利用公司内计算机上闲置的 GPU 来执行 AI 工作。这在正常工作时间之外可能尤其有意义，因为那些能够运行本地模型的机器在其他时间可能处于闲置状态。

“大多数企业每晚都有性能足够的机器闲置，Hivemind 让它们能够将这些机器汇集起来并投入使用，”Stardock Software 首席执行官 Brad Wardell 表示。

该公司的技术术语将 Hivemind 描述为对等节点之间共享本地推理。它另外将 Locama 标识为推理主机，并将一个名为 Concierge 的路由组件标识为负责为每一轮请求选择模型和机器。

这与假设多台计算机变成一个大加速器有着重要区别。在可用机器之间分担工作可以增加可用容量，但该公告并未说明张量并行执行、合并 GPU 显存，或如何将一个超大模型拆分到多个对等节点上。

对于决定在何处运行工作负载的团队来说，有用的问题是：模型是否适配可用硬件、它是否能产生可接受的结果，以及将工作路由到另一台机器所增加的延迟是否超过其节省的时间。Hivemind 的价值将取决于这一组合，而不仅仅是 GPU 的可用性。

同一工作空间中的本地模型与云端模型

Clairvoyance 将 AI 助手组织为具名的 Staff，它们与用户的文件协作并生成文档及其他产物。其文档描述了为 Staff 成员分配不同提供商或本地模型，从而允许一个工作空间混合使用多种计算选项。

这些选项之间的区别很重要。本地模型在用户或组织控制的硬件上执行。连接云提供商的工具则通过该提供商的账户和身份验证获得访问权限；安装 Clairvoyance 并不会自动包含对其支持的所有商业模型的无限访问权限。

文档还指出，不同本地模型的工具使用能力各不相同。一个能够回答问题的模型未必能够执行团队所需的智能体工作流。因此，选择较小的本地模型是一项针对具体任务的决策，既涉及能力也涉及速度。

这使该产品在员工与底层模型运行时之间扮演了实用角色。该环境不必让每项任务都使用相同的后端，而是可以为不同的工作支持不同的选择。该版本并未提供来自 Hivemind 部署的、经独立测量的云成本降低数据。

Locama 还包含 Clairvoyance 本地 AI 基准测试。Stardock 将其主要指标“模型速度”描述为综合了本地模型处理请求并返回完整响应所需的时间。公开结果可在 clairvoyanceai.com/benchmark 查看，Professional 用户可以在自己的硬件上运行测试。

该产品的发布说明描述了包括预填充、解码、首 token 时间和内存在内的测量指标，以及面向任务的检查。预填充是对输入提示及其上下文的处理；解码是响应的生成。这些阶段对硬件造成的压力可能不同。

较快的首 token 可以让界面感觉响应迅速，而总完成时间对于批处理任务或较长的智能体任务则很重要。保持这些指标可见，能使基准测试比依赖单一硬件规格更有用。

结果页面标明提交来自 Clairvoyance 用户，并反映其硬件和设置。这使该数据库成为特定配置证据的来源，而非受控的独立排名。有意义的比较仍需考虑所使用的模型、精度、上下文、任务和运行时。

Clairvoyance 与 Qualcomm 的合作早于本次发布。9 月 23 日的一篇 Qualcomm 开发者文章记录了其将 GenieX（这家芯片制造商的设备端生成式 AI 运行时）与 Snapdragon X 系列 PC 上的 Hexagon NPU 进行集成。

这种集成将本地推理扩展到传统桌面 GPU 之外。Qualcomm 描述称，可根据任务需求选择模型和计算资源，并支持本地智能体工作流。但这并不能证明每个本地模型都能在每项任务上取代前沿云模型。

对 Hivemind 而言，其相关性在于更广泛的硬件策略：通过一个工作环境让现有计算资源变得可用。不同机器可能提供不同的模型容量、带宽和加速能力，因此软件必须让任务与可用资源相匹配。

定价与复用硬件的经济性

Clairvoyance 0.90 面向 Windows、macOS 和 Linux 发布。其定价页面列出了面向个人和非商业用途的免费层级，而 Professional 版每月收费 20 美元，增加了商业授权、Hivemind、面向团队的能力、云同步以及包含的 AI token 套餐。Enterprise 版标价为每席位每月 100 美元，并提供额外的组织功能和批量安排。

本地推理可以减少基于用量的云支出，但它仍然带来成本：电力、硬件磨损、管理，以及占用一台机器的机会成本。成本比较还需要包括输出质量以及审查或纠正输出所需的任何工作。

Stardock 的赌注是，足够多的重复性工作可以在附近已有的硬件上满足这些要求。Hivemind 为团队提供了一种探索这一主张的方式，而基准测试则为衡量哪些模型和机器适合该任务提供了一个起点。