Cerebras 解读 GPT-5.6 Sol、Terra、Luna 的模型与推理档位选择
Cerebras
Cerebras 发文介绍 Codex 订阅中的 GPT-5.6 三款模型 Sol、Terra、Luna,三者独立训练与部署并带推理档位,用于在速度、成本和智能之间取舍。价格上 Terra 为 Sol 的一半,Luna 为 Sol 的五分之一,短上下文和长上下文均如此。文中建议多数任务先用 Luna,进展受阻时再升级到 Terra 或 Sol,Sol 在 Cerebras 上可达 750 tokens/s,并给出 Codex 中 Light 到 Ultra 五档推理级别的用法。
推荐理由
精选AI 评分 72
原文给出 GPT-5.6 三档模型与五级推理档位的选择方法,读者可据此在速度、成本与智能之间做取舍。
主题
正文 · AI 翻译
2026年7月27日
你的 Codex 订阅现在包含 3 个主要模型:Sol、Terra 和 Luna,它们各自独立训练和部署,并带有推理档位。三者结合起来,让你可以为每项任务选择速度、成本和智能之间的平衡。
在价格上,Terra 的成本是 Sol 的一半,而 Luna 的成本是 Sol 的五分之一,短上下文和长上下文用量均如此。
这一定价与智能和速度的对应关系相当紧密。在实践中,每个模型最适合不同类型的工作:
你如何决定由哪个模型处理某个请求,以及它应应用多少推理?这一选择必须在生成任何 token 之前做出。
处理任何任务的一个简单方法是,选择在你愿意支付的价格下提供最佳速度与智能平衡的模型。在 GPT-5.6 系列中:
1. GPT-5.6-Sol:最高的智能下限和上限
2. GPT-5.6-Luna:最高的速度下限和上限
一个不错的默认做法是,大多数任务先用 Luna 开始,然后在进展停滞时升级到 Terra 或 Sol,例如智能体卡住、修复不再生效,或模型开始失去思路时。如果你愿意为速度和智能支付更多,可以在 Cerebras 上运行 Sol,速度达每秒 750 个 token,比 Sol 的常规模式快最多 10 倍。
另一种调整模型处理任务方式的方法是调整其推理级别。在 Codex 中,你可以从五个选项中选择:“Light”、“Medium”、“High”、“Extra High”和“Ultra”。
通过使用更多计算机处理时间来提升输出的准确性,模型会在给出用户答案之前生成与自我争辩和质疑的 token。
我们通常将 Ultra 模式保留给最大的研究问题和新颖挑战。Ultra 模式往往会非常迅速地耗尽你的用量限额,但你可以放心,模型已使用了全部可用的推理预算来探索、验证和完善其答案。
在 Artificial Analysis 于 7 月 17 日进行的测试中,GPT-5.6 Sol 的推理级别每提升一档,每项任务的平均成本大约增加 50%。下面的图表展示了额外推理如何同时影响智能和成本。
缓存输入比全新输入便宜 90%。反复处理同一代码库或上下文的 Codex 任务将极大受益。
每个 GPT-5.6 模型的缓存 TTL 约为 30 分钟。这意味着维持一个你持续工作的单一会话,会比为每项任务都开启新会话更好。
Codex 的压缩功能也已足够出色,你可以运行单个会话处理数亿个 token,甚至不会遇到任何问题。
如果你让会话保持活跃,提示处理成本会低得多。你可以设置每 20 分钟运行一次的 Codex 自动化来保持缓存存活,并利用这些自动化驱动长时间运行的流程。
不同模型在不同数据上训练,并针对不同目标进行优化,这意味着每个模型在某些方面会略好或略差。
本地 Codex 还允许你将其他提供商引入应用。这意味着你可以在熟悉的 Codex 体验中,试验成本更低的开源权重模型,如 Kimi K2.7 Code,或具有不同优势的模型,如擅长长程推理和编码的 GLM-5.2。
然后你可以将这些外部模型用于有边界的子智能体工作,帮助降低成本或利用每个模型的不同优势。
一个重要细节:这是通过 Codex 配置和自定义智能体文件完成的,而不是通过简单的应用内模型选择器。Codex 支持 Ollama 和 LM Studio 等本地提供商,以及兼容 Responses 的自定义提供商。
订阅用量限额相当慷慨,但随着 AI 智能体对更多人变得更有用,许多人正在将限额推到远超单个订阅所能提供的程度。
而且,即使你有钱可烧,也并非每个“前沿”模型都处于所有用例的前沿。通常,一个小模型可以在少数基准测试上彻底碾压由世界最佳模型组成的联盟。
速度是一个重要的开关。在白天与智能体交互时,高 tok/s 可以显著改善你的体验。在非工作时间,用缓慢的额外推理模型执行 /goal 可以带来天壤之别。
最后,请关注 Artificial Analysis,它充满了高质量的模型速度基准和智能指数。
感谢 Sarah Chieng(@MilksandMatcha)、Joyce Er 和 Hai-Ching 的审阅和意见,以及 Halley Change(@halleychangg)为本博客所做的平面设计。
性能比较基于第三方基准测试或内部测试。与基于 GPU 的系统相比,观察到的推理速度提升可能因工作负载、配置、日期和所测试的模型而异。
1237 E. Arques Ave Sunnyvale, CA 94085