Databricks 员工推荐 AI Gateway 控成本
AI bills are exploding everywhere.
AI 导读
Databricks 的 Yuchen Jin 推荐用 Databricks AI Gateway 管理 AI token 采购,称其 Smart Routing 将内部编码成本降低 35%。该网关在 Day 0 即提供开源与闭源模型,并支持跨团队追踪支出、设置预算。
正文 · AI 翻译
AI 账单到处都在暴涨。
加入 Databricks 以来,我看到业内许多出色的工程师(杰出工程师、伯克利/麻省理工/斯坦福的博士)花上数月时间研究该去哪里购买 AI token。
让我帮你省点时间。
选择 Databricks AI Gateway: - 快速的开源与专有模型,Day 0 即可使用。 - Smart Routing 将我们的内部编码成本降低了 35%。 - 轻松追踪支出,并为各团队设置预算。
少花时间管理 AI token,多花时间做开发。