←新闻详情

The New Stack更新于 10月30日 14:12

Sam Altman 曾考虑放弃 token 定价,因客户反对而作罢

Sam Altman almost scrapped token pricing. Here’s why he backed off.

AI 导读

OpenAI CEO Sam Altman 透露,公司曾考虑对下一代模型放弃按 token 计费,改为开发者提交提示词后直接返回一个价格、类似 AWS 的账单模式,但因客户反馈极为负面而放弃。客户表示需要知道自己在为什么付费,甚至宁愿接受 token 数量虚高、支付更高费用,也要保留可核对的计费明细。Altman 承认 token 是“某种虚假的单位”,并非好的计量方式,但目前 OpenAI 仍沿用 token 定价。

正文 · AI 翻译

OpenAI CEO 萨姆·奥尔特曼表示,OpenAI 曾考虑为其下一代模型放弃按 token 计费,改为让开发者提交提示词、由公司返回一个工作报价,但客户的负面反馈最终说服公司放弃了这一想法。

统一收费定价的想法

周四,奥尔特曼在 Cheeky Pint 播客节目中与 Stripe 总裁约翰·科利森交谈时回忆道,OpenAI“差点做出一个非常——本会是糟糕决定的选择”,即彻底停止按 token 为其下一代模型定价,转而采用一种开发者提交提示词、OpenAI 返回价格的安排。

他解释说,这种计费方式会“像 AWS 一样”运作,即你“只管做某件事,我们给你寄账单”,而不是逐个 token 计量交互量。奥尔特曼没有说明涉及的是哪个模型,也没有给出这一改动被考虑的时间线。

我们已在下方视频中定位到这段对话:

客户为何反对

当 OpenAI 试图了解客户对收到一份没有明细的价格有何感受时,这一想法遭到了抵制。“客户对此的反应非常负面,”奥尔特曼回忆道,买家告诉公司,“‘我需要以某种方式知道我在为什么付费。’”

“‘我需要以某种方式知道我在为什么付费。’”

开发者本已花费大量时间追踪输入和输出 token,以控制成本并估算随着使用量增长会产生多少支出。在不知道价格如何计算的情况下收到一个价格,只会让这件事更难。

为清晰性支付更多

这一坦白之所以值得再看一眼,是因为据奥尔特曼说,他咨询过的人宁愿多付钱也要保留这种可见性。他向“几个人”提出了这个问题,询问他们是否愿意为相同的输出接受更高的费率,只要仍按一致的 token 计价,他说,答案是他们会“宁愿你把 token 数量抬高、多付些钱”,因为“我知道那里有真实的东西”。

“宁愿你把 token 数量抬高、多付些钱……我知道那里有真实的东西。”

他推断,开发者抵制单一的不透明价格,是因为他们怀疑从长远来看自己“总会以某种方式被坑”,这种本能与当年买家宁愿为 CPU 小时付费、也不愿为一项完成的工作付费如出一辙。

这一提议本可能对构建智能体的开发者产生重大影响,他们的多步骤工作流本就会消耗难以预测的计算量,即使在当今基于 token 的模式下,也让支出难以预测。奥尔特曼没有解释 OpenAI 会如何设定这些按任务计费的价格,也没有说明客户是否能够将一项收费与另一项收费进行权衡比较。

Token,一种“虚假的单位”

这个话题是在科利森追问奥尔特曼 token 是否是衡量 AI 使用量的正确方式时引出的。奥尔特曼承认 token 定价存在局限,但也没有提出明确的替代方案。

“Token 是一种虚假的单位……它们在某种意义上是真实的,但它们不是好的单位。”

“Token 是一种虚假的单位,”他说。“我的意思是,它们在某种意义上是真实的,但它们不是好的单位。”他对科利森半开玩笑地提出创造一种“智能等效 token”的提议表示迟疑,并将其比作芯片制造商仍在宣传的纳米数字——这些数字已不再对应芯片上任何物理测量值。

奥尔特曼承认,开发者在更便宜的模型和更强大的模型之间做选择时确实要承担实际的心智负担,尤其是当他们还必须猜测某项任务需要多少推理时。“那只是认知负担,我认为它实际上没有增加任何价值,”他说。

这段对话发生之际,OpenAI 仍在依赖 token 定价,尽管奥尔特曼一直主张,给定水平的 AI 成本大约每年下降十倍。目前,token 定价仍在沿用,尽管奥尔特曼承认其缺陷,而 OpenAI 也难以找到更好的替代方案。

文章《萨姆·奥尔特曼差点废除 token 定价。以下是他为何退缩。》首发于 The New Stack。

来源

The New Stack