TensorZero:别只比每百万 token 价格,LLM API 隐藏成本被低估
TensorZero 工程博客指出,按每百万 token 价格比较 LLM API 成本具有误导性,因为不同厂商的 tokenizer 会让相同输入产生不同 token 数。该团队用 OpenAI、Anthropic 和 Google 官方 token 计数 API 测试相同内容,发现 token 数差异可达 2.65 倍以上,文本、JSON、YAML 和工具定义的 token 化方式各不相同。在工具密集型负载上,claude-opus-4-7 的成本比 gpt-5.4 高 5.3 倍,而两者标价仅相差 2 倍;Gemini 在文本和结构化数据上最便宜,但在工具定义上比 OpenAI 贵 46%。
匹配字段摘要、正文
