黄仁勋称模型速度翻倍可使 AI 实验室收入翻倍
Jensen Huang says doubling model speed (e.g. with software or kernel optimization) doubles an AI lab’s revenue, which holds only while demand outruns capacity.
AI 导读
黄仁勋表示，在需求超过产能的前提下，模型速度翻倍（例如通过软件或内核优化）就能让 AI 实验室收入翻倍。推理收入等于服务的 token 数乘以每个 token 的价格；更快的内核能在同样的 GPU、功耗和机房条件下提高每秒 token 数，若新增 token 都能按现价卖出，2 倍加速即可在零新增资本开支下实现收入翻倍。
正文 · AI 翻译
黄仁勋表示，模型速度翻倍（例如通过软件或内核优化）可使 AI 实验室的收入翻倍，但这只有在需求超过产能时才成立。
推理收入等于所服务的 token 数乘以每个 token 的价格。
更快的内核能在相同的 GPU、相同的功耗和相同的机房条件下提高每秒 token 数。
如果每一个新增 token 都能按当前价格找到买家，那么 2 倍加速就能在零新增资本开支的情况下实现收入翻倍。https://t.co/uBi358ndjP