Amazon CEO Jassy: AI inference costs need to fall to about one-tenth of current levels
English text is being prepared.
In an a16z interview, Amazon CEO Andy Jassy said AI inference costs are still an order of magnitude too high, and that for AI to be widely used in enterprise software, costs need to fall to about one-tenth of current levels. He said Amazon plans to spend $220 billion in capital expenditure this year, that its main compute supply for 2026 is essentially fully booked, and that most of 2027 has also been reserved; the in-house Trainium chip offers about 30% to 40% better price-performance than comparable processors, and has already secured more than $225 billion in future revenue commitments.
Why read this
AI score 52
Jassy offered the judgment that inference costs need to drop by an order of magnitude, and explained his chip strategy by comparing it with the history of Amazon's in-house chips.
Topics
Body
亚马逊 CEO 贾西：要让 AI 广泛应用于企业软件，成本需降至目前十分之一
2026-10-24 09:51 IT之家 - 清源
感谢IT之家网友 乌蝇哥的左手 的线索投递！
IT之家 10 月 24 日消息，亚马逊 CEO 安迪 · 贾西认为，AI 推理成本仍然太高，要让 AI 广泛应用于企业软件，成本还需要降至目前的约十分之一，而亚马逊自研芯片有望帮助降低成本。
贾西在风险投资机构 a16z 当地时间 23 日发布的采访中透露：“在我看来，要让 AI 得到尽可能广泛的应用，推理成本仍然高了一个数量级。”
亚马逊今年计划投入 2,200 亿美元（IT之家注：现汇率约合 1.47 万亿元人民币）资本开支，却依然无法建成足够的基础设施来满足 AI 需求。贾西透露，2026 年的主要算力供应额度基本订满，2027 年的大部分也已被客户预订，2028 年也有相当一部分也已售罄。在他看来，市场需求如此旺盛，亚马逊即使再多投入大量资金，都不会是浪费。
制约企业采用 AI 的主要因素是推理成本。AI 模型每回答一个问题、完成一项任务，都需要消耗算力。如果引入 AI 带来的收益不足以抵消更高的运营费用，企业就没有多少动力重构现有软件。
贾西以亚马逊多年前的经历作比较。当时，英特尔主导云服务器处理器市场。亚马逊希望以同样的成本获得更高的计算性能，却难以说服英特尔优先满足这一需求，最终决定自行开发 Graviton 处理器。在他看来，“同样的故事又在 AI 领域上演了”。
AI 芯片市场目前由英伟达占据主导地位。亚马逊则推出自研 Trainium 芯片，希望为客户提供成本更低的选择。贾西在采访中没有直接点名英伟达，仅强调市场上的主导供应商仍是亚马逊的重要合作伙伴。
据介绍，Trainium 的性价比较同类处理器高出约 30% 至 40%，客户花同样的钱就能获得更多算力，“我们的芯片业务在降低推理成本方面发挥着重要作用。”
亚马逊此前披露，Trainium 已获得超过 2,250 亿美元（现汇率约合 1.5 万亿元人民币）的未来收入承诺，其中包括与 Anthropic 和 OpenAI 达成的协议。