Anthropic says Claude Mythos cuts AMD GPU adaptation cycle to about three days
English text is being prepared.
Anthropic co-founder and chief compute officer Tom Brown said at the IPO roadshow that Claude Mythos can automatically port or write nearly 100% of GPU kernel code, enabling the model to run on AMD Instinct MI355X, shortening adaptation work that originally required dozens of engineers and months to about three days. A footnote in the roadshow materials limits this result to a single model completing the Prefill task on MI355X and reaching a usable performance level; whether the Decode stage is included is not clearly stated. Anthropic did not disclose Claude's actual running speed on MI355X, nor did it provide performance comparison data with similar NVIDIA hardware.
Why read this
SelectedAI score 78
Anthropic disclosed its own engineering practices in its IPO roadshow, which readers can use to understand how AI automatically writing GPU kernels affects the migration costs of the CUDA ecosystem.
Topics
Body
Anthropic联合创始人兼首席计算官Tom Brown在公司面向投资者的IPO路演中介绍了这一成果。他表示,Claude Mythos能够自动移植或编写几乎100%的GPU内核代码,使Claude模型能够在AMD Instinct MI355X加速器上运行。此前,类似的硬件适配工作往往需要一个由数十名工程师组成的团队,耗费数月时间。
不过,Anthropic披露的三天时间有明确的适用范围,并不意味着整个模型部署、生产环境验证和性能优化流程都能在三天内完成。路演材料的脚注指出,这一成绩具体针对的是一个Anthropic模型在AMD MI355X GPU上完成提示词处理(Prefill)任务,并达到具有实际使用价值的性能水平。至于模型生成回答阶段(Decode)是否也包含在内,Anthropic并未明确说明。
GPU内核是人工智能软件与底层硬件之间的重要连接环节,负责将模型计算任务转化为能够在特定处理器上高效执行的指令。不同厂商的GPU架构、内存系统和计算单元存在差异,因此同一套AI模型往往需要针对不同硬件平台编写或调整底层代码。这类工作长期以来也是英伟达CUDA生态的重要优势来源。
英伟达的CUDA平台已经发展近20年,拥有成熟的编译器、开发工具、优化库和庞大的开发者群体。AMD则拥有自己的ROCm软件平台,并通过HIP编程层支持相关计算任务。为了帮助开发者将CUDA代码迁移到AMD平台,AMD此前还推出了HIPify工具,但代码转换并不意味着所有程序都能直接获得理想性能,开发人员通常仍需要进行大量调试和优化。
AI编程工具的进步正在改变这一局面。AMD人工智能软件副总裁Anush Elangovan今年4月曾表示,Claude在代码转换方面比HIPify更有优势,因为它内置了网络搜索能力,可以在处理过程中获取更多技术资料。AMD此前也展示过利用AI智能体自动编写GPU内核的研究成果,但早期系统在部分测试中仍不及人类专家。
Anthropic并非只依赖英伟达GPU运行其模型。该公司已经同时使用英伟达和AMD GPU、GoogleTPU以及亚马逊AWS Trainium等不同类型的加速器,并将这些硬件资源统一管理为一个可灵活调度的计算资源池。Tom Brown此前将公司早期采取多芯片平台战略的决定称为一项不同寻常的选择。随着软件适配时间大幅缩短,这种策略可能变得更具吸引力。
Anthropic今年首次开始使用AMD GPU,并与AMD达成了一项最高涉及2吉瓦算力的合作协议。根据双方此前披露的信息,AMD也在利用Claude优化Instinct系列GPU的工作负载,并加快ROCm软件平台的开发。AMD方面认为,AI自动生成内核代码有望进一步降低客户采用其加速器的技术门槛。
事实上,AMD管理层此前已经多次谈到AI编程工具对GPU软件生态的影响。AMD首席执行官苏姿丰去年9月表示,大量AI软件原本是围绕CUDA开发的,但其中相当一部分代码现在可以通过软件工具转换为适用于AMD平台的形式。今年7月,AMD高级副总裁Vamsi Boppana也表示,AI有望消除采用AMD GPU时剩余的软件障碍。
在今年7月举行的AMD Advancing AI活动上,OpenAI的Philippe Tillet也谈到了AI智能体在GPU内核开发中的作用。他表示,在OpenAI获得AMD Helios机架后,一名工程师只用了几天就确认系统能够正常运行,并指出AI智能体正在逐渐承担过去由内核工程师负责的部分工作。AMD方面还透露,一名工程师曾让Claude协助启动MI355X机架,并让系统在周末期间持续运行。
Anthropic此次披露的数据之所以受到关注,还因为相关成果不再只是来自AMD自身的演示或宣传。作为实际购买和使用芯片的AI公司,Anthropic向投资者披露了自身工程实践中的时间变化。其IPO招股文件也提到,公司借助Claude,已经能够以远低于过去的工程投入将新芯片平台引入生产环境,尽管文件没有给出具体的三天数字。
不过,适配速度的提升并不能直接证明AMD GPU已经在性能上追平英伟达。Anthropic没有公布Claude在MI355X上的实际运行速度,也没有提供与英伟达同类硬件之间的性能对比数据。报道还指出,公司展示的图表虽然将两种方案的适配进度都标记为接近100%,但没有详细解释这一比例究竟对应哪些工作内容。
英伟达首席执行官黄仁勋此前曾表示,公司本身也大量使用AI辅助开发GPU内核,并认为没有人比英伟达更了解自家芯片架构,因此英伟达能够更充分地发挥硬件性能。对于Anthropic等企业采用其他加速器的做法,他曾将Anthropic称为一个特殊案例,而不是行业趋势。
与此同时,AI自动编写GPU内核也面临新的资源瓶颈。SemiAnalysis今年7月发表的分析认为,软件开发成本正在降低,但AI智能体生成的代码仍然需要在实际GPU上进行测试和验证。每个智能体都需要相应的GPU资源来运行测试,而AMD内部用于此类开发的GPU资源不足,可能成为进一步扩大应用的制约因素。
总体而言,Claude Mythos展示的意义不仅在于缩短了一项具体的软件开发流程,更在于AI可能改变不同GPU平台之间的软件迁移成本。CUDA的优势并不会因此立即消失,其成熟的工具链、开发者生态和长期积累的性能优化经验仍然具有价值。但如果AI能够越来越自动化地完成代码移植、内核编写和硬件适配,客户选择GPU时对特定软件生态的依赖程度就可能下降,AMD等竞争对手也有机会以更低的迁移成本争取原本主要使用英伟达平台的客户。
AI Trends