Unsloth 与 AMD 合作支持在 AMD NPU 上运行本地模型推理
We collaborated with @AMD to bring local model inference to AMD NPUs.
AI 导读
Unsloth 与 AMD 合作,将本地模型推理带到 AMD NPU,并称其功耗比传统 GPU 低 2–4×。相关支持覆盖 Strix、Gorgon、Krackan 等平台,博客链接为 https://t.co/hqa2Gdecof。
查看原帖AMD XDNA 2 NPU 是全球首款获得 @UnslothAI Desktop 支持的 NPU。100 多款智能体应用,现在可在你的 NPU 上运行。https://t.co/fGq3hxLgji https://t.co/Fazynp62Od
查看原文
AMD XDNA 2 NPUs are the world's first NPUs supported by @UnslothAI Desktop. 100+ agentic apps. Now on your NPU. https://t.co/fGq3hxLgji https://t.co/Fazynp62Od
正文 · AI 翻译
我们与 @AMD 合作,将本地模型推理引入 AMD NPU。 NPU 可提供强大的计算性能,同时功耗比传统 GPU 低 2–4 倍。
我们携手实现了以更低功耗运行模型! 支持 Strix、Gorgon、Krackan 等平台。
博客:https://t.co/hqa2Gdecof https://t.co/FuTtCOJI5B
AI 热点