先了解这件事
AI 综述
HardenedLinux 社区主导开发的 AI 运行时框架 SonicBoom 已发布。该框架采用 GPLv3 许可证,提供语言无关的 C API,目前官方支持 GNU Guile;内置 LLVM MLIR 对计算图做编译优化,并直接复用 llama.cpp 已有 kernel。据 Solidot 报道,在 kernel 优化不变的情况下,SonicBoom 于 rtx3050 8G 上把原始性能提升 20%。版本方面,v0.0.3 目前仅支持 CPU 和 CUDA,社区版只提供单点推理,分布式推理计划放在企业版。
AI 根据公开报道生成
最新进展 · 正式报道
HardenedLinux 发布 SonicBoom：AI 运行时框架告别手工调优事件进展
1 个已确认进展
- 来源：Solidot
报道与讨论时间线
按时间查看正式报道与传播讨论；两类内容的证据等级保持独立。
10月20日
Solidot
HardenedLinux 发布 SonicBoom：AI 运行时框架告别手工调优
HardenedLinux 社区主导开发的 AI 运行时框架 SonicBoom 发布，采用 GPLv3 许可证，提供语言无关的 C API，目前官方支持 GNU Guile。它内置 LLVM MLIR 对计算图做编译优化，直接复用 llama.cpp 已有 kernel，在 kernel 优化不变的情况下于 rtx3050 8G 上把原始性能提升 20%。v0.0.3 目前仅支持 CPU 和 CUDA，社区版只提供单点推理，分布式推理计划放在企业版。