先了解这件事
AI 综述
2026年6月4日,llama.cpp维护者Georgi Gerganov介绍称,llama.cpp的多GPU与张量并行支持取得新进展。据其说明,llama.cpp维护者与NVIDIA工程师合作数月,改进了ggml的多GPU性能,在RTX系统上取得显著性能提升,同时为ggml的硬件无关张量并行打下基础。相关更多细节可见NVIDIA RTX Spark的技术博客。目前该进展处于介绍阶段,后续具体实现与性能数据有待进一步披露。
AI 根据公开报道生成
最新进展 · 正式报道
llama.cpp 多 GPU 与张量并行性能提升事件进展
1 个已确认进展
- 来源：Georgi Gerganov
报道与讨论时间线
按时间查看正式报道与传播讨论；两类内容的证据等级保持独立。
6月4日
Georgi Gerganov
llama.cpp 多 GPU 与张量并行性能提升
llama.cpp 维护者与 NVIDIA 工程师合作数月，改进了 ggml 的多 GPU 性能，在 RTX 系统上取得显著性能提升，并为 ggml 的硬件无关张量并行打下基础。更多细节见 NVIDIA RTX Spark 的技术博客。