IBM 与印度电子和信息技术部下属的 MeitY Startup Hub 于 10 月 13 日签署 MoU,面向 AI、混合云和量子计算领域的印度深科技初创企业提供企业技术、技术指导和商业化机会。初创企业可使用 IBM watsonx、AI 编码智能体 IBM Bob 和面向数字主权的 AI 软件栈 IBM Sovereign Core,并获得混合云与量子计算技术培训。双方还将推动主权 AI 创新、开源生态建设、创始人辅导,并重点发掘二、三线城市创新者。
Hugging Face 团队到访美团上海办公室,与 LongCat 团队交流未来模型开发和开源计划。双方还讨论了 Hugging Face Transformers 的最新功能与技术细节,并表示期待探索更多开源生态合作方式。
Hugging Face 团队到访美团上海办公室,与 LongCat 团队交流未来模型开发和开源计划。双方还讨论了 Hugging Face Transformers 的最新功能与技术细节,并表示期待探索更多开源生态合作方式。 · The Hugging Face team visited Meituan’s Shanghai office to discuss LongCat’s future model development and open-source plans. The teams also discussed recent Hugging Face Transformers features and technical details, and expressed interest in exploring further collaboration across the open-source ecosystem.
系统构建在 Modal 原语之上: Modal Clusters 使大模型的传入请求能够被调度到动态可用的 RDMA 连接节点上,而无需预留集群, Modal Volumes 提供快速、持久的检查点保存,以及 Modal Servers 提供快速的推理层。在构建多 LoRA 训练的过程中,我们还向 Miles 和 SGLang上游贡献了多项改进,并将继续投入开源生态。 设计一个高性能的多租户训练系统需要克服各种挑战,我们必须仔细思考这些问题。这带来了许多令人兴奋的工作成果,如今它们支撑着 Spindle 的核心组件,包括多客户端批调度、异步检查点保存、增量权重同步,以及面向多 LoRA 和 KV 感知请求路由的自定义推理路由器。你可以在此处阅读更多关于我们设计的 内容. Spindle 实际运行 Over the past couple months, we’ve run an expansive set of RL workloads across math reasoning, agentic coding, and search agents. Here are a few ex