Unsloth 发布 1-bit GGUF,Mistral Le Chonk 可在 Mac Studio 本地运行
Mistral Le Chonk can now run locally!
Unsloth 发布 Mistral Le Chonk 的 1-bit GGUF 量化版本,使这个 1 万亿参数模型可以在 Mac Studio 上本地运行,并称量化后仍保留 91% top-1 准确率。Unsloth 同时提供了 GGUF 下载链接和使用指南,并称 Le Chonk 是目前最强的西方开源模型。
查看原帖今天,我们发布了全新升级版 Le Chonk 的权重,推动智能体编程与网络安全领域的开放前沿。 💻 为构建而生:Le Chonk 在 @cognition 的 FrontierCode 开源模型中排名第一,并在 @artificialanalysis 上树立了帕累托效率的新标杆。 🛡 为防御而生:在网络防御方面达到最先进水平,并经过全球领先网络安全厂商的检验,包括 @CrowdStrike、@cloudflare、@rubrik、@zscaler 等。 为主权而构建:让它成为你的。在 @huggingface 上下载权重,使用 Mistral Forge 进行定制,并部署到任何你需要的地方。 阅读我们团队和客户的更多内容 👇:
查看原文
Today, we release the weights of a new and improved Le Chonk, advancing the open frontier for agentic coding and cybersecurity. 💻 Built to build: Le Chonk ranks #1 on @cognition’s FrontierCode among open models, and sets a new benchmark for Pareto efficiency on @artificialanalysis. 🛡 Built to defend: State-of-the-art in cyberdefense, put through the paces by the world's leading cyber vendors, including @CrowdStrike, @cloudflare, @rubrik, @zscaler, and others. Built for sovereignty: Make it yours. Download the weights on @huggingface , customize it with Mistral Forge, and deploy it wherever you need it. Read more from our team and customers 👇:
正文 · AI 翻译
Mistral Le Chonk 现在可以在本地运行了!
这个 1 万亿参数的模型可以在 Mac Studio 上运行,使用的是我们的 1-bit GGUF,它保留了 91% 的 top-1 准确率。
Le Chonk 是迄今为止最强的西方开源模型。
GGUF:https://t.co/irNXvfVGNg 指南:https://t.co/StUa0S2XP6 https://t.co/PeRJa24HwL