Thinking Machines 发布 Inkling-Small，276B 参数开源模型可在 128GB 内存本地运行
You can now run Inkling-Small, a new 276B model by Thinking Machines.
Thinking Machines 发布 Inkling-Small，总参数 276B、激活参数 12B，官方称其性能与 Inkling 相当但规模仅为四分之一，并开放完整权重。Unsloth 表示该模型采用 Apache-2.0 许可，支持图像、音频和 1M 上下文，可在 128GB 内存上本地运行，并提供了使用指南与 GGUF 文件。用户可在 Tinker 上进行微调，或在 Tinker Playground 中以文本、图像和音频方式对话。
推荐理由
精选AI 评分 78
Thinking Machines 发布 276B 总参数、12B 激活的开源模型，并给出本地运行与微调入口，可据此判断其部署门槛。
主题
查看原帖Today, we are releasing Inkling-Small. Inkling-Small achieves comparable performance to Inkling at a quarter of its size. It features 276B total parameters, 12B active. We are making the full weights available. https://t.co/BtYNcpkDRA Fine-tune it on Tinker today, or chat with it in text, image, and audio on Tinker Playground.
正文
当前显示原文，中文全文译文尚未就绪。
You can now run Inkling-Small, a new 276B model by Thinking Machines.
Inkling-Small is the strongest open model for its size and runs local on 128GB RAM.
Apache-2.0 Licensed, it has image, audio + 1M context support.