AI 热点

Thinking Machines 发布可在笔记本电脑运行的 Inkling 2 Mini

Mira Murati更新于 11月21日 04:41

Inkling 2 Mini is a looped transformer that runs on a laptop.

AI 导读

Inkling 2 Mini 是一款可在笔记本电脑运行的循环 Transformer 模型。循环机制让模型进行更多思考、减少输出文字,其当前规模下的思考过程仍可监测,但未来未必如此;团队还分享了一个可变循环研究模型供进一步研究。

推荐理由

AI 评分 64

材料呈现了循环机制在推理长度与可监测性之间的关系,并提供可变循环研究模型供进一步研究。

主题

标签

引用

Thinking Machines

@thinkymachines

你们中的一些人认为,拥有 594B 参数的 Inkling 2 Small 太大了。我们听到了你们的心声:Inkling 2 Mini 是一款仅有 26B 参数的循环 Transformer,小到足以在你的笔记本电脑上运行,又强大到足以胜任智能体工作,其 AA Index 得分为 20.1。 https://t.co/9HzaUMwghb

查看原文

Some of you thought that Inkling 2 Small was too big at 594B parameters. We heard you: Inkling 2 Mini is a looped transformer with just 26B parameters, small enough to run on your laptop, powerful enough for agentic work with a score of 20.1 on AA Index. https://t.co/9HzaUMwghb

查看原帖

正文

Inkling 2 Mini is a looped transformer that runs on a laptop.

Looping lets a model think more and write less. At this scale, its thought process remains monitorable; this may not stay the case. We’re also sharing a variable-loop research model to enable further study.

来源

Mira Murati