←事件详情

热点事件

论文发现小决策模型重复运行同层可提升准确率

1 篇正式报道1 条事件动态更新于 10月14日 04:02

先了解这件事

AI 综述

2026年10月14日,一篇论文发现,让小型决策模型在给出答案前多次重跑同一批层可显著提升准确率。该论文提出的 SanSi 方法循环运行预训练即复用层的 Ouro-1.4B,在 8 次循环中每次读取选项概率,在 10,027 条测试决策上得分 72.0%,而同结构无循环模型为 58.4%,但计算量达 7.7 倍。在长于训练分布的 liar chains 上,SanSi 达 72.6%,而 4.2B 单次前向模型仅 50.0%,为随机水平。目前尚无后续发展。

AI 根据公开报道生成

最新进展 · 正式报道

SanSi 循环复用层让 Ouro-1.4B 决策准确率升至 72%

事件进展

1 个已确认进展

  1. 论文发现小决策模型重复运行同层可提升准确率

    来源:Rohan Paul

报道与讨论时间线

按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。

10月14日

  1. Rohan Paul

    SanSi 循环复用层让 Ouro-1.4B 决策准确率升至 72%

    论文发现,让小型决策模型在给出答案前多次重跑同一批层可显著提升准确率。SanSi 循环运行预训练即复用层的 Ouro-1.4B,在 8 次循环中每次读取选项概率,在 10,027 条测试决策上得分 72.0%,同结构无循环模型为 58.4%,但计算量达 7.7 倍。在长于训练分布的 liar chains 上,SanSi 达 72.6%,而 4.2B 单次前向模型仅 50.0%(随机水平)。

关联事件

  1. 相关事件Amazon论文提出LLM作研究世界模型
  2. 相关事件Nvidia发布Nemotron 3.5 Super VL与Bolt模型
  3. 相关事件普林斯顿与Google论文发现按智能体状态训练的4B模型任务成功率更高
  4. 相关事件Google DeepMind论文发现RL放大模型被监督与未被监督行为差距