先了解这件事
AI 综述
2026年10月14日,一篇论文发现,让小型决策模型在给出答案前多次重跑同一批层可显著提升准确率。该论文提出的 SanSi 方法循环运行预训练即复用层的 Ouro-1.4B,在 8 次循环中每次读取选项概率,在 10,027 条测试决策上得分 72.0%,而同结构无循环模型为 58.4%,但计算量达 7.7 倍。在长于训练分布的 liar chains 上,SanSi 达 72.6%,而 4.2B 单次前向模型仅 50.0%,为随机水平。目前尚无后续发展。
AI 根据公开报道生成
最新进展 · 正式报道
SanSi 循环复用层让 Ouro-1.4B 决策准确率升至 72%事件进展
1 个已确认进展
- 来源:Rohan Paul
报道与讨论时间线
按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。
10月14日
Rohan Paul
SanSi 循环复用层让 Ouro-1.4B 决策准确率升至 72%
论文发现,让小型决策模型在给出答案前多次重跑同一批层可显著提升准确率。SanSi 循环运行预训练即复用层的 Ouro-1.4B,在 8 次循环中每次读取选项概率,在 10,027 条测试决策上得分 72.0%,同结构无循环模型为 58.4%,但计算量达 7.7 倍。在长于训练分布的 liar chains 上,SanSi 达 72.6%,而 4.2B 单次前向模型仅 50.0%(随机水平)。