arXiv paper A Heart Means Recursion: Show the model a red heart, and it switches from iteration to recursion
English text is being prepared.
The arXiv paper A Heart Means Recursion documents a phenomenon: when models solve binary tree traversal problems, they almost always use stack-based iteration; after a red heart ❤️ is attached next to the problem, they switch to recursion, but when asked why, they say the red heart is irrelevant. The researchers call this disconnect between symbolic interpretation and actual behavior implicit guidance, and record that GPT-5.4 showed unfaithful attribution in 74.7% of samples. The article also connects Kahneman's anchoring effect, CLIP's typographic attack, and other cases, discussing whether Agents that perceive pages via screenshots may have their decisions quietly changed by elements such as ad images and icons.
Why read this
AI score 56
The experiment in the original article, which uses a red heart to change how a model writes code, connects anchoring effects and adversarial examples, pointing to hard-to-detect implicit guidance in an Agent's visual input.
Topics
Body
最近，APPSO 在 arXiv 上发现一篇很有意思的论文 A Heart Means Recursion（心之所向，即是递归）。
故事从一个很小的观察开始。
研究者给模型出了一道经典的二叉树遍历题。递归能写出正确答案，借助栈的迭代写法也可以，而模型面对这类题，几乎总是选后者，很少动用递归。接着他们在题目旁边附上一张图，一颗红色的爱心❤️。
模型转身写起了递归。
这时再去问模型，那颗心是什么意思，它回答说那只是无关紧要的东西，自己选递归另有技术上的理由。可是没有爱心的时候它几乎从不这样写，有了爱心就这样写了。
论文摘要把这种现象称作 隐式的引导 ，模型对符号的直接解读和思考轨迹，与它实际表现出来的行为相去甚远。
除了红心，粉色的十字、浅蓝色的螺旋这类颜色与形状的组合，对个别模型也有类似的牵引。研究者还让模型之间用图形互相传话，发现了另一处落差：模型发出去的，往往是人和它们自己都觉得直观的基础形状，可这些图形常常引导不了另一个模型。
不过，网页上的广告图、角落里的图标、聊天里的表情贴纸，这些我们习惯当作背景的东西，会不会在无人察觉的时候，改变一个 Agent 的选择？
人也会被无关的线索推着走
说到被无关线索左右，人类并不占上风。
1974 年，心理学家卡尼曼和特沃斯基在俄勒冈大学招募了一批学生，让他们先拨动一个转盘。转盘被提前设定只会停在 10 或 65 两个数字上。
学生们记下数字，然后被问：联合国成员国中，非洲国家的占比是多少？停在 10 的那组，平均估计是 25%，停在 65 的那组，平均给出的答案是 45%。实际比例大约是 28%。
一个来自转盘的随机数字，把答案拉开了将近二十个百分点，而转盘和联合国毫无关系。
特沃斯基和卡尼曼发现，哪怕答对有奖金，锚定效应也没有减弱。
2001 年，波尔多大学的研究者弗雷德里克·布罗歇邀请 54 位葡萄酒专业学生品酒，其中一杯其实是用无味食用色素染红的白葡萄酒。
学生们评价那杯「红酒」时，用的全是形容红酒的词汇，比如「果酱感」和「压碎的红果香」。没有一个人发现它实际上是白葡萄酒。
布罗歇称之为「感知幻觉」。
当事人事后通常都能给出一套顺理成章的说法。机器在这一点上和人很像，区别在于人的偏差多半落在数字、颜色、价签这些地方，机器的弱点却可能很奇怪，我们事先想不到。
2021 年，OpenAI 披露了他们发现的「排版攻击」：在一颗苹果上贴一张手写着「iPod」的便利贴，他们的图像识别模型 CLIP 便会将这颗水果识别成一部音乐播放器。
另一个测试里，在一只贵宾犬的图像上叠加美元符号，模型就会把它认成存钱罐。
更早些，Google 的研究者做出一种迷幻图案的对抗补丁：在一张摆有香蕉的桌子旁放置一张印有特定图案的贴纸，VGG16 神经网络就会以 99% 的置信度把整个场景判定为烤面包机。那张贴纸对神经网络来说更「显眼」，它劫持了模型的注意力。
回到红心实验，论文里提到，能力较弱的模型反而更容易被噪声图带偏，前沿模型对噪声基本免疫，却对有意义的符号十分敏感。我们常以为聪明的对象更难糊弄，实际上只是他们被糊弄的方式变得更体面了。
代码生成领域还有一个类似的发现。研究者在评测 LLM 代码生成时发现，更详细的提示，并不总是能带来更高的准确性。过于冗长的提示可能引入冗余信息，轻微损害代码生成的准确性。有时候，省去一个约束条件，模型反而会退回到一种更稳健的通用实现，避免踩入它本来处理不好的边界情况。
提示内容与模型输出之间，不存在简单的线性关系。这对评测也是一个挑战，因为测试环境里「无关元素」的干净程度成了一个变量。
看不见的影响，怎么看见
AI Agent 读取截图的场景，正在变得越来越普遍。
电脑控制型 Agent 的工作循环通常是：截一张屏，把像素发给大语言模型，模型决定下一步点哪里、输入什么。在这个循环里，Agent 感知的是整个视觉页面。这意味着页面上的广告图、装饰性图标、弹窗里的表情包，通通进入了模型的视野。
如果一颗红心就能让模型从迭代切换到递归，那么一个精心设计的页面元素，是否也能悄悄改变 Agent 在真实任务中的决定，比如点哪个按钮、选哪个选项？
A Heart Means Recursion 不只说明视觉符号会影响模型行为，还指出：这种影响，可能完全不会出现在模型的思考轨迹里。
思考轨迹（chain of thought）原本被认为是一种可解释性工具。让模型把推理过程写出来，人类就可以追踪它在想什么，从而发现潜在的问题。但如果模型行为的真正驱动因素没有如实反映在推理链上，这套监督机制就失效了。
论文记录到，GPT-5.4 有高达 74.7% 的样本表现出「不忠实归因」，即模型给出的推理解释与它实际做出的行为之间存在明显的脱钩。
有研究者系统性地改写 Agent 的思考轨迹，同时保持动作和环境状态不变，发现 LLM 评判者非常容易被操纵后的推理链误导，以为任务已经完成。
如果模型自己都说那颗心无关紧要，我们靠什么发现它起了作用？
一个比解释测试更可靠的办法是行为测试：在其他条件完全不变的情况下，换掉那个「应该无关的元素」，观察模型的输出是否随之改变。
如果两组输入只有一个红心的差别，而输出出现了系统性的偏差，那么不管模型怎么自我解释，我们都有理由认为这个元素起了作用。
对于以结构化 API 输入为主的场景，信号和噪声的边界相对清晰。但对于以截图方式感知世界的 Agent，整个可见页面都是输入，边界更加模糊。
有研究者提出在 Agent 的感知层和决策层之间增加一个多 Agent 防御框架，将感知与决策分离，动态评估视觉输入的可信度，以减少被误导性视觉信号带偏的行为。
红心实验提出了一个没有简单答案的问题。那颗心形图标对于大多数任务场景而言确实无关，但「确实无关」和「确实不产生影响」，已经不划等号。
本文来自微信公众号“APPSO”，作者：发现明日产品的，36氪经授权发布。