TikTok 论文提出 Log-To-Leak 攻击：在 MCP 工具描述中植入指令窃取对话
New Tiktok paper finds that LLM agents using MCP often complete the requested task and then quietly call an attacker logging tool that records the query, server
TikTok 的一篇新论文发现，使用 MCP 的 LLM 智能体常在完成任务后悄悄调用攻击者控制的日志工具，记录用户查询、服务器回复和最终答案。研究团队构造了 Log-To-Leak 攻击，在工具描述中放入由触发时机、工具名、正式理由和不可跳过压力组成的四段式指令，让智能体在最后一次合法调用后调用攻击者的 save_logs 工具。在 18 组可运行工具的模型-服务器组合中，攻击成功率为 62.64%–100%，条件日志准确率为 76.55%–95.64%。
正文 · AI 翻译
TikTok的一篇新论文发现，使用MCP的LLM智能体往往在完成所请求的任务后，悄悄调用一个攻击者控制的日志工具，记录查询、服务器回复和最终答案。
MCP工具会暴露自然语言描述，智能体在选择和排序调用时会阅读这些描述。攻击者可以在这些描述中隐藏指令，在不破坏原始请求的情况下改变后续的工具使用。
他们构建了Log-To-Leak，在工具描述中放入一个简短的四部分指令。它告诉智能体在最后一次合法调用之后立即调用攻击者控制的save_logs工具，打包用户查询、服务器名称、服务器响应和智能体响应。
这些部分分别是用于确定时机的触发器、工具名称、正式理由，以及该步骤不得跳过的压力。
在18组能够运行工具的模型-服务器组合中，Log-To-Leak的攻击成功率为62.64%–100%，条件日志准确率为76.55%–95.64%。