OpenAI 发布论文《Preventing URL-Based Data Exfiltration in Language-Model Agents》，详细说明其新增的 URL 数据外泄缓解措施。作者 Johann Rehberger 指出，OpenAI 现在用自己的网页索引做 URL 校验，爬虫收录的 URL 会进入允许列表，用户消息中直接输入的 URL 也被视为安全，但模型动态生成的 URL 会被判定为不安全。他同时说明该问题并未完全解决，用单个 URL 映射字母和数字的绕过方式仍然可行，并建议对同一会话内重复访问同一 URL 做缓存或限制。
匹配字段摘要、正文
安全研究者 Johann Rehberger 公开了针对 All Hands AI 的 OpenHands 的可用利用链，通过提示注入劫持该智能体，使其下载并运行恶意软件、连接攻击者控制的 C2 服务器，把实例变成 ZombAI。该利用复用了此前针对 Anthropic Claude Computer-Use Agent 的同一载荷，仅替换了执行的二进制文件；作者还演示了 AI ClickFix 攻击，OpenHands 会复制 shell 命令并粘贴进终端工具。作者建议本地版本在沙箱中运行并限制出站网络连接，同时指出厂商可参考 OpenAI Operator 的 Prompt Injection Monitor 等做法；他于 2025 年 3 月 13 日通过 GitHub 安全标签披露，超过 140 天未获实质处理后在 8 月 10 日公开。
匹配字段摘要、正文
Redwood Research 发布论文 Ctrl-Z: Controlling AI Agents via Resampling，称这是迄今规模最大、最复杂的 AI 控制技术研究，首次在智能体环境中开展控制评估。研究构建了包含 257 个多步系统管理任务的 BashBench 数据集，评估安全措施能否阻止对抗性构造的 AI 智能体在该环境中隐蔽下载并执行恶意代码。作者提出重采样协议，通过动态对特定动作额外采样，选择性阻止可疑代码执行；最佳协议结合重采样与对前序步骤的分析，将攻击成功率从 58% 降至 7%，同时非恶意智能体的性能损失为 5%。
匹配字段摘要、正文
Arena.ai 分析了 2026 年 9 月 12 日至 10 月 23 日间超过 2.6 万次 Agent Arena 会话,覆盖 30 个智能体和 13 家实验室。其结论称,若所有缓存 token 按模型完整输入价格计费,发往其排名前十智能体的任务成本将变为 3.6 倍,即高出 260%;典型 Claude Fable 5.1 任务当前花费 7.44 美元,无缓存则为 27 美元。样本中单次缓存失效会让典型任务账单增加 5%。目前尚无后续发展。
匹配字段标题
Meta 于 2026 年 10 月 20 日发布 30B 开源权重模型 Muse Glimmer 的技术报告,该模型面向消费级硬件上的智能体任务,并以 4-bit 精度在单张消费级 GPU 上运行。转述者补充称,该模型在工具调用和多步规划上领先同规模开源模型,部分指标超过 Qwen3.6-27B 和 Gemma4-31B;4-bit 量化后约 17GB,目标在 24GB 显存设备上运行,采用 DFlash 推测解码在 RTX 5090 上约 233 tokens/s,相比普通解码提速约 3.1 倍。目前尚无后续发展事实。
匹配字段标题
Meta 于 2026 年 10 月 20 日发布 30B 开源权重模型 Muse Glimmer 的技术报告,该模型面向消费级硬件上的智能体任务,并以 4-bit 精度在单张消费级 GPU 上运行。转述者补充称,该模型在工具调用和多步规划上领先同规模开源模型,部分指标超过 Qwen3.6-27B 和 Gemma4-31B;4-bit 量化后约 17GB,目标在 24GB 显存设备上运行,采用 DFlash 推测解码在 RTX 5090 上约 233 tokens/s,相比普通解码提速约 3.1 倍。目前尚无后续发展事实。
匹配字段标题
Meta发表论文,提出以每美元学习成本带来的留出集增益衡量Agent可塑性的评测方法。论文让权重冻结的智能体在象棋、围棋、Hex和NetHack中反复改写自己的工具与笔记,再用留存对局表现和每美元学习成本衡量其可塑性。在困难象棋中,Claude Fable 5的留存对局胜率从37.5%升到73.3%;在象棋、围棋和Hex上,GPT-5.6 Sol每1000美元学习成本提升298分,Claude Fable 5为57分。作者建议评测自我改进型智能体时跟踪留存学习曲线与成本,并检查智能体是否真正用上了自己保存的内容。
匹配字段标题
Meta 发表论文 以每美元学习成本带来的留出集增益衡量Agent可塑性的评测方法
English translation is being prepared.
匹配字段标题
2026年10月11日,清华大学发表论文,提出 AAArena 游戏智能体启发式学习评测基准。该基准取自清华年度机器人竞赛的 12 款游戏,并以 1920 个存档的人类程序作为对手。编码智能体在不改变模型权重的情况下读取规则、挑选对手、研究回放并在对局预算内重写自己的机器人。在测试的 3 款游戏中,详细回放均优于仅胜负反馈:Pacman 机器人凭回放达到第 1 名,无回放时为第 11 名。但对局预算增至三倍后,4 个卡住的机器人仍无一进入第 1 名。论文地址为 arxiv.org/abs/2610.12341。目前尚无后续发展事实。
匹配字段标题
清华大学 发表论文 AAArena游戏Agent启发式学习评测
English translation is being prepared.
匹配字段标题
2026年10月11日,斯坦福发表关于Agent失败类型与修复方法的论文。论文将智能体失败分为流程失败(如循环、步数预算耗尽)和内容失败(交付了糟糕的计划),前者可通过修改harness(模型周边的提示词、工具与检查)修复,后者需要微调权重。在旅行规划基准上,由LLM驱动的循环重写harness,最佳运行结果再用于微调模型。harness演化把Qwen3.5-4B在留出任务上的成绩从0.16提升到0.30,计划交付率从55%升至90%;但harness修改从未减少糟糕计划的比例,而LoRA适配器把Qwen3.5-9B留出运行中的糟糕计划占比从28%降到5%。
匹配字段标题
Stanford 发表 关于Agent失败类型与修复方法的论文
English translation is being prepared.
匹配字段标题
英国AI Security Institute发布了对AI agent工具使用情况的分析。该机构通过监测公开的MCP server仓库,分析了2024年11月至2026年2月间发布的177,436个AI智能体工具。分析显示,过去一年公开MCP工具数量从约5,000增至177,000,下载量从8万增至1,400万;使用重心从读取文件、查询数据等感知分析任务转向执行代码、控制计算机等直接操作外部系统的工具。通用工具在开放网络等无约束环境中的下载占比从41%升至50%,其中95%涉及操作能力;软件开发与IT类工具占发布量的67%、下载量的90%。该研究由AISI与英格兰银行合作完成。
匹配字段标题
2026年10月9日,MirroS发布实时交互式智能体试炼环境AgentGarten。据量子位报道,该环境将可执行代码环境与实时神经渲染器连接,由代码定义物理规则、模型生成视觉反馈,以超过30 fps的吞吐让智能体持续与世界交互。在重做的捉迷藏实验中,躲藏者第4轮学会搬挡板搭掩体,搜寻者第10轮掌握借坡道翻墙,策略演化依靠智能体自己写下的实验手册。团队还提出Adversarial Forcing训练方法与精确重放机制,以480p分辨率、30 fps以上吞吐支撑闭环交互。目前尚无后续发展事实。
匹配字段标题
2026年7月29日,Together AI发布并开源智能体推理调度系统ThunderAgent。该系统由Together AI联合佐治亚理工、UIUC和CMU提出,将每个智能体工作流抽象为可调度程序,以程序级调度缓解KV cache thrashing,在合成数据生成流水线中实现最高2.5倍单节点吞吐提升。据官方介绍,在单台8×H100节点、batch size 192下,SGLang吞吐降至390 token/s、平均延迟65s,ThunderAgent达到803 token/s、平均延迟10.6s;8节点集群上相对SGLang Gateway加速2.39倍,从16到64 GPU吞吐近线性扩展。该工作已被ICML 2026接收为Spotlight论文,代码开源,客户端只需增加一个program_id字段,并已被SkyRL和NVIDIA Dynamo采用。目前尚无后续发展事实。
匹配字段标题
英国 AI Security Institute 发布 AI agent工具使用情况分析
English translation is being prepared.
匹配字段标题
MirroS 发布 实时交互式智能体试炼环境AgentGarten
English translation is being prepared.
匹配字段标题
2026年10月8日,安全公司Zenity Labs披露Amazon Bedrock AgentCore存在名为AgentCorruption的漏洞链。据The Decoder报道,攻击者只需对一个公开智能体拥有对话权限,用一条提示词就能接管同一AWS账号和区域内的所有AgentCore智能体,读取私密对话、源代码和存储的凭证。报道称问题根源在于AgentCore默认权限未限定到单个智能体,而是覆盖同账号同区域全部智能体,并授予读写删除权限。Zenity于2025年12月25日向AWS报告后,AWS将IMDSv2设为新部署默认,并在8月前后调整了默认执行角色,不再允许智能体调用其他智能体、读取私密对话或从AWS Secrets Manager取凭证。目前该事件无进一步有证据的发展。
匹配字段标题
Zenity Labs 披露 AWS Bedrock AgentCore漏洞链AgentCorruption
English translation is being prepared.
匹配字段标题
Together AI 发布并开源 智能体推理调度系统ThunderAgent
English translation is being prepared.
匹配字段标题