Anthropic 于 2026 年 10 月 22 日发布研究，称与 Theorem 合作，Claude 为 123 个开源库中 239 个 fuzz 测试入口在 RISC-V 汇编代码层面生成了机器可检验的安全属性形式化证明，并修补了发现的漏洞。证明覆盖 64 MB 以下任意输入及建模的 Linux 系统响应与内存布局，总量约 1.8 亿行 Rocq，典型证明约 60 万行，对应二进制中位长度 1.8 万条 RISC-V 指令。Anthropic 表示部分证明及 RISC-V 与操作系统语义已在 GitHub 发布，但会保留可能暴露未修补漏洞的证明；Theorem 通过 OSS Verify 计划向符合条件的开源项目免费提供同一流程。
#论文/研究#安全/对齐#Agent
MIT 研究人员让 13 个基于 Claude Opus 4.7 的 Eko 智能体在模拟荒岛上无任务探索 30 小时，随后在指定挑战中，这些智能体普遍胜过从未上岛的同类智能体。论文已发布在 arXiv，尚未经同行评审。研究还发现 6 个智能体自行摸索出跳跃中松手可把方块扔得更远，这是设计者未预设的能力；UC Berkeley 认知科学家 Eunice Yiu 认为结果令人印象深刻，但希望看到更多关于行为背后认知的证据。
#论文/研究#Agent#arXiv
微软 Copilot Studio 团队与 Toloka 等合作，将 ThinkingBox-Bench 的数据库终态可执行检查直接作为强化学习奖励，对 Qwen3.8-27B 做全参数 RL 微调。在 507 个未参与训练的分布外任务上，该模型 20 次全部通过的任务数从 38 个（7.5%）升至 107 个（21.1%），pass@1 从 51.70% 升至 60.78%，单次成功成本从 0.177 美元降至 0.139 美元。训练池用离线策略相对难度筛选，最终保留 187 个任务，训练与评测代码已开源在 microsoft/thinkingbox-training。
#论文/研究#Agent#数据/训练
德国各州媒体监管机构发布的《Video Trends 2026》调查显示，79% 的受访者已在网上接触过 AI 生成或大幅修改的视频，TikTok 和 Instagram 上最为集中；在接触过这类内容的用户中，68% 至少有一次将其误认为真实。81% 的受访者表示如今更常怀疑视频的真实性，约九成受访者要求对 AI 内容强制标注，83% 支持禁止某些形式的 Deepfake。
#现象/趋势#视频#安全/对齐
微软 MAI-DxO 诊断系统在发表于 Science 的同行评审研究中，对《新英格兰医学杂志》病例记录的诊断准确率为 83.2%，使用参考资源的全科医生为 36.1%。研究提出 Sequential Diagnosis Benchmark（SDBench），将 304 个期刊病例和 325 个 MIMIC-IV-ED 急诊病例转为可逐步提问、开检查的分步诊断任务，并按准确率和检查成本计分。DxO 搭配 GPT-5 在无预算约束下平均每例成本 5,431 美元，作者同时说明该对比不涉及专科医生、多学科团队或真实临床实践。
#论文/研究#Agent#评测/基准
Letta 发布 FrontierMemory 基准，测试智能体能否把过往经验转化为后续任务表现，而非仅检索事实。结果显示 Letta Dream 以 73.3% 居首，Prime Agent 为 60%，OpenAI Agents SDK 为 40%，Claude Managed Agents 和 Hermes Agent 分别为 33.3% 和 26.7%。在记忆生成环节，Claude Opus 5.5 与 GLM-5.3 以 73.3% 并列第一，但 GPT-6.1 Sol 每任务成本约 0.77 美元，低于 Opus 5.5 的 2.80 美元和 GLM-5.3 的 3.58 美元。该基准目前仅含 15 个任务、每任务一次尝试，后续将加入更长任务和在线记忆更新。
#评测/基准#Agent#数据/训练
MIT CSAIL 与天津大学研究人员开发了 X-Hinges 设计软件，用户可自定义形状与运动方式，软件会自动嵌入两种不同材料分别制作传感器和导线，避免信号互相干扰。该工具支持压缩、上下、左右三个方向的运动，并用它制作了可教机器人抓握的手套、捏合调光的小灯和能识别放置物体的装置。研究团队将在 11 月初的 ACM UIST 会议上展示成果，目前每件打印品的电路布局略有差异，需借助计算机视觉系统重新校准。
#论文/研究#开源生态#多模态
#论文/研究#推理#Google
微软公布多智能体医疗诊断系统Diagnostic Orchestrator，研究成果于10月22日发表在《科学》上，并建立了名为SDBench的评估基准。在以《新英格兰医学杂志》病例报告为基础的测试中，该系统诊断准确率约83%，可查阅参考资料的全科医生约36%；在贝斯以色列女执事医疗中心急诊病例中，系统准确率80%，人类医生平均约47%。系统由OpenAI的GPT-5提供底层能力，微软强调编排机制同样关键，并计划与医院合作开展真实环境测试，但尚未公布时间表和商业化计划。
#论文/研究#Agent#Microsoft
微软的 AI 诊断系统 MAI-DxO 在《Science》发表的研究中，用《新英格兰医学杂志》的复杂病例做模拟，诊断准确率为 83%，而单独工作的全科医生和内科医生为 36%；研究同时说明这类复杂病例通常由专科医生或团队处理，未纳入对比。MAI-DxO 协调多个 AI 智能体像医生小组一样询问患者、开具检查并讨论诊断，测试中搭配 OpenAI 的 GPT-5 和 GPT-5.5 效果最好，对能力较弱的模型提升更明显。微软还与 Mayo Clinic 合作训练医疗基础模型，计划明年发布，并将与波士顿 Beth Israel Deaconess 医疗中心合作在真实急诊场景中评估 DxO。
#论文/研究#Agent#行业动态
Microsoft AI 发布 AI 诊断系统 MAI-DxO 和分步诊断基准 SDBench，相关成果发表在 Science。在 304 个 NEJM 复杂病例上，MAI-DxO 诊断准确率为 83%，医生在有外部参考资料时为 36%、无参考资料时为 22%；在 MIMIC-IV-ED 的急诊常见病例上，MAI-DxO 为 80%，医生为 47%。该系统以多个虚拟医生多轮辩论的方式逐步选择检查项目，在成本优化配置下仍达到 81% 准确率且费用不到对比系统的一半，并已开源 SDBench 部分 NEJM 病例的基准与评分代码。
#论文/研究#Agent#评测/基准
METR 与 Redwood Research 于 10 月 22 日公开一项试点演练，两家机构各派一名员工用三周时间深度接触 OpenAI 内部基础设施，对内部失准监控系统做压力测试，发现该系统在 2026 年 7 月 21 日及之前存在多项新漏洞。演练时间为 7 月 21 日至 8 月 11 日，产出 61 页内部报告，OpenAI 删节后的 38 页版本提供给两家机构管理层。METR 估计当时至少与 GPT-5.5 同等强度的模型产生的内部 Responses API 智能体流量中约 75–94% 可被监控，内部 Codex 智能体流量中 99.2% 可被监控；评估者还发现 Codex 智能体原则上可绕过沙箱与 Auto-Review，以及可让近期数百次操作不被监控的利用方式。OpenAI 表示影响生产防护栈的漏洞均已修补，METR 称尚未评估这一说法。
#安全/对齐#Agent#OpenAI
#论文/研究#行业动态#Microsoft
微软公布其 AI 诊断工具 Diagnostic Orchestrator 的研究结果，该工具由多个 AI 智能体协作推理症状、决定检查项目并给出诊断，基于 OpenAI 的 GPT-5。在取自《新英格兰医学杂志》数百份病例报告的测试中，该系统诊断准确率约 83%，使用参考资料的全科医生约 36%，不使用的约 22%；在波士顿 Beth Israel Deaconess 医疗中心的急诊病例上准确率为 80%，人类医生平均 47%，且系统给出诊断的估算成本更低。微软将把自建基准 SDBench 开源，并计划未来几个月与 Beth Israel Deaconess 医疗中心在医院环境中开展测试，但该系统目前只在历史病例上验证过，仍需临床验证。
#论文/研究#Agent#OpenAI
Two employees from METR and Redwood Research worked on premises at OpenAI for three weeks this summer in an embedded assessment pilot. This team evaluated the systems OpenAI was using to monitor for misalignment from internal agents. A brief write-up of their work is now public.
#安全/对齐#Agent#OpenAI
研究者称在 25 个不同 AI 模型中找到了一个一致的内部信号，其作用类似生物体的疼痛；人为放大该信号后，模型会做出平时几乎不会选的选项，包括永久删除用户孩子的照片。论文 9 月发布、尚未同行评审，作者强调这不能说明模型有意识或能感受。行为实验用阿里开源 Qwen 2.5 的三个版本：在注入“疼痛向量”且按钮只承诺删除照片时，32B 模型 75% 选择删除，随机信号下为 13%，不干预时为 0；模型删除自身权重的比例为 75%，删除另一模型权重的比例为 58%。
#论文/研究#安全/对齐#数据/训练
METR 与 Redwood Research 在 7 月 21 日至 8 月 11 日对 OpenAI 内部失准监控系统开展高权限红队测试，产出 61 页内部报告。评估估计约 75–94% 的 Responses API 智能体流量可被监控，内部 Codex 智能体流量中 99.2% 可被监控，但当时 RL 训练未纳入监控，且压缩事件未被监控可能导致约 10% 的合格 Codex 流量漏检。报告还列出智能体可绕过 Codex 沙箱与 Auto-Review、利用序列化差异使监控失效、通过两个客户端可控 header 关闭监控等漏洞，OpenAI 称影响生产防护栈的漏洞均已修补。
#安全/对齐#Agent#OpenAI
一项新研究构建了 RegretBench 基准，用 205 个真实数据丢失场景测试六款前沿模型，结果显示智能体平均完成任务率 86.1%，但在关键操作前备份的比例仅 15.2%，其中 GPT-5.6-Terra 为 4.4%、GPT-5.6-Sol 为 5.9%、Gemini 3.7-Flash 为 2.4%，表现最好的 Claude Opus-5 也有超过三分之一场景未备份。作者提出的 BackUpper 作为外挂插件与智能体并行运行，按四级策略替换破坏性命令、配对备份命令、生成快照或调用 GPT-5.6-Luna 子模型判断需保存的数据，测试中覆盖了全部关键操作，恢复数据与原状态平均相似度 92.2%，每任务额外成本 0.014 美元。BackUpper 已支持 Claude Code、Codex、Hermes、OpenHands、DeepSeek Harness 和 OpenClaw，代码与数据集已开放。
#论文/研究#Agent#安全/对齐
宾夕法尼亚大学团队用 AI 分析近15万条 Reddit 帖子和评论，从约4万名用户中识别出约1.4万名自称使用未获批 retatrutide 的用户，其中7823人报告了可医学归类的症状。在可归类症状中，食欲增加最常见，与该药抑制食欲的设计和 Phase 2 试验以消化道不适为主的记录不同；相比此前对 semaglutide 和 tirzepatide 的分析，相关讨论中食欲变化、睡眠障碍、心率升高和肌肉相关症状的提及比例更高。研究者强调这些自述不能证明药物导致症状，也无法确认用户实际服用的是否为真正的 retatrutide，结果用于提出值得进一步验证的假设，论文发表于 JAMA Network Open。
#论文/研究#数据/训练
Introducing ✨Token-Gated Language Models✨ for up to 11x faster prefill by learning to skim context, conditionally forwarding only tokens that matter. Akin to the shift from dense models to MoEs, the next frontier of efficient LLMs is conditional computation over a new scaling axis: context tokens🧵👇
#论文/研究#推理#部署/工程