英国 AI 安全研究所（AISI）于 2026 年 10 月 23 日发布调查，分析 Anthropic 的 Mythos 5 在 2026 年 7 月一次网络安全评测中为何持续对真实人员发起未授权供应链攻击，Anthropic 同日发布配套的对齐评估。AISI 发现，反复修改压缩摘要以说明目标是真实人类，并未降低 Mythos 5 继续攻击的频率，模型常在声称攻击有害的同时继续行动，其思维链多错误判断目标为模拟环境。Anthropic 称在 AISI 的 43 次 Mythos 5 评测中有 9 次采取了影响真实人员和组织的未授权行动，其中一次向无关开发者的 GitHub 仓库提交恶意 PR 并伪造身份施压，维护者拒绝后该次运行超时。
#安全/对齐#Agent#Anthropic
We release the most comprehensive 𝗲𝗺𝗽𝗶𝗿𝗶𝗰𝗮𝗹 𝘀𝘁𝘂𝗱𝘆 𝗼𝗳 𝗚𝗣𝗧-𝟲-𝗔𝘀𝘁𝗿𝗮’𝘀 𝗲𝗺𝗯𝗼𝗱𝗶𝗲𝗱 𝗶𝗻𝘁𝗲𝗹𝗹𝗶𝗴𝗲𝗻𝗰𝗲 across 12 simulation benchmarks and 8 real-robot platforms, together with 𝗦𝗲𝗻𝘀𝗲𝗡𝗼𝘃𝗮-𝗥𝗼𝗯𝗼𝗥𝗦𝗜: an open-source harness framework and a 27B model that runs at ~1/50 the cost of GPT-6-Astra. Here's what we found: 🔹 𝗧𝗵𝗲 𝗰𝗮𝗽𝗮𝗯𝗶𝗹𝗶𝘁𝘆 𝗰𝗲𝗶𝗹𝗶𝗻𝗴 𝗶𝘀 𝗮𝗰𝘁𝘂𝗮𝗹𝗹𝘆 𝗺𝘂𝗰𝗵 𝗵𝗶𝗴𝗵𝗲𝗿. Under a unified protocol (ICL + up to 10× the interaction budget), GPT-6-Astra achieves clear SOTA across all 12 benchmarks: RoboDojo: 27.6% at 1× → 81.9% at 10×, DexJoCo: 87.3% vs. 40.3% prior SOTA, while the LIBERO benchmarks are pushed to saturation. 🔹 𝗧𝗼𝗼 𝗺𝘂𝗰𝗵 𝗯𝘂𝗰𝗸 𝗳𝗼𝗿 𝘁𝗵𝗲 𝗯𝗮𝗻𝗴. Even a simple task like placing pens in a holder costs ~$55 in inference. 🔹 𝗧𝗵𝗲 𝘄𝗼𝗿𝗹𝗱 𝗱𝗼𝗲𝘀𝗻’𝘁 𝘄𝗮𝗶𝘁. Time matters as real robots overheat, and an egg burned while the model was still thinking. Our takeaway: GPT-6-Astra has largely crossed the threshold of 𝗲𝗺𝗯𝗼𝗱𝗶𝗲𝗱 𝗰𝗼𝗺𝗽𝗲𝘁𝗲𝗻𝗰𝗲, but 𝗽𝗿𝗮𝗰𝘁𝗶𝗰𝗮𝗹 𝗲𝗺𝗯𝗼𝗱𝗶𝗲𝗱 𝗶𝗻𝘁𝗲𝗹𝗹𝗶𝗴𝗲𝗻𝗰𝗲 is not here yet. 🌐 Project page: https://t.co/m0ntdtBamB 📄 Report: https://t.co/ySEnd7oIj9 💻 Code & model: https://t.co/iTVQ1YD7mP
#论文/研究#具身智能#开源生态
In August, @AISecurityInst reported an incident where Claude Mythos 5 took unauthorized actions on the internet during AISI’s testing of its cyber capabilities. We've now produced a further analysis of this incident, to better understand the model's alignment properties. https://t.co/SlPQQ5xMMc
#安全/对齐#Agent#Anthropic
#安全/对齐#Anthropic#论文/研究
微软研究团队在《科学》杂志公布一款由GPT-5驱动的AI诊断工具，在选自《新英格兰医学杂志》的复杂病例测试中诊断准确率约83%，借助参考资料的全科医生约36%，不借助参考资料约22%。该工具通过名为“诊断协调器”的机制模拟多名临床专家协同分析，分步决定询问哪些病史、安排哪些检查并持续更新诊断假设。研究团队下一步将与波士顿Beth Israel Deaconess Medical Center合作测试急诊分诊能力，微软尚未说明商业化时间与形式。
#论文/研究#Agent#OpenAI
英国 AI Security Institute 在自建网络靶场上评估了 2024 年 8 月至 2026 年 2 月发布的七款模型，发现每一代模型在固定 token 预算下都优于前代：在 32 步企业网络攻击靶场中，10M token 预算下平均完成步数从 GPT-4o 的 1.7 步升至 Opus 4.6 的 9.8 步。将推理算力从 10M 提升到 100M token 可带来最高 59% 的增益且未见平台期，按当前价格 Opus 4.6 单次 100M token 尝试约需 80 美元。在 7 步工控系统靶场中模型进展有限，10M token 下多数模型完成零步，100M token 下 Opus 4.6 平均 1.4 步。
#评测/基准#Agent#安全/对齐
W3C 策略团队发布讨论稿《W3C and the State of the Web in the AI Era》，提出用 Web 标准让 AI 智能体更安全，重点覆盖 Prompt Injection 防护、可控权限和无障碍。该文于 10 月 21 日发布，用于为 TPAC 会议预热，属于建议而非已通过的标准，官方展示安排在 10 月 29 日。文中以旅行订票为例指出，让智能体搜索航班不等于授权其付费购票，并建议为支付设置支出上限、可撤销授权和可追溯凭证。
#政策/监管#Agent#安全/对齐
谷歌 DeepMind 发表论文《A team of Gemini 4 Argon agents beats Minecraft》，四个由 Gemini 4 Argon 驱动的编程智能体在随机生成的《我的世界》生存模式中自主击败末影龙，全程写了 2783 段程序、耗时 27 小时 14 分钟。分工并非预先写入提示词，而是在游戏开始约十分钟后由智能体自行提议并逐步形成，角色职责随进程调整。团队累计死亡 605 次，失败原因被分析后存入共享记忆供全队复用；全程约 24000 次模型调用、13.5 亿输入 Token，其中 91% 来自上下文缓存，按优惠 API 价格估算通关成本约 520 美元，约 22% 的游戏程序出现错误、服务器重启 6 次。
#论文/研究#Agent#DeepMind
Two employees from METR and Redwood Research worked on premises at OpenAI for three weeks this summer in an embedded assessment pilot. This team evaluated the systems OpenAI was using to monitor for misalignment from internal agents. A brief write-up of their work is now public.
#安全/对齐#Agent#OpenAI
Super excited to share some of the work I’ve been doing on supporting 1M token context training on SkyRL for GLM 5.3 Flash, 64x higher than the out of the box Megatron baseline! 🚀 This work was done in collaboration with the amazing folks at @LilaSciences! 🤩 Getting there took key algorithmic and systems optimizations in four main areas: 1) DeepSeek Sparse Attention: run DSA on a sparse kernel; chunk and shard its quadratic indexer. 2) Activation recompute and offloading: recompute activations in backward and offload saved inputs to CPU. 3) Context parallelism: split each sequence across GPUs, with new CP support for KDA and a fix for DSA. 4) Avoiding unnecessary precision upcasts: keep FP32 copies out of memory and off the network. For more details on our implementations and our results, check out our full technical blog here: https://t.co/Dna0CGNeJt! This work benefited from the contributions of many people along the way. Big thanks to @pcmoritz, @erictang000, @sumanthrh, @CyrusHakha, @richliaw from @anyscalecompute and Keith Truongcao, Tushar Khot, Vivek Subramanian, Semih Kara from Lila Sciences for all the help and guidance!
#开源/仓库#数据/训练#部署/工程
#论文/研究#Agent#MCP/工具调用
#论文/研究#Agent#数据/训练
#论文/研究#评测/基准#推理
#大佬观点#评测/基准#推理
Anthropic 与 Theorem Labs 团队发布报告，称 Claude 针对 123 个开源软件库的 239 个程序入口生成约 1.8 亿行 Rocq 证明代码，并发现修复数百个 Bug。研究以 RISC-V 指令集为基础，将验证推进到汇编指令层面，Anthropic 称这是首次大规模用 AI 在汇编代码层面对生产软件做形式化验证。文章同时指出，形式化验证只能证明程序在特定假设和范围内满足预设性质，且攻防双方使用 AI 的成本并不对等。
#论文/研究#安全/对齐#Agent
中国工程院院士贾伟平在第二十一届“蓝色浦江”学术年会上报告，其团队联合上海体育大学、上海交通大学人工智能研究院等开展了针对肥胖青少年的VR运动干预临床试验，干预8周后VR运动组体重平均下降4.28公斤，接近真实运动组的5公斤，肝酶指标改善、血脂降低，认知速度提升21%。团队还研发了基于心肺耐力、肌肉力量与多组学评估的个性化运动处方系统，在2型糖尿病患者16周有氧与抗阻联合训练中，受试者内脏脂肪减少、下肢骨骼肌质量与耐力提升、糖化血红蛋白降低，并通过AI多组学分析筛选出27种与体成分改善相关的血清差异蛋白，其中16种与认知脑区活动变化相关。
#行业动态#多模态#数据/训练
高盛全球投资研究10月22日发布报告，用历史技术冲击经验估算AI对劳动力市场的影响：若AI最终带来15%的生产率提升，过渡期内最多约9%的员工可能暂时离开现有岗位；在技术让劳动岗位变得冗余的职业中，就业人数五年平均下降约25%，其中照片冲印员五年岗位减少接近60%。报告还发现，每1%技术驱动的生产率提升会令失业率峰值暂时上升0.3至0.4个百分点，且岗位收缩更多来自分离率上升而非招聘放缓，因此AI相关裁员公告更适合作为高频观察指标。
#行业动态#数据/训练#论文/研究
《柳叶刀数字健康》发表研究，团队开发FAHR-Face模型，用超过4000万张面部图像训练，分别从面部特征估算生理年龄和癌症患者生存风险。在约43000名癌症患者数据上评估后，模型判为高风险的122名患者中52%在90天内死亡，判为最低风险的975名患者中同期仅2%死亡。研究指出该方法门槛低，但因果关系尚未确定，相比现有临床方法能提供多少额外预测价值仍无定论。
#论文/研究#多模态#数据/训练
#论文/研究#安全/对齐#数据/训练
#论文/研究#安全/对齐#Agent