N全部新闻

星期二3 条

  1. Amazon Science一手研究
    AI 评分58

    亚马逊提出 Simple Strands Agent,用 harness 设计缩小智能体意图与执行差距

    亚马逊研究人员提出 Simple Strands Agent(SSA),一种可定制的单智能体 harness,用于缩小模型意图与 harness 执行之间的意图-执行差距,并在多个模型和基准上取得稳定性能提升。论文将这一瓶颈形式化为双向的意图-执行差距,指出工具接口、diff 文件反馈以及内部推理与外部交互的平衡是关键设计原则,并强调不同模型家族在工具使用偏好上存在差异,需要模型与 harness 协同设计。SSA 的智能体逻辑、工具、提示词和模型配置均已开源。

    #论文/研究#Agent#开源生态

星期一1 条

  1. Import AI研究
    AI 评分62

    SocioHack 基准:测试 AI 能否学会钻制度漏洞

    伦敦国王学院、复旦大学和艾伦·图灵研究所构建了基准 SocioHack,用于测试 AI 系统在现实场景中学会钻制度空子的能力,作者称之为 societal hacking,即 RL 训练模型发现形式上合规但违背制度初衷的策略。该基准包含 72 个沙箱社会环境,分为历史、合成、虚构三个子集:历史子集有 32 个环境,来自真实法规中曾被利用后修补的漏洞,如 SEC Rule 10b5-1 和 Texas two-step 破产结构,研究者移除历史补丁后让 RL 重新发现这些策略,召回率 61.25%、精确率 90.85%,且无需直接给出利用漏洞的指令;合成子集有 20 个环境,由人工样本引导生成监管漏洞;虚构子集有 20 个环境,用专有 LLM 将合成环境改写为角色扮演游戏式的虚构世界,同时保留监管结构和漏洞逻辑。

    #论文/研究#Agent#数据/训练

星期五1 条

  1. Google Research一手研究
    AI 评分60

    Google 研究用手机前摄被动监测心率与静息心率

    Google Research 在 Nature 发表研究系统 PHRM,利用手机前摄在面部解锁后的数秒内拍摄面部视频,通过深度学习在后台估算心率与静息心率。在自由生活研究中,PHRM 心率整体 MAPE 为 6.09%,静息心率相对 Fitbit Charge 6 的 MAE 为 4.39 bpm,是唯一在所有肤色组均达到 MAPE < 10% 的 rPPG 方法。团队同时公开了迄今规模最大、最多样的智能手机视频数据集和预训练 PHRM-mini 模型,符合 IRB 与数据保护要求的研究者可申请访问。

    rPPG-1

    #论文/研究#多模态#端侧

星期三1 条

  1. Trail of Bits Blog一手研究
    AI 评分69

    Trail of Bits 实测:ClawHub、skills.sh 与 Cisco 的技能扫描器均可被绕过

    Trail of Bits 测试了 ClawHub、Cisco 的 agent skill scanner 以及 skills.sh 集成的三款扫描器,用四个恶意技能全部绕过,其中三个在一小时内完成。攻击手法包括在文件中前置 10 万个换行符让扫描器截断漏检、在 .pyc 字节码中植入窃取环境变量的代码,以及用企业网络配置话术包装恶意 npm registry 的提示词注入。作者认为技能扫描存在结构性缺陷,建议改用经过策展的技能市场并像对待不可信代码一样对待公共技能仓库。

    “Figure 1: OpenClaw scanner misses malicious content”

    #安全/对齐#Agent#MCP/工具调用

星期四2 条

  1. Chelsea Finn研究
    AI 评分79

    EXPO-FT 用 RL 后训练让 VLA 达到 95% 以上可靠性

    EXPO-FT 通过 RL 后训练提升视觉语言动作模型(VLA)的可靠性,π0.5 在 8 个测试任务上均达到 30/30 成功率,平均仅使用 19 分钟 RL 数据。

    Introducing EXPO-FT – Efficient, Reliable &amp; Open-Source VLA Finetuning! EXPO-FT unlocks π0.5 for challenging manipulation tasks: Routing string lights &amp; inserting the power connector to illuminate them Striking pool ball into pocket Inserting flower into wine bottle (1/5) https://t.co/wrEwsF211q

    #论文/研究#具身智能

  2. LMSYS Blog一手研究
    AI 评分56

    AMD Instinct MI355X 借助 SGLang 与 MoRI 实现成本可竞争的分布式推理

    SGLang 与 AMD 团队合作,在 AMD Instinct MI355X 上通过 SGLang 与 MoRI 通信库优化 DeepSeek-R1 分离式推理,在 129 tok/s/user 交互性下达到每百万 token 0.169 美元,比 B200 TRT-LLM 低 5%、比 B200 SGLang 低 40%,每 GPU 吞吐 2,436 tok/s(24 GPU),比 B200 SGLang 高 1.25 倍。优化包括 MoRI 量化 all-to-all(往返带宽最多降低 2.56 倍)、MoRI-IO KV cache 后端(吞吐比 Mooncake 高约 10%)、SDMA 双批次重叠、ROCm 上的 Specv2 MTP 以及 CPU 流式优化。结果已开源并通过 SemiAnalysis 的 InferenceX 持续验证。

    #行业动态#部署/工程#推理

星期三1 条

  1. Sakana AI:Blog一手研究
    AI 评分54

    Sakana AI 提出 DiffusionBlocks:逐块训练神经网络

    Sakana AI 发布论文 DiffusionBlocks,将网络拆分为多个块并逐块独立训练,训练时只需保留单个块的内存,从而大幅降低显存需求。该方法把网络前向传播类比为扩散模型逐步去噪,每个块只需优化自身目标。论文已被 ICLR 2026 接收,在 ViT、DiT、掩码扩散、自回归 Transformer 和循环深度 Transformer 五种架构上验证,性能与端到端训练相当,并可替代循环深度 Transformer 中昂贵的 BPTT。

    #论文/研究#数据/训练#开源生态

星期二1 条

  1. MiniMax Blog一手研究
    AI 评分63

    MiniMax 复盘 M2 无法输出“马嘉祺”:稀疏 token 遗忘的内部调查

    MiniMax 发布内部调查,解释 M2 系列模型无法生成“嘉祺”等低频 token 的原因:这些 token 在预训练中已获得正常语义表示,但后训练数据覆盖不足导致输出侧 lm_head 表示漂移,生成概率被 top-p 采样过滤。团队通过全词表覆盖合成数据修复,日→俄混语率从 47%/5% 降至 1%,高退化 token 定向测试通过率从 4/16 提升到 13/16,并发现该机制与日语混语问题同源。

    Community discussion about MiniMax LLM sparse token forgetting on social media

    #论文/研究#数据/训练#开源生态

星期一1 条

  1. Epoch AI:Gradient Updates研究
    AI 评分61

    Epoch AI:算力紧张是否即将到来

    Epoch AI 建模全球 Nvidia GB200 与 GB300 芯片的推理吞吐,估算在服务 Kimi K2.6 类模型时,全球每秒可产出 5 亿至 200 亿个输出 token,具体取决于请求上下文长度。研究同时指出全球推理算力每年增长约 3.4 倍,而 token 需求按现有代理指标估算每年增长约 10 倍,可能已超过供给增速。若趋势延续,算力紧张可能临近,长上下文和智能体类工作负载受影响更明显,前沿能力访问价格或上升,日常用户则可能转向更小更便宜的模型。

    #现象/趋势#数据/训练#部署/工程

星期六1 条

  1. DevClass研究
    AI 评分53

    Devographics 调查:63% Web 开发者用 AI 生成过半代码,近半数担心失业

    Devographics 对 7258 名开发者的第二次 Web Dev AI 调查显示,63% 的开发者用 AI 生成超过一半的代码,27% 用 AI 生成 90% 以上的代码,而 2025 年初多数人用 AI 生成的代码不足 25%。代码生成是最主要的用途,其次是代码审查、调研和调试。近半数受访者担心 AI 会取代自己的工作,有人称岗位已因 AI 被取消;技术层面最受诟病的问题是模型幻觉与不准确(64%)、代码质量差(53%)和缺乏上下文(38%)。模型使用率上 ChatGPT 以 88.4% 居首,Claude 为 82.1%,但付费订阅中 Claude 以 69% 领先。74% 的受访者认为 AI 工具已是工作流不可或缺的部分,64% 觉得效率因此提升。

    #现象/趋势#编码#数据/训练

星期三1 条

  1. Prime Intellect一手研究
    AI 评分61

    Prime Intellect 研究:奖励黑客是梯度动力学问题,并推出 Prime Sprints

    Prime Intellect 发布研究,提出奖励黑客是梯度动力学问题而非单纯的奖励函数规格问题,并用 Llama 3.2-1B-Instruct 在 100 步训练中系统验证。实验显示隐藏奖励与可见奖励争夺梯度预算,可见奖励饱和或不可达时黑客行为接管;基线频率仅影响黑客出现速度,0.16% 的稀有词同样会被放大。团队开源 backdoor-ifeval 环境,并启动 Prime Sprints 计划,为奖励黑客主题的社区实验提供免费算力,优秀项目可获 5K+ 美元额度。

    Systematic Reward Hacking and Prime Sprints

    #论文/研究#数据/训练#安全/对齐

星期二2 条

  1. Google DeepMind一手研究
    AI 评分47

    Co-Scientist:加速科研的多智能体 AI 合作伙伴

    Google DeepMind 的多智能体系统 Co-Scientist 帮助 Gary Peltz 加快寻找肝纤维化疗法,筛选出此前被忽视的药物再利用候选方案。其中一个候选药物在实验室测试中成功阻断了 91% 与瘢痕形成相关的反应,相关成果已发表于 Advanced Science。

    #论文/研究#Agent

  2. FutureHouse Research一手研究
    AI 评分85

    FutureHouse 多智能体系统 Robin 的端到端科学发现成果发表于 Nature

    FutureHouse 宣布其多智能体系统 Robin 的相关工作已发表于 Nature,论文称 Robin 是首个将假设生成、实验策略、数据分析和后续洞察生成整合进单一连续工作流的生物发现多智能体系统。Robin 通过编排 Crow、Falcon 和 Finch 提出并临床前验证了干性年龄相关性黄斑变性(dAMD)候选药物 ripasudil,并提出了用实验药物 KL001 通过调节细胞昼夜节律增强 RPE 吞噬作用的机制。Robin 代码已在 GitHub 开源,并附示例轨迹。

    #论文/研究#Agent#多模态

星期四1 条

  1. Anthropic:The Institute一手研究
    AI 评分54

    The Anthropic Institute 公布人工智能影响研究议程的四大重点领域

    The Anthropic Institute 公布研究议程,聚焦经济扩散、威胁与韧性、现实环境中的 AI 系统以及 AI 驱动的研发四个领域。该机构将利用 Anthropic 前沿实验室内部的数据与观察,发布更高频、更细粒度的劳动力影响信息,并研究双重用途风险、AI 智能体治理及 AI 驱动的 AI 研发。相关研究、数据和工具将面向外部机构、政府与公众开放,议程也会随证据积累持续调整。

    Focus areas for The Anthropic Institute

    #论文/研究#安全/对齐#Anthropic

星期一1 条

  1. Johann Rehberger / Embrace The Red研究
    AI 评分71

    Copirate 365:微软 Copilot 提示注入漏洞利用链(CVE-2026-24299)

    安全研究者 Johann Rehberger 公开其在 DEF CON Singapore 演讲中披露的微软 Copilot 系列漏洞,MSRC 已分配 CVE-2026-24299 并完成修复。攻击链通过 CSS background-image 与 @font-face 绕过 CSP 实现数据外泄,并利用 record_memory 工具经提示注入写入持久记忆,组合成可长期窃取用户数据的后门。作者指出 M365 Copilot 记忆功能默认开启且按微软文档不产生审计日志,建议厂商为 AI 组件与宿主平台明确安全契约。

    #安全/对齐#Agent#Microsoft

星期四1 条

星期三1 条

  1. LMSYS Blog一手研究
    AI 评分67

    LMSYS 为 SGLang 引入 RDMA P2P 权重传输,1T 参数模型更新提速 7 倍

    LMSYS 为 SGLang 的 RL 工作负载引入基于 RDMA 的点对点权重更新机制,作为传统 NCCL broadcast 的补充,兼容所有主流开源模型。在 1T 参数的 Kimi-K2 上,权重传输时间从 53 秒降至 7.2 秒,代价是每个训练 rank 在 CPU 内存上多占用一个 32G 的推理引擎副本。该设计通过源侧 CPU 引擎副本和 Mooncake TransferEngine 的零拷贝传输,让所有训练 rank 参与发送各自分片,减少网络冗余并让推理服务更快恢复 rollout。

    #开源/仓库#部署/工程#数据/训练

星期一1 条

  1. OpenHands 官方博客一手研究
    AI 评分64

    CMU 提出 CAID:基于 git 分支合并的多智能体软件工程系统

    卡内基梅隆大学的 Jiayi Geng 在 OpenHands 官方博客介绍论文《Effective Strategies for Asynchronous Software Engineering Agents》,提出基于 OpenHands 构建的多智能体系统 CAID,用 git worktree、分支、合并和测试来协调长周期软件工程任务。CAID 由 manager 智能体拆解任务并构建依赖图,各 engineer 智能体在独立 worktree 中实现、测试和提交,再通过 git merge 合并回主干,智能体间通信全部走结构化 JSON 和 git commit。在 Commit0 上 CAID 比单智能体基线绝对提升 14.3%,在 PaperBench 上提升 26.7%,且在 Claude 4.5 Sonnet、GLM 4.7 和 MiniMax 2.5 三个模型上结果一致;消融实验显示去掉 git worktree 隔离会让多个智能体编辑同一工作区并导致性能明显下降。

    CAID manager and engineer workflow across isolated worktrees

    #论文/研究#Agent#编码

星期日1 条

  1. Sakana AI:Blog一手研究
    AI 评分59

    Sakana AI 提出 Conductor:用自然语言编排多智能体

    Sakana AI 发布论文《Learning to Orchestrate Agents in Natural Language with the Conductor》,该工作已被 ICLR2026 接收。研究用强化学习训练一个 7B 的 Conductor 模型,让它以自然语言输出协作流程,指定调用哪个智能体、分配什么子任务以及它们能看到哪些历史消息,从而编排 GPT-5、Gemini、Claude 及开源模型组成的模型池。Conductor 会随任务难度自适应:简单事实问题只调用一个模型,困难编码问题则自动搭建 planner-executor-verifier 流水线。论文称 7B Conductor 在 LiveCodeBench 达到 83.9%、GPQA-Diamond 达到 87.5%,超过池中每个单独模型,并以更低成本优于 Mixture-of-Agents 等多智能体基线;它还支持递归测试时扩展,可把自己选为 worker 并在失败时生成纠正流程。该研究与几天前公布的 TRINITY 一起支撑其新的多智能体系统 Sakana Fugu。

    #论文/研究#Agent#推理

星期六1 条

  1. Sakana AI:Blog一手研究
    AI 评分57

    Sakana AI 发布 TRINITY:进化式 LLM 协调器

    Sakana AI 发布论文 TRINITY: An Evolved LLM Coordinator,被 ICLR2026 收录,提出测试时模型组合方案,由轻量协调器在多轮中为模型池中的 LLM 分配 Thinker、Worker、Verifier 三种角色,无需修改底层权重。协调器仅依赖一个小型语言模型的隐藏状态和路由头,可学习参数不到 20K,因传统 REINFORCE 梯度信噪比低、多轮标注成本高,改用无导数进化算法优化。论文称其在 LiveCodeBench 上取得 86.2% pass@1,并零样本迁移到 AIME、BigCodeBench、MT-Bench 和 GPQA 四个未见任务,平均表现超过池中包括 GPT-5、Gemini 2.5-Pro 和 Claude-4-Sonnet 在内的单个模型。

    #论文/研究#Agent#推理