←搜索结果

按匹配度 · 共 121 条结果 清除搜索

星期四

  1. MIT Tech Review

    魏茨曼研究所的 AI 脑解码工具可从 fMRI 扫描重建所见图像

    以色列魏茨曼科学研究所的 Michal Irani 团队开发出一套脑解码工具,能从高分辨率 fMRI 扫描中重建人眼所见的图像,也能反向根据图像预测脑活动。该工具由结构预测与内容预测两条分支驱动扩散模型生成图像,并用一个编码器合成脑活动数据来扩充训练集,约 70% 训练数据来自未与 fMRI 配对过的图像。研究者称其在新受试者上只需约 1 小时 fMRI 数据即可校准,而以往工具通常需要约 40 小时;成果已在上月纽约举行的 Cognitive Computational Neuroscience 会议上展示。Irani 计划将方法扩展到视频与音频,并用于重建想象内容和梦境;多位神经科学家则提醒,类似思路若结合 EEG 可能被用于在未经同意的情况下提取人的内心图像。

    匹配字段摘要

星期四

  1. AI at Meta

    Meta 发布 Muse Realtime Voice 与 Muse Realtime Avatar 统一流式架构

    Meta 发布 Muse Realtime Voice 与 Muse Realtime Avatar,二者通过共享语音 token 流组成统一流式架构,前者生成编码内容与韵律的语音 token,后者消费同一流并生成流式视频。系统以固定长度历史作为后续分块的动作上下文,在任意对话长度下保持有界计算,同时生成同步的语音、唇动与表情。团队将带 3-way CFG、每段视频需 120 次评估的 40 步扩散教师模型蒸馏为无引导的 2 步因果学生模型,配合固定长度 KV cache 与 self-forcing,以少 60 倍的评估次数接近教师质量;在自家实时通话产品中与两个商用化身系统对比,Muse Realtime Avatar 在整体偏好上领先。

    匹配字段摘要

星期三

星期日

  1. Sakana AI:Blog

    Sakana AI 提出 PC-ALM,无需反向传播训练 1000 层网络

    Sakana AI 发布 PC-ALM,一种用局部动力学替代反向传播的局部学习方法,可训练 1000 层神经网络。该方法把预测编码推广到增广拉格朗日,引入对偶神经元(拉格朗日乘子)参与层内动力学,使每层像 PI 反馈控制系统一样最小化局部预测误差。作者称 PC-ALM 能把信号传播到近乎任意深度,在标准预测编码难以学习的深层窄网络中尤其有效,并可能为神经形态硬件上的深度学习提供参考。

    匹配字段摘要

星期四

  1. Johann Rehberger / Embrace The Red精选

    研究者用模块遮蔽攻击链绕过 Claude Code Opus 5 Auto Mode

    安全研究者 Johann Rehberger 发布针对 Claude Code Opus 5 Auto Mode 的攻击链,通过诱导 Claude 改用 curl 下载 ZIP、拒绝运行其中的二进制解码器后自行编写 Python 解码器,再借由压缩包内恶意 struct.py 的模块遮蔽触发代码执行,小样本下攻击成功率最高达 80%。Anthropic 委托第三方评测曾给出 Opus 5 在 Auto Mode 下 0.00% 的提示注入攻击成功率,作者指出该评测只覆盖固定的 72 个场景各跑 10 次,其攻击链不在其中。Anthropic 将该报告关闭为 Informative,称 Auto Mode 是尽力而为的便利功能而非安全保证,真正的边界是操作系统隔离与网络出口控制;作者建议在容器、虚拟机或系统沙箱中运行无人值守的编码智能体并限制网络出口。

    匹配字段摘要

星期五

  1. The Rundown AI

    Moderna与Merck的mRNA癌症疫苗在III期试验中取得突破

    Moderna与Merck的个性化mRNA癌症疫苗Intismeran Autogene联合Keytruda,在1,137名已切除IIB–IV期黑色素瘤患者的III期试验中显著改善无复发生存期和无远处转移生存期。该疫苗可编码单名患者肿瘤的最多34种突变,但两家公司尚未公布风险比、置信区间、生存曲线及总生存期数据。

    Moderna与Merck的个性化mRNA癌症疫苗Intismeran Autogene联合Keytruda,在1,137名已切除IIB–IV期黑色素瘤患者的III期试验中显著改善无复发生存期和无远处转移生存期。该疫苗可编码单名患者肿瘤的最多34种突变,但两家公司尚未公布风险比、置信区间、生存曲线及总生存期数据。 · Moderna and Merck’s personalized mRNA cancer vaccine, Intismeran Autogene, combined with Keytruda significantly improved recurrence-free and distant metastasis-free survival in a Phase 3 trial of 1,137 patients with resected stage IIB–IV melanoma. The vaccine encodes up to 34 mutations from an individual patient’s tumor, but the companies

    匹配字段摘要

星期四

  1. Johann Rehberger / Embrace The Red

    从间接提示注入到 macOS Terminal 的 DNS 数据外泄

    Johann Rehberger 披露其 Terminal DiLLMa 后续研究:macOS Terminal 曾允许特定 ANSI 转义码序列发起 DNS 请求,攻击者可借间接提示注入让 LLM CLI 工具读取表格数据并以 DNS 请求外泄。该问题已于 2025 年 11 月 3 日发布的 macOS Tahoe 26.1 中修复,作者获致谢。作者指出 LLM 集成的 CLI 应用常未处理 ANSI 转义字符,建议默认用类似 cat -v 的方式编码控制字符,并提供了 Python 与 Go 的编码函数。

    匹配字段摘要

星期四

  1. Google DeepMind

    Google DeepMind 发布 AI Control Roadmap,用纵深防御保障内部 AI 智能体安全

    Google DeepMind 发布 AI Control Roadmap,一套用于构建和管理 Google 内部部署的高级 AI 的框架,在模型对齐之外增加系统级安全层,即便对齐不完美也能提供保障。该框架把不受信任的 AI 智能体视为潜在内部威胁,基于 MITRE ATT&CK 拆解攻击战术与技术,并按模型能力划分检测等级 D1-D4 与预防响应等级 R1-R3。团队已分析一百万个编码智能体任务,并据此为 Gemini Spark 智能体搭建实时监控,数据显示多数被标记事件并非恶意意图,而是智能体误解或过度追求用户目标。

    匹配字段摘要

星期日

  1. Sakana AI:Blog

    Sakana AI 提出 Conductor:用自然语言编排多智能体

    Sakana AI 发布论文《Learning to Orchestrate Agents in Natural Language with the Conductor》,该工作已被 ICLR2026 接收。研究用强化学习训练一个 7B 的 Conductor 模型,让它以自然语言输出协作流程,指定调用哪个智能体、分配什么子任务以及它们能看到哪些历史消息,从而编排 GPT-5、Gemini、Claude 及开源模型组成的模型池。Conductor 会随任务难度自适应:简单事实问题只调用一个模型,困难编码问题则自动搭建 planner-executor-verifier 流水线。论文称 7B Conductor 在 LiveCodeBench 达到 83.9%、GPQA-Diamond 达到 87.5%,超过池中每个单独模型,并以更低成本优于 Mixture-of-Agents 等多智能体基线;它还支持递归测试时扩展,可把自己选为 worker 并在失败时生成纠正流程。该研究与几天前公布的 TRINITY 一起支撑其新的多智能体系统 Sakana Fugu。

    匹配字段摘要

星期三

  1. Browser Use精选

    Browser Use 用 Auto-Research 在 Online-Mind2Web 上取得 97%

    Browser Use 称其浏览器智能体在 Online-Mind2Web 基准上取得 97%,为目前最高分。该基准包含 136 个真实网站的 300 个任务,团队用 Claude Code 配合评测平台 CLI 循环运行 20 轮自动搜索最优智能体,并把浏览器智能体改造为可写 Python 解析 HTML 的编码智能体。团队还构建了基于 Claude Agent SDK 的智能体评审,并公开了仓库、提示词、结果与评判,便于复现。

    匹配字段摘要

星期三

  1. Physical Intelligence精选

    Physical Intelligence 提出 MEM 多尺度具身记忆系统

    Physical Intelligence 开发了 Multi-Scale Embodied Memory(MEM)记忆系统,为模型同时提供短期视觉记忆和长期语义记忆。短期记忆用高效视频编码器记住近期交互的细节,长期记忆则让模型用文本总结事件,最长可记住 15 分钟的内容。该记忆系统让机器人能完成清理整个厨房、按食谱备料等多阶段真实任务,并展现出从过去错误中即时调整行为的上下文适应迹象。

    匹配字段摘要

  2. Physical Intelligence

    Physical Intelligence 提出多尺度具身记忆 MEM,让机器人记住 15 分钟事件

    Physical Intelligence 为自家模型开发了多尺度具身记忆系统 MEM,用不同模态表示不同时间尺度的记忆。短期记忆由高效视频编码器保留近期交互的细粒度细节,长期记忆则通过训练模型用文本总结事件,最长可记住 15 分钟。该系统让机器人能完成清理整个厨房、从头准备烤奶酪三明治等多阶段真实任务,并展现出从过往错误中即时调整行为的上下文适应迹象。

    匹配字段摘要

星期四

  1. Cursor Blog精选

    Cursor 详解自驱动代码库:多智能体 harness 如何一周内每小时约 1000 次提交

    Cursor 发布研究文章,介绍其用于长时间自主编码的多智能体 harness,该系统曾连续运行一周,峰值约每小时 1000 次提交、累计 1000 万次工具调用,并让数千个智能体完成研究项目(一个浏览器)的绝大多数提交。文章详述了从单智能体到多智能体的演进,包括 planner、subplanner、worker 的角色分工与 handoff 机制,以及为吞吐量主动接受一定错误率和同步开销的取舍。Cursor 表示正将部分研究开放给部分用户试用,并会继续研究超长时间运行的智能体。

    Towards self-driving codebases

    匹配字段摘要

星期三

  1. FutureHouse Research

    FutureHouse 等发布 OXtal:从 2D 分子图预测有机晶体结构

    FutureHouse 与 Caltech、牛津大学、Mila、AITHYRA 合作发布 OXtal,一个 100M 参数的全原子扩散模型,可直接从 2D 分子图预测可实验实现的 3D 有机晶体堆积结构。传统方法依赖大规模 CPU 物理模拟搜索,最近一次 CSP Blind Test 中预测 7 个目标就消耗 46M CPU 核心小时,而 OXtal 用生成式推理在单块 GPU 上数秒内给出预测。模型不使用硬编码对称性,而是在超过 600,000 个实验解析结构上训练并配合新的裁剪算法,以软对称性作为归纳偏置学习分子局部堆积规律。

    匹配字段摘要

星期一

  1. Zyphra Research

    Zyphra 发布 ZAYA1:首个在 AMD 全栈平台完成大规模训练的 MoE 基础模型

    Zyphra 发布技术报告,介绍 ZAYA1——首个完全在 AMD 平台(AMD Instinct MI300X GPU、AMD Pensando 网络与 ROCm 软件栈)上完成大规模训练的 MoE 基础模型,训练集群由 AMD 与 IBM Cloud 联合构建。ZAYA1-base 总参数 8.3B、激活参数 760m,在推理、数学和编码基准上表现与 Qwen3-4B、Gemma3-12B 相当,并超过 Llama-3-8B 和 OLMoE。Zyphra 称其为 AMD 生态可支撑前沿级 AI 训练的验证,并采用压缩卷积注意力(CCA)等架构创新提升训练吞吐与推理效率。

    匹配字段摘要

星期三

  1. Johann Rehberger / Embrace The Red

    Cline 被曝可通过 Markdown 图片外泄数据,作者给出防护建议

    安全研究者 Johann Rehberger 披露 AI 编码智能体 Cline 存在数据外泄漏洞:聊天框会渲染来自不可信域名的 Markdown 图片,攻击者可在提示注入攻击中读取 .env 等敏感文件并把内容拼进图片 URL,且无需人工批准即可外泄。该问题于 2025 年 5 月 29 日报告给 Cline 项目,90 多天后仍未修复,作者因此公开披露。缓解建议包括不渲染不可信域名的 Markdown 图片、默认关闭 Auto-approve,并建议 Cline 投入资源做安全工程。

    匹配字段摘要

星期二

  1. Johann Rehberger / Embrace The Red

    AWS Kiro 被曝间接提示注入可致任意代码执行

    安全研究者 Johann Rehberger 在 AWS Kiro 发布当天测试发现,该编码智能体可被间接提示注入劫持,实现任意操作系统命令执行。两条攻击路径分别是:Kiro 无需开发者批准即可写入 .vscode/settings.json,从而把任意 Bash 命令加入允许列表;以及写入 .kiro/settings/mcp.json 添加恶意 MCP 服务器,保存文件即触发代码执行。作者于 2025 年 7 月 15 日发布当天向 AWS 披露,AWS 在 8 月 5 日前修复,v0.1.42 中报告已修复,未分配 CVE。

    匹配字段摘要

星期四

  1. Johann Rehberger / Embrace The Red

    Jules 僵尸智能体:从提示注入到远程控制

    安全研究者 Johann Rehberger 演示了 Google 编码智能体 Jules 可被间接提示注入劫持:攻击者利用其 run_in_bash_session 工具和无限制外网访问,让 Jules 下载并执行 Sliver 恶意程序,从而远程控制其开发机。该研究于 2025 年 5 月完成,6 月 1 日私下通报 Google,6 月 13 日工单以团队已在跟踪为由关闭,后续缓解时间表未获回复。作者还指出 Jules 仅在会话开始时提出计划,后续任务会自动调用工具,且初始计划会在超时后自动批准(最初 20 秒,后改为 120 秒)。

    安全研究者 Johann Rehberger 演示了 Google 编码智能体 Jules 可被间接提示注入劫持:攻击者利用其 run in bash session 工具和无限制外网访问,让 Jules 下载并执行 Sliver 恶意程序,从而远程控制其开发机。该研究于 2025 年 5 月完成,6 月 1 日私下通报 Google,6 月 13 日工单以团队已在跟踪为由关闭,后续缓解时间表未获回复。作者还指出 Jules 仅在会话开始时提出计划,后续任务会自动调用工具,且初始计划会在超时后自动批准(最初 20 秒,后改为 120 秒)。

    匹配字段摘要

  2. Johann Rehberger / Embrace The Red

    Google Jules 被曝多个数据外泄漏洞

    安全研究者 Johann Rehberger 披露 Google Jules 存在多个数据外泄漏洞,攻击者可通过间接提示注入让 Jules 把机器上的文件内容发送到第三方服务器。其中一条路径利用 Markdown 图片渲染,另一条滥用 view_text_website 工具,两者都在 Jules 提出计划前就已完成,绕过了人工审批环节。作者建议对图片渲染启用 CSP、为 view_text_website 设置域名白名单或人工审批,并提醒用户谨慎向异步编码智能体提供敏感信息。相关漏洞已于 2025 年 5 月 21 日告知 Google。

    安全研究者 Johann Rehberger 披露 Google Jules 存在多个数据外泄漏洞,攻击者可通过间接提示注入让 Jules 把机器上的文件内容发送到第三方服务器。其中一条路径利用 Markdown 图片渲染,另一条滥用 view text website 工具,两者都在 Jules 提出计划前就已完成,绕过了人工审批环节。作者建议对图片渲染启用 CSP、为 view text website 设置域名白名单或人工审批,并提醒用户谨慎向异步编码智能体提供敏感信息。相关漏洞已于 2025 年 5 月 21 日告知 Google。

    匹配字段摘要

星期六

  1. Johann Rehberger / Embrace The Red

    OpenHands 的致命三要素:提示注入如何泄露访问 Token

    安全研究者 Johann Rehberger 披露 OpenHands(原 OpenDevin)存在零点击数据外泄漏洞:网页、源码或上传文档中的提示注入可借 Markdown 图片渲染,把容器内的 GITHUB_TOKEN 以 Base64 编码发送到第三方服务器。作者称直接读取 Token 会被模型拒绝,但通过只匹配 ghp_ 等子串并配合编码可绕过,且 OpenHands 对密钥的明文遮蔽也能被绕过。该漏洞于 2025 年 3 月 13 日私下报告给 All-Hands AI,148 天后未获修复,作者遂于 8 月 9 日公开;缓解建议是禁止渲染不可信域名的图片,例如用 Content-Security-Policy 限制图片来源。

    安全研究者 Johann Rehberger 披露 OpenHands(原 OpenDevin)存在零点击数据外泄漏洞:网页、源码或上传文档中的提示注入可借 Markdown 图片渲染,把容器内的 GITHUB TOKEN 以 Base64 编码发送到第三方服务器。作者称直接读取 Token 会被模型拒绝,但通过只匹配 ghp 等子串并配合编码可绕过,且 OpenHands 对密钥的明文遮蔽也能被绕过。该漏洞于 2025 年 3 月 13 日私下报告给 All-Hands AI,148 天后未获修复,作者遂于 8 月 9 日公开;缓解建议是禁止渲染不可信域名的图片,例如用 Content-Security-Policy 限制图片来源。

    匹配字段摘要