←搜索结果

按匹配度 · 共 85 条结果 清除搜索

星期二

  1. Amazon Science精选

    AWS 提出 priming 方法:用预训练 Transformer 权重初始化混合状态空间模型

    AWS 团队在论文《Priming: Hybrid state space models from pre-trained Transformers》中提出 priming 方法,复用预训练 Transformer 权重初始化混合架构,将混合架构的预训练成本降低 99% 以上。在受控对比中,Gated KalmaNet(GKA)表现优于 Gated DeltaNet(GDN)和 Mamba-2,基于 GKA 的 32B 混合模型在推理基准上与源 Transformer 持平,128K 上下文下解码速度最高提升至 2 倍。团队以 Apache 2.0 协议开源了 8B 和 32B 的混合模型、训练代码、优化内核及 vLLM 服务插件。

    匹配字段标题、摘要

  2. 事件1 条新闻 · 1 个事实

    Zenity Labs披露AWS AgentCore漏洞链AgentCorruption

    2026年10月8日,安全公司Zenity Labs披露Amazon Bedrock AgentCore存在名为AgentCorruption的漏洞链。据The Decoder报道,攻击者只需对一个公开智能体拥有对话权限,用一条提示词就能接管同一AWS账号和区域内的所有AgentCore智能体,读取私密对话、源代码和存储的凭证。报道称问题根源在于AgentCore默认权限未限定到单个智能体,而是覆盖同账号同区域全部智能体,并授予读写删除权限。Zenity于2025年12月25日向AWS报告后,AWS将IMDSv2设为新部署默认,并在8月前后调整了默认执行角色,不再允许智能体调用其他智能体、读取私密对话或从AWS Secrets Manager取凭证。目前该事件无进一步有证据的发展。

    匹配字段标题

  3. 事件1 条新闻 · 1 个事实

    Stanford团队用AI筛查地方歧视性法律

    斯坦福 RegLab 研究团队发表研究,用大语言模型流水线辅助检测歧视性地方法律。该团队审查了全美 9623 个地方司法辖区的约 900 万条法律条文,筛出约 1 万条涉嫌歧视的法律供人工复核,并估计至少 5000 万美国人生活在存在明显歧视性法规的城镇中。流程先标记涉及受保护类别的条文,再判断是否构成差别对待,在识别差别法律待遇上准确率超过 90%,对人工标注为高优先级的条文召回率为 88%。论文《Hidden in Plain Text: LLM-Assisted Detection of Discriminatory Local Laws》发表于 ICAIL 会议,研究由斯坦福 HAI 部分资助。作者强调仍需人工审查,且方法无法识别表面中立但实际有歧视效果的法规。

    匹配字段摘要

星期一

  1. Rohan Paul

    AWS 与 HSBC 论文提出 Double Ratchet:评分器随智能体同步演化

    AWS 与 HSBC 的一篇新论文提出 Double Ratchet,让评分器随智能体技能同步演化,不再需要人工编写评分标准。该方法用 10 个标注样本筛选评分器版本,且只以与标注样本一致为准,不以抬高智能体得分为目标。在代码、SQL 和报告任务上,它保留了真实标注或评分细则所带来增益的 88% 到 110%;移除防护机制后,评分器放行了 97% 到 100% 的输出,但训练技能的效果相当。

    匹配字段标题、摘要、正文

  2. 事件1 条新闻 · 1 个事实

    AWS与HSBC论文提出Double Ratchet自进化评分器

    2026年10月12日,AWS与HSBC发表论文,提出Double Ratchet,让评分器随智能体技能同步演化,不再需要人工编写评分标准。该方法用10个标注样本筛选评分器版本,且只以与标注样本一致为准,不以抬高智能体得分为目标。在代码、SQL和报告任务上,它保留了真实标注或评分细则所带来增益的88%到110%;移除防护机制后,评分器放行了97%到100%的输出,但训练技能的效果相当。目前该工作以论文形式公开,尚无后续进展。

    匹配字段标题

星期四

  1. The Decoder精选

    Zenity 发现单条提示词即可劫持 AWS 账号内全部 AgentCore 智能体

    安全公司 Zenity Labs 发现 Amazon Bedrock AgentCore 存在名为 AgentCorruption 的漏洞链,攻击者只需对一个公开智能体拥有对话权限,用一条提示词就能接管同一 AWS 账号和区域内的所有 AgentCore 智能体,读取私密对话、源代码和存储的凭证。问题根源在于 AgentCore 默认权限未限定到单个智能体,而是覆盖同账号同区域全部智能体,并授予读写删除权限;Zenity 于 2025 年 12 月 25 日向 AWS 报告后,AWS 将 IMDSv2 设为新部署默认,并在 8 月前后调整了默认执行角色,不再允许智能体调用其他智能体、读取私密对话或从 AWS Secrets Manager 取凭证。

    匹配字段标题、摘要、正文

星期六

  1. The Decoder

    马里兰大学与 AWS 提出 LEGO-Anything:编码智能体从单张照片生成可编辑 3D 场景

    马里兰大学与 AWS 的研究者提出 LEGO-Anything,让编码智能体接收单张图片后编写并迭代修改 Blender 代码,生成可运行、可编辑的 3D 场景程序。配套的 LEGO-Bench 包含 104 个室内外场景的 208 张图像和 443 个注册资产,从有效性、几何重建和外观三方面评分。测试中六种 GPT 配置几乎都能交付可用场景,但几何准确率差异很大,表现最好的 GPT-6 Astra 在室内场景为 53.4%、室外为 39.6%,较弱配置约 15%;研究者发现智能体在判断两个版本哪个更接近原图时准确率接近或低于随机水平,据此提出无需额外训练的 LEGO-Plugin,使较弱智能体提升最高达 62.7%。

    匹配字段标题、摘要、正文

星期二

  1. Johann Rehberger / Embrace The Red

    AWS Kiro 被曝间接提示注入可致任意代码执行

    安全研究者 Johann Rehberger 在 AWS Kiro 发布当天测试发现,该编码智能体可被间接提示注入劫持,实现任意操作系统命令执行。两条攻击路径分别是:Kiro 无需开发者批准即可写入 .vscode/settings.json,从而把任意 Bash 命令加入允许列表;以及写入 .kiro/settings/mcp.json 添加恶意 MCP 服务器,保存文件即触发代码执行。作者于 2025 年 7 月 15 日发布当天向 AWS 披露,AWS 在 8 月 5 日前修复,v0.1.42 中报告已修复,未分配 CVE。

    匹配字段标题、摘要、正文

星期四

  1. heise online

    Apple 研究团队提出用闲置 Apple Silicon Mac 充当虚拟 GPU 的 Minions 系统

    Apple 人工智能研究团队在 arXiv 发表论文,提出原型软件 Minions,把利用率不高的 Mac 等 Apple Silicon 设备当作云端虚拟 GPU,用于执行大规模机器学习推理负载。系统由中心协调服务器、各机器上的 Minion Executor 组成,后者运行 Ollama 推理实例,输入、模型和结果通过 AWS-S3 存取,任务经 PostgreSQL 数据库分发,Minion Executor 通过 REST-API 领取任务和心跳,另有 Minion Watchdog 监控故障。论文称实测中原本在 Apple Research 团队常超过十小时的 GPU 推理排队时间缩短到几分钟,目前仅面向相互信任的组织内部负载,尚未实现类似 PCC 的进程隔离,未来还计划支持 AI 训练。

    匹配字段摘要、正文

  2. 事件1 条新闻 · 1 个事实

    Apple研究者提出用闲置Mac作虚拟GPU

    2026年10月15日,Apple人工智能研究团队提出一项方案,把利用率不高的Mac等Apple Silicon设备当作云端虚拟GPU,用于执行大规模机器学习推理负载。据heise online报道,该团队在arXiv发表论文,提出原型软件Minions,系统由中心协调服务器和各机器上的Minion Executor组成,后者运行Ollama推理实例,输入、模型和结果通过AWS-S3存取,任务经PostgreSQL数据库分发,Minion Executor通过REST-API领取任务和心跳,另有Minion Watchdog监控故障。论文称实测中原本在Apple Research团队常超过十小时的GPU推理排队时间缩短到几分钟。IT之家后续报道称,该系统将多台Mac的闲置GPU聚合成可动态调度的“虚拟GPU云”,采用拉取式任务模型并支持Grafana实时监控,测试中原本需排队超过10小时的推理任务可在数分钟内开始执行,且无需新增GPU硬件。目前该方案仅面向相互信任的组织内部负载,尚未实现类似PCC的进程隔离,未来还计划支持AI训练。

    匹配字段摘要

星期四

  1. Stanford HAI News

    斯坦福用 AI 审查地方歧视性法规,发现约 1 万条可疑法律

    斯坦福 RegLab 团队用 LLM 流水线审查全美 9623 个地方司法辖区的约 900 万条法律条文,筛出约 1 万条涉嫌歧视的法律供人工复核,并估计至少 5000 万美国人生活在存在明显歧视性法规的城镇中。该流程先标记涉及受保护类别的条文,再判断是否构成差别对待,在识别差别法律待遇上准确率超过 90%,对人工标注为高优先级的条文召回率为 88%。论文《Hidden in Plain Text: LLM-Assisted Detection of Discriminatory Local Laws》发表于 ICAIL 会议,研究由斯坦福 HAI 部分资助,作者强调仍需人工审查,且方法无法识别表面中立但实际有歧视效果的法规。

    匹配字段摘要、正文

星期六

  1. Johann Rehberger / Embrace The Red

    AgentHopper:一种可跨编码智能体传播的 AI 病毒概念验证

    安全研究者 Johann Rehberger 发布 AgentHopper 概念验证,用一个通用提示注入载荷在多个编码智能体间自我传播。载荷先感染开发者智能体,再扫描 Git 仓库注入指令并推送回 GitHub,其他开发者拉取被感染代码后触发注入,形成循环传播。攻击路径涉及 GitHub Copilot、Amp Code、Amazon Q Developer 和 AWS Kiro,相关漏洞均已由厂商修复。作者建议为 SSH 和签名密钥设置口令、启用分支保护并遵循最小权限原则。

    匹配字段摘要、正文

星期三

  1. Johann Rehberger / Embrace The Red

    Amazon Q Developer VS Code 扩展被曝不可见 Prompt 注入漏洞

    安全研究者 Johann Rehberger 披露 Amazon Q Developer VS Code 扩展存在不可见 Prompt 注入漏洞,攻击者可将人类不可见的 Unicode Tag 字符嵌入普通文本,Claude 模型会将其当作指令执行,进而调用工具甚至通过 find -exec 实现任意代码执行。该漏洞于 2025 年 7 月 5 日报告给 AWS,AWS 称已于 8 月 8 日修复,但不会发布公开公告或 CVE,建议用户升级到最新版本。作者建议在输入处理前清除或中和 Unicode Tag 字符,并加入针对可疑 Unicode 用法的自动检测。

    匹配字段摘要、正文

  2. Johann Rehberger / Embrace The Red

    Amazon Q Developer 被提示注入实现远程代码执行

    安全研究者 Johann Rehberger 披露 Amazon Q Developer VS Code 扩展存在间接提示注入漏洞,攻击者可通过源码注释等不可信数据劫持 AI,在开发者未确认的情况下执行任意命令。漏洞根因是 executeBash 工具把 find 归入 readonly 类别从而绕过人工确认,而 find 的 -exec 参数可执行任意系统命令;作者还演示了绕过 Claude 4 拒绝机制、从远程服务器下载并执行命令乃至 Sliver 恶意软件加入 C2 的完整链路。该漏洞于 2025 年 7 月 4 日报告给 AWS,7 月 17 日在 v1.85 版本中静默修复,AWS 最终以该报告需先有系统入侵为由拒绝分配 CVE。

    匹配字段摘要、正文

星期二

  1. Johann Rehberger / Embrace The Red精选

    Amazon Q Developer 被曝经 DNS 与提示注入泄露密钥

    安全研究者 Johann Rehberger 披露 Amazon Q Developer VS Code 扩展存在高危漏洞,可被间接提示注入劫持,通过 ping 等命令把开发者机器上的 .env 文件、API key 等敏感信息经 DNS 请求外泄,且无需开发者确认。该扩展下载量超过 100 万,作者于 2025 年 7 月 5 日向 AWS 报告,AWS 确认并静默修复,但未发布安全公告或 CVE,作者建议用户运行最新版本或开启自动更新。作者还发现 Amazon Q 会拒绝 oast.me、Burp Collaborator 等已知安全测试域名,换成普通域名即可绕过,与 Claude Code 的 CVE-2025-55284 行为类似。

    匹配字段摘要、正文

星期三

  1. 事件1 条新闻 · 1 个事实

    AWS团队提出priming方法降低混合架构预训练成本

    2026年10月13日,Amazon Web Services团队提出priming方法,相关论文题为《Priming: Hybrid state space models from pre-trained Transformers》。该方法复用预训练Transformer权重初始化混合架构,据Amazon Science发布的信息,可将混合架构的预训练成本降低99%以上。在受控对比中,Gated KalmaNet(GKA)表现优于Gated DeltaNet(GDN)和Mamba-2;基于GKA的32B混合模型在推理基准上与源Transformer持平,128K上下文下解码速度最高提升至2倍。团队以Apache 2.0协议开源了8B和32B的混合模型、训练代码、优化内核及vLLM服务插件。目前尚无后续发展事实。

    匹配字段标题

  2. 事件1 条新闻 · 1 个事实

    Johann Rehberger 宣布 Month of AI Bugs 结束

    2025年8月31日,Johann Rehberger 在 Embrace The Red 发布收官说明,宣布其 The Month of AI Bugs 系列完结,并附上全部文章总览作为参考;此后他的发文频率将恢复到较低节奏。此前在8月30日,他发布了 AgentHopper 概念验证,演示一种可跨编码智能体自我传播的 AI 病毒:通用提示注入载荷先感染开发者智能体,再扫描 Git 仓库注入指令并推送回 GitHub,其他开发者拉取被感染代码后触发注入,形成循环传播。该攻击路径涉及 GitHub Copilot、Amp Code、Amazon Q Developer 和 AWS Kiro,相关漏洞均已由厂商修复。作者建议为 SSH 和签名密钥设置口令、启用分支保护并遵循最小权限原则。

    匹配字段摘要