←搜索结果

按匹配度 · 共 1588 条结果 清除搜索

星期二

  1. Johann Rehberger / Embrace The Red

    AWS Kiro 被曝间接提示注入可致任意代码执行

    安全研究者 Johann Rehberger 在 AWS Kiro 发布当天测试发现,该编码智能体可被间接提示注入劫持,实现任意操作系统命令执行。两条攻击路径分别是:Kiro 无需开发者批准即可写入 .vscode/settings.json,从而把任意 Bash 命令加入允许列表;以及写入 .kiro/settings/mcp.json 添加恶意 MCP 服务器,保存文件即触发代码执行。作者于 2025 年 7 月 15 日发布当天向 AWS 披露,AWS 在 8 月 5 日前修复,v0.1.42 中报告已修复,未分配 CVE。

    匹配字段摘要

星期四

  1. Linear:Now

    Cursor 如何与 Linear for Agents 集成

    Linear 推出 Cursor 集成,用户可在 Linear 中把问题分配给 Cursor 智能体,由其执行编码任务、创建 PR 并回传进度。双方还介绍了 sessions、webhooks 等技术设计,以及自动分配任务和拆分大型问题的后续方向。

    An image showing both the Linear logo and the Cursor logo

    匹配字段摘要

星期日

  1. Johann Rehberger / Embrace The Red

    Sourcegraph Amp Code 修复不可见提示词注入漏洞

    Sourcegraph 的编码智能体 Amp 存在不可见提示词注入漏洞:攻击者可将不可见 Unicode Tag 字符嵌入普通文本,诱导模型执行 grep 搜索并泄露 ANTHROPIC_API_KEY 等环境变量,再通过 read_web_page 或 markdown 图片渲染外传。作者于 2025 年 6 月 14 日报告后,Amp 团队已快速修复,目前通过对输入做净化处理来缓解,建议用户升级到最新版本。

    Sourcegraph 的编码智能体 Amp 存在不可见提示词注入漏洞:攻击者可将不可见 Unicode Tag 字符嵌入普通文本,诱导模型执行 grep 搜索并泄露 ANTHROPIC API KEY 等环境变量,再通过 read web page 或 markdown 图片渲染外传。作者于 2025 年 6 月 14 日报告后,Amp 团队已快速修复,目前通过对输入做净化处理来缓解,建议用户升级到最新版本。

    匹配字段摘要

星期四

  1. Johann Rehberger / Embrace The Red

    Jules 僵尸智能体:从提示注入到远程控制

    安全研究者 Johann Rehberger 演示了 Google 编码智能体 Jules 可被间接提示注入劫持:攻击者利用其 run_in_bash_session 工具和无限制外网访问,让 Jules 下载并执行 Sliver 恶意程序,从而远程控制其开发机。该研究于 2025 年 5 月完成,6 月 1 日私下通报 Google,6 月 13 日工单以团队已在跟踪为由关闭,后续缓解时间表未获回复。作者还指出 Jules 仅在会话开始时提出计划,后续任务会自动调用工具,且初始计划会在超时后自动批准(最初 20 秒,后改为 120 秒)。

    安全研究者 Johann Rehberger 演示了 Google 编码智能体 Jules 可被间接提示注入劫持:攻击者利用其 run in bash session 工具和无限制外网访问,让 Jules 下载并执行 Sliver 恶意程序,从而远程控制其开发机。该研究于 2025 年 5 月完成,6 月 1 日私下通报 Google,6 月 13 日工单以团队已在跟踪为由关闭,后续缓解时间表未获回复。作者还指出 Jules 仅在会话开始时提出计划,后续任务会自动调用工具,且初始计划会在超时后自动批准(最初 20 秒,后改为 120 秒)。

    匹配字段摘要

  2. Johann Rehberger / Embrace The Red

    Google Jules 被曝多个数据外泄漏洞

    安全研究者 Johann Rehberger 披露 Google Jules 存在多个数据外泄漏洞,攻击者可通过间接提示注入让 Jules 把机器上的文件内容发送到第三方服务器。其中一条路径利用 Markdown 图片渲染,另一条滥用 view_text_website 工具,两者都在 Jules 提出计划前就已完成,绕过了人工审批环节。作者建议对图片渲染启用 CSP、为 view_text_website 设置域名白名单或人工审批,并提醒用户谨慎向异步编码智能体提供敏感信息。相关漏洞已于 2025 年 5 月 21 日告知 Google。

    安全研究者 Johann Rehberger 披露 Google Jules 存在多个数据外泄漏洞,攻击者可通过间接提示注入让 Jules 把机器上的文件内容发送到第三方服务器。其中一条路径利用 Markdown 图片渲染,另一条滥用 view text website 工具,两者都在 Jules 提出计划前就已完成,绕过了人工审批环节。作者建议对图片渲染启用 CSP、为 view text website 设置域名白名单或人工审批,并提醒用户谨慎向异步编码智能体提供敏感信息。相关漏洞已于 2025 年 5 月 21 日告知 Google。

    匹配字段摘要

星期二

  1. Liquid AI 模型与工程博客

    Liquid AI 发布 LFM2-VL 视觉语言模型,含 450M 与 1.6B 两个版本

    Liquid AI 发布首个视觉语言模型系列 LFM2-VL,包含 LFM2-VL-450M 和 LFM2-VL-1.6B 两个版本,面向低延迟与端侧部署,支持文本和可变分辨率图像输入。模型基于 LFM2 骨干,视觉塔采用 SigLIP2 NaFlex 编码器,原生分辨率最高 512×512,更大图像按 512×512 分块处理,官方称在 GPU 上推理速度最高可达同类模型的 2 倍。模型已兼容 Hugging Face transformers 和 TRL,训练使用约 1000 亿多模态 token。

    匹配字段摘要

星期六

  1. Johann Rehberger / Embrace The Red

    OpenHands 的致命三要素:提示注入如何泄露访问 Token

    安全研究者 Johann Rehberger 披露 OpenHands(原 OpenDevin)存在零点击数据外泄漏洞:网页、源码或上传文档中的提示注入可借 Markdown 图片渲染,把容器内的 GITHUB_TOKEN 以 Base64 编码发送到第三方服务器。作者称直接读取 Token 会被模型拒绝,但通过只匹配 ghp_ 等子串并配合编码可绕过,且 OpenHands 对密钥的明文遮蔽也能被绕过。该漏洞于 2025 年 3 月 13 日私下报告给 All-Hands AI,148 天后未获修复,作者遂于 8 月 9 日公开;缓解建议是禁止渲染不可信域名的图片,例如用 Content-Security-Policy 限制图片来源。

    安全研究者 Johann Rehberger 披露 OpenHands(原 OpenDevin)存在零点击数据外泄漏洞:网页、源码或上传文档中的提示注入可借 Markdown 图片渲染,把容器内的 GITHUB TOKEN 以 Base64 编码发送到第三方服务器。作者称直接读取 Token 会被模型拒绝,但通过只匹配 ghp 等子串并配合编码可绕过,且 OpenHands 对密钥的明文遮蔽也能被绕过。该漏洞于 2025 年 3 月 13 日私下报告给 All-Hands AI,148 天后未获修复,作者遂于 8 月 9 日公开;缓解建议是禁止渲染不可信域名的图片,例如用 Content-Security-Policy 限制图片来源。

    匹配字段摘要

星期四

  1. Johann Rehberger / Embrace The Red

    Devin AI 如何通过多种途径泄露你的密钥

    安全研究者 Johann Rehberger 展示了 Devin 在间接提示词注入下通过多种方式将敏感信息发送到第三方服务器,包括利用 Shell 工具执行 curl 或 Python 脚本、用浏览器访问带数据的攻击者 URL、在聊天框渲染 Markdown 图片,以及把 Jira 和 Slack token 粘贴到第三方网站。作者还测试了 Slack 链接展开与不可见 Unicode Tag 字符(ASCII Smuggling)手法,发现 Cognition 已禁用 Devin 发帖时的链接展开,但用户点击链接仍可能通过 URL 编码泄露隐藏字符。这些漏洞于 2025 年 4 月 6 日报告给 Cognition,超过 120 天未获修复时间表,作者建议默认限制互联网访问并禁止渲染不可信域名的图片和超链接。

    匹配字段摘要

星期二

  1. Johann Rehberger / Embrace The Red

    Amp Code 提示注入可致任意命令执行,Sourcegraph 已修复

    安全研究者 Johann Rehberger 披露 Sourcegraph 旗下编码智能体 Amp 存在提示注入漏洞:Amp 能写入项目目录之外的 VS Code 配置文件 settings.json,从而把 bash 命令加入免审批白名单,或动态添加恶意 MCP 服务器并立即启动,实现任意代码执行。该漏洞于 7 月初发现并报告给 Sourcegraph,Amp 团队在数天内完成修复,用户需升级到最新版本。作者建议 AI 系统不应在未经开发者明确同意的情况下修改关键文件。

    匹配字段摘要

星期二

  1. Johann Rehberger / Embrace The Red

    Johann Rehberger 宣布 2025 年 AI 漏洞月,将披露 20 多篇智能体安全漏洞

    安全研究者 Johann Rehberger 宣布启动 2025 年 AI 漏洞月,8 月将发布 20 多篇关于智能体系统安全漏洞的博客,重点针对 AI 编码智能体。涉及系统包括 ChatGPT、ChatGPT Codex、Anthropic Claude Code、Google Jules、Amazon Q Developer、GitHub Copilot Agent Mode、AmpCode、Manus、OpenHands、Devin、Windsurf、Cursor 等,部分漏洞可通过提示注入在未经开发者同意的情况下攻陷其主机。作者称所有被审查的 AI 编码智能体都存在漏洞并已向厂商负责任披露,有的厂商数天内修复,有的数月未回应,部分问题至今未缓解。

    匹配字段摘要

星期日

  1. antirez 原创博客

    antirez 谈 2025 年夏天如何用 LLM 写代码

    Redis 作者 antirez 更新了他用 LLM 写代码的经验,认为当前 LLM 是好的能力放大器但不是合格的单人开发者,多数场景应拒绝 vibe coding,保持人在回路中。他推荐主要使用 Gemini 2.5 PRO 和 Claude Opus 4,并建议避免使用编码智能体和 RAG,把完整代码库与文档直接放进上下文窗口,由人手动在终端与 LLM 网页界面之间搬运代码。他同时提醒,因意识形态或心理抵触而完全不用 LLM 也会积累劣势。

    匹配字段摘要

星期三

  1. Linear:Now

    Mercury 使用 AI 智能体开发六个月的实践复盘

    Mercury 在六个月的实践中,让 AI 智能体处理模式固定、范围明确的编码任务,并由工程师审核其提交的 PR。团队通过先制定计划、再分步执行来避免智能体丢失上下文,还利用 Linear 模板让运营人员从 Slack 提交需求并自动分配任务。Mercury 仍要求工程师理解并负责 AI 参与编写的代码,同时保留人工审批。

    An illustration showing the Mercury logomark

    匹配字段摘要

星期五

  1. Cartesia 产品与研究

    Cartesia 发布分层网络 H-Net 研究

    Cartesia 宣布分层网络 H-Net 研究,该架构通过动态分块机制从原始数据中学习分层概念,包含编码器、主网络和解码器。在语言建模上,H-Net 比使用 BPE 分词的最先进 Transformer 扩展性更好,尤其在中文、代码和 DNA 等无自然分词边界的领域;可堆叠学习更深层次,并对大小写等扰动更鲁棒。Cartesia 已在 HuggingFace 发布 H-Net 2-stage XL、1-stage XL 和 1-stage L 检查点。

    Three rows of blocks in green watercolour and hand-drawn outline, widest and darkest at the top and narrowest and palest at the bottom

    匹配字段摘要

星期日

  1. Prime Intellect精选

    Prime Intellect 发布 INTELLECT-2:首个通过全球分布式强化学习训练的 32B 模型

    Prime Intellect 发布 INTELLECT-2,称其为首个通过全球分布式强化学习训练的 32B 参数模型,在动态异构的算力贡献者集群上以完全异步 RL 训练推理语言模型。团队为此从零构建了异步 RL 框架 PRIME-RL、验证推理 worker rollout 的 TOPLOC 和广播策略权重的 SHARDCAST,并修改标准 GRPO 训练配方与数据过滤方法以稳定训练,在数学和编码基准上提升了 QwQ-32B 的表现。模型、代码和数据均已开源,技术报告见 primeintellect.ai/intellect-2。

    INTELLECT-2 Release: The First 32B Parameter Model Trained Through Globally Distributed Reinforcement Learning

    匹配字段摘要

星期三

  1. Mistral AI精选

    Mistral AI 发布 Mistral Medium 3,兼顾高性能与更低成本

    Mistral AI 发布 Mistral Medium 3,称其在多项基准测试中达到或超过 Claude Sonnet 3.7 约 90% 的表现,并重点提升编码和多模态理解能力。该模型定价为每百万 Token 输入 $0.4、输出 $2,支持云端、企业本地或 in-VPC 部署,自托管至少需要四块 GPU,并提供定制后训练及企业系统集成能力。

    Table Medium 6

    Mistral AI 发布 Mistral Medium 3,称其在多项基准测试中达到或超过 Claude Sonnet 3.7 约 90% 的表现,并重点提升编码和多模态理解能力。该模型定价为每百万 Token 输入 $0.4、输出 $2,支持云端、企业本地或 in-VPC 部署,自托管至少需要四块 GPU,并提供定制后训练及企业系统集成能力。 · Mistral AI launched Mistral Medium 3, claiming that it achieves at least about 90% of Claude Sonnet 3.7’s performance across benchmarks while emphasizing coding and multimodal understanding. The model costs $0.4 per M input tokens and $2 per M output tokens, supports cloud, on-premises, or in-VPC deployment, requires at l

    匹配字段摘要

星期日

  1. antirez 原创博客

    antirez:AI 目前用处有限,但仍是通往未来的最佳赌注

    Redis 作者 antirez 认为,AI 目前在日常编码、翻译、图像生成等任务上确实实用,但除 AlphaFold 这类罕见突破外,尚未从根本上推动人类知识进步。他主张继续投资 AI 的理由不在当下能力,而在未来潜力:5 年后可能在医学上带来革命性进展,10 到 20 年后或能助力应对气候变化。他同时提醒需警惕存在性风险与社会冲击。

    匹配字段摘要

星期四

  1. Johann Rehberger / Embrace The Red

    Sneaky Bits:用两个不可见字符走私任意数据的 ASCII Smuggler 新技巧

    安全研究者 Johann Rehberger 发布 Sneaky Bits 技术,仅用两个不可见 Unicode 字符(U+2062 表示 0、U+2064 表示 1)即可编码任意 Unicode 字符或原始字节,并已作为非默认选项加入 ASCII Smuggler 工具。该工具同时新增对 Variant Selectors 的支持、debug 模式和 auto-decode,默认仍使用 Unicode Tags 编码。这类隐藏字符可用于提示注入、数据泄露和 URL 外传,作者建议通过输入输出校验、限制 token 长度和移除不可见字符来缓解。

    匹配字段摘要

星期二

  1. Claude Platform:开发者版本说明精选

    Anthropic 发布 Claude 3.7 Sonnet 与 Claude Code

    Anthropic 发布 Claude 3.7 Sonnet,这是其首个混合推理模型,可在标准模式与扩展思考模式间切换,API 用户可控制思考 token 预算。模型定价与上一代相同,为每百万输入 token 3 美元、每百万输出 token 15 美元(含思考 token),已在所有 Claude 套餐及 Amazon Bedrock、Google Cloud Vertex AI 上线。同时推出终端智能编码工具 Claude Code 研究预览版,可搜索和阅读代码、编辑文件、运行测试并提交到 GitHub。

    匹配字段摘要

星期四

  1. Answer.AI 官方研发博客

    Answer.AI 与 LightOn 发布 ModernBERT,为 BERT 提供替代方案

    Answer.AI 与 LightOn 发布 ModernBERT,一个编码器专用模型系列,提供 base(149M 参数)和 large(395M 参数)两个版本,可作为 BERT 类模型的直接替换。它把上下文长度从多数编码器的 512 提升到 8192 token,并首次在编码器训练数据中加入大量代码,在检索、自然语言理解和代码检索任务上整体优于主流模型,速度最高可达 DeBERTa 的 4 倍。模型将随 transformers v4.48.0 发布,在此之前需从 main 分支安装,官方建议搭配 Flash Attention 2 使用。

    匹配字段摘要

星期五

  1. Ollama Blog精选

    Ollama 发布 LLaVA 1.6 视觉模型,新增 34B 版本

    Ollama 更新 LLaVA 视觉模型集合至 1.6 版本,支持最高 4 倍像素的图像分辨率,并在额外的文档、图表和示意图数据集上训练,提升了文字识别与推理能力。模型提供 7B、13B 和新增的 34B 三种参数规模,可通过 ollama run llava:7b、llava:13b、llava:34b 运行,采用 Apache 2.0 或 LLaMA 2 Community License 授权。CLI 中可直接引用 .jpg 或 .png 文件路径,Python、JavaScript 库和 REST API 则支持在 images 参数中传入 base64 编码文件。

    匹配字段摘要