←搜索结果

按匹配度 · 共 51 条结果 清除搜索

星期二

  1. AWS Machine Learning

    AWS 详解在 Amazon Bedrock 上使用 OpenAI 模型的提示词缓存模式

    AWS 发布教程,介绍在 Amazon Bedrock 上调用 OpenAI 模型时如何用提示词缓存降低智能体重复读取上下文的成本,区分隐式缓存与显式 prompt_cache_breakpoint 两种方式并建议组合使用。文中给出工具与指令缓存、多轮历史滚动断点、会话中途新增工具、子智能体共享前缀等代码示例,并称在 GPT-6 Astra 的六轮工作负载中隐式缓存降低约 62% 输入成本,显式滚动断点降低约 61%。可缓存前缀需至少 1024 token,缓存写入按正常输入价格的 1.25 倍计费。

    Five growing agent requests, with tools, instructions, and earlier history marked in red and each new turn in yellow.

    匹配字段标题、摘要、正文

星期四

  1. AWS Machine Learning

    AWS 团队开源多智能体系统 Deep Insight,拆解生产环境五大挑战

    AWS 解决方案架构团队构建并开源了多智能体系统 Deep Insight,可将 CSV 数据与自然语言提示转化为带引用的 .docx 分析报告。系统由 Coordinator、Planner、Supervisor、Coder、Validator、Reporter、Tracker 等八个智能体分层协作,基于 Strands Agents SDK 的 Graph 与 Agents-as-Tools 模式控制执行流,并按角色分别选用 Claude Haiku、Opus 和 Sonnet。生产部署依托 Amazon Bedrock AgentCore 运行时,LLM 生成的代码在 AWS Fargate 的按会话临时容器中隔离执行,配套 Web UI 与 Ops 仪表盘。

    Deep Insight architecture: the Strands Agents multi-agent layer on Amazon Bedrock AgentCore, with an Application Load Balancer routing code execution to AWS Fargate containers in a private VPC

    匹配字段标题、摘要、正文

  2. 事件1 条新闻 · 1 个事实

    AWS解决方案架构团队构建多智能体系统Deep Insight

    AWS解决方案架构团队构建并开源了多智能体系统Deep Insight,该系统可将CSV数据与自然语言提示转化为带引用的.docx分析报告。系统由Coordinator、Planner、Supervisor、Coder、Validator、Reporter、Tracker等八个智能体分层协作,基于Strands Agents SDK的Graph与Agents-as-Tools模式控制执行流,并按角色分别选用Claude Haiku、Opus和Sonnet。生产部署依托Amazon Bedrock AgentCore运行时,LLM生成的代码在AWS Fargate的按会话临时容器中隔离执行,配套Web UI与Ops仪表盘。目前该事实仅有AWS Machine Learning单一来源报道,尚无后续发展事实。

    匹配字段标题

  3. 事实所属事件

    AWS解决方案架构团队构建多智能体系统Deep Insight

    AWS解决方案架构团队构建并开源了多智能体系统Deep Insight,该系统可将CSV数据与自然语言提示转化为带引用的.docx分析报告。系统由Coordinator、Planner、Supervisor、Coder、Validator、Reporter、Tracker等八个智能体分层协作,基于Strands Agents SDK的Graph与Agents-as-Tools模式控制执行流,并按角色分别选用Claude Haiku、Opus和Sonnet。生产部署依托Amazon Bedrock AgentCore运行时,LLM生成的代码在AWS Fargate的按会话临时容器中隔离执行,配套Web UI与Ops仪表盘。目前该事实仅有AWS Machine Learning单一来源报道,尚无后续发展事实。

    匹配字段标题

    查看事件:AWS解决方案架构团队构建多智能体系统Deep Insight

星期三

  1. AWS Machine Learning

    i14 在 AWS Trainium2 上用原生 PyTorch 训练与部署 Laplace 3B 线性注意力模型

    i14 与 AWS 合作,用 TorchNeuron Native 在 AWS Trainium2 上训练并部署了基于 Gated Linear Attention 的 Laplace 3B,单台 trn2.48xlarge 训练吞吐约 120,000 tokens/s。该模型每序列循环状态固定为 29.5 MB,不随上下文长度增长,推理在 1,280 并发序列下达到 11,544 output tokens/s。团队还通过 Muon 的 all_to_all 通信改造把每卡通信量降低 24 倍、训练吞吐提升 1.63 倍。

    NeuronCore-v3 internal architecture

    匹配字段标题、摘要、正文

  2. AWS Machine Learning

    AWS 发布 Agent Registry 运行时工具发现实践

    AWS 介绍 Agent Registry 的运行时工具发现方案,智能体通过语义与关键词混合搜索找到已审批的 MCP 服务器和 A2A 智能体,再按描述符即时构建客户端执行请求。示例代码基于 Amazon Bedrock AgentCore Gateway 与 runtime,把订单管理 MCP 服务器和定价、客服两个 A2A 智能体接入,并演示纯语义匹配的退货退款场景。注册表只返回连接元数据,调用凭证需另行通过 Cognito OAuth 或 IAM 获取,新增能力无需改动编排器代码。

    Comparison of hardcoded tool endpoints versus runtime discovery with AWS Agent Registry

    匹配字段标题、摘要、正文

  3. 事实所属事件

    i14将自定义架构迁移到AWS Trainium2

    i14 将其自定义架构迁移到 AWS Trainium2。2026 年 10 月 21 日,AWS Machine Learning 发布的信息显示,i14 与 AWS 合作,使用 TorchNeuron Native 在 AWS Trainium2 上训练并部署了基于 Gated Linear Attention 的 Laplace 3B 模型。单台 trn2.48xlarge 的训练吞吐约为 120,000 tokens/s;该模型每序列循环状态固定为 29.5 MB,不随上下文长度增长;推理在 1,280 并发序列下达到 11,544 output tokens/s。团队还通过 Muon 的 all_to_all 通信改造,将每卡通信量降低 24 倍、训练吞吐提升 1.63 倍。目前尚无后续发展事实。

    匹配字段标题

    查看事件:i14将自定义架构迁移到AWS Trainium2

星期日

  1. Databricks Blog

    Databricks 用 Lakebase 分支为每个 PR 建独立数据库的 CI/CD 实践

    Databricks 介绍 Snorkel AI 用 Lakebase 分支为每个开放 PR 创建独立可读写数据库的 CI/CD 方案,分支就绪时间从 30 分钟以上降到 60 秒以内。分支采用写时复制,约 2.5 TB 生产数据集上 100 个并发 PR 分支只额外存储各自改动的 5 至 10 GB 数据,并通过 TTL 在 PR 结束后自动清理。生产数据经 AWS DMS 持续同步到 main 分支,开发者用 Okta SSO 登录,CI 流水线以 service principal 和短期 OAuth token 鉴权。

    image1.png

    匹配字段摘要、正文

  2. 事件1 条新闻 · 1 个事实

    Databricks介绍Snorkel AI用Lakebase分支支撑CI/CD

    Databricks于2026年11月1日发文,介绍Snorkel AI使用Lakebase分支为每个开放PR创建独立可读写数据库的CI/CD实践。据Databricks博客,该方案将分支就绪时间从30分钟以上降至60秒以内;分支采用写时复制,在约2.5 TB生产数据集上,100个并发PR分支只额外存储各自改动的5至10 GB数据,并通过TTL在PR结束后自动清理。生产数据经AWS DMS持续同步到main分支,开发者用Okta SSO登录,CI流水线以service principal和短期OAuth token鉴权。目前尚无后续发展。

    匹配字段摘要

星期六

  1. AWS Machine Learning

    Amazon SageMaker AI 多轮强化学习实操指南:用 Wordle 示例训练 gpt-oss-20b

    AWS 发布在 Amazon SageMaker AI 上做多轮强化学习(MTRL)的实操指南,以 Wordle 为例,把智能体与奖励函数部署到 Amazon Bedrock AgentCore,训练作业通过 GRPO 更新 LoRA 适配器。示例中 gpt-oss-20b 在默认推理强度下对留出单词的解题率从 61% 提升到 84%,训练 token 花费约 339 美元,AgentCore 运行时约 79 美元。文章还给出奖励设计的两处反转错误、并发下 token 失效、工具调用退化为纯文本等失败细节,并建议在最终服务的解码设置下做评测。

    SageMaker AI training job connected to the AgentCore-hosted agent, Wordle environment, and reward function

    匹配字段摘要、正文

星期三

  1. 邵猛

    斯坦福开设 CS 312「Deep Learning Alchemy」秋季新课

    斯坦福大学秋季开设 CS 312「Deep Learning Alchemy」,由 Tatsunori Hashimoto 和 Suhas Kotha 主讲,面向深度学习核心知识多为经验性、理论难以解释的问题。课程分七个单元,从超参调优与 scaling laws 讲到优化器与超参不变量(NQM、μP、Muon、权重衰减)、损失景观、训练稳定性、架构容量和数据高效泛化,最后一个单元未公开。作业代码、测验和讲义全部公开,课程录像由 StanfordOnline 发布,自学者可用 Modal 租卡复现;课程采用 7 次考试占 85% 成绩的考核方式,可视为 CS 336 的续作。

    匹配字段摘要、正文

星期五

  1. AWS Machine Learning

    用 Amazon Bedrock AgentCore 构建 ambient agent:从事件驱动信号到 human-in-the-loop 工作流

    AWS 发布基于 Amazon Bedrock AgentCore 的 ambient agent 参考实现,让智能体由 Amazon S3 上传或定时任务等事件触发,而非等待用户发起对话。该实现通过单个 ask_human 工具和统一响应信封支持 Notify、Question、Review 等人工介入模式,信号上的 autoExecute 开关决定任务自动执行还是先由人工审核。平台由 Lambda、SQS、DynamoDB 和 React 前端组成,全部通过一个 AWS CDK 栈部署,示例默认使用 Anthropic Claude Sonnet 4.5。

    AWS 发布基于 Amazon Bedrock AgentCore 的 ambient agent 参考实现,让智能体由 Amazon S3 上传或定时任务等事件触发,而非等待用户发起对话。该实现通过单个 ask human 工具和统一响应信封支持 Notify、Question、Review 等人工介入模式,信号上的 autoExecute 开关决定任务自动执行还是先由人工审核。平台由 Lambda、SQS、DynamoDB 和 React 前端组成,全部通过一个 AWS CDK 栈部署,示例默认使用 Anthropic Claude Sonnet 4.5。

    匹配字段摘要、正文

星期三

  1. AWS Machine Learning

    在 Amazon Bedrock AgentCore Runtime Instances 上构建多智能体音乐制作流水线

    AWS 发布教程,演示如何在 Amazon Bedrock AgentCore Runtime Instances 上部署三智能体音乐制作流水线:作曲智能体用 Claude Sonnet 4.6 生成音乐简报并在实例自带的 NVIDIA L4 上运行 ACE-Step 模型渲染音频,交付智能体读取共享文件并做 EQ、压缩、限幅处理,合规智能体独立复测并筛查与曲库的谐波相似度。三个智能体通过同一 runtimeSessionId 共置在同一 EC2 实例上共享文件系统,会话最长可保持 14 天,各团队可独立部署自己的智能体。

    匹配字段摘要、正文

星期五

  1. The Register

    测试游戏显示人工审批漏掉约三分之一危险 AI 编码智能体请求

    比利时开发者 Alex Wauters 制作的浏览器游戏让玩家在 60 秒内审批模拟的 Claude Code 权限请求,超过 4 万次运行、40.9 万条命令的数据显示,平均约三分之一的恶意命令被放行。最常被漏掉的是范围越权类请求,占比 35%,例如读取 Kubernetes 配置文件或 AWS 凭据;被漏掉最多的单条命令是 npm run analyze,近 65% 的玩家批准了它。Wauters 认为反复审批会带来疲劳,建议把编码智能体放进沙箱和云端 devcontainer,并配合 auto mode 与钩子来拦截风险动作。

    匹配字段摘要、正文

星期三

  1. Browser Use

    Browser Use 如何构建安全可扩展的 Agent 沙箱基础设施

    Browser Use 分享了其 Agent 沙箱架构的演进:从最初在 AWS Lambda 上运行浏览器智能体,到把整个智能体放进沙箱、通过控制平面持有全部凭证的 Pattern 2。生产环境每个智能体运行在独立的 Unikraft micro-VM 中,启动不到一秒,仅接收 SESSION_TOKEN、CONTROL_PLANE_URL 和 SESSION_ID 三个环境变量,本地开发和评测则用同一镜像跑 Docker 容器。控制平面作为无状态 FastAPI 代理,统一处理 LLM 调用、S3 文件同步和计费,代价是每次操作多一次网络跳转。

    Pattern 1: Single backend with agent loop and isolated terminal use sandbox

    Browser Use 分享了其 Agent 沙箱架构的演进:从最初在 AWS Lambda 上运行浏览器智能体,到把整个智能体放进沙箱、通过控制平面持有全部凭证的 Pattern 2。生产环境每个智能体运行在独立的 Unikraft micro-VM 中,启动不到一秒,仅接收 SESSION TOKEN、CONTROL PLANE URL 和 SESSION ID 三个环境变量,本地开发和评测则用同一镜像跑 Docker 容器。控制平面作为无状态 FastAPI 代理,统一处理 LLM 调用、S3 文件同步和计费,代价是每次操作多一次网络跳转。

    匹配字段摘要、正文

星期一

  1. 事件1 条新闻 · 1 个事实

    i14将自定义架构迁移到AWS Trainium2

    i14 将其自定义架构迁移到 AWS Trainium2。2026 年 10 月 21 日,AWS Machine Learning 发布的信息显示,i14 与 AWS 合作,使用 TorchNeuron Native 在 AWS Trainium2 上训练并部署了基于 Gated Linear Attention 的 Laplace 3B 模型。单台 trn2.48xlarge 的训练吞吐约为 120,000 tokens/s;该模型每序列循环状态固定为 29.5 MB,不随上下文长度增长;推理在 1,280 并发序列下达到 11,544 output tokens/s。团队还通过 Muon 的 all_to_all 通信改造,将每卡通信量降低 24 倍、训练吞吐提升 1.63 倍。目前尚无后续发展事实。

    i14 将其自定义架构迁移到 AWS Trainium2。2026 年 10 月 21 日,AWS Machine Learning 发布的信息显示,i14 与 AWS 合作,使用 TorchNeuron Native 在 AWS Trainium2 上训练并部署了基于 Gated Linear Attention 的 Laplace 3B 模型。单台 trn2.48xlarge 的训练吞吐约为 120,000 tokens/s;该模型每序列循环状态固定为 29.5 MB,不随上下文长度增长;推理在 1,280 并发序列下达到 11,544 output tokens/s。团队还通过 Muon 的 all to all 通信改造,将每卡通信量降低 24 倍、训练吞吐提升 1.63 倍。目前尚无后续发展事实。

    匹配字段标题

星期日

  1. 事件1 条新闻 · 1 个事实

    AWS介绍AgentCore环境智能体实践

    2026年10月2日,AWS发布基于Amazon Bedrock AgentCore的ambient agent参考实现,介绍事件驱动环境智能体与人机协同工作流的构建方法。该实现让智能体由Amazon S3上传或定时任务等事件触发,而非等待用户发起对话。在人工介入方面,它通过单个ask_human工具和统一响应信封支持Notify、Question、Review等模式,信号上的autoExecute开关决定任务自动执行还是先由人工审核。平台由Lambda、SQS、DynamoDB和React前端组成,全部通过一个AWS CDK栈部署,示例默认使用Anthropic Claude Sonnet 4.5。目前尚无后续发展事实。

    匹配字段标题

星期四

  1. Google Developers Blog精选

    Google A2UI 团队与 CopilotKit 介绍如何构建生成式 UI 应用

    Google A2UI 团队与 CopilotKit CEO Atai Barkai 介绍如何用 A2UI 开放标准和 CopilotKit 构建生成式 UI 应用。A2UI 以声明式 JSON 描述界面,客户端只渲染可信组件目录中的组件,同一份响应可渲染到 React、Angular、SwiftUI、Jetpack Compose 和 Flutter。文中给出用 Google ADK 接入 CopilotKit 的代码示例,并说明通过 AG-UI 协议实现用户操作回传、智能体重新生成界面的双向流程。

    一点需要两部分:一种描述 UI 的方式,以及一套智能体技术栈,将你的智能体连接到你的应用并渲染该 UI。 A2UI(Agent-to-UI)是 Google 推出的框架无关的生成式 UI 开放标准。智能体将界面描述为数据,你的应用则用你已有的组件将其绘制出来。它在设计上是传输无关的。 CopilotKit 提供智能体集成技术栈,可与“LangChain”、“AWS Strands”、“Google ADK”等智能体框架集成,用于构建面向用户的智能体应用。它提供了一套工具包,用于借助 A2UI 协议构建丰富的应用,包括聊天界面、运行时,并在 React 和 Angular 中利用 A2UI 渲染器。CopilotKit 还为 Vue 和 Slack 提供自定义 A2UI 渲染器。 什么是 A2UI? 生成式 UI 涵盖了一系列方法,从使用预定义的高阶组件,到让你的 AI 智能体灵活决定如何构建 UI。 在受控的一端,你预先构建每个组件,智能体选择渲染哪一个以及使用什么数据。这种方式品牌安全,但不允许基于用户意图进行深度定制和个性化。在开放的一端,智能体返回用 HTML、Javascrip

    匹配字段正文

星期三

  1. Unite.AI

    Perplexity 发布 LLM 网关实践指南,梳理请求链路与生产风险

    Perplexity 于 2026 年 10 月 27 日发布 LLM 网关实践指南,说明这一中间层如何路由、鉴权、缓存和记录模型调用,并区分 API 网关、LLM 网关、MCP 网关与 AI 网关四类形态。指南以六步请求生命周期拆解机制,同时警告网关集中了各家供应商凭证,并引用 Microsoft 披露的 LiteLLM 网关入侵事件和 Check Point 报告的 CVE-2026-35029、CVE-2026-59823 两个高危漏洞(已在 LiteLLM 1.83.9 修复)。文中还列出 Cloudflare AI Gateway 与 OpenRouter 的故障复盘、四条部署路径及约 50 美元/月起的付费方案。

    理:应用程序将请求发送至网关,而非直接发送给 OpenAI、Anthropic 或 Google 等供应商,网关则按照运营方设定的规则转发这些请求。指南将这一类别视为对“散乱局面”的回应,开篇引用了 2026 年 9 月 Reddit 的 r/LLMDevs 版块上的一篇帖子,其中一位工程师描述了自己的工作场所:每个人都各自持有 Claude、OpenAI、AWS Bedrock 及其他推理供应商的密钥。 指南的对比表区分了四种网关类型。API 网关位于后端服务之前,决定客户端是否通过鉴权以及是否在其速率限制之内。LLM 网关位于模型供应商之前,决定哪个模型接收请求、由谁付费以及请求是否成功返回。MCP 网关决定智能体是否可以携带给定参数调用某个工具。指南用“AI 网关”来指代那些捆绑了上述部分角色组合的厂商产品。 六步请求生命周期 指南通过追踪一个请求从应用程序到模型再返回的过程来解释其机制。首先,应用程序向网关的端点发送聊天请求,通常采用 OpenAI 兼容格式。网关验证凭证,通常是发放给团队或产品的虚拟密钥,并且在接入输入护栏时,可以扫描提示词中是否含有敏感数据或试图覆盖模型指令

    匹配字段正文