←搜索结果

按匹配度 · 共 10 条结果 清除搜索

星期二

  1. AWS Machine Learning

    AWS 详解在 Amazon Bedrock 上使用 OpenAI 模型的提示词缓存模式

    AWS 发布教程,介绍在 Amazon Bedrock 上调用 OpenAI 模型时如何用提示词缓存降低智能体重复读取上下文的成本,区分隐式缓存与显式 prompt_cache_breakpoint 两种方式并建议组合使用。文中给出工具与指令缓存、多轮历史滚动断点、会话中途新增工具、子智能体共享前缀等代码示例,并称在 GPT-6 Astra 的六轮工作负载中隐式缓存降低约 62% 输入成本,显式滚动断点降低约 61%。可缓存前缀需至少 1024 token,缓存写入按正常输入价格的 1.25 倍计费。

    Five growing agent requests, with tools, instructions, and earlier history marked in red and each new turn in yellow.

    匹配字段标题

星期四

  1. AWS Machine Learning

    AWS 团队开源多智能体系统 Deep Insight,拆解生产环境五大挑战

    AWS 解决方案架构团队构建并开源了多智能体系统 Deep Insight,可将 CSV 数据与自然语言提示转化为带引用的 .docx 分析报告。系统由 Coordinator、Planner、Supervisor、Coder、Validator、Reporter、Tracker 等八个智能体分层协作,基于 Strands Agents SDK 的 Graph 与 Agents-as-Tools 模式控制执行流,并按角色分别选用 Claude Haiku、Opus 和 Sonnet。生产部署依托 Amazon Bedrock AgentCore 运行时,LLM 生成的代码在 AWS Fargate 的按会话临时容器中隔离执行,配套 Web UI 与 Ops 仪表盘。

    Deep Insight architecture: the Strands Agents multi-agent layer on Amazon Bedrock AgentCore, with an Application Load Balancer routing code execution to AWS Fargate containers in a private VPC

    匹配字段标题

  2. 事件1 条新闻 · 1 个事实

    AWS解决方案架构团队构建多智能体系统Deep Insight

    AWS解决方案架构团队构建并开源了多智能体系统Deep Insight,该系统可将CSV数据与自然语言提示转化为带引用的.docx分析报告。系统由Coordinator、Planner、Supervisor、Coder、Validator、Reporter、Tracker等八个智能体分层协作,基于Strands Agents SDK的Graph与Agents-as-Tools模式控制执行流,并按角色分别选用Claude Haiku、Opus和Sonnet。生产部署依托Amazon Bedrock AgentCore运行时,LLM生成的代码在AWS Fargate的按会话临时容器中隔离执行,配套Web UI与Ops仪表盘。目前该事实仅有AWS Machine Learning单一来源报道,尚无后续发展事实。

    匹配字段标题

  3. 事实所属事件

    AWS解决方案架构团队构建多智能体系统Deep Insight

    AWS解决方案架构团队构建并开源了多智能体系统Deep Insight,该系统可将CSV数据与自然语言提示转化为带引用的.docx分析报告。系统由Coordinator、Planner、Supervisor、Coder、Validator、Reporter、Tracker等八个智能体分层协作,基于Strands Agents SDK的Graph与Agents-as-Tools模式控制执行流,并按角色分别选用Claude Haiku、Opus和Sonnet。生产部署依托Amazon Bedrock AgentCore运行时,LLM生成的代码在AWS Fargate的按会话临时容器中隔离执行,配套Web UI与Ops仪表盘。目前该事实仅有AWS Machine Learning单一来源报道,尚无后续发展事实。

    匹配字段标题

    查看事件:AWS解决方案架构团队构建多智能体系统Deep Insight

星期三

  1. AWS Machine Learning

    i14 在 AWS Trainium2 上用原生 PyTorch 训练与部署 Laplace 3B 线性注意力模型

    i14 与 AWS 合作,用 TorchNeuron Native 在 AWS Trainium2 上训练并部署了基于 Gated Linear Attention 的 Laplace 3B,单台 trn2.48xlarge 训练吞吐约 120,000 tokens/s。该模型每序列循环状态固定为 29.5 MB,不随上下文长度增长,推理在 1,280 并发序列下达到 11,544 output tokens/s。团队还通过 Muon 的 all_to_all 通信改造把每卡通信量降低 24 倍、训练吞吐提升 1.63 倍。

    NeuronCore-v3 internal architecture

    匹配字段标题

  2. AWS Machine Learning

    AWS 发布 Agent Registry 运行时工具发现实践

    AWS 介绍 Agent Registry 的运行时工具发现方案,智能体通过语义与关键词混合搜索找到已审批的 MCP 服务器和 A2A 智能体,再按描述符即时构建客户端执行请求。示例代码基于 Amazon Bedrock AgentCore Gateway 与 runtime,把订单管理 MCP 服务器和定价、客服两个 A2A 智能体接入,并演示纯语义匹配的退货退款场景。注册表只返回连接元数据,调用凭证需另行通过 Cognito OAuth 或 IAM 获取,新增能力无需改动编排器代码。

    Comparison of hardcoded tool endpoints versus runtime discovery with AWS Agent Registry

    匹配字段标题

  3. 事实所属事件

    i14将自定义架构迁移到AWS Trainium2

    i14 将其自定义架构迁移到 AWS Trainium2。2026 年 10 月 21 日,AWS Machine Learning 发布的信息显示,i14 与 AWS 合作,使用 TorchNeuron Native 在 AWS Trainium2 上训练并部署了基于 Gated Linear Attention 的 Laplace 3B 模型。单台 trn2.48xlarge 的训练吞吐约为 120,000 tokens/s;该模型每序列循环状态固定为 29.5 MB,不随上下文长度增长;推理在 1,280 并发序列下达到 11,544 output tokens/s。团队还通过 Muon 的 all_to_all 通信改造,将每卡通信量降低 24 倍、训练吞吐提升 1.63 倍。目前尚无后续发展事实。

    匹配字段标题

    查看事件:i14将自定义架构迁移到AWS Trainium2

星期一

  1. 事件1 条新闻 · 1 个事实

    i14将自定义架构迁移到AWS Trainium2

    i14 将其自定义架构迁移到 AWS Trainium2。2026 年 10 月 21 日,AWS Machine Learning 发布的信息显示,i14 与 AWS 合作,使用 TorchNeuron Native 在 AWS Trainium2 上训练并部署了基于 Gated Linear Attention 的 Laplace 3B 模型。单台 trn2.48xlarge 的训练吞吐约为 120,000 tokens/s;该模型每序列循环状态固定为 29.5 MB,不随上下文长度增长;推理在 1,280 并发序列下达到 11,544 output tokens/s。团队还通过 Muon 的 all_to_all 通信改造,将每卡通信量降低 24 倍、训练吞吐提升 1.63 倍。目前尚无后续发展事实。

    i14 将其自定义架构迁移到 AWS Trainium2。2026 年 10 月 21 日,AWS Machine Learning 发布的信息显示,i14 与 AWS 合作,使用 TorchNeuron Native 在 AWS Trainium2 上训练并部署了基于 Gated Linear Attention 的 Laplace 3B 模型。单台 trn2.48xlarge 的训练吞吐约为 120,000 tokens/s;该模型每序列循环状态固定为 29.5 MB,不随上下文长度增长;推理在 1,280 并发序列下达到 11,544 output tokens/s。团队还通过 Muon 的 all to all 通信改造,将每卡通信量降低 24 倍、训练吞吐提升 1.63 倍。目前尚无后续发展事实。

    匹配字段标题

星期日

  1. 事件1 条新闻 · 1 个事实

    AWS介绍AgentCore环境智能体实践

    2026年10月2日,AWS发布基于Amazon Bedrock AgentCore的ambient agent参考实现,介绍事件驱动环境智能体与人机协同工作流的构建方法。该实现让智能体由Amazon S3上传或定时任务等事件触发,而非等待用户发起对话。在人工介入方面,它通过单个ask_human工具和统一响应信封支持Notify、Question、Review等模式,信号上的autoExecute开关决定任务自动执行还是先由人工审核。平台由Lambda、SQS、DynamoDB和React前端组成,全部通过一个AWS CDK栈部署,示例默认使用Anthropic Claude Sonnet 4.5。目前尚无后续发展事实。

    匹配字段标题

星期五