AI 热点

热点事件

AWS分享AgentCore JSON负载降本降延迟策略

1 篇正式报道1 条事件动态更新于 11月18日 06:44

先了解这件事

AI 综述

2026年11月18日,AWS团队发文分享在Amazon Bedrock AgentCore上降低JSON工作负载成本的三种可组合策略。据AWS Machine Learning发布的文章,这些策略针对Flightscape的机组排班智能体,在23 MB JSON负载的基准测试中把token消耗最多降低71%、平均延迟最多降低80%。具体做法包括:把大JSON存入Amazon S3、AgentCore memory只保留内容寻址的引用;工具返回超大列表时改为分页句柄;超大字典则返回结构描述符。在100个样本问题上,总token从23.6 M降到8.5 M,平均trace延迟从7,930 ms降到2,461 ms。目前该分享为唯一已披露进展。

AI 根据公开报道生成

最新进展 · 正式报道

AWS 分享在 Amazon Bedrock AgentCore 上降低 JSON 工作负载…

事件进展

1 个已确认进展

  1. AWS分享AgentCore JSON工作负载降本降延迟策略

    来源:AWS Machine Learning

报道与讨论时间线

按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。

11月18日

  1. AWS Machine Learning一手

    AWS 分享在 Amazon Bedrock AgentCore 上降低 JSON 工作负载…

    AWS 团队为 Flightscape 的机组排班智能体给出三种可组合策略,在 23 MB JSON 负载的基准测试中把 token 消耗最多降低 71%、平均延迟最多降低 80%。做法是把大 JSON 存入 Amazon S3、AgentCore memory 只保留内容寻址的引用,工具返回超大列表时改为分页句柄,超大字典则返回结构描述符。在 100 个样本问题上,总 token 从 23.6 M 降到 8.5 M,平均 trace 延迟从 7,930 ms 降到 2,461 ms。

关联事件

  1. 相关事件Indegene在NEXT UDP中构建LLM数据质量Agent
  2. 相关事件NVIDIA扩展Cosmos平台训练工具与数据蓝图
  3. 相关事件AWS发布在SageMaker AI上用SeqKD蒸馏购物Agent教程
  4. 相关事件NVIDIA 发布用于 Apache Spark 的 cuDF skills