AI 热点

热点事件

AWS推出SageMaker AI跨区域推理路由

1 篇正式报道1 条事件动态更新于 11月20日 02:20

先了解这件事

AI 综述

AWS推出Amazon SageMaker AI跨区域推理路由,可在本地区域容量不足或端点异常时,将新请求转移至其他AWS Region或账户中的已注册目标,并在恢复后逐步回切。该功能支持实时和异步推理;每个路由器最多包含20个路由目标,每个目标最多包含10个目的地,但不支持响应流式传输。目前,该功能已在多数商业AWS Region正式可用,使用路由本身不额外收费。

AI 根据公开报道生成

最新进展 · 正式报道

Amazon SageMaker AI 推出跨区域推理路由

事件进展

1 个已确认进展

  1. AWS推出SageMaker AI跨区域推理路由

    来源:AWS Machine Learning

报道与讨论时间线

按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。

11月20日

  1. AWS Machine Learning一手

    Amazon SageMaker AI 推出跨区域推理路由

    Amazon SageMaker AI 推出跨区域推理路由,可在本地区域容量不足或端点异常时,将新请求转移至其他 AWS Region 或账户中的已注册目标,并在恢复后逐步回切。该功能支持实时和异步推理,每个路由器最多包含 20 个路由目标,每个目标最多包含 10 个目的地,但不支持响应流式传输。该功能已在多数商业 AWS Region 正式可用,路由本身不额外收费。

关联事件

  1. 相关事件Dialog-RSN-1上线AWS Marketplace和SageMaker JumpStart
  2. 相关事件AWS上线Amazon SageMaker JumpStart Model Leaderboard
  3. 相关事件AWS为SageMaker HyperPod Inference增加托管NVIDIA Dynamo支持
  4. 相关事件Amazon SageMaker AI实时端点支持KV缓存感知路由