AWS 团队于 2026 年 10 月 21 日介绍在 Amazon SageMaker HyperPod 上微调 GPT-OSS-20B 的工作,目标是解决该模型只用英文推理的问题。据其说明,基座模型在 50 例多语言推理测试中仅 22% 使用正确目标语言,其中英语 100%、法语 0%、德语 10%、西班牙语 0%、意大利语 0%。训练采用 LoRA,数据为 HuggingFaceH4/Multilingual-Thinking,约 949 条训练样本、50 条验证样本,方法上结合 SFT 与 GRPO。其结论是 SFT 承担大部分工作,GRPO 只有在模型已有一定概率产出目标行为时才能带来可测量的增益。目前该工作以 AWS 官方技术介绍形式发布,尚无后续进展。
匹配字段标题
AWS 微调 GPT-OSS-20B
English translation is being prepared.
匹配字段标题
i14 将其自定义架构迁移到 AWS Trainium2。2026 年 10 月 21 日,AWS Machine Learning 发布的信息显示,i14 与 AWS 合作,使用 TorchNeuron Native 在 AWS Trainium2 上训练并部署了基于 Gated Linear Attention 的 Laplace 3B 模型。单台 trn2.48xlarge 的训练吞吐约为 120,000 tokens/s;该模型每序列循环状态固定为 29.5 MB,不随上下文长度增长;推理在 1,280 并发序列下达到 11,544 output tokens/s。团队还通过 Muon 的 all_to_all 通信改造,将每卡通信量降低 24 倍、训练吞吐提升 1.63 倍。目前尚无后续发展事实。
匹配字段标题
2026年10月21日,AWS介绍了一套使用Keyfactor EJBCA结合AWS服务保障AI代理身份的方案。据AWS Machine Learning发布的文章,AWS与Keyfactor联合发布参考架构,用Keyfactor EJBCA的X.509 PKI为AI智能体建立可验证、可撤销的加密身份,以弥补MCP缺少内置认证标准的缺口。该方案结合Amazon Bedrock、AWS Strands Agents SDK、AWS Secrets Manager和Amazon RDS,通过签名请求信封、用户签名委托断言、RFC 8693受众限定token与实时OCSP吊销检查四层机制,覆盖用户认证、智能体间通信和MCP工具调用三个信任边界。目前该方案以参考架构形式对外介绍,尚无后续实施进展的公开事实。
匹配字段标题
AWS 于 2026 年 10 月 20 日推出基于推送的 NIXL 连接器,用于分离式推理中的 KV 传输。该连接器把 prefill 之后的传输协调与建立过程移出关键路径:在 pull 模式下,由 decode 实例发起 NIXL READ 的串行步骤,现改为由 prefill 侧后台线程发起 NIXL WRITE。AWS 表示,在 1P1D 的 Amazon EC2 P5en + EFA 部署上,Qwen3-32B 的 TTFT 最高提升 3 倍、TPOT 最高提升 30%。该功能先在 AWS Trainium 集群上构建验证,随后作为与加速器无关的特性贡献给 vLLM。目前尚无后续发展事实。
匹配字段标题
i14 将其自定义架构迁移到 AWS Trainium2。2026 年 10 月 21 日,AWS Machine Learning 发布的信息显示,i14 与 AWS 合作,使用 TorchNeuron Native 在 AWS Trainium2 上训练并部署了基于 Gated Linear Attention 的 Laplace 3B 模型。单台 trn2.48xlarge 的训练吞吐约为 120,000 tokens/s;该模型每序列循环状态固定为 29.5 MB,不随上下文长度增长;推理在 1,280 并发序列下达到 11,544 output tokens/s。团队还通过 Muon 的 all_to_all 通信改造,将每卡通信量降低 24 倍、训练吞吐提升 1.63 倍。目前尚无后续发展事实。
i14 将其自定义架构迁移到 AWS Trainium2。2026 年 10 月 21 日,AWS Machine Learning 发布的信息显示,i14 与 AWS 合作,使用 TorchNeuron Native 在 AWS Trainium2 上训练并部署了基于 Gated Linear Attention 的 Laplace 3B 模型。单台 trn2.48xlarge 的训练吞吐约为 120,000 tokens/s;该模型每序列循环状态固定为 29.5 MB,不随上下文长度增长;推理在 1,280 并发序列下达到 11,544 output tokens/s。团队还通过 Muon 的 all to all 通信改造,将每卡通信量降低 24 倍、训练吞吐提升 1.63 倍。目前尚无后续发展事实。
匹配字段标题
2026年10月21日,AWS介绍了一套使用Keyfactor EJBCA结合AWS服务保障AI代理身份的方案。据AWS Machine Learning发布的文章,AWS与Keyfactor联合发布参考架构,用Keyfactor EJBCA的X.509 PKI为AI智能体建立可验证、可撤销的加密身份,以弥补MCP缺少内置认证标准的缺口。该方案结合Amazon Bedrock、AWS Strands Agents SDK、AWS Secrets Manager和Amazon RDS,通过签名请求信封、用户签名委托断言、RFC 8693受众限定token与实时OCSP吊销检查四层机制,覆盖用户认证、智能体间通信和MCP工具调用三个信任边界。目前该方案以参考架构形式对外介绍,尚无后续实施进展的公开事实。
匹配字段标题
AWS 于 2026 年 10 月 20 日介绍 vLLM 新增的双向 KV 缓存传输机制:在后续轮次中,decode 节点把已算好的 KV 缓存回传给 prefill 节点,避免重复计算对话历史。在 Amazon EC2 P5en 的 1P1D 部署上,该机制使 Qwen3-32B 的 TTFT 最高改善 1.6 倍,zai-org/GLM-5-FP8 最高改善 3.3 倍。该能力最初在 AWS Trainium 集群上验证并贡献给 vLLM,作为与加速器无关的特性,需配合 KV-cache-aware 路由器协调跨轮复用。目前尚无后续发展。
匹配字段标题
Deepgram与AWS合作,将Nova-3语音转文字模型移植到AWS Trainium2。据AWS Machine Learning于2026年10月20日发布的信息,单台trn2.3xlarge实例可运行8个模型副本,在离线批处理场景下每美元处理的音频量比原有方案提升11%–70%。团队使用TorchNeuron完成PyTorch移植,并通过NKILib融合内核与手写NKI内核调优,其中FFN内核延迟降低2.0x、depthwise conv1d提速1.5x,conv2d内核解锁了32以上的批大小。目前尚无后续发展事实。
匹配字段标题
AWS 于 2026 年 10 月 20 日介绍 vLLM 新增的双向 KV 缓存传输机制:在后续轮次中,decode 节点把已算好的 KV 缓存回传给 prefill 节点,避免重复计算对话历史。在 Amazon EC2 P5en 的 1P1D 部署上,该机制使 Qwen3-32B 的 TTFT 最高改善 1.6 倍,zai-org/GLM-5-FP8 最高改善 3.3 倍。该能力最初在 AWS Trainium 集群上验证并贡献给 vLLM,作为与加速器无关的特性,需配合 KV-cache-aware 路由器协调跨轮复用。目前尚无后续发展。
匹配字段标题
AWS 推出 基于推送的NIXL连接器
English translation is being prepared.
匹配字段标题
Deepgram与AWS合作,将Nova-3语音转文字模型移植到AWS Trainium2。据AWS Machine Learning于2026年10月20日发布的信息,单台trn2.3xlarge实例可运行8个模型副本,在离线批处理场景下每美元处理的音频量比原有方案提升11%–70%。团队使用TorchNeuron完成PyTorch移植,并通过NKILib融合内核与手写NKI内核调优,其中FFN内核延迟降低2.0x、depthwise conv1d提速1.5x,conv2d内核解锁了32以上的批大小。目前尚无后续发展事实。
匹配字段标题
AWS宣布,新客户可通过新版AWS登录注册体验直接进入SageMaker Studio。据AWS Machine Learning于2026年10月20日发布的信息,新客户可使用Amazon、Apple、GitHub、Google账号或邮箱,在2–3步内完成AWS注册,并自动在约20秒内创建好SageMaker Studio环境,无需手动配置;多数客户无需填写信用卡。新客户可获得100美元AWS Free Tier额度,用于模型定制、训练任务、Studio notebook和端点部署,符合条件账户默认可用G5、G6、G4dn GPU实例。该体验仅面向新AWS账户,已有账户登录方式不变。目前尚无后续发展事实。
匹配字段标题
AWS 宣布 新客户可通过新版AWS登录注册体验直接进入SageMaker Studio
English translation is being prepared.
匹配字段标题
2026年10月17日,AWS销售运营团队介绍了一套基于Amazon Bedrock AgentCore Evaluations搭建的、覆盖全生命周期的AI智能体评估框架,用于其服务全球AWS现场销售的多智能体系统。据AWS Machine Learning发布的信息,该团队在上线前评估Customer Insights Agent时发现,该智能体把410.08美元三个月营收报成“4.1008亿美元”等错误,而传统监控始终显示正常;一次预生产测试中,数据、工具与提示词变更错位更让通过率从78%跌至38%。目前该框架已用于上述多智能体系统的评估。
匹配字段标题
AWS 介绍 基于Amazon Bedrock AgentCore的生产级智能体评估框架
English translation is being prepared.
匹配字段标题
2026年10月15日,AWS提出名为Trust in Depth的代理信任框架,目标是让AI智能体在可验证时自主行动,同时把人类判断留给真正需要决策的环节。该框架采用独立分层的信任机制,围绕Scope、Know、Bound、Observe四个生命周期问题构建。AWS同时引入自动推理技术来验证智能体规则,并称该技术已在IAM(每秒超21亿次请求)、AWS Nitro Hypervisor、Amazon S3 Block Public Access等系统运行十余年。目前尚无后续发展事实。
匹配字段标题
AWS 提出 Trust in Depth
English translation is being prepared.
匹配字段标题
2026年10月14日,Orca Security 与 AWS 合作,基于 Amazon Bedrock 构建了自然语言查询智能体 Discovery AI,可将自然语言问题转换为 Sonar 查询。据 AWS Machine Learning 发布的信息,该方案采用 RAG 与 schema 感知查询构建的九阶段流水线,并组合使用 Amazon Titan Text Embeddings 与 Cohere Rerank 3.5。相比初始基线,查询成本降低 90%、输入 token 减少 93%、延迟降低 75%;目前每天处理数千次查询,响应时间 15 秒。截至现有证据,尚无后续发展事实。
匹配字段标题
Orca Security 合作构建 Discovery AI
English translation is being prepared.
匹配字段标题