←搜索结果

按匹配度 · 共 224 条结果 清除搜索

星期二

  1. TechCrunch AI

    AWS 发布 TorchNeuron 开发工具,让 PyTorch 应用改一行配置跑上 Trainium

    AWS 发布 TorchNeuron 开发工具,让用 PyTorch 编写的 AI 应用只需改一行配置就能运行在亚马逊自研芯片 Trainium 上,无需重写代码。亚马逊称约 85% 的 AI 应用用 PyTorch 编写,并计划把移除框架与特定芯片绑定代码的改动提交到 PyTorch 上游。AWS Annapurna Labs 技术软件副总裁 Colin Brace 称,语音应用厂商 Deepgram 迁移到 Trainium 后每美元处理的音频量提升 70%。

    匹配字段标题

  2. AWS Machine Learning

    Deepgram 如何借助 AWS Trainium 优化大规模语音 AI

    Deepgram 与 AWS 合作将 Nova-3 语音转文字模型移植到 Trainium2,单台 trn2.3xlarge 实例运行 8 个模型副本,在离线批处理场景下每美元处理的音频量比原有方案提升 11%–70%。团队用 TorchNeuron 完成 PyTorch 移植,并通过 NKILib 融合内核与手写 NKI 内核调优,其中 FFN 内核延迟降低 2.0x、depthwise conv1d 提速 1.5x,conv2d 内核解锁了 32 以上的批大小。

    Nova-3 encoder and decoder compiled ahead of time to NEFFs and served by a data-parallel Rust runtime on AWS Trainium2

    匹配字段标题

  3. AWS Machine Learning

    开发者现可通过新版 AWS 体验访问 SageMaker Studio

    Amazon SageMaker AI 新客户现在可用 Amazon、Apple、GitHub、Google 账号或邮箱在 2–3 步内注册 AWS,并自动在约 20 秒内创建好 SageMaker Studio 环境,无需填写信用卡(多数客户)或手动配置。新客户可获得 $100 AWS Free Tier 额度,可用于模型定制、训练任务、Studio notebook 和端点部署;符合条件账户默认可用 G5、G6、G4dn GPU 实例。该体验仅面向新 AWS 账户,已有账户登录方式不变。

    The Sign up for AWS page with an email field and sign-in options for Google, GitHub, Apple, and Amazon

    匹配字段标题

  4. SiliconANGLE

    Amazon 推出 TorchNeuron 工具包,让 PyTorch 工作负载跑在 AWS Trainium 芯片上

    Amazon 推出开源工具包 TorchNeuron,开发者只需配置一项设置,即可在 AWS Trainium 芯片上运行 PyTorch 工作负载,无需大量改代码。该工具包支持 Trainium2 和 Trainium3,Trainium3 配备 8 个计算核心和 154GB 片上内存,单台最多容纳 144 颗加速器的服务器在 MXFP8 格式下可达 362 petaflops。TorchNeuron 还支持 TorchTitan 等配套工具,Cartesia AI 已用它运行推理负载,Amazon 计划在圣何塞 PyTorch Conference 首日开源。

    匹配字段标题

星期一

  1. PyTorch Blog精选

    PyTorch 发布 TorchNeuron:面向 AWS Trainium 的原生后端

    PyTorch 宣布开源原生后端 TorchNeuron,让 Trainium 成为标准 PyTorch 设备,模型代码只需改为 .to('neuron') 即可运行,10 月 20 日以 Apache 2.0 协议在 github.com/aws-neuron/torch-neuronx 开放公测。该后端基于 PrivateUse1 和 torch.accelerator 扩展点,支持 eager、自适应 eager 与 torch.compile,并覆盖 DDP、FSDP2、张量并行等分布式 API 以及 NKI 自定义算子。官方称已在 10 万个 Hugging Face 模型上做覆盖测试,Hugging Face Transformers v5、Diffusers、vLLM Neuron 等可直接在 Trainium 上使用。

    匹配字段标题

  2. Hugging Face精选

    Hugging Face 推出 TorchNeuron,让 HF 模型在 AWS Trainium 上原生运行

    Hugging Face 发布 PyTorch 插件 TorchNeuron,把 Neuron 变成原生设备,支持 eager 模式、torch.compile 以及 FSDP2、DTensor 等分布式接口,2026 年 10 月 20 日起以公开 beta 形式提供,可通过 pip install torch-neuronx 安装。Transformers、Diffusers、Accelerate、PEFT 和 TRL 可直接在 Trainium 上运行,无需再经过 Optimum Neuron;官方建议 Neuron 用户改用这些库。文本生成方面,前 100 个最常用架构中有 89% 开箱支持,Optimum Neuron v0.4.5 为 46%,只需传入 device_map=neuron。

    匹配字段标题

星期五

  1. Replit Blog

    Replit 推出 Bring Your Own Cloud,支持 Azure、Google Cloud 和 AWS

    Replit 推出 Bring Your Own Cloud(BYOC),提供 Full BYOC、BYOC for Published Apps 和 Image Exports 三种方案,支持 Microsoft Azure、Google Cloud 或 Amazon Web Services。Full BYOC 将 Replit 平台与已发布项目托管整体部署进企业自有云租户,已面向企业客户开启 private preview;BYOC for Published Apps 由 Replit 管理平台、项目托管在客户云中,处于 early access。Image Exports 则输出 Docker 镜像、Terraform 文件和 SBOM,供企业自托管 Replit 构建的应用。

    Bring Your Own Cloud to Replit — cover image

    匹配字段标题

  2. AWS Machine Learning精选

    Reflection AI 开源智能体编码模型 Beam,并在 AWS 上提供部署方案

    Reflection AI 推出开源权重模型 Beam,面向智能体编码和长周期任务,如维护代码、调用工具、解读结果并完成多步工作流。Beam 是稀疏 MoE 模型,总参数 5010 亿、激活参数 230 亿,Reflection 称有效上下文长度为 100 万 token,权重以 Apache 2.0 许可在 Hugging Face 发布,提供 BF16、FP8 和 NVFP4 三种 checkpoint。发布时 Beam 已在 Amazon SageMaker JumpStart 上线,覆盖美国东部(弗吉尼亚北部)和(俄亥俄)区域,也可通过 SageMaker HyperPod Inference 搭配 JumpStart、SGLang 或 vLLM 部署。

    Architecture diagram showing Beam sourced from SageMaker JumpStart, Hugging Face Hub, or an optional Amazon S3 mirror into Amazon SageMaker HyperPod Inference, with the Inference Operator managing local model and image caching and the Inference Gateway and Endpoint Picker routing requests to distributed JumpStart, SGLang, or vLLM workers monitored by Amazon CloudWatch.

    匹配字段标题

星期六

  1. AWS Machine Learning

    AWS 如何用 Amazon Bedrock AgentCore 构建 AI 智能体生产级评估框架

    AWS 销售运营团队基于 Amazon Bedrock AgentCore Evaluations 搭建了覆盖全生命周期的 AI 智能体评估框架,用于其服务全球 AWS 现场销售的多智能体系统。上线前评估 Customer Insights Agent 时发现其把 410.08 美元三个月营收报成“4.1008 亿美元”等错误,而传统监控始终显示正常;一次预生产测试中,数据、工具与提示词变更错位更让通过率从 78% 跌至 38%。

    Figure 1 Workflow diagram showing 9-stage AgentCore evaluation journey from Define to Improve

    匹配字段标题

星期四

  1. AWS Machine Learning

    AWS 提出 Trust in Depth:让 AI 智能体获得更多自主权而不失控

    AWS 提出 Trust in Depth 框架,用独立分层的信任机制让 AI 智能体在可验证时自主行动、把人类判断留给真正需要决策的环节。该框架围绕 Scope、Know、Bound、Observe 四个生命周期问题构建,并引入已在 IAM(每秒超 21 亿次请求)、AWS Nitro Hypervisor、Amazon S3 Block Public Access 等系统运行十余年的自动推理技术来验证智能体规则。

    匹配字段标题

星期二

  1. Amazon Science精选

    AWS 提出 priming 方法:用预训练 Transformer 权重初始化混合状态空间模型

    AWS 团队在论文《Priming: Hybrid state space models from pre-trained Transformers》中提出 priming 方法,复用预训练 Transformer 权重初始化混合架构,将混合架构的预训练成本降低 99% 以上。在受控对比中,Gated KalmaNet(GKA)表现优于 Gated DeltaNet(GDN)和 Mamba-2,基于 GKA 的 32B 混合模型在推理基准上与源 Transformer 持平,128K 上下文下解码速度最高提升至 2 倍。团队以 Apache 2.0 协议开源了 8B 和 32B 的混合模型、训练代码、优化内核及 vLLM 服务插件。

    匹配字段标题

星期一

  1. Rohan Paul

    AWS 与 HSBC 论文提出 Double Ratchet:评分器随智能体同步演化

    AWS 与 HSBC 的一篇新论文提出 Double Ratchet,让评分器随智能体技能同步演化,不再需要人工编写评分标准。该方法用 10 个标注样本筛选评分器版本,且只以与标注样本一致为准,不以抬高智能体得分为目标。在代码、SQL 和报告任务上,它保留了真实标注或评分细则所带来增益的 88% 到 110%;移除防护机制后,评分器放行了 97% 到 100% 的输出,但训练技能的效果相当。

    匹配字段标题

星期五

  1. AWS Machine Learning

    AWS 9 月回顾:Amazon Bedrock 上线 GPT-6 Astra、Claude Opus 5.5 与 Kimi K3

    Amazon Bedrock 在 9 月新增多款前沿模型:OpenAI 的 GPT-6 Astra、Sol、Luna 系列正式可用,其中 GPT-6 Astra 支持最多 100 万输入 token,Ultrafast 档位推理速度最高提升 6 倍、达 300 tokens/秒;Claude Fable 5.1、Opus 5.5、Sonnet 5.5 上线,Sonnet 5.5 相比 Sonnet 5 每任务成本降低 30%、速度提升 30%;Moonshot AI 的 Kimi K3 以 2.8 万亿参数、100 万 token 上下文窗口和原生视觉能力开放。AgentCore 运行时降低冷启动延迟并改为按用量计费,Strands 开源 harness 在准确率持平主流 harness 的同时减少 28% token 消耗,Strands Decider 2B 决策模型可在本地约 115ms 内完成选项判断。

    匹配字段标题

  2. The New Stack

    AWS、Upstage 与 Ollama 采用同一决策模型 API,OpenAI 尚未加入

    AWS 于 10 月 1 日发布基于阿里 Qwen3.5 的开源权重模型 Strands Decider 2B,其服务端点 /v1/systemone 与 TypeSafe AI 两周前随 Jev 推出的端点一致,Upstage、Ollama 0.35 版及多个开源实现也采用同一 System One 模式。OpenAI 在 DevDay 上以基于 GPT-6 Luna 的 Decisions API 回应 Jev,但仍处有限预览,未公布 schema 与定价。文章认为 TypeSafe 的 schema 正在成为共享契约,而端点之争仍未定,OpenAI 是否发布不同 schema 将决定该品类走向统一还是分裂。

    匹配字段标题

  3. AWS Machine Learning

    AWS 正式发布 Amazon Bedrock AgentCore payments,支持智能体按次付费调用推理

    Amazon Bedrock AgentCore payments 正式可用,为 AI 智能体提供按需付费的托管能力,支持 x402 协议端点,包括 Amazon Bedrock 推理端点。Incarna 借助该服务让智能体逐次向 BlockRun 支付模型推理费用,集成工作从原计划的 2 至 3 个月缩短到 3 天,约 200 行应用代码。测试期间智能体已处理超过 1000 笔支付,单次金额在 0.001 至 0.05 美元之间,每笔在链上独立结算,花费上限由基础设施层强制执行。

    匹配字段标题

星期四

  1. The Decoder精选

    Zenity 发现单条提示词即可劫持 AWS 账号内全部 AgentCore 智能体

    安全公司 Zenity Labs 发现 Amazon Bedrock AgentCore 存在名为 AgentCorruption 的漏洞链,攻击者只需对一个公开智能体拥有对话权限,用一条提示词就能接管同一 AWS 账号和区域内的所有 AgentCore 智能体,读取私密对话、源代码和存储的凭证。问题根源在于 AgentCore 默认权限未限定到单个智能体,而是覆盖同账号同区域全部智能体,并授予读写删除权限;Zenity 于 2025 年 12 月 25 日向 AWS 报告后,AWS 将 IMDSv2 设为新部署默认,并在 8 月前后调整了默认执行角色,不再允许智能体调用其他智能体、读取私密对话或从 AWS Secrets Manager 取凭证。

    匹配字段标题

  2. AWS Machine Learning精选

    AWS 上线 Claude Haiku 5.5,成本较 Haiku 4.5 降低约 75%

    AWS 宣布 Claude Haiku 5.5 在 Amazon Bedrock 和 Claude Platform on AWS 上线,据 Anthropic 称这是 Claude 5.5 系列中速度最快、效率最高的模型,面向子智能体和高并发、成本敏感的任务,多数任务成本比 Claude Haiku 4.5 低约 75%。它是首个带 effort controls 的 Haiku 模型,可针对单个任务调节成本与智能的取舍,并支持智能体编码、多步工具调用和高分辨率图像。该模型可与 Claude Opus 5.5 搭配,由 Opus 5.5 负责规划与判断,Haiku 5.5 承担路由、分类、摘要和跨文件小改动等高频子智能体任务。

    匹配字段标题

星期三

  1. Publickey

    AWS 将 DuckDB 集成进 Aurora PostgreSQL,无需 ETL 即可直读数据湖

    AWS 宣布在 Amazon Aurora PostgreSQL 中集成 DuckDB,可直接读取并处理 Apache Iceberg 等格式构建的数据湖数据,不再需要 ETL 转换。DuckDB 是小型高速的 OLAP 引擎,支持并行执行的列式引擎,可读写 CSV、Parquet、JSON 格式,其中 Parquet 常用于 S3 上的大规模数据湖。DuckDB 开发方 DuckLabs 今年 9 月成为 AWS 子公司,此次集成是该收购后推出的新功能。

    匹配字段标题

  2. AWS Machine Learning

    AWS 六周 AI 构建者培养计划:让非工程背景员工用 Strands Agents SDK 做出多智能体原型

    AWS 推出六周结构化培养计划,让非工程背景的业务人员用 Amazon Bedrock、Strands Agents SDK 和 AWS Lambda 构建可运行的 AI 原型,每周投入约 4 小时。四名无工程背景的客户岗位员工六周后做出多智能体财务顾问工具 WealthWise,采用 Node.js + Python Flask 双服务架构与 Amazon Nova 模型,复杂金融推理响应时间低于 5 秒。AWS 称完成分阶段计划的参与者保留的实用技能是两天集训形式的 3 倍。

    匹配字段标题

  3. AWS Machine Learning

    用 AWS Lambda Durable Functions 自动化 AWS DevOps Agent 调查后的修复流程

    AWS 展示如何用 AWS Lambda Durable Functions、Amazon EventBridge 和 Amazon Bedrock 搭建自动化修复工作流,把 AWS DevOps Agent 的调查摘要转化为预验证的修复方案,供一键审批。只读操作由智能体自主执行,涉及基础设施变更的操作会挂起等待人工批准,函数可暂停数分钟至数天且不消耗计算资源。该方案旨在降低 MTTR,部署需 Python 3.14 或更高版本及 AWS CDK。

    Architecture diagram showing AWS DevOps Agent sending an investigation-completed event to Amazon EventBridge, which triggers an AWS Lambda function that invokes an AWS Lambda durable function; the durable function calls Amazon Bedrock to find and list remediation tools, optionally pauses for human approval, then applies remediations to the infrastructure

    匹配字段标题