←搜索结果

按匹配度 · 共 152 条结果 清除搜索

星期六

  1. The New Stack

    AWS 安全智能体 Continuum 正式可用,称在 CyberGym-E2E 上修复 89% 漏洞

    AWS 于周四将代码漏洞安全智能体 Continuum 正式开放使用,该服务可在代码仓库中查找并验证漏洞、对照 AWS 环境检查,并提交包含修复建议的 pull request。AWS 在 10 月 5 日公布的基准测试中称,Continuum 在 CyberGym-E2E 上完成 920 项任务中的 819 项,端到端成功率为 89.0%,此前公开最高成绩为 65.9%;但补丁同时修复基准所指定历史漏洞的比例仅为 37.8%,此前公开最高为 26.2%。该基准只覆盖 139 个开源项目中的 C/C++ 内存安全漏洞,且测试由 AWS 自行执行。

    匹配字段标题、摘要、正文

星期五

  1. Hugging Face

    Hugging Face 上线 Space,可查询模型能否在 AWS Trainium 上运行

    Hugging Face 发布 torch-neuronx model support Space,可按下载量或趋势查看 Hub 上的模型能否在 AWS Trainium 上运行,并给出分片核数、含编译的耗时和峰值显存。目前只测试 Transformers 的文本生成与图文模型,且仅限能放进 4 台 Trainium2 设备(最多 16 核)的模型;每个模型生成 32 个 token 校验,单核时与 CPU 结果比对,分片时由小模型判断英文是否通顺。结果来自公开数据集 aws-neuron/torch-neuronx-model-support,Space 还提供运行脚本和跳过编译的 NEFF 缓存命令。

    匹配字段标题、摘要、正文

  2. Amazon Science

    Amazon 发布 TorchNeuron:面向 AWS Trainium 的 PyTorch 后端

    Amazon 本周宣布开源 TorchNeuron,这是一个把 PyTorch 代码转换为可在 AWS Trainium 上执行的操作的后端,已在其他加速器上运行的 PyTorch 代码几乎无需改动即可迁移。它提供可选的 adaptive eager 模式,将操作分组编译并多级缓存 NEFF,在跨加速器的大语言模型测试中把首个训练步的时间缩短约三分之一。团队还用 AI 智能体扫描 Hugging Face 仓库,筛出 841 个代表性模型和数万个张量 shape,构建分层测试流程。

    匹配字段标题、摘要、正文

  3. AWS Machine Learning精选

    AWS 为 SageMaker AI 无服务器模型定制推出训练会话正式版

    AWS 宣布 SageMaker AI 无服务器模型定制的训练会话正式可用,用户可自行编写并协调训练循环,包括自定义损失函数和奖励信号,GPU 分配、分布式执行、故障恢复与检查点存储由 SageMaker AI 负责。该功能支持 SFT、DPO、RLVR、RLAIF 和多轮 RL,可选择 LoRA 或全量微调,目前支持 gpt-oss-20b、gemma-4-31B-it、Qwen3.6-27B 和 Qwen3.8-27B。计费按 SageMaker AI 处理的 token 计,奖励函数在用户环境打分时停止计费,且无需预留容量。

    匹配字段标题、摘要、正文

星期四

  1. LMSYS Blog

    LMSYS 发布 SGLang AWS Trainium 插件 Beta

    LMSYS 与 AWS 合作发布 SGLang Trainium 插件 Beta,基于新发布的 TorchNeuron 构建,在 Trainium2 和 Trainium3 上支持 LLM 推理服务与 RL rollout 生成。初始覆盖 Qwen3(dense)、Qwen3-MoE-30B-A3B、DeepSeek-V2-Lite、GLM-4 和 GLM-5.2/5.3,并支持数据并行、张量并行、专家并行、Radix Cache、BF16/FP8 和异步调度。首次端到端异构 RL 运行中,SGLang 在 Trainium3 上为 Qwen3-MoE-30B-A3B 生成 rollout,Miles 在单台 H200 节点上用 Megatron 训练 GRPO 策略。Beta 目前仅限少量团队参与。

    匹配字段标题、摘要、正文

星期二

  1. TechCrunch AI

    AWS 发布 TorchNeuron 开发工具,让 PyTorch 应用改一行配置跑上 Trainium

    AWS 发布 TorchNeuron 开发工具,让用 PyTorch 编写的 AI 应用只需改一行配置就能运行在亚马逊自研芯片 Trainium 上,无需重写代码。亚马逊称约 85% 的 AI 应用用 PyTorch 编写,并计划把移除框架与特定芯片绑定代码的改动提交到 PyTorch 上游。AWS Annapurna Labs 技术软件副总裁 Colin Brace 称,语音应用厂商 Deepgram 迁移到 Trainium 后每美元处理的音频量提升 70%。

    匹配字段标题、摘要、正文

星期一

  1. PyTorch Blog精选

    PyTorch 发布 TorchNeuron:面向 AWS Trainium 的原生后端

    PyTorch 宣布开源原生后端 TorchNeuron,让 Trainium 成为标准 PyTorch 设备,模型代码只需改为 .to('neuron') 即可运行,10 月 20 日以 Apache 2.0 协议在 github.com/aws-neuron/torch-neuronx 开放公测。该后端基于 PrivateUse1 和 torch.accelerator 扩展点,支持 eager、自适应 eager 与 torch.compile,并覆盖 DDP、FSDP2、张量并行等分布式 API 以及 NKI 自定义算子。官方称已在 10 万个 Hugging Face 模型上做覆盖测试,Hugging Face Transformers v5、Diffusers、vLLM Neuron 等可直接在 Trainium 上使用。

    匹配字段标题、摘要、正文

  2. Hugging Face精选

    Hugging Face 推出 TorchNeuron,让 HF 模型在 AWS Trainium 上原生运行

    Hugging Face 发布 PyTorch 插件 TorchNeuron,把 Neuron 变成原生设备,支持 eager 模式、torch.compile 以及 FSDP2、DTensor 等分布式接口,2026 年 10 月 20 日起以公开 beta 形式提供,可通过 pip install torch-neuronx 安装。Transformers、Diffusers、Accelerate、PEFT 和 TRL 可直接在 Trainium 上运行,无需再经过 Optimum Neuron;官方建议 Neuron 用户改用这些库。文本生成方面,前 100 个最常用架构中有 89% 开箱支持,Optimum Neuron v0.4.5 为 46%,只需传入 device_map=neuron。

    匹配字段标题、正文

星期五

  1. AWS Machine Learning精选

    Reflection AI 开源智能体编码模型 Beam,并在 AWS 上提供部署方案

    Reflection AI 推出开源权重模型 Beam,面向智能体编码和长周期任务,如维护代码、调用工具、解读结果并完成多步工作流。Beam 是稀疏 MoE 模型,总参数 5010 亿、激活参数 230 亿,Reflection 称有效上下文长度为 100 万 token,权重以 Apache 2.0 许可在 Hugging Face 发布,提供 BF16、FP8 和 NVFP4 三种 checkpoint。发布时 Beam 已在 Amazon SageMaker JumpStart 上线,覆盖美国东部(弗吉尼亚北部)和(俄亥俄)区域,也可通过 SageMaker HyperPod Inference 搭配 JumpStart、SGLang 或 vLLM 部署。

    Architecture diagram showing Beam sourced from SageMaker JumpStart, Hugging Face Hub, or an optional Amazon S3 mirror into Amazon SageMaker HyperPod Inference, with the Inference Operator managing local model and image caching and the Inference Gateway and Endpoint Picker routing requests to distributed JumpStart, SGLang, or vLLM workers monitored by Amazon CloudWatch.

    匹配字段标题、正文

  2. AWS Machine Learning

    Meta 的 Muse Spark Open 上线 Amazon SageMaker JumpStart

    Meta 的编码优化开源权重模型 Muse Spark Open 现已在 Amazon SageMaker JumpStart 上线,支持 100 万 token 上下文窗口,可在自己的 AWS 账户中部署到 SageMaker AI 端点。该模型采用 MoE 架构,总参数 816B、每 token 激活 42B,提供 BF16(Muse-Spark-Open-816B-A42B)和 NVFP4 量化(Muse-Spark-Open-816B-A42B-NVFP4)两个变体,分别运行在 ml.p6-b300.48xlarge 和 ml.p5e.48xlarge 实例上。文章给出了通过 SageMaker Studio 和 SageMaker Python SDK 部署、发送首次推理请求以及清理端点的步骤。

    Muse Spark Open model detail card in SageMaker JumpStart with the Deploy option

    匹配字段摘要、正文

星期五

  1. AWS Machine Learning

    AWS 正式发布 Amazon Bedrock AgentCore payments,支持智能体按次付费调用推理

    Amazon Bedrock AgentCore payments 正式可用,为 AI 智能体提供按需付费的托管能力,支持 x402 协议端点,包括 Amazon Bedrock 推理端点。Incarna 借助该服务让智能体逐次向 BlockRun 支付模型推理费用,集成工作从原计划的 2 至 3 个月缩短到 3 天,约 200 行应用代码。测试期间智能体已处理超过 1000 笔支付,单次金额在 0.001 至 0.05 美元之间,每笔在链上独立结算,花费上限由基础设施层强制执行。

    匹配字段标题、正文

星期三

  1. Publickey

    AWS 将 DuckDB 集成进 Aurora PostgreSQL,无需 ETL 即可直读数据湖

    AWS 宣布在 Amazon Aurora PostgreSQL 中集成 DuckDB,可直接读取并处理 Apache Iceberg 等格式构建的数据湖数据,不再需要 ETL 转换。DuckDB 是小型高速的 OLAP 引擎,支持并行执行的列式引擎,可读写 CSV、Parquet、JSON 格式,其中 Parquet 常用于 S3 上的大规模数据湖。DuckDB 开发方 DuckLabs 今年 9 月成为 AWS 子公司,此次集成是该收购后推出的新功能。

    匹配字段标题、摘要、正文

星期五

  1. TechCrunch AI

    AWS 开源决策模型 Strands Decider 2B,可本地运行

    AWS 发布开源决策模型 Strands Decider 2B,基于 Qwen3.5-2B 构建,不生成文本而是从预设选项中给出带置信度的选择,速度高、成本低,小到可本地运行。该模型由 AWS 杰出工程师 Marc Brooker 在看过 TypeSafe 的 Jev 后自行开发,曾在同规模模型的 Jevbench 排名中短暂登顶,随后由 Strands Labs 整理发布。Brooker 表示,AWS 客户的智能体工作流并非时刻都需要完整 LLM 的能力和成本,这类模型可作为工作流中的决策步骤,凭借置信度和封闭答案域获得更可靠、更低延迟的表现。

    匹配字段标题、摘要、正文

星期三

  1. Pydantic AI 官方文章精选

    Pydantic AI Harness 推出 AWSLambdaDurability,让智能体在 AWS Lambda 上可持久运行

    Pydantic AI Harness 发布 AWSLambdaDurability 能力,把每次模型请求、函数工具调用、MCP 调用和动态工具集解析都记录为 AWS Lambda durable functions 的步骤,恢复执行时从存储结果中读取已完成步骤。使用时需在构建智能体时挂载该能力,并用 durable_agent_handler 改造处理函数,@durable_execution 必须位于最外层。步骤默认至少执行一次并带重试,副作用需保持幂等;改变步骤数量或顺序会使在途执行失效,需发布新版本并让旧版本执行完。

    匹配字段标题、摘要、正文

星期三

  1. SiliconANGLE

    Google 发布 TorchTPU,让 PyTorch 应用可直接运行在 TPU 上

    Google 发布 TorchTPU,这是 PyTorch 的一个专用版本,让开发者无需重写底层代码、只需调整少量配置,就能把现有模型和应用迁移到 TPU 上运行。Google 称与 Meta、Hugging Face 以及 vLLM、SGLang 的开发者合作,确保相关代码库兼容;同时推出 TPU agent suite 协助迁移并自动修复错误,并更新端侧工具 LiteRT 以兼容 PyTorch 应用。此前 AWS 也发布了面向自家 Trainium 芯片的 TorchNeuron。

    匹配字段摘要、正文

星期四

  1. Publickey

    Google Cloud 发布可本地安装的分布式多模型数据库 Spanner Omni 正式版

    Google Cloud 宣布分布式多模型数据库软件 Spanner Omni 正式版发布,它是托管版 Google Cloud Spanner 的软件版本,可安装到本地机器。该版本支持 Linux(RHEL 9、Ubuntu 22)和 macOS(M1、M2、M3),也支持 Google Cloud 与 AWS 的虚拟机或 Kubernetes Pod,并继承 Paxos 共识、自动分片、同步复制等核心能力,用软件组件替代 Colossus 和 TrueTime。Spanner Omni 支持向量类型与 kNN、ANN 检索,可通过 MCP Toolbox for Databases 接入 AI,提供免费 90 天的 Developer Edition 和按 vCPU 年度订阅的 Commercial Edition。

    匹配字段摘要、正文

  2. A6 a6-051 · Cerebras:Blog

    Cerebras 发布第四代系统 CS-4,称推理速度最高达 GPU 系统 30 倍

    Cerebras 发布第四代系统 CS-4,由三颗 Wafer Scale Engine 3 Turbo 处理器构成,官方称其推理速度最高可达 GPU 系统的 30 倍,每瓦吞吐量最高为 CS-3 的 10 倍。CS-4 将晶圆间互联延迟降至最低 2 微秒,可在超过 10 万亿参数的模型上实现每秒 1000 token 以上,并原生支持解耦推理,可搭配 AMD Helios、AWS Trainium 等平台做 prefill。该系统基于新的 Cerebras Nexus 平台架构,组件数量减少 50%,首批出货于本季度开始。

    匹配字段摘要、正文

星期三

  1. Cursor Blog精选

    Cursor 推出自托管机器,让云智能体在自有基础设施上运行

    Cursor 发布 Self-Hosted Machines,允许团队在自己的网络内运行云智能体,执行环境由用户管理,智能体循环、推理和规划仍在 Cursor 云端。团队可通过 Cursor CLI 启动 worker 连接基础设施,支持 My Machines 和 Pools 两种配置,Pools 能按需扩缩容并服务任意仓库。该功能与 AWS Lambda、Cloudflare、Coder、Daytona、E2B、Modal、Namespace 和 Vercel 等沙箱提供商合作,Linux 和 Mac 均支持浏览器控制。

    Decision guide for when to use Self-Hosted Machines versus Cursor-hosted cloud agents

    匹配字段摘要、正文

  2. Anthropic News

    Anthropic 发布 Enterprise Frontier Safeguards,客户自持数据存储

    Anthropic 发布 Enterprise Frontier Safeguards(EFS),把零数据留存(ZDR)的隐私性与检测滥用的安全监控结合,数据存放在客户自己控制的云基础设施中,而非 Anthropic。该方案与 100 多家金融、医疗、制造、电信、法律、零售及公共部门客户以及 AWS、Google Cloud、Microsoft Azure 合作开发,将支持 Claude Code、Claude Enterprise、Claude Platform、Amazon Bedrock、Google 的 Agent Platform 和 Microsoft Foundry,今秋晚些时候起分阶段推出;在 EFS 就绪前,符合条件的客户可在 Fable 5 和 Fable 5.1 上获得 ZDR。EFS 的客户自有存储、客户管理加密密钥和全自动审查均为可选开启,不改变模型行为、API 定价或速率限制,Anthropic 不对此收费。

    Developing Enterprise Frontier Safeguards with our customers

    匹配字段摘要、正文

星期五

  1. The Rundown AI

    Anthropic 推出 Model Hardware Standard,让 AI 智能体操控现实设备

    Anthropic 在研究预览中推出 Model Hardware Standard(MHS),让 AI 智能体通过自然语言生成的参考文件学习并操作显微镜、机械臂等设备。Anthropic 称其可将设备接入时间从数周缩短至数小时或数分钟,并计划日后开源;Tecan、QIAGEN、AWS、Hugging Face 和 Raspberry Pi 将参与合作或设备适配。

    Anthropic 在研究预览中推出 Model Hardware Standard(MHS),让 AI 智能体通过自然语言生成的参考文件学习并操作显微镜、机械臂等设备。Anthropic 称其可将设备接入时间从数周缩短至数小时或数分钟,并计划日后开源;Tecan、QIAGEN、AWS、Hugging Face 和 Raspberry Pi 将参与合作或设备适配。 · Anthropic introduced the Model Hardware Standard (MHS) in research preview, enabling AI agents to learn and operate equipment such as microscopes and robotic arms from natural-language-generated reference files. Anthropic says MHS can reduce setup time from weeks to hours or minutes and plans to open-source it la

    匹配字段摘要、正文