←搜索结果

按匹配度 · 共 1528 条结果 清除搜索

星期五

  1. PyTorch Blog

    PyTorch 大会 2026 在圣何塞举行,公布 TorchTPU 与 TorchNeuron 等进展

    PyTorch Conference North America 2026 于 10 月 20–21 日在圣何塞举行,吸引 3500 多名参会者,聚焦加速开放智能及 PyTorch、vLLM、DeepSpeed、Ray、Helion、Safetensors 等项目。会上公布了 Google 与 Meta 合作的 TorchTPU 原生 PyTorch TPU 后端,以及面向 AWS Trainium 的 TorchNeuron 原生后端,后者于 10 月 20 日以 Apache 2.0 进入公开测试。Shopify 分享了用 PyTorch 与 vLLM 构建持续学习循环的案例,称其每天将生产故障压缩进模型权重,服务成本降低 96%。

    PyTorchCon community expo

    匹配字段摘要、正文

  2. AWS Machine Learning

    在 Amazon SageMaker AI 上用 Kokoro TTS 为 AI 智能体流式输出低延迟语音

    AWS 展示了在 Amazon SageMaker AI 上托管 Kokoro-82M 文本转语音模型、让 AI 智能体每生成一句就立即流式合成语音的方案,从而不必等完整回复生成完毕再开始播放。Kokoro-82M 仅有 8200 万参数,可运行在单台 ml.g5.xlarge GPU 实例上,容器提供 POST /invocations 和 WS /invocations-bidirectional-stream 两条路由。文章还说明了双向流式传输中二进制 WebSocket 帧的处理方式,以及保持会话不关闭的注意事项。

    Client connects to an Amazon SageMaker AI real-time endpoint on ml.g5.xlarge over InvokeEndpointWithBidirectionalStream. A Starlette ASGI app exposing GET /ping, POST /invocations, and WS /invocations-bidirectional-stream routes the WebSocket to a KPipeline running Kokoro-82M, which returns audio and control frames on the same connection.

    匹配字段摘要、正文

  3. AWS Machine Learning

    Amazon Quick 如何在 HIPAA 合规环境中部署 AI

    Amazon Quick 是 HIPAA-eligible 服务,覆盖 Web、桌面和移动客户端,可在签署 AWS BAA 后用于处理 PHI。其 chat agent 可跨临床笔记等非结构化数据和理赔、会员记录等结构化数据检索,并通过 Slack、Microsoft Outlook、Salesforce、Jira、SharePoint 等连接器执行多步任务,也支持通过 MCP 接入自定义工具。HIPAA-eligible 不等于 HIPAA compliant,用户仍需自行完成数据分类、配置、治理和行政保障。

    匹配字段摘要、正文

  4. AWS Machine Learning

    IskayPet 如何用 Amazon Bedrock Managed Knowledge Bases 统一企业知识

    IskayPet 基于 Amazon Bedrock Managed Knowledge Bases 构建企业知识助手,覆盖零售运营、兽医护理、人事入职和采购,支持四种语言、三个国家,无需自管 RAG 基础设施。该助手通过原生 SharePoint 连接器直接摄取现有文档,结合语义与 BM25 关键词的混合搜索、托管重排序和文档级权限控制,并返回带来源引用的答案。整套方案从门店前端到 AWS 架构部署均由 Kiro 搭配 Claude Haiku 4.5 完成。

    Solution architecture

    匹配字段摘要、正文

  5. AWS Machine Learning

    Amazon Polly 生成式引擎重大升级:新增 14 种语音并首次支持印地语和芬兰语

    Amazon Polly 生成式引擎完成升级,新增 14 种语音、覆盖 9 个 locale,并首次在生成式引擎中正式提供印地语和芬兰语。升级后共提供 57 种生成式语音、覆盖 11 种语言和 25 个 locale,并扩展至 AWS GovCloud (US-West),总计 11 个 AWS Region。现有语音名称和 API 调用不变,属于原地升级,价格不变且无需改动代码。

    匹配字段摘要、正文

  6. AWS Machine Learning

    Rescale 如何用 Strands Agents 和 AI-DLC 构建 AI 分诊智能体

    Rescale 基于 AWS 的 AI-DLC 框架和 Strands Agents 构建了 AI 分诊智能体,从问题定义到预发布部署仅用五天,数周内进入生产环境。该智能体运行在 Amazon EKS 的 Argo Workflows CI/CD 流水线中,调用 Amazon Bedrock 上的 Claude Opus 4.8 将 Playwright 夜间测试失败归类为基础设施问题、代码缺陷、不稳定测试或环境问题,并通过 MCP 查询 pod 日志、结合历史失败知识库生成结构化修复报告。

    匹配字段摘要

  7. AWS Machine Learning

    不再靠猜:Amazon SageMaker AI 上 TTS 自动扩缩容目标的实测方法

    AWS 在 Amazon SageMaker AI 实时端点上以自定义容器部署 82M 参数的 TTS 模型 Kokoro-82M,用实测的 Q_max(单实例在 SLO 内可承受的最高并发)和 T_total(一次扩容端到端耗时)推算扩容阈值、缩容阈值与冷却时间,替代凭猜测设定的目标值。方案基于 SageMaker AI 原生发布的 ConcurrentRequestsPerModel 指标扩缩容,避免自定义指标无人上报的隐性故障。

    Diagram showing a client connecting to an Amazon SageMaker AI real-time endpoint, which contains a custom GPU container exposing two routes, POST /invocations for response streaming and WS /invocations-bidirectional-stream for bidirectional streaming, both feeding into a KPipeline running Kokoro-82M with lang_code=“a”

    AWS 在 Amazon SageMaker AI 实时端点上以自定义容器部署 82M 参数的 TTS 模型 Kokoro-82M,用实测的 Q max(单实例在 SLO 内可承受的最高并发)和 T total(一次扩容端到端耗时)推算扩容阈值、缩容阈值与冷却时间,替代凭猜测设定的目标值。方案基于 SageMaker AI 原生发布的 ConcurrentRequestsPerModel 指标扩缩容,避免自定义指标无人上报的隐性故障。

    匹配字段摘要、正文

星期四

  1. AWS Machine Learning

    基于 Strands Agents 的自适应智能体框架 AAIF

    AWS 用 Strands Agents 构建了自适应智能体智能框架 AAIF,以 llama3.2:1b 作为编排层对请求分类,常规任务交给 Ollama 本地 SLM 处理,复杂分析则经 boto3 路由到 Amazon Bedrock 的前沿模型。该架构可运行在 8 GB 内存的 Raspberry Pi 等边缘设备上,也可全云端或混合部署,从而降低 API 成本并保持本地低延迟。

    AAIF three-layer architecture with an SLM orchestrator routing requests to local processing tools or to Amazon Bedrock cloud processing

    匹配字段摘要、正文

星期二

  1. Tessl:产品与工程博客

    从个人编码工具到开发平台:AI 编程中的信任与成本

    AWS 高级首席 PM Massimo Re Ferre 认为,团队从个人编码助手走向智能体开发平台,关键不在模型能力,而在能否低成本验证智能体产出——信任随检查能力提升,而非随 benchmark 提升。智能体成本按任务活动计费,约 80% 开发者只用 20% 预算,20% 重度用户消耗其余部分,因此应关注单位有效工作的成本而非席位价格。

    Massimo Re Ferre'

    匹配字段摘要、正文

  2. 智东西

    亚马逊AI基建内幕:GB300机架因供电不足滞留仓库,2026年资本开支预计2200亿美元

    据Business Insider 10月19日报道,亚马逊采购的部分英伟达GB300服务器机架因数据中心供电不足,只能暂存在仓库中等待部署。亚马逊2026年资本开支预计达2200亿美元,截至第二季度末过去12个月自由现金流为负76亿美元,AWS第二季度收入同比增长37%,积压订单规模达4960亿美元。

    匹配字段摘要、正文

  3. AWS Machine Learning

    Eon 如何在 Amazon Bedrock AgentCore 上构建 MCP Gateway 实现多云调查

    Eon 基于 Amazon Bedrock AgentCore 搭建统一的 MCP Gateway,把跨 AWS、GCP、Azure 的调查工具接入同一个认证网关,新工程师配置全部调查工具的时间从约 2 天缩短到约 2 分钟。该方案用 AgentCore Gateway、Policy、Runtime 和 Identity 替代了逐工具凭证与本地 MCP 进程,并通过 Cedar 策略在 ENFORCE 模式下按主体限制可调用的工具,生产工具保持只读。开发者用 Claude Code、Cursor 或 OpenAI Codex 连接同一个 MCP URL,运行 Claude 的自主 SRE 智能体则以不同身份接入同一网关。

    Eon’s centralized gateway architecture: clients and an SRE agent reach one AgentCore gateway that routes tool calls to Runtimes across multiple AWS accounts

    匹配字段摘要、正文

  4. heise online

    Amazon 明年将在德国投资 160 亿欧元用于云与 AI

    Amazon 计划明年在德国投资超过 160 亿欧元,其中约 48 亿欧元用于扩建法兰克福周边的 AWS 云与 AI 基础设施,其余投向物流现代化和 Prime Video 自制内容。物流领域目前新增逾 3000 个岗位,Bad Hersfeld、多特蒙德和 Werne 的改造将于明年完成,Könnern 新中心在建;投资还涉及卫星互联网项目 Amazon Leo。

    匹配字段摘要、正文

  5. SiliconANGLE

    Kantata 推出 Expertise Insights,用自然语言回答专业服务公司的业务问题

    Kantata 在 Expertise Engine 平台上线生成式商业智能产品 Expertise Insights,用户用自然语言提问即可获得交互图表、计算结果或执行摘要。该产品运行在 AWS 的 Amazon Quick 之上,并叠加语义层把数据库字段名转成企业日常用语,自带财务、交付、时间和资源四类仪表盘,另可通过 Ask Insights 按需生成分析。Kantata 称过去需经 BI 分析师、等待可达一周的请求,现在几分钟即可拼出完整董事会材料,产品已可用。

    匹配字段摘要、正文

  6. SiliconANGLE

    AuxoAI 完成超 2000 万美元 A 轮融资,将 AI 专业能力带入企业

    企业工程与咨询公司 AuxoAI 宣布完成 2070 万美元 A 轮融资,由 NTT Venture Capital 领投,用于加速增长并扩展其企业 AI 咨询模式。其核心平台 Damia 是面向“前置部署工程师”的工具包,可将企业数据转化为应用,并把业务流程知识编码为可长期协作的 AI 智能体。公司已与 Global 2000 企业合作超过三年,并与 Google、AWS、Snowflake、Databricks 和 Microsoft 等平台建立合作。

    匹配字段摘要、正文

星期三

  1. Rohan Paul精选

    OpenAI 与 Google 达成 AI 分发协议,GPT-6 Astra 和 Codex 将上架 Google…

    OpenAI 与 Google 达成 AI 分发协议,OpenAI 将在数周内把 GPT-6 Astra 和 Codex 上架 Google Cloud 的 Model Garden,使其模型覆盖美国三大云。客户可通过 Google Cloud Marketplace 购买这些模型,并将支出计入已承诺的云消费额度,省去单独采购流程;受监管客户还能在 Google Cloud 的访问控制和数据治理工具内运行 OpenAI 模型构建智能体工作流。该协议在 2026 年 4 月 27 日微软对 OpenAI 技术的授权转为非独家、且微软停止就 Azure 转售向 OpenAI 支付收入分成后才成为可能,AWS 此前已率先在 Bedrock 上线 Codex。

    匹配字段摘要

  2. Rohan Paul精选

    WSJ 看到 Anthropic IPO 草案:半年收入 163 亿美元,算力承诺约 4500 亿美元

    WSJ 看到的 Anthropic IPO 草案显示,其半年收入 163 亿美元、账面亏损 807 亿美元,算力承诺约 4500 亿美元。草案披露三大云厂商未来 7 至 10 年固定付款 2520 亿美元,其中 Google 1110 亿、AWS 1100 亿、Microsoft 310 亿,无论是否使用都需支付。另有超 1600 亿美元的 Google 芯片租赁(经 Broadcom)和最高 860 亿美元的 Nvidia GPU 租用,还有 1500 亿美元交易在谈。

    匹配字段摘要

  3. SiliconANGLE

    Google 发布 TorchTPU,让 PyTorch 应用可直接运行在 TPU 上

    Google 发布 TorchTPU,这是 PyTorch 的一个专用版本,让开发者无需重写底层代码、只需调整少量配置,就能把现有模型和应用迁移到 TPU 上运行。Google 称与 Meta、Hugging Face 以及 vLLM、SGLang 的开发者合作,确保相关代码库兼容;同时推出 TPU agent suite 协助迁移并自动修复错误,并更新端侧工具 LiteRT 以兼容 PyTorch 应用。此前 AWS 也发布了面向自家 Trainium 芯片的 TorchNeuron。

    匹配字段摘要、正文

  4. The Elec

    美国土安全部要求民用联邦机构移除 DeepSeek 模型与相关服务

    美国国土安全部(DHS)宣布措施,要求民用联邦机构从政府 IT 系统中移除 DeepSeek 的模型和产品,以及集成了这些模型的第三方服务,并禁止机构采用基于 DeepSeek 产品开发的第三方服务,这实际上切断了政府机构通过 Microsoft、AWS 等平台访问 DeepSeek 的途径。DHS 给出的理由是敏感信息可能流向中国、模型可能被用于生成针对美国人的情报,以及模型本身可能含恶意代码或漏洞。报道同时提到,据 OpenRouter 流量分析,中国模型处理的 token 占比一度达到 58%,7 月第一周短暂升至 63%,而美国模型份额从一年前的 70% 降至 30% 区间。

    匹配字段摘要、正文

  5. AWS Machine Learning

    在 Amazon SageMaker HyperPod 上微调 GPT-OSS-20B 实现多语言推理

    AWS 团队在 Amazon SageMaker HyperPod 上用 SFT 与 GRPO 微调 GPT-OSS-20B,解决其只用英文推理的问题:基座模型在 50 例多语言推理测试中仅 22% 用对目标语言(英语 100%、法语 0%、德语 10%、西班牙语 0%、意大利语 0%)。结论是 SFT 承担大部分工作,GRPO 在模型已有一定概率产出目标行为时才能带来可测量的增益。训练使用 LoRA,数据为 HuggingFaceH4/Multilingual-Thinking(约 949 条训练、50 条验证)。

    End-to-end fine-tuning architecture on Amazon SageMaker HyperPod

    匹配字段摘要、正文

  6. SiliconANGLE

    智能体正在打破 AI 经济性,解法要从数据层开始

    Couchbase 扩展 AI Data Plane,推出原生 Amazon Bedrock 集成与语义缓存、AWS 上全托管的 Agent Memory 和 MCP server,以及分析引擎 Operational Insights 中的向量搜索。Couchbase 称语义缓存可减少 40% 至 60% 的 LLM 调用,Agent Memory 在 LoCoMo 基准上比替代方案少用 33% 至 45% token,向量检索让提示词缩小约 70%。其 AI 高级副总裁 Tim Finley 指出,智能体每任务产生的流量比人类高 450%,客户在规模化后常为账单而降级模型。

    匹配字段摘要、正文