←AI 芯片
← 全部主题

AI 芯片

关注训练与推理芯片、系统互连、算力供给和硬件架构。

公开阅读组
10
近 30 天
0
目录状态
策展主题

最新Z AI 确认神秘模型 Ox Alpha 即 GLM-5.3-Flash

最新阅读组

同一事实的重复报道已合并

  1. The Rundown AI模型发布
    AI 评分78

    Z AI 确认神秘模型 Ox Alpha 即 GLM-5.3-Flash

    Z AI 确认匿名免费模型 Ox Alpha 是 GLM-5.3-Flash,并公开模型权重。该模型登顶 OpenRouter,使用量为第二名 DeepSeek 的两倍;Z AI 称免费开放期间的服务完全运行于中国制造的芯片,Artificial Analysis 给出的单任务价格为 $0.045,较同档模型低 10 倍。

    推荐理由材料同时提供开放权重、价格、使用量与国产芯片运行信息,可用于比较模型能力成本和部署条件。

  1. Together AI Blog一手解读
    AI 评分73

    服务 DeepSeek-V4:为何百万 Token 上下文是推理系统问题

    DeepSeek-V4 通过 CSA、HCA 与 SWA 混合注意力在 KV 存储前压缩上下文,支持 1M-token 上下文窗口,但实际效率取决于推理引擎的缓存管理。Together AI 在 NVIDIA HGX B200 上调整 SWA 缓存策略后,将单节点 KV 缓存容量从约 1.2M tokens 提升至 3.7M tokens。长上下文、解码密集型任务最先受益,短上下文任务仍更依赖预填充优化与内核成熟度。

    Three diagrams comparing CSA, HCA, and SWA methods with different compression and KV token reads.

    推荐理由原文结合HGX B200早期部署数据,说明不同KV缓存策略如何影响长上下文并发与吞吐,可用于规划推理服务配置。

  1. Google DeepMind一手研究
    AI 评分80

    Decoupled DiLoCo:面向大规模弹性分布式 AI 训练的新架构

    Google DeepMind 推出 Decoupled DiLoCo,通过异步连接相互解耦的计算“岛”,以较低带宽跨远程数据中心训练大语言模型,并隔离硬件故障。团队使用 2-5 Gbps 广域网络,在美国四个地区完成 120 亿参数模型的预训练,速度较传统同步方法快 20 倍以上。Gemma 4 测试显示,该架构在故障下保持更高可用性,并达到与传统训练相同的基准性能。

    Three side-by-side bar charts comparing Data-Parallel (gray) and Decoupled DiLoCo (blue) across three metrics. "Required Bandwidth" on a logarithmic scale shows Data-Parallel at 198 Gbps and Decoupled DiLoCo at 0.84 Gbps across 8 datacenters. "Goodput" shows Data-Parallel at 27% and Decoupled DiLoCo at 88% under high rates of hardware failure. "ML Benchmarks" shows average accuracy at 64.4% for Data-Parallel and 64.1% for Decoupled DiLoCo.

    推荐理由该研究给出跨地域异步训练的实测数据,可用于比较其在带宽、故障恢复和异构硬件利用上的工程价值。

  1. SemiAnalysis观点
    AI 评分78

    xAI 的 Colossus 2:全球首座吉瓦级数据中心、独特强化学习方法与融资

    xAI 正在孟菲斯与密西西比州南海文建设 Colossus 2,SemiAnalysis 预计其将成为全球首座吉瓦级数据中心,并称项目在约六个月内形成约 200MW 冷却能力。Solaris 计划到 Q2 2027 为 xAI 部署超过 1.1GW 的燃气轮机,但项目需要数百亿美元资本支出,而 xAI 仍需筹资购买 GPU。

    推荐理由文章结合现场设施、能源合作与资本需求,分析 xAI 扩建训练集群的速度、资金约束及竞争位置。

  1. SemiAnalysis观点
    AI 评分78

    又一次巨大飞跃:NVIDIA Rubin CPX 专用加速器与机架

    NVIDIA 推出面向推理 prefill 阶段的 Rubin CPX,以更高算力占比和低成本内存减少 HBM 与 NVLink 资源浪费。单芯片提供 20 PFLOPS 稠密 FP4 算力、128GB GDDR7 和 2TB/s 带宽,并通过 PCIe Gen 6 联网。该产品将用于固定配置的 VR200 NVL144 CPX 或更灵活的 Vera Rubin CPX 双机架方案。

    推荐理由文章从预填充与解码的资源差异切入,结合芯片、机架和成本数据,提供评估分离式推理硬件取舍的依据。

  1. Mistral AI一手
    AI 评分74

    Mistral AI 完成 17 亿欧元 C 轮融资,加速 AI 技术研发

    Mistral AI 完成 17 亿欧元 C 轮融资,投后估值达 117 亿欧元,将用于推进 AI 科研并解决战略行业的复杂技术挑战。此轮融资由 ASML 领投,双方计划开发 AI 产品与解决方案,并探索联合研究;DST Global、Andreessen Horowitz、NVIDIA 等现有投资者参投。

    推荐理由融资规模、估值与投资方构成清晰,反映模型公司与半导体产业深化合作及面向工业场景的发展方向。

  1. SemiAnalysis观点
    AI 评分81

    华为 Ascend 产能爬坡:晶粒库存、TSMC 持续代工与 HBM 瓶颈

    SemiAnalysis 预计华为今年出货 80.5 万颗 Ascend,其中 65.3 万颗为 910C,来自 TSMC 的逾 290 万颗晶粒库存和 SMIC 扩产支撑了产量。其判断 SMIC 年底将不再是主要瓶颈,但约 1300 万颗进口 HBM 堆栈可能耗尽,明年 CXMT 约 200 万颗 HBM 堆栈仅够生产 25万–30 万颗 910C。

    推荐理由文章以产能、良率和库存数据拆解Ascend供应链,呈现逻辑芯片与HBM约束如何影响中国AI算力扩张。

  1. SemiAnalysis观点
    AI 评分80

    Amazon AI 复苏:AWS 与 Anthropic 扩建多吉瓦级 Trainium 基础设施

    AWS 正为 Anthropic 扩建多吉瓦级 AI 训练基础设施,三个接近完工的园区合计拥有逾 1.3GW IT 容量,最大园区将部署近百万颗 Trainium2。Trainium2 的多项性能落后于 NVIDIA 系统,但在单位内存带宽总拥有成本上具有优势,契合 Anthropic 侧重强化学习和训练后扩展的路线。Anthropic 还深度参与 Trainium 的系统设计,同时继续使用 Google TPU 和 NVIDIA GPU。

    推荐理由文章结合数据中心建设、芯片成本与系统路线,解释AWS借助Anthropic扩大Trainium部署的逻辑与风险。

  1. SemiAnalysis观点
    AI 评分83

    H100 与 GB200 NVL72 训练基准:功耗、TCO、可靠性及软件改进分析

    SemiAnalysis 对 H100 与 GB200 NVL72 的训练性能、功耗、TCO 和可靠性进行了基准分析,发现 GB200 NVL72 的每 GPU 总成本及 TCO 约为 H100 的 1.6 倍。H100 软件优化使 GPT-3 175B 的 BF16 MFU 在一年内从 34% 升至 54%。GB200 NVL72 尚受可靠性和诊断工具限制,当前仍无法完成超大规模训练。

    推荐理由基于大规模训练基准对照性能、能耗、成本与可靠性,为评估新旧GPU架构的实际投入产出提供方法。

  1. SemiAnalysis观点
    AI 评分80

    Meta 超级智能分析:领导力、算力、人才与数据

    Meta 正通过收购 Scale AI 49% 股份、组建超级智能团队并扩建 GPU 集群,全面重整生成式 AI 战略。其计划以高额薪酬引进顶尖人才,并建设 Prometheus 和 Hyperion 集群;报告同时将 Llama 4 Behemoth 的受挫归因于注意力、MoE 路由、数据质量及规模化训练问题。

    推荐理由材料从算力、人才和数据三条线拆解 Meta 的战略转向,可用于理解其追赶前沿模型实验室的路径与约束。