←新闻详情

The Elec更新于 11月3日 08:17

CEVA 发布第二代 NeuPro NPU,AI 吞吐量翻倍

​CEVA Unveils 2nd-Gen NeuPro NPU, Doubling AI Throughput

AI 导读

CEVA 于 11 月 2 日发布第二代 NeuPro NPU 产品线,每平方毫米 AI 处理吞吐量最高达第一代的两倍,能效提升 50%。新架构支持 FP4/FP8 与混合精度计算,并加入分页 KV cache、动态张量形状、MoE 和线性注意力结构,覆盖从低功耗边缘设备到数据中心的负载。该产品线目前向部分客户开放早期访问,计划 2027 年第二季度全面量产供货。

正文 · AI 翻译

CEVA 发布第二代 NeuPro NPU 产品线,旨在将从边缘设备到数据中心各类应用的 AI 处理吞吐量翻倍,并提升能效。(图片来源:CEVA)

PC본문_6월 Mouser(文章中)//

AD Manager | AD178089411676 //

// AD Manager | AD178089411676

CEVA 于 11 月 2 日发布第二代 NeuPro 神经处理单元(NPU)产品线。

与第一代相比,第二代产品线每平方毫米的人工智能(AI)处理吞吐量最高可达两倍,同时能效提升了 50%。

CEVA 计划利用这一新产品系列,将业务拓展至 AI 基础设施领域,包括 AI 推理半导体、智能内存和连接芯片。该产品线目前向部分客户开放早期访问,全面量产供货计划于 2027 年第二季度开始。

已有超过 15 家客户获得了第一代 NeuPro 的授权。通过与这些客户合作,CEVA 根据目标 AI 应用确定了计算性能、内存带宽、功耗和成本的相对重要性。因此,新产品线提供多种计算引擎,专为从常开低功耗传感器和边缘设备到数据中心及其他 AI 基础设施的应用而设计。

该产品线中的所有产品均采用相同的指令集架构(ISA)和通用软件开发工具包(SDK)。这使客户在设计将多个 NPU 集成到单个系统级芯片(SoC)中的系统时,能够复用现有的软件资产。

下一代 NeuPro 产品线支持从基础物体识别与分类,到基于 Transformer 的大语言模型(LLM)、理解文本、语音和图像的多模态 AI、能够自主决策并采取行动的智能体 AI,以及 Physical AI 等工作负载。它还支持 FP4 和 FP8 浮点格式以及混合精度计算,使 AI 处理精度能够灵活降低以提升效率。

该架构减少了内存占用以及芯片内部和芯片之间传输的数据量。它新增了分页键值(KV)缓存功能,可在对话上下文增长时以独立块管理内存;还新增了动态张量形状功能,可在不降低性能或浪费内存的情况下处理频繁变化的输入数据格式(如提示词)。张量重塑还提高了芯片乘加(MAC)单元的利用率。

对于大型 AI 模型,该架构支持混合专家(MoE)结构,可选择性地激活适合特定查询的专家计算模型;还支持线性注意力结构,旨在更高效地分析长序列。

来源

The Elec