新芯航途发布X7 Ultra大模型芯片
AI摘要
由 AI 生成 · 仅供参考
10月29日,XHEART新芯航途CEO李宗霖发布X7 Ultra大模型芯片,该芯片面向大模型推理与车端部署,官方称其采用超大核NPU架构、多级缓存与专用算子加速引擎,可提升计算利用率与能效,并在中国首发量产Armv9车规级CPU。
驱动中国10月29日消息,XHEART新芯航途CEO李宗霖在发布会上推出X7 Ultra大模型芯片。该芯片面向大模型推理与车端部署场景,同时在中国首发量产Armv9车规级CPU。
新芯航途方面表示,X7 Ultra采用超大核NPU架构,核内数据交互相较核间数据交互,互联速率实现TB/s数量级提升。芯片还采用多级缓存架构,支持大容量与高并发,用于降低推理时延与功耗。
在计算引擎部分,X7 Ultra内置高精度大模型专用算子加速引擎,针对Layernorm、Softmax、Transpose等Transformer大模型关键算子进行硬件优化,并原生支持FP16与FP32高精度向量计算,以保障模型精度。
官方公布数据显示,通过架构与工具链协同创新,X7 Ultra支持可部署模型参数量提升10倍,使更大模型可在车端高效运行。其NPU硬件并行度可释放大模型推理能力,计算利用率达98.7%;相较行业旗舰产品,内存带宽消耗下降80%,能效提升100%。
CPU部分,X7 Ultra在中国首发量产Armv9车规级CPU,性能提升20%,能效提升10%。其大集群架构提升多核协同与L3访存性能,并集成SVE2向量处理引擎,相较上一代NEON具备更强DSP性能。
版权声明:本文由驱动中国整理发布,转载需注明出处与原文链接。如有疑问请联系
editor@qudong.com。
来源:驱动中国 · 原文链接:https://www.qudong.com/article/527896.html
本文价值
★★★★★
3
2 人已评
登录后为本文打分
评论加载中…