新芯航途发布X7 Ultra大模型芯片

AI 驱动中国 顾川 906次阅读
分享 微 Q 信
AI摘要
由 AI 生成 · 仅供参考

10月29日,XHEART新芯航途CEO李宗霖发布X7 Ultra大模型芯片,该芯片面向大模型推理与车端部署,官方称其采用超大核NPU架构、多级缓存与专用算子加速引擎,可提升计算利用率与能效,并在中国首发量产Armv9车规级CPU。

驱动中国10月29日消息,XHEART新芯航途CEO李宗霖在发布会上推出X7 Ultra大模型芯片。该芯片面向大模型推理与车端部署场景,同时在中国首发量产Armv9车规级CPU。

新芯航途方面表示,X7 Ultra采用超大核NPU架构,核内数据交互相较核间数据交互,互联速率实现TB/s数量级提升。芯片还采用多级缓存架构,支持大容量与高并发,用于降低推理时延与功耗。

在计算引擎部分,X7 Ultra内置高精度大模型专用算子加速引擎,针对Layernorm、Softmax、Transpose等Transformer大模型关键算子进行硬件优化,并原生支持FP16与FP32高精度向量计算,以保障模型精度。

官方公布数据显示,通过架构与工具链协同创新,X7 Ultra支持可部署模型参数量提升10倍,使更大模型可在车端高效运行。其NPU硬件并行度可释放大模型推理能力,计算利用率达98.7%;相较行业旗舰产品,内存带宽消耗下降80%,能效提升100%。

CPU部分,X7 Ultra在中国首发量产Armv9车规级CPU,性能提升20%,能效提升10%。其大集群架构提升多核协同与L3访存性能,并集成SVE2向量处理引擎,相较上一代NEON具备更强DSP性能。

版权声明:本文由驱动中国整理发布,转载需注明出处与原文链接。如有疑问请联系 editor@qudong.com。
来源:驱动中国 · 原文链接:https://www.qudong.com/article/527896.html
本文价值 ★★★★★ 3 2 人已评
登录后为本文打分
网友评论0 条评论
正在回复 的评论取消
评论加载中…
🔐

登录后参与互动

评论、点赞均可赚积分
连续签到、邀请好友也有奖励 🎁

电脑端: 微信扫码登录 微信内: 一键登录

微信扫一扫

打开微信「扫一扫」,分享本文到朋友圈或好友