继龙芯3宣布完美支持运行DeepSeek后,另一个国产化CPU企业飞腾信息技术有限公司近日宣布,其旗下两款CPU产品腾云S5000C和腾锐D3000,已成功实现对DeepSeek全系列大模型的端到端支持,全面覆盖数据中心和终端场景,标志着国产CPU在AI大模型应用方面再度取得重要进展。
据悉,DeepSeek-V2.5 236B大模型已在飞腾腾云S5000C平台上实现稳定运行,且基于该平台的设备搭配8块国产AI卡,整体性能可达到国外平台性能的约80%。随着DeepSeek-V3和R1版本的发布,飞腾技术团队进一步在腾云S5000C和腾锐D3000上进行了本地部署验证,形成了完整的解决方案。
在数据中心侧,飞腾腾云S5000C服务器能够与多款AI加速卡协同工作,实现DeepSeek蒸馏版和全量版的部署。飞腾AI实验室已在单机8卡服务器平台上对蒸馏版DeepSeek-R1-Distill-Llama-70B进行了测试,推理速度达到22tokens/s。同时,完整版DeepSeek R1 671B模型也成功在四机32卡AI服务器集群上通过分布式推理框架进行了部署。
在用户终端侧,基于飞腾腾锐D3000的台式机同样能够本地部署DeepSeek-R1 7B蒸馏版模型。通过搭配1张国产推理卡,这些台式机将具备AI PC的能力,为用户提供更加智能、高效的计算体验。