阶跃星辰开源Step5Preview权重 华为沐曦壁仞0Day支持

AI 驱动中国 陆离 446次阅读
分享 微 Q 信
AI摘要
由 AI 生成 · 仅供参考

阶跃星辰10月15日开放Step 5 Preview模型权重,含BF16与FP8版本,并上线Hugging Face和ModelScope;华为昇腾、沐曦、壁仞科技宣布0Day适配,围绕推理框架与国产GPU完成部署支持。

驱动中国10月15日消息,阶跃星辰宣布正式开放Step 5 Preview模型权重,包含BF16与FP8两个版本。阶跃星辰称,该模型在AI编程、软件工程、专业知识工作、金融等任务上达到前沿水平。

模型权重已上线Hugging Face和ModelScope。开发者可通过vLLM或SGLang部署兼容OpenAI接口的API服务,也可使用Transformers进行离线推理。

华为、壁仞科技、沐曦股份随后分别发布消息,宣布对Step 5 Preview提供0Day支持。

华为方面称,昇腾基于vLLM推理引擎实现0Day支持,并围绕模型架构与硬件特性进行高效推理优化。10月15日,首套1024卡Atlas 950 SuperPoD液冷超节点随Step 5 Preview开源同步上线点亮。华为称,其性能与海外先进算力持平。

华为方面介绍,昇腾Atlas 950 SuperPoD液冷超节点基于灵衢高速互联架构与超节点技术体系打造,可提供1 EFLOPS FP8、2 EFLOPS FP4精度算力,适配万亿参数大模型推理场景需求。该超节点具备256TB全局统一内存编址能力,NPU卡间互联带宽达TB级,时延低至3μs,用于突破传统集群内计算与存储资源通信瓶颈。

华为表示,昇腾基于vLLM Ascend推理引擎,围绕Step 5 Preview模型架构与950超节点硬件特性,协同构建推理优化方案。优化链路包括Ascend C与Triton融合算子、多流并行、计算空泡优化、MTP投机解码、NPU Graph图执行,为Step 5 Preview部署提供算力支撑。

沐曦股份表示,曦云C系列GPU已完成Day 0深度适配,以全栈自研算力底座为国产Agent生态提供支撑。沐曦股份称,自2025年12月以来,公司已完成43个主流旗舰模型的Day 0适配,范围涵盖智谱、阿里千问、MiniMax、DeepSeek、阶跃星辰、腾讯混元等头部模型厂商,适配速度、数量与生态广度位居行业前列。

沐曦股份介绍,硬件层面,曦云C系列GPU基于沐曦自研XCORE架构,搭载大容量高带宽显存与MetaXLink高速片间互联,具备混合精度算力与集群线性扩展能力,可适配MoE模型专家调度、百万Token长上下文推理的算力与显存需求,单机多卡、大规模智算集群均可稳定承载。软件层面,核心依托沐曦自研MXMACA全栈软件栈,覆盖底层驱动、MXCC编译器、深度优化算子库、主流AI框架适配层,原生兼容主流AI开发生态,可将传统大模型适配周期从数周压缩至小时级,降低模型迁移成本。

壁仞科技表示,本次Day0适配中,公司针对Step 5 Preview模型的文本理解和生成以及高效推理能力,基于AI推理框架vLLM与BIRENSUPA软件栈,在壁砺系列通用GPU上完成模型适配,打通权重加载、服务启动、文本生成等关键链路,并完成功能与精度验证。壁仞科技还提到,其自研全栈多智能体平台SUPACODE可自动解析并适配Step 5。

版权声明:本文由驱动中国整理发布,转载需注明出处与原文链接。如有疑问请联系 editor@qudong.com。
来源:驱动中国 · 原文链接:https://www.qudong.com/article/526208.html
本文价值 ★★★★★ 3 1 人已评
登录后为本文打分
网友评论0 条评论
正在回复 的评论取消
评论加载中…
🔐

登录后参与互动

评论、点赞均可赚积分
连续签到、邀请好友也有奖励 🎁

电脑端: 微信扫码登录 微信内: 一键登录

微信扫一扫

打开微信「扫一扫」,分享本文到朋友圈或好友