4月23日,腾讯混元正式发布并开源其最新语言模型——Hy3 preview。这款模型被官方定位为“混元迄今最智能的模型”,标志着腾讯在AI大模型领域的技术重建迈出了关键一步。

Hy3 preview采用了快慢思考融合的混合专家(MoE)架构,总参数规模达到2950亿,激活参数为210亿,并支持高达256K的超长上下文窗口。这一技术规格使其在处理复杂任务时具备了更强的性能基础。

该模型是腾讯混元于今年2月完成预训练和强化学习基础设施重建后推出的首个成果。官方宣称,Hy3 preview在复杂推理、指令遵循、代码生成及智能体(Agent)能力等多个关键维度上实现了大幅提升,旨在解决以往模型“偏科”的问题,追求更全面、更实用的能力体系。

腾讯首席AI科学家姚顺雨表示,此次开源不仅是一次技术发布,更是为了获取来自开源社区和用户的真实反馈,以持续优化模型,为Hy3正式版的推出打下坚实基础。目前,Hy3 preview已率先在腾讯元宝、QQ、腾讯文档等多款产品中上线应用。