腾讯混元姚顺雨团队:Hy4 仍有很大改进空间,计划训练更大规模模型中性

2026-11-21 12:18:19
来源:IT之家
分享
AIME

问财摘要

1、11月21日凌晨,腾讯首席AI科学家、混元大模型负责人姚顺雨和团队成员在Reddit进行了一场持续120分钟的AMA,回答全球开发者关于混元的“任何问题”。 2、混元团队回应:“Hy3和Hy4已经表明,做得扎实的小模型也能超过更大的模型。它们的成本也更低,而且在这个过程中,你能学到更多、收获更多。” 3、不过,混元团队也表示,Hy4仍有很大的改进空间,尤其是通过后训练。“我们正投入大量精力进行大规模强化学习,同时继续改善用户体验和模型安全。我们还计划训练更大规模的模型。”
文章提及标的

IT之家11月21日消息,11月21日凌晨,腾讯首席AI科学家、混元大模型负责人姚顺雨和团队成员,在Reddit(RDDT)进行了一场持续120分钟的AMA,回答全球开发者关于混元的“任何问题”。

问答环节,有人询问:字节跳动、Kimi等似乎都在往3万亿、甚至5万亿参数的超大模型推进,而你们还在7000亿。为什么?你们怎么看参数量对模型能力的实际影响?这方面有什么计划?

混元团队回应:“Hy3和Hy4已经表明,做得扎实的小模型也能超过更大的模型。它们的成本也更低,而且在这个过程中,你能学到更多、收获更多。”

不过,混元团队也表示,Hy4仍有很大的改进空间,尤其是通过后训练。“我们正投入大量精力进行大规模强化学习,同时继续改善用户体验和模型安全。我们还计划训练更大规模的模型。”

对于是否有可能推出240亿到310亿参数的稠密模型?该团队表示:“有可能,我们正在考虑。”

对于是否会发布对标Qwen27B稠密模型的小模型?发布100B以下、专门做编程的模型吗?该团队表示:“第一个,有可能。第二个,大概不会。”

IT之家注:姚顺雨本科毕业于清华大学姚班,获普林斯顿大学计算机科学博士学位,2024年加入OpenAI并参与智能体产品operator与deep research开发。其研究聚焦语言智能体与现实世界交互,提出ReAct方法首创“推理—行动”结合的智能体范式,被学术界与工业界广泛采纳。

2025年12月,腾讯升级大模型研发架构,新成立AI Infra部、AI Data部、数据计算平台部,全面强化其大模型的研发体系与核心能力。姚顺雨出任“CEO/总裁办公室”首席AI科学家,向腾讯总裁刘炽平汇报;同时兼任AI Infra部、大语言模型部负责人,向技术工程事业群总裁卢山汇报。

今年7月,腾讯宣布混元多模态模型部门与大语言模型部门合并,成立基础模型部,统一由姚顺雨管理,以进一步提升模型研发和协同效率,探索全模态模型的智能上限。

免责声明:风险提示:本文内容仅供参考,不代表同花顺观点。同花顺各类信息服务基于人工智能算法,如有出入请以证监会指定上市公司信息披露平台为准。如有投资者据此操作,风险自担,同花顺对此不承担任何责任。
homeBack返回首页
不良信息举报与个人信息保护咨询专线:10100571违法和不良信息涉企侵权举报涉算法推荐举报专区涉青少年不良信息举报专区

浙江同花顺互联信息技术有限公司版权所有

网站备案号:浙ICP备18032105号
证券投资咨询服务提供:浙江同花顺云软件有限公司 (中国证监会核发证书编号:ZX0050)
AIME