编者按

北京大学2026年优秀博士学位论文评选结果于近日正式公布，信息工程学院&科学智能学院袁粒助理教授团队的博士毕业生金鹏，凭借兼具创新性与应用价值的博士学位论文，获评“2026年北京大学优秀博士学位论文”。金鹏的博士论文《面向大模型的稀疏激活方法研究》，紧扣人工智能大模型高算力损耗、落地部署成本高昂等行业关键痛点，系统构建了覆盖前馈网络、注意力机制及多模态视觉编码的稀疏激活技术体系，在保持模型性能的同时大幅降低计算开销，相关研究成果在10余篇顶级期刊与会议上发表，引用超6000余次。目前，该技术已成功应用于国产算力平台的大模型部署，并被美团LongCat系列模型正式采用，取得了显著的学术价值与产业效益。

人物介绍

金鹏，信息工程学院计算机科学与技术专业2021级博士生，指导教师为袁粒助理教授。博士期间长期从事大模型研究，在高能效大模型架构、多模态大模型等方向取得系列成果，以第一作者发表十余篇顶级期刊和会议论文。相关工作累计Google Scholar引用6000余次，提出的高能效大模型架构被美团LongCat系列模型采用。

金鹏进行答辩

从电子工程到人工智能：跨越学科边界的选择

金鹏本科就读于清华大学电子工程系，系统完整的专业训练夯实了他的数学基础，锤炼出扎实的系统思维与工程落地能力，为后续科研之路打下坚实根基。本科后期，深度学习与人工智能技术迎来快速发展，机器学习、模式识别等研究方向深深吸引了他。他敏锐意识到，人工智能绝非单一新兴技术，或将成为未来十年最重要的科技基础设施。

基于这一判断，金鹏在攻读博士学位时做出了颇具挑战的决定，跳出熟悉的电子工程领域，跨专业进入计算机科学与技术专业深造。回望这段选择，这是他第一次将学业规划与长远职业发展结合思考。他立志长期深耕人工智能基础技术研究，因此主动跳出舒适区，奔赴学科前沿攻克核心难题。

初入南燕园时，金鹏将博士阶段视作全方位提升科研能力的契机，希望依托顶尖平台接受系统化科研训练、接触前沿研究课题。历经数年深耕后他深刻感悟，求学路上最珍贵的收获并非身处优质科研环境，而是学会在瞬息万变的科技浪潮中，主动挖掘值得长期深耕的核心研究命题。期间，他曾前往国际会议ICLR 现场展示自身研究成果，与全球学界同行交流前沿思路。

在国际会议ICLR展示研究成果

大模型时代到来：立足时代背景锚定研究方向

2023年，ChatGPT的出现让全球进入大模型时代。短短几年间，大模型从学术界的话题变成影响整个社会的重要技术力量。与此同时，一个现实问题也越来越突出，模型越来越大，训练和推理所需的计算资源也越来越庞大。

算力始终是国内大模型发展无法回避的关键议题，多数从业者聚焦模型参数规模的突破，金鹏却敏锐捕捉到另一同等关键的研究缺口—— 模型计算效率优化。

如果说过去人工智能的发展更多依赖于不断增加参数和数据，那么未来的发展可能更需要通过算法创新提升计算效率。尤其是在国产算力资源相对紧张、训练成本持续上升的背景下，高效模型结构不仅是一个学术问题，更是一个现实问题。以此为契机，金鹏将自身研究重心锁定在大模型高效化赛道，他的研究目标不止于产出创新算法论文，更希望研发适配国产大模型、提升算力使用效率的核心技术，这也成为他博士阶段学业与职业规划的核心起点。

从“把模型做大”到“让模型更高效”

刚进入北大读博时，金鹏的研究重点主要是多模态大模型。主攻图像理解、视频解析、跨模态信息对齐等方向，参与完成Video-LLaVA、Chat-UniVi等代表性研究工作。系列研究让他直观见证大模型带来的智能能力跨越式提升，也让他频繁遭遇算力瓶颈：模型体量不断膨胀，训练成本持续走高，实验周期大幅拉长，大量优质创新思路常因算力不足无法落地验证。

2023年后，行业普遍追逐超大参数模型，金鹏却开始冷静反思：若未来模型规模扩张数十甚至上百倍，算力需求同步暴涨的发展模式是否具备可持续性。尤其对于国产大模型产业而言，单纯依靠扩充参数规模的发展路径存在明显上限，自此，他逐步将全部研究重心转向高效大模型架构研发。

第一个重要探索是MoE++。传统混合专家模型（MoE）虽然能够提升参数规模，但它默认所有Token都需要经过相同数量的专家计算。现实世界并不是这样，有些词非常简单，例如标点符号、常见词；有些词则蕴含复杂语义。为什么它们要消耗完全相同的计算量。

金鹏以此为突破口，创新性提出MoE++架构，在原有模型基础上引入零计算量专家机制，实现依据输入内容复杂度动态分配算力资源，简单语义减少计算开销，复杂语义分配更多算力，让计算资源精准聚焦核心信息。该架构落地美团LongCat国产大模型后，让他真切意识到，高效模型架构研究不只是论文中的理论优化，更能切实降低国产大模型训练与推理成本。

完成MoE++之后，金鹏将研究视角延伸至注意力机制领域。在传统Transformer中，所有Token都会激活全部Attention Head。但事实上，不同Token关注的信息并不相同。很多Head在某些Token上贡献很小，却仍然参与了完整计算。基于此，他提出混合头注意力机制（MoH），支持模型在字符层级自主筛选需要激活的注意力头，大幅削减无效计算，延续 “算力向关键信息倾斜” 的核心研究逻辑。新加坡工程院院士颜水成教授曾在2024上海外滩大会上，专门介绍金鹏提出的MoE++ 与 MoH两项创新架构。

此后，金鹏又将高效化思路拓展至视觉模态研究。图像、视频数据中充斥大量重复冗余信息，连续视频帧相似度极高，但传统视觉编码方式会为每一段视觉信息分配均等算力。他着手研发视觉Token压缩与动态聚类技术，让模型自主区分重复视觉信息与关键画面特征，完成图像、视频统一高效编码。

纵观金鹏的博士论文，三大研究分支看似相互独立，实则始终围绕同一核心目标：优化算力分配逻辑，让有限计算资源集中处理高价值信息，这也构成他博士阶段科研与职业规划清晰连贯的主线。

颜水成教授在上海外滩大会上介绍MoE++和MoH

导师指引：科研不仅是论文，更是长期价值

读博期间，导师袁粒老师对金鹏影响深远，导师带来的启发不只局限于具体科研难题的指导，更让他理解何为具备长期价值的科研工作。刚进入实验室时，金鹏对科研的认知较为片面，仅以发表高水平论文、攻克技术难题、获取学术认可作为核心目标。跟随导师学习多年后，他对科研的认知愈发立体深刻。同时作为鹏城联培博士生，田永鸿老师也在国产化算力训练大模型方面给予了很多指导。

在学术方面，导师持续产出高水平成果，让金鹏认识到科研创新不是一次偶然突破，而是一种长期坚持的能力。在开源领域，Open-Sora Plan项目的成功落地，让他看见学术成果走出论文、赋能整个行业社区的可能性；产业端，ChatExcel从实验室研究转化为商用产品，也让他认清技术创新的终极目标是创造真实社会价值。

多重实践经历重塑了金鹏的科研追求，他不再满足于完成单一课题、产出单篇论文，立志深耕能够长期产生行业影响力的研究方向。

学业规划与职业规划：在同一条道路上前进

多数人将学业规划与职业规划割裂看待，金鹏却认为二者是同一发展道路的两面：职业规划决定要成为什么样的人，学业规划决定要如何成长为这样的人。

出于长期深耕人工智能基础技术研究的职业理想，他跨专业攻读计算机博士；心系国产大模型产业发展痛点，他选定高效模型架构作为核心研究方向；立志做出具备产业影响力的技术创新，他始终兼顾研究成果的学术价值与落地实效。读博期间每一次方向选择，本质都是在回应自身长远发展定位，一步步铺就专属科研道路。

更重要的是，金鹏逐渐意识到，个人发展与国家发展并不是割裂的关系。当个人研究方向与国家需求相契合时，往往能够获得更广阔的发展空间。国产大模型的发展需要高效算法、高效架构和高效算力利用方式，恰好与他长期深耕的研究领域高度契合。由此他笃定，优质的职业规划不必追逐短期行业热点，而是扎根国家、产业、个人兴趣三者交汇的领域持续深耕。

面向未来：继续做有价值的研究

多年博士科研经历让金鹏清晰认知，大模型技术正在重塑人工智能产业发展格局，从基础模型研发、行业场景落地，到训练框架优化、国产算力适配，整条产业链仍处于高速迭代阶段。作为亲历本轮技术变革的科研人员，他确定了未来的发展路径。

相较于留在高校开展纯学术研究，金鹏选择走进产业一线，深度参与国产大模型研发落地。一方面，当下大模型发展进入算法创新与工程实践深度融合的新阶段，大量高难度核心难题诞生于真实产业场景；另一方面，国产大模型目前仍面临训练成本高昂、推理效率不足、国产算力适配难度大等现实难题，亟待产业实践与科研创新双向发力破解。

回顾博士期间的研究工作，无论是MoE++异构混合专家框架、混合头注意力机制，还是视觉模态稀疏激活方法，其核心目标都指向同一个问题——如何让模型更加高效地利用有限的计算资源。这些研究不仅源于学术兴趣，也源于金鹏对国产大模型发展需求的思考。亲眼见证自身研究成果落地美团LongCat国产大模型优化工作后，他更加坚定投身产业界的决心。

未来，金鹏计划持续深耕大模型基础架构与系统优化领域，将博士阶段积累的科研成果转化为产业实际生产力，助力国产大模型与国产算力生态完善升级。在他看来，人工智能研究者能够将个人成长融入国家科技发展浪潮，是难得的机遇。他期待未来持续开展具备长期价值、产业影响力的研发工作，在推动国产大模型迭代升级的过程中，实现自身职业理想与人生价值。

毕业寄语：写给下一个出发者的话

“如果让我用一句话总结博士阶段最大的收获，我想并不是发表了多少论文，也不是获得了什么荣誉，而是逐渐学会了如何寻找真正值得长期投入的问题。”

研究生阶段是一个充满不确定性的过程。实验失败、论文被拒、研究方向调整，几乎是每一位研究生都会经历的事情。在这个过程中，保持耐心和定力往往比短期成果更加重要。很多时候，人与人之间的差距并不在于某一次灵感迸发，而在于是否能够在长期探索中保持持续投入。

“最后，我想感谢一路上给予我帮助的老师、同学和朋友。科研从来不是一个人的战斗，开放交流、团队合作和相互支持同样重要。希望未来的师弟师妹们能够珍惜在南燕学习和成长的机会，保持好奇心，保持热爱，勇于探索未知领域，在属于自己的时代中找到自己的位置。愿大家都能在追求卓越的道路上坚定前行。”