英博云 AI 算力:NeurIPS 2025 录用 MoE 模型高效剪枝研究,EASY-EP 框架实现 2.99 倍推理加速
近日,人工智能领域顶级会议 NeurIPS 2025 正式录用了一项由英博数科(Yingbo Cloud)与中国人民大学、对外经济贸易大学研究团队联合开展的突破性研究成果。该研究聚焦于解决当前超大规模混合专家模型(Mixture of Experts, MoE)在落地部署时面临的显存占用高、推理效率低等核心瓶颈,并提出了名为 EASY-EP 的高效专家裁剪框架。
研究背景:MoE 模型的部署困境
随着 DeepSeek-R1(671B)等超大规模 MoE 模型的涌现,行业面临着严峻的资源挑战。MoE 模型通过动态激活部分专家子集来实现性能与效率的平衡,但在实际推理场景中,加载所有潜在专家往往需要巨大的显存带宽和计算资源,成为限制模型规模化应用的主要瓶颈。
核心突破:EASY-EP 框架与领域特定剪枝
本次研究的核心贡献在于首次系统揭示了 少量示例专家定位(Few-Shot Expert Localization) 现象。研究发现,仅需少量的领域特定示例,模型即可稳定地激活一小部分稀疏的专家子集,从而精准识别冗余专家。
基于此发现,团队提出了 EASY-EP 框架,其关键特性包括:
- 极致轻量化:在保留模型一半专家规模的情况下,仍能维持完整模型的性能表现。
- 显著性能提升:推理吞吐量最高提升 2.99 倍,大幅降低延迟。
- 计算量优化:针对原本需要路由至已剪枝专家的 Token,研究提出不再进行路由的新策略,进一步降低了计算开销,同时基本保持模型性能。
该研究不仅补充了此前 arXiv 版本中的新发现,更为 EASY-EP 方法在企业级场景的落地应用提供了坚实的理论支撑与验证。
产学研协同与未来展望
此次合作体现了英博数科在“技术 + 算力”双轮驱动模式下的深厚积累。英博数科为实验验证提供了全程算力支持,而高校团队则贡献了前沿算法创新。未来,团队计划进一步探索面向企业级场景的模型裁剪与推理加速方案,推动大模型技术的高效商业化落地。
此外,英博云近期还推出了针对 GenAI 开发者的算力福利活动,包括 4090 显卡低至 0.88 元/卡时、A800 低至 4.92 元/卡时等优惠,旨在降低开发者门槛,加速 AI 应用创新。
论文与开源资源
- 论文题目:Domain Specific Pruning of Large Mixture-of-Experts Models with Few-shot Demonstrations
- 论文链接:https://arxiv.org/abs/2504.06792
- 开源代码:https://github.com/RUCAIBox/EASYEP
注:NeurIPS 2025 将于 2025 年 12 月在美国圣地亚哥和墨西哥城同步举行。