// AI 新闻 · 2026-11-09 · Hugging Face Blog
Hugging Face 推出 HOPE 方法优化专家剪枝
Hugging Face 在其博客中发布了一种名为 HOPE（Higher-Order Pruning of Experts）的新型剪枝方法，用于优化混合专家模型中的内存使用效率。该方法针对传统独立评分的‘一阶剪枝’缺陷，引入了专家间相互作用的考量，在保持模型性能的同时减少冗余专家数量。在 Qwen3.5-122B 模型中，每层包含 256 个专家，实际仅 8 个被激活，其余专家占用大量内存。HOPE 通过分析专家之间的协同关系，避免因单个删除破坏稳定合作组，从而提升剪枝效果。
原文发布 2026-11-09 20:34（北京时间）来源 Hugging Face Blog自动整理 · 已核对原文
01摘要
在 50% 剪枝率下，HOPE 在代理编码任务上相较现有方法平均性能提升达 6.1%，并实现了所有方法中最佳的平均排名。其核心思想是通过构建一个可计算的上界函数 Z，严格覆盖真实剪枝误差的主要部分，从而在不直接求解复杂优化问题的前提下实现高效决策。
由开源模型根据原文自动整理，经数字/专名逐项核对（必须在原文中出现），以原文为准。
02要点
- HOPE 是一种考虑专家间协同关系的第二阶剪枝方法，能避免破坏稳定合作组。
- 在 50% 剪枝率下，HOPE 在代理编码任务上性能提升达 6.1%，优于现有方法。
- 该方法通过构建可计算的误差上界 Z，有效规避了直接优化带来的计算复杂性。
- 实验表明，专家在激活时存在一致的共激活集群，独立研究也证实了这种合作模式的稳定性。
03原文出处
Your Experts Have Partners. There's HOPE for Keeping Them Together
Hugging Face Blog · 发布于 2026-11-09 20:34（北京时间） · 上方为原标题
05相关新闻
出自智图 AI 新闻：从 1100 多个官方与媒体信源采集。摘要只转述原文内容，详情请看原文。 2026-11-09 全部新闻 · 按日期归档 · 全部 AI 新闻 · 今日