// AI 新闻 · 2026-11-14 · Nature
基于架构感知强化学习的异构知识蒸馏框架
研究人员提出了一种名为HARKD的异构知识蒸馏框架，通过结合架构自适应投影器、异构状态表示和基于强化学习的优化机制，实现对不同架构教师网络（如CNN、ViT、MLP-Mixer）特征空间不兼容问题的有效对齐与动态加权。该方法在ImageNet-1K、CIFAR-100和Tiny-ImageNet数据集上验证了其优越性，显著优于现有多教师知识蒸馏基线。
原文发布 2026-11-14 08:00（北京时间）来源 Nature自动整理 · 已核对原文
01摘要
HARKD通过架构感知的投影器将不同网络的特征映射至统一对齐空间，构建包含教师性能、架构兼容性和分支对齐质量的状态表示，并利用强化学习动态调整多个学生输出节点处的教师权重。所学策略根据学生网络深度变化自适应分配教师贡献，实现了更高效的知识迁移。
由开源模型根据原文自动整理，经数字/专名逐项核对（必须在原文中出现），以原文为准。
02要点
- HARKD采用架构自适应投影器将不同架构教师的特征映射至兼容对齐空间
- 引入异构状态表示以同时捕捉教师性能、架构兼容性与分支对齐质量
- 基于强化学习动态调整学生网络各出口处的教师权重，实现深度依赖的加权策略
- 在ImageNet-1K、CIFAR-100和Tiny-ImageNet上优于现有多教师知识蒸馏方法
03原文出处
Heterogeneous knowledge distillation via architecture-aware reinforcement learning
Nature · 发布于 2026-11-14 08:00（北京时间） · 上方为原标题
05相关新闻
出自智图 AI 新闻：从 1100 多个官方与媒体信源采集。摘要只转述原文内容，详情请看原文。 2026-11-14 全部新闻 · 按日期归档 · 全部 AI 新闻 · 今日