// AI 新闻 · 2026-11-05 · Nature Machine Intelligence
深度学习训练结果不可预测性的新机制
Ly 和 Gong 提出,深度学习训练结果的不可预测性源于参数空间中吸引盆地的分形交织结构,即任意接近的初始值可能导向不同训练结果。这种‘肥分形’结构在任意细尺度上均存在,导致即使初始化精度大幅提升,训练结果的可预测性也仅略有改善。
原文发布 2026-11-05 08:00(北京时间)来源 Nature Machine Intelligence自动整理 · 已核对原文
01摘要
研究基于最小神经网络模型,从动力系统角度建立了分形交织的理论框架,并推导出接近零的不确定性指数。该机制在多种网络架构、优化器和训练协议中均表现出一致的鲁棒特征,为深度学习中训练结果的不可重复性提供了统一的动力学解释,同时引入了函数层面的不确定性指数以扩展分析维度。
由开源模型根据原文自动整理,经数字/专名逐项核对(必须在原文中出现),以原文为准。
02要点
- 深度学习训练结果的不可预测性源于参数空间中吸引盆地的分形交织结构。
- 任意微小的初始化扰动可能引发完全不同训练结果,形成‘肥分形’结构。
- 即使初始化精度显著提升,训练结果的可预测性也仅边际改善。
- 该机制在多种网络架构和训练设置下均表现出一致性和鲁棒性。
03原文出处
Fractal basin geometry and the limits to predictability and reproducibility in deep learning
Nature Machine Intelligence · 发布于 2026-11-05 08:00(北京时间) · 上方为原标题
另有 1 家报道
05相关新闻
出自智图 AI 新闻:从 1100 多个官方与媒体信源采集。摘要只转述原文内容,详情请看原文。 2026-11-05 全部新闻 · 按日期归档 · 全部 AI 新闻 · 今日