深度学习的发展是多位研究者长期探索的结果,其核心方法的形成并非由单一人物 “发明”,而是历经数十年理论积累与技术突破的产物。以下从关键人物、核心技术突破及历史背景三个维度,梳理深度学习方法的起源与发展脉络:
一、深度学习的奠基者与关键贡献者
1. Geoffrey Hinton:从神经网络到深度学习的理论突破
- 核心贡献:
- 20 世纪 80 年代,Hinton 与 David Rumelhart 等人重新引入并完善了反向传播算法(Backpropagation),解决了多层神经网络的参数优化问题,为深度学习的多层结构奠定了训练基础。
- 2006 年,Hinton 在《Science》发表论文,提出深度信念网络(DBN),通过 “预训练 + 微调” 的方式解决了深层网络训练困难的问题,首次提出 “深度学习”(Deep Learning)概念,标志着该领域的复兴。
- 关键思想:认为多层神经网络可通过 “分层表征” 学习数据的抽象特征,而预训练技术能避免梯度消失问题。
2. Yann LeCun:卷积神经网络(CNN)的开创者
- 核心贡献:
- 1998 年,LeCun 提出LeNet-5,这是首个成功应用的卷积神经网络,用于手写数字识别(