AlexNet论文精读.md 1.9 KB


title: AlexNet论文精读 tags:

  • module
  • research
  • deep-learning
  • paper-reading
  • joplin type: module source_type: reconstructed created: 2026-04-23 updated: 2026-04-23 ---

AlexNet论文精读

[!abstract] 这一模块把 AlexNet 作为深度学习奠基作来复习。重点不是历史情怀,而是理解它为什么能成为卷积神经网络进入主流的标志性工作。

模块结论

  • [[AlexNet]] 的关键价值在于把更深的卷积网络、ReLU、Dropout、数据增强和 GPU 训练组织成一个能显著提升 ImageNet 表现的整体方案。
  • 它解决的不是“发明 CNN”,而是“让深层 CNN 真正在大规模视觉任务上取得突破”。

一、它在解决什么问题

  • 当时的视觉任务仍 heavily 依赖手工特征。
  • 深层网络难训练、计算资源受限、过拟合严重。
  • AlexNet 的突破在于同时解决表达能力和训练可行性问题。

二、核心结构创新

  • 更深的卷积层堆叠
  • ReLU 激活
  • 局部响应归一化
  • Dropout
  • 数据增强

三、为什么它重要

  • 它把深度学习从“可研究”推进到“可实证压制传统方法”。
  • 后续很多视觉模型的主线都可追溯到这篇工作。

四、论文精读时应该抓什么

  • 结构设计和当时问题之间的对应关系。
  • 训练技巧为什么对当时尤为关键。
  • 它解决了什么,没有解决什么。

五、复习提问

  • AlexNet 的真正突破点是什么?
  • 为什么说它是方法组合的系统性胜利?
  • 它和后来的 ResNet 在“深层网络”问题上有什么连续与差异?

来源

  • [[raw/Joplin/研究生生涯/研究生论文精读/【P2】重读深度学习奠基作之一:AlexNet上.pdf.md]]
  • [[raw/Joplin/研究生生涯/研究生论文精读/【P3】重读深度学习奠基作之一:AlexNet下.pdf.md]]

相关页面

  • [[研究生论文精读]]
  • [[AlexNet]]
  • [[ResNet论文精读]]
  • [[深度学习]]