ResNet论文精读.md 1.8 KB


title: ResNet论文精读 tags:

  • module
  • research
  • deep-learning
  • paper-reading
  • joplin type: module source_type: reconstructed created: 2026-04-23 updated: 2026-04-23 ---

ResNet论文精读

[!abstract] 这一模块围绕 ResNet 论文建立复习框架。重点不是只记残差块长什么样,而是理解它为什么能解决深层网络退化问题。

模块结论

  • [[ResNet]] 的关键创新是 [[残差连接]],它通过恒等映射路径缓解深层网络训练困难。
  • ResNet 的贡献不只是更深,而是把“深而可训练”变成了稳定可复用的工程范式。

一、它在解决什么问题

  • 网络加深后并不一定更好。
  • 退化问题意味着更深网络在训练误差层面就可能变差。
  • ResNet 抓住的是优化难度,而不只是模型表达上限。

二、核心思想

  • 让网络学习残差而不是直接学习完整映射。
  • 通过跳跃连接保留恒等路径。
  • 让梯度传播更稳定。

三、为什么它成为视觉主线

  • 它把残差设计变成了高度通用的骨架思想。
  • 后续大量视觉模型都吸收了这种跨层信息传递思路。

四、论文精读重点

  • 退化问题和过拟合问题要区分。
  • 残差连接为什么有助于优化。
  • 实验如何证明“更深但更好训练”。

五、复习提问

  • ResNet 主要解决的到底是什么问题?
  • 残差连接为什么能改善训练?
  • 它和 AlexNet 的历史位置有什么不同?

来源

  • [[raw/Joplin/研究生生涯/研究生论文精读/【P4】撑起计算机视觉半边天的ResNet【上】.pdf.md]]
  • [[raw/Joplin/研究生生涯/研究生论文精读/【P5】ResNet论文逐段精读【论文精读】.pdf.md]]

相关页面

  • [[研究生论文精读]]
  • [[ResNet]]
  • [[残差连接]]
  • [[AlexNet论文精读]]
  • [[Transformer论文精读]]