title: 统计学习方法 tags:

topic
machine-learning
statistical-learning
joplin type: topic source_type: reconstructed created: 2026-04-22 updated: 2026-04-27 aliases:
统计学习方法重构 ---

统计学习方法

[!abstract] 本主题重构自 raw/Joplin/机器学习/2、统计学习方法/。重点不是按章节顺序背书，而是把统计学习中的判别模型、概率模型、序列模型和迭代估计主线组织成可复习结构。

这门主题在解决什么问题

统计学习如何把预测问题形式化为模型、损失与推断。
感知机、K 近邻、朴素贝叶斯、逻辑回归、支持向量机等方法分别在什么假设下有效。
最大熵、EM、隐马尔可夫模型、条件随机场这类模型各自适合什么结构。
为什么“模型假设 + 推断方式 + 数据结构”比背章节更重要。

推荐复习顺序

[[统计学习方法导论]]
[[统计学习判别与分类方法]]
[[统计学习概率模型]]
[[统计学习序列模型与迭代估计]]

模块地图

[[统计学习方法导论]]：监督学习、经验风险、结构风险、生成模型与判别模型总览。
[[统计学习判别与分类方法]]：感知机、KNN、决策树、逻辑回归、支持向量机、提升方法。
[[统计学习概率模型]]：朴素贝叶斯、最大熵模型等概率视角下的分类思路。
[[统计学习序列模型与迭代估计]]：EM、隐马尔可夫模型、条件随机场等涉及隐变量与序列结构的方法。

关键概念

[[经验风险最小化]]
[[结构风险最小化]]
[[生成模型与判别模型]]
[[感知机]]
[[K近邻算法]]
[[朴素贝叶斯]]
[[逻辑回归]]
[[支持向量机]]
[[EM算法]]
[[隐马尔可夫模型]]
[[条件随机场]]

常见误区

只按章节记算法，不抓模型假设和适用问题。
把统计学习方法理解成“更数学的机器学习”，却不把它和具体任务结构联系起来。
只记公式，不区分生成模型与判别模型的建模对象。
把 EM、HMM、CRF 等都当成“概率模型”，却不理解它们处理的是不同结构问题。

来源范围

[[raw/Joplin/机器学习/2、统计学习方法/统计学习方法--第01章--导论.md]]
[[raw/Joplin/机器学习/2、统计学习方法/统计学习方法--第02章--感知机.md]]
[[raw/Joplin/机器学习/2、统计学习方法/统计学习方法--第03章--K近邻算法.md]]
[[raw/Joplin/机器学习/2、统计学习方法/统计学习方法--第04章--朴素贝叶斯.md]]
[[raw/Joplin/机器学习/2、统计学习方法/统计学习方法--第05章--决策树.pdf.md]]
[[raw/Joplin/机器学习/2、统计学习方法/统计学习方法--第06章--逻辑回归.pdf.md]]
[[raw/Joplin/机器学习/2、统计学习方法/统计学习方法--第07章--最大熵模型.pdf.md]]
[[raw/Joplin/机器学习/2、统计学习方法/统计学习方法--第08章--支持向量机.pdf.md]]
[[raw/Joplin/机器学习/2、统计学习方法/统计学习方法--第09章--提升方法.pdf.md]]
[[raw/Joplin/机器学习/2、统计学习方法/统计学习方法--第10章--EM算法.md]]
[[raw/Joplin/机器学习/2、统计学习方法/统计学习方法--第11章--隐马尔可夫模型.md]]
[[raw/Joplin/机器学习/2、统计学习方法/统计学习方法--第12章--条件随机场.pdf.md]]
[[raw/Documents/统计学习方法（第2版） (李航) (Z-Library)/统计学习方法（第2版） (李航) (Z-Library).md]]

相关入口

[[Documents资料库]]
[[joplin-overview]]
[[joplin-rebuild-schema]]