title: 统计学习序列模型与迭代估计 tags:

module
machine-learning
statistical-learning
sequence-model
joplin type: module source_type: reconstructed created: 2026-04-22 updated: 2026-04-22 ---

统计学习序列模型与迭代估计

[!abstract] 这一模块处理统计学习中更偏结构化建模的部分。重点不是死记每个模型的推导，而是理解隐变量、序列依赖和迭代估计分别在解决什么问题。

模块结论

[[EM算法]] 解决的是含隐变量模型中的参数估计问题。
[[隐马尔可夫模型]] 适合处理带隐藏状态的序列生成问题。
[[条件随机场]] 更强调条件建模下的序列标注。

一、EM 算法

当模型中存在不可直接观测的隐变量时，参数估计往往变困难。
EM 通过 E 步和 M 步交替更新，逐步逼近参数估计结果。
它更像一种求解框架，而不是单个任务专用模型。

二、隐马尔可夫模型

用隐藏状态描述序列内部演化过程。
观测序列由隐藏状态驱动生成。
它适合理解“可观测输出背后有一个不可见状态链”这种问题。

三、条件随机场

常用于序列标注问题。
与 HMM 相比，更强调直接建模条件概率。
它体现的是序列问题里“局部依赖 + 全局一致性”的结合。

四、为什么这一组模型要放在一起

它们都不再只面对独立同分布的简单样本。
问题结构里加入了隐变量或序列依赖，建模层次自然更高。

五、易错点

把 EM 当成某个特定模型，而不是通用估计思想。
把 HMM 和 CRF 都看成“处理序列的概率模型”而不区分生成与判别。
只看公式，不先理解问题结构。

六、复习提问

EM 算法为什么常和隐变量联系在一起？
HMM 里的“隐状态”到底承担什么作用？
条件随机场相对 HMM，在建模对象上有什么转变？

来源

[[raw/Joplin/机器学习/2、统计学习方法/统计学习方法--第10章--EM算法.md]]
[[raw/Joplin/机器学习/2、统计学习方法/统计学习方法--第11章--隐马尔可夫模型.md]]
[[raw/Joplin/机器学习/2、统计学习方法/统计学习方法--第12章--条件随机场.pdf.md]]

相关页面

[[统计学习方法]]
[[统计学习概率模型]]
[[EM算法]]
[[隐马尔可夫模型]]
[[条件随机场]]