---
title: 统计学习序列模型与迭代估计
tags:
  - module
  - machine-learning
  - statistical-learning
  - sequence-model
  - joplin
type: module
source_type: reconstructed
created: 2026-04-22
updated: 2026-04-22
---

# 统计学习序列模型与迭代估计

> [!abstract]
> 这一模块处理统计学习中更偏结构化建模的部分。重点不是死记每个模型的推导，而是理解隐变量、序列依赖和迭代估计分别在解决什么问题。

## 模块结论

- [[EM算法]] 解决的是含隐变量模型中的参数估计问题。
- [[隐马尔可夫模型]] 适合处理带隐藏状态的序列生成问题。
- [[条件随机场]] 更强调条件建模下的序列标注。

## 一、EM 算法

- 当模型中存在不可直接观测的隐变量时，参数估计往往变困难。
- EM 通过 E 步和 M 步交替更新，逐步逼近参数估计结果。
- 它更像一种求解框架，而不是单个任务专用模型。

## 二、隐马尔可夫模型

- 用隐藏状态描述序列内部演化过程。
- 观测序列由隐藏状态驱动生成。
- 它适合理解“可观测输出背后有一个不可见状态链”这种问题。

## 三、条件随机场

- 常用于序列标注问题。
- 与 HMM 相比，更强调直接建模条件概率。
- 它体现的是序列问题里“局部依赖 + 全局一致性”的结合。

## 四、为什么这一组模型要放在一起

- 它们都不再只面对独立同分布的简单样本。
- 问题结构里加入了隐变量或序列依赖，建模层次自然更高。

## 五、易错点

- 把 EM 当成某个特定模型，而不是通用估计思想。
- 把 HMM 和 CRF 都看成“处理序列的概率模型”而不区分生成与判别。
- 只看公式，不先理解问题结构。

## 六、复习提问

- EM 算法为什么常和隐变量联系在一起？
- HMM 里的“隐状态”到底承担什么作用？
- 条件随机场相对 HMM，在建模对象上有什么转变？

## 来源

- [[raw/Joplin/机器学习/2、统计学习方法/统计学习方法--第10章--EM算法.md]]
- [[raw/Joplin/机器学习/2、统计学习方法/统计学习方法--第11章--隐马尔可夫模型.md]]
- [[raw/Joplin/机器学习/2、统计学习方法/统计学习方法--第12章--条件随机场.pdf.md]]

## 相关页面

- [[统计学习方法]]
- [[统计学习概率模型]]
- [[EM算法]]
- [[隐马尔可夫模型]]
- [[条件随机场]]