title: 机器学习分类算法体系 tags:

module
machine-learning
classification
joplin type: module source_type: reconstructed created: 2026-04-22 updated: 2026-04-22 ---

机器学习分类算法体系

[!abstract] 这一模块处理入门机器学习里的分类主线。重点不是把算法名录背下来，而是理解 sklearn 的训练范式、距离类模型和概率类模型的差异，以及调参评估的基本方法。

模块结论

[[分类问题]] 的目标是预测离散类别。
sklearn 的基本使用范式可归纳为“转换器 + 估计器”。
[[交叉验证]] 与网格搜索是避免拍脑袋调参的重要方法。

一、转换器与估计器

转换器负责特征处理。
估计器负责模型拟合和预测。
这意味着机器学习代码结构通常天然分成“数据表示”和“模型训练”两段。

二、K 近邻算法

依据距离度量找邻居。
通过邻居投票决定分类结果。
k 太小容易受噪声影响，太大又容易丢失局部结构。

三、朴素贝叶斯

基于贝叶斯公式进行分类。
用条件独立假设简化概率计算。
它的强项在于简单、快速、对某些文本分类任务有效。

四、模型选择与调优

[[交叉验证]] 用来更稳健地估计模型表现。
网格搜索用来系统遍历超参数组合。
这一步的目的不是“刷高分”，而是减少偶然性。

五、为什么分类算法不能只看名字

KNN 强调样本之间的距离关系。
朴素贝叶斯强调条件概率与先验。
不同模型适合的问题结构不同，不能脱离数据特点谈优劣。

六、易错点

只知道 fit/predict/score，不知道前面为什么还要做转换。
把一次测试集效果当成模型的稳定能力。
只会调参，不先判断任务本身是不是适合该模型。

七、复习提问

sklearn 中转换器和估计器分别解决什么问题？
KNN 为什么对特征尺度比较敏感？
为什么交叉验证比单次切分更稳健？

来源

[[raw/Joplin/机器学习/1、入门机器学习/3、分类算法体系.md]]

相关页面

[[机器学习基础]]
[[机器学习特征工程]]
[[分类问题]]
[[交叉验证]]
[[统计学习方法]]