title: 机器学习特征工程 tags:

module
machine-learning
feature-engineering
joplin type: module source_type: reconstructed created: 2026-04-22 updated: 2026-04-22 ---

机器学习特征工程

[!abstract] 这一模块处理机器学习里最容易被低估、但最影响效果的部分。重点不只是工具函数，而是理解原始数据如何被转化为模型可学习的表示。

模块结论

[[特征工程]] 的核心任务是把原始数据转化成适合模型使用的高质量特征。
[[训练集与测试集]] 的划分决定了评估是否可信。
特征提取、预处理和降维共同决定模型训练效率与泛化能力。

一、数据从哪里来

企业内部数据
付费接口数据
公开数据集，如 sklearn、Kaggle、UCI

理解重点

学习时可以先用公开数据集，但真实问题最终还是受业务数据约束。

二、训练集与测试集为什么要分开

训练集用于拟合模型。
测试集用于检查泛化能力。
如果训练和测试混在一起，评估结果会失真。

三、特征提取

字典特征可通过 One-Hot 编码转成数值表示。
文本特征可通过词袋模型或 TF-IDF 表示。
不同数据类型需要不同表达方式。

四、特征预处理

归一化把数据缩放到固定区间。
标准化让数据围绕均值和标准差进行变换。
是否预处理，往往直接影响距离类和梯度类模型表现。

五、降维

降维的目标是压缩冗余信息、降低计算量、减少噪声影响。
常见理解重点是“保留主要信息，而不是机械删列”。

六、易错点

把特征工程理解成模型训练前的机械准备工作。
不区分训练集和测试集就直接汇报效果。
只会调用向量化工具，不理解其背后的数据表示逻辑。

七、复习提问

为什么特征工程会直接影响模型效果上限？
训练集和测试集为什么不能随意混用？
词袋模型和 TF-IDF 各自在强调什么？

来源

[[raw/Joplin/机器学习/1、入门机器学习/2、特征工程.md]]

相关页面

[[机器学习基础]]
[[机器学习概述]]
[[特征工程]]
[[训练集与测试集]]
[[交叉验证]]