---
title: 机器学习特征工程
tags:
  - module
  - machine-learning
  - feature-engineering
  - joplin
type: module
source_type: reconstructed
created: 2026-04-22
updated: 2026-04-22
---

# 机器学习特征工程

> [!abstract]
> 这一模块处理机器学习里最容易被低估、但最影响效果的部分。重点不只是工具函数，而是理解原始数据如何被转化为模型可学习的表示。

## 模块结论

- [[特征工程]] 的核心任务是把原始数据转化成适合模型使用的高质量特征。
- [[训练集与测试集]] 的划分决定了评估是否可信。
- 特征提取、预处理和降维共同决定模型训练效率与泛化能力。

## 一、数据从哪里来

- 企业内部数据
- 付费接口数据
- 公开数据集，如 sklearn、Kaggle、UCI

### 理解重点

- 学习时可以先用公开数据集，但真实问题最终还是受业务数据约束。

## 二、训练集与测试集为什么要分开

- 训练集用于拟合模型。
- 测试集用于检查泛化能力。
- 如果训练和测试混在一起，评估结果会失真。

## 三、特征提取

- 字典特征可通过 One-Hot 编码转成数值表示。
- 文本特征可通过词袋模型或 TF-IDF 表示。
- 不同数据类型需要不同表达方式。

## 四、特征预处理

- 归一化把数据缩放到固定区间。
- 标准化让数据围绕均值和标准差进行变换。
- 是否预处理，往往直接影响距离类和梯度类模型表现。

## 五、降维

- 降维的目标是压缩冗余信息、降低计算量、减少噪声影响。
- 常见理解重点是“保留主要信息，而不是机械删列”。

## 六、易错点

- 把特征工程理解成模型训练前的机械准备工作。
- 不区分训练集和测试集就直接汇报效果。
- 只会调用向量化工具，不理解其背后的数据表示逻辑。

## 七、复习提问

- 为什么特征工程会直接影响模型效果上限？
- 训练集和测试集为什么不能随意混用？
- 词袋模型和 TF-IDF 各自在强调什么？

## 来源

- [[raw/Joplin/机器学习/1、入门机器学习/2、特征工程.md]]

## 相关页面

- [[机器学习基础]]
- [[机器学习概述]]
- [[特征工程]]
- [[训练集与测试集]]
- [[交叉验证]]