特征工程笔记

落日映苍穹つ 2022-05-09 09:38 216阅读 0赞

虽然说特征工程很大程度上是经验工程，跟具体业务相关，但是我们可以根据一些思路来进行，以下是我在实践过程中总结出来的一些思路，希望能给大家带来一点启发。

## 思路与过程 ##

### 0.概览数据 ###

使用数据可视化工具对数据进行概览

#### 0.1 对原始数据进行概览 ####

常用的概览方法：

1.  dataset.describe(): 查看每种属性的总数，平均值，标准差，25%，50%，75%
2.  dataset.series.value\_counts()： 按值聚合查看值的数量分布，仅作用于series
3.  dataset.head(n): 查看数据集的前n行

#### 0.1.1 查看空数据|处理空数据 ####

查看空数据总数

data.isnull().sum()

定位空数据：

dataset.loc[dataset.col_name.isnull(),'col_name']=data_to_fill

解决空数据的方法：

1.  空数据太多，直接去掉
2.  填充 平均数/众数/最多的值

#### 0.2 使用图表进行概览 ####

常用图表有：

条形图 countplot barplot
    饼状图 pie
    散点图 scatter
    分布图（seaborn.distplot）
    热力图+协方差矩阵 heatmap
    对比图 PairGrid 使用完热力图后将与目标属性最相关的几个属性做一个对比图，两两对比

### 1.特征构建 ###

#### 根据相关领域的经验和概览得到的信息，决定怎么对属性进行组合比较合适 ####

原始属性
    四则运算
    求和
    求增幅
    求众数，方差，极差

#### 特征交叉组合 ####

*  特征随机组合，然后使用PCA降维
 *  对结构化属性进行组合（四则运算，求倒数和，x\*y x2+y2 1/x+1/y等）

**几点tips:**

*  如果数据在某属性分布比较集中，这个属性必须细分
 *  如果数据在某两个或几个属性间有相关性（协方差接近1），那他们可以只取其中一个，降维处理

![35216626.jpg][]

### 2.特征生成 ###

*  加权融合 对不同的特征采用不同的权重
 *  数值归一化 数值重新赋值
 *  将连续数值分段，进行离散化（one hot编码 TF-IDF编码）

### 3.特征选择 ###

*  主成分分析（PCA）
 *  因子分析
 *  机器学习获取特征重要性分数
 *  根据方差选择，选择方差大于一定阈值的特征（方差太小说明该特征的区别不明显）

[35216626.jpg]: http://oz9fdm91f.bkt.clouddn.com/18-7-22/35216626.jpg

发表评论取消回复

表情：

评论列表（有 0 条评论，216人围观）

还没有评论，来说两句吧...

相关阅读

相关特征工程——文本特征

目录文本特征 1.expansion编码 2.consolidation编码 3.文本长度特征 4.标点符号特征 5.词汇属性特征 6.特殊词汇特征 7.词频

蔚落/ 2023年01月14日 06:59/ 0 赞/ 200 阅读

相关特征工程-无序单无序类别特征特征工程！

前言 ![图片][26fbeda0e0044838772468fa77d67d62.png] 在之前的文章中，我们已经介绍过部分类别特征编码的内容，此处，我们将所有的内

悠悠/ 2023年01月13日 14:52/ 0 赞/ 236 阅读

相关特征工程特征处理

![format_png][] 前言：本文介绍了特征处理中的特征缩放、选择和降维，并用代码演示特征缩放中的标准化法和区间缩放法。特征缩放特征值缩放： !

- 日理万妓/ 2022年11月25日 13:00/ 0 赞/ 250 阅读

相关特征工程

特征工程 1 机器学习机器学习简单来说就是选择一种学习算法，从数据中学习并建立成模型来对新的数据进行预测的计算机科学。机器学习是人工智能的一个分支。人工智能

柔情只为你懂/ 2022年11月22日 12:47/ 0 赞/ 1254 阅读

相关特征工程

特征工程是机器学习，甚至是深度学习中最为重要的一部分，是数据科学中最有创造力的一部分。本文列举了在机器学习中的特征工程相关知识点：将原始数据映射到特征、良好特征的特点以及两类特

快来打我*/ 2022年11月20日 09:34/ 0 赞/ 218 阅读

相关特征工程实践笔记

一、特征工程 1、构造组合特征：对鸢尾花数据集，通过构造前两列相乘而得到的新列特征。代码实现过程：（1）获取数据：通过sklearn.datasets获取i

青旅半醒/ 2022年05月10日 13:10/ 0 赞/ 211 阅读

相关特征工程笔记

虽然说特征工程很大程度上是经验工程，跟具体业务相关，但是我们可以根据一些思路来进行，以下是我在实践过程中总结出来的一些思路，希望能给大家带来一点启发。思路与过程 0

落日映苍穹つ/ 2022年05月09日 09:38/ 0 赞/ 217 阅读

相关特征工程

特征工程是将数据（特征）处理，使得特征在机器学习上发挥更好的作用的方法。特征抽取/特征提取：（文本类型 -> 数值类型 -> 数值）机器学习算法 - 统计方法 -

╰半夏微凉°/ 2022年03月24日 17:22/ 0 赞/ 280 阅读

相关特征工程

特征工程是什么特征工程是将原始数据转化为更好的代表预测模型的潜在问题的特征的过程，从而提高对未知数据的预测准确性特征工程包括特征提取、数据的预处理、特征降维特

比眉伴天荒/ 2022年03月15日 11:16/ 0 赞/ 305 阅读

相关特征工程

一.概述特征工程包含的内容：特征提取，特征预处理，特征降维。二.分别阐述 1.特征提取 2.特征预处理 3.特征降维参考： [https://blog.cs

Myth丶恋晨/ 2021年11月10日 01:38/ 0 赞/ 359 阅读