[一起面试AI]NO.4特征工程主要包括什么?
发布日期:2021-05-09 06:18:07 浏览次数:18 分类:博客文章

本文共 2135 字,大约阅读时间需要 7 分钟。

Q1 数据预处理主要包括什么

  1. 无量纲化

无量纲化主要解决数据的量纲不同的问题,使不同的数据转换到同一规格,常见的方法有标准化区间缩放法。标准化的假设前提是特征值服从正态分布。区间放缩法利用了边界值信息,将特征的取值区间缩放到某个特点的范围,列如[0,1]等。

(1) 标准化

理论上,标准化适用于服从正态分布的数据,目前很多工程都依赖大数据,所以在样本足够多的情况下,工程师往往直接使用标准化对数据进行无量纲化预处理,在深度学习中,将数据标准化能够保证有更好的收敛。如果不进行数据标准化,有些特征将会对损失函数影响很大,使得其他值比较小的特征重要性降低

(2)归一化/区间缩放法

归一化适用于数据量较小的工程。顾名思义就是利用两个最值进行缩放。公式为(x-min)/(max-min)

2.哑编码与独热编码

如果某一列数据是一些特征,比如国家名称,那就没有办法应用到回归或者分类里,所以需要对数据进行哑编码或者独热编码。

哑编码与独热编码的区别主要是哑编码祛除了一个状态位。

例如:假设在中国、德国、法国、美国四种可能的取值,独热编码就是用每个维度表达一个国家,比如中国为1,0,0,0。而哑编码只需要三个状态位,如其他都为0则中国必为1.

3.缺失值补充

缺失值最常用的就是均值、就近补齐、K最近距离填充等方法。特别需要注意的是,有的时候缺失值也是一种特征。

应当分为三种情况:

当缺失值过多时:应当舍弃这个特征。

当缺失值适中时:应当将填充值当成一种特征

当缺失值较少时:可以考虑进行填充

填充的常用策略:

  1. 用一个异常值填充并将缺失值作为一个特征处理
  2. 用均值或者条件均值填充,如果数据是不平衡的,那么应该使用条件均值填充,条件均值指的是与缺失值所属标签相同的所有数据的均值。
  3. 用相邻数据填充
  4. 利用插值算法
  5. 数据拟合,将缺失值当成一种预测来处理

Q2 特征选择主要包括什么

特征选择是非常关键的步骤,选入大量的特征不仅会降低模型效果,也会耗费大量的计算时间,而漏选的特征也会直接影响到最终的模型结果。一般情况下主要利用以下办法进行特征选择。

1.方差选择法

假如某列特征变化一直很平缓,所以说明这组特征对预测结果影响不大,所以应该计算出各个特征的方差选择方差大于自身阈值的特征。

2.相关系数,统计检验

相关系数或者统计检验都可以用来特征选择。

3.互信息法

互信息法也经常用来评价自变量对因变量的相关性。

4.基于机器学习的特征选择法

主要是针对特征和响应变量建立预测模型,例如用基于树的方法(决策树,随机森林,GDBT),或者扩展的线性模型。

Q3 特征降维主要包括什么

  1. 主成分分析法(PCA)

PCA是一个将数据变换到一个新的坐标系统中的线性变换,使得任何数据的投影的第一大方差在第一个坐标(第一主成分)上,第二大方差在第二个坐标(第二主成分)上,以此类推。

其作用只要是为了让映射后得到的向量具有最大的不相关性。就是说PCA追求的是再将位置后能够最大化保持数据的内在信息。

  1. 线性判别分析法(LDA)

LDA是一种有监督的降维方法,主要是将高维的模式样本投影到最佳鉴别空间。

其作用是投影后保证模式样本在新的子空间有最大的类间距离和最小的类内距离,即同类的数据点尽可能地接近,而不同类的数据点尽可能地分开。

LDA和PCA的区别是一个很重要的知识点,他们主要有以下区别。

​ (1)LDA是有监督的降维方法,而PCA是无监督的。

​ (2)LDA降维最多降到类别数k-1的维数,而PCA没有限制。

​ (3)LDA选择分类性能最好的投影方向,而PCA选择样本点投影具有最大方差的方向。

  1. 局部线性嵌入(LLE)

    局部线性嵌入算法认为每个数据点可以由其近邻点的线性加权组合构造得到,能够使得降维后的数据较好地保持原有流行结构。

    在真实工业场景中,局部线性嵌入用的较少

    Q4 特征构造主要包括什么

    特征构造主要是针对具体的项目属性,数据特点来构造出可能的重要特征。特征构造是非常关键的步骤,对模型效果的提升帮助巨大。下面举三个例子:

    预测某商场未来的销售量,是不是周末就是很重要的特征。

    客户关系中,消费间隔时长,消费频率,消费金额就是很重要的指标。

    预测交通流量中,是不是早晚高峰时期、道路宽度等是非常重要的特征。


hi 认识一下?

微信关注公众号:全都是码农 (allmanong)

你将获得:
关于人工智能的所有面试问题一网打尽!未来还有思维导图哦!
回复121 立即获得 已整理好121本python学习电子书
回复89 立即获得 程序员史诗级必读书单吐血整理四个维度系列89本书。
回复167 立即获得 机器学习和python学习之路史上整理大数据技术书从入门到进阶最全本(66本)
回复18 立即获得 数据库从入门到进阶必读18本技术书籍网盘整理电子书(珍藏版)
回复56 立即获得 我整理的56本算法与数据结构
未来还有人工智能研究生课程笔记等等,我们一起进步呀!


转载地址:https://www.cnblogs.com/sabai/p/12690070.html 如侵犯您的版权,请留言回复原文章的地址,我们会给您删除此文章,给您带来不便请您谅解!

上一篇:[一起面试AI]NO.5过拟合、欠拟合与正则化是什么?
下一篇:[一起面试AI]NO.3分类问题常用的性能度量指标有哪些

发表评论

最新留言

能坚持,总会有不一样的收获!
[***.219.124.196]2024年07月13日 20时26分05秒