sklearn之LASSO算法应用
发布日期:2021-05-28 17:02:17
浏览次数:31
分类:技术文章
本文共 1047 字,大约阅读时间需要 3 分钟。
sklearn之LASSO算法应用
前言: 本文介绍LASSO算法理论以及sklearn中Lasso算法如何调用和使用
一、LASSO算法和岭回归算法对比
•Tibshirani(1996)提出了Lasso(The Least Absolute Shrinkage and Selectionator operator)算法。 • 通过构造一个一阶惩罚函数获得一个精炼的模型;通过最终确定一些 指标(变量)的系数为零(岭回归估计系数等于0的机会微乎其微, 造成筛选变量困难),解释力很强。 • 擅长处理具有多重共线性的数据,与岭回归一样是有偏估 LASSO算法的代价函数和岭回归的代价函数都是为了防止过拟合,但是,岭回归算法很难使得模型参数为0,而LASSO算法可以使得模型中的很多参数(对于本数据模型训练影响不大)为0,进而使得模型的特征要素减少二、sklearn中应有LASSO算法示例代码
import numpy as npfrom numpy import genfromtxtfrom sklearn import linear_model# 读取数据data = genfromtxt(r'longley.csv', delimiter=',')# 切分数据x_data = data[1:, 2:]y_data = data[1:, 1, np.newaxis]# 训练模型model = linear_model.LassoCV()model.fit(x_data, y_data)# 训练后选择的lasso系数print(model.alpha_)# 训练后线性模型参数print(model.coef_)# 预测值print(model.predict(x_data[-2, np.newaxis]))print(y_data[-2]) # 真实值
三、代码执行结果
20.03464209711722[0.10206856 0.00409161 0.00354815 0. 0. 0. ][115.6461414][115.7]
由上面结果可知,LASSO算法会自动得到一个合适的λ值,并且其训练出的模型中有很多参数为0 ,可以认为参数为0的特征是不重要的特征,可以舍弃,进而简化模型。
四、数据下载
链接:https://pan.baidu.com/s/14xi9nAW4DyY3mWFp_GTb0w 提取码:3kf3转载地址:https://blog.csdn.net/qq_34720818/article/details/105865215 如侵犯您的版权,请留言回复原文章的地址,我们会给您删除此文章,给您带来不便请您谅解!
发表评论
最新留言
能坚持,总会有不一样的收获!
[***.219.124.196]2024年11月21日 11时39分27秒
关于作者
喝酒易醉,品茶养心,人生如梦,品茶悟道,何以解忧?唯有杜康!
-- 愿君每日到此一游!
推荐文章
axios nodejs 上传图片_Vue.js项目中使用axios上传图片等文件操作
2019-06-17
linux运行文件后黑屏,linux – 运行Qemu后只需黑屏
2019-06-17
Linux笔记本能运行多长时间,在Linux笔记本上执行这句命令能致设备永久变砖
2019-06-17
linux spi主设备号,Linux SPI框架(上)
2019-06-17
linux+nginx添加rtmp,编译安装nginx添加rtmp模块
2019-06-17
linux字符动画脚本,linux shell脚本中如何自由操作字符串
2019-06-17
linux c 大全,linux c 程序设计大全(吴岳) 求助
2019-06-17
华为电脑Linux进pe,华为 matebook X Pro怎样用PE重装系统win10
2019-06-17
c 程序设计语言西电科大,程序设计语言 (C)
2019-06-17
html文件上传漏洞,文件上传漏洞(绕过姿势)
2019-06-17
html5设置动画时钟,html5绘制时钟动画
2019-06-17
debian apt get java_如何在debian中安装apt包?
2019-06-17
用c语言实现md指令,快速排序之C语言实现.md
2019-06-17
Linux 减,linux下的shell运算(加、减、乘、除)
2019-06-17
基于Android幼儿园管理系统,幼儿园管理系统
2019-06-17