机器学习:线性方法
发布日期:2021-07-01 04:10:25 浏览次数:2 分类:技术文章

本文共 367 字,大约阅读时间需要 1 分钟。

线性回归的损失函数使用平方和,逻辑回归的损失函数使用交叉熵。

线性回归

任务和模型

获取样本数据的一些特征,看作特征空间中的点,然后寻找线去拟合样本分布。

模型表示

训练集->学习算法->假设函数(h:是从 X 到 Y 的一个关系映射,可以是线性的,也可以是非线性的)

任务的损失函数

在这里插入图片描述

优化(梯度下降)

在这里插入图片描述

在这里插入图片描述

多元线性回归

特征缩放

Make sure features are on a similar scale.

  • better:(-1,1)
  • maybe:(-1/3,1/3)or(-3,3)

在这里插入图片描述

学习率

在这里插入图片描述

正态方程

在这里插入图片描述

若 X 不可逆,则存在冗余的特征,或特征数量太多。

逻辑回归

假设表示

在这里插入图片描述

决策边界

也称为判决函数或决策函数。

在这里插入图片描述

损失函数

在这里插入图片描述

在这里插入图片描述

梯度下降

在这里插入图片描述

高级优化

在这里插入图片描述

通过 matlab 的 fminunc() 来实现。

多元分类:一对多

在这里插入图片描述

线性判别分析

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

转载地址:https://mortal.blog.csdn.net/article/details/91564395 如侵犯您的版权,请留言回复原文章的地址,我们会给您删除此文章,给您带来不便请您谅解!

上一篇:机器学习:机器学习评估和统计学习理论
下一篇:机器学习:绪论

发表评论

最新留言

网站不错 人气很旺了 加油
[***.192.178.218]2024年04月27日 14时22分27秒