
[一起面试AI]NO.6 偏差与方差
偏差与方差
发布日期:2021-05-09 06:18:08
浏览次数:2
分类:博客文章
本文共 586 字,大约阅读时间需要 1 分钟。
偏差度量了学习算法的期望与真实结果的偏差,刻画了算法本身的「拟合能力」,方差度量了同样大小的训练集的变动所导致的学习性能的变化。
偏差用于描述模型的拟合能力,方差用来描述模型的稳定性。
当训练度不足的时候,偏差主导模型的泛化误差;
当训练进入后期,模型的拟合能力增强,方差主导模型的泛化误差;
当训练足够的时候,如果拟合能力过强会导致过拟合。
Q1 泛化误差、偏差、方差与噪声之间的关系
学习器在训练集上的误差被称为“训练误差”或“经验误差”,在新样本的误差被称为“泛化误差”。
「噪声」为真实标记与数据集中实际标记之间的误差。
「偏差」为期望预测与真实标记的误差成为偏差。
「泛化误差」可分解为偏差、方差和噪声之和。
本问题涉及大量的公式运算,因为主要面向于面试对话,所以方程不再列出,有兴趣的可以来了解具体过程。
Q2 导致偏差和方差的原因是什么
「偏差」是由于模型的复杂度不够或者对学习算法做了错误的假设;
比如真实模型为三次函数,而拟合出来的为二次函数,会导致偏差「激增」,属于欠拟合现象。所以训练误差主要是偏差造成的。
而方差通常是模型复杂度过高导致的;
比如真实模型是二次函数,而拟合出来的是五次函数,会导致「过拟合」,方差「增大」。由方差引起的误差通常体现在测试误差相对训练误差的变化上。
❝最后:
想要看更多就关个注你看看我的粉丝数🙆 ❞
转载地址:https://www.cnblogs.com/sabai/p/12695542.html 如侵犯您的版权,请留言回复原文章的地址,我们会给您删除此文章,给您带来不便请您谅解!
发表评论
最新留言
第一次来,支持一个
[***.219.124.196]2023年09月07日 01时12分16秒
关于作者

喝酒易醉,品茶养心,人生如梦,品茶悟道,何以解忧?唯有杜康!
-- 愿君每日到此一游!
推荐文章
Microservice tutorial---nameko(微服务)
2019-03-07
GO语言-----第二章“快速基础“图文教程---基本语法变量和常量
2019-03-07
Pycharm每次打开都是欢迎页面或者项目目录的页面设置方法
2019-03-07
Flask的ORM数据库迁移,修改模型后无法迁移的问题
2019-03-07
ubuntu改成阿里的下载源--2021年
2019-03-07
阿里云的CDN加速怎么使用?
2019-03-07
ssh配置免密登录,给新用户设置免密登录,给服务器起别名。
2019-03-07
git删除分支
2019-03-07
自己画的STM32老是烧掉原因分析
2019-03-07
DOS窗口运行Welcome.java,出错提示是什么意思
2019-03-07
JAVA 之原码 反码 补码及取反运算符~
2019-03-07
switch 语句之格式 注意事项
2019-03-07
Altium Designer 16 修改铺铜规则
2019-03-07
\r \n 的区别
2019-03-07
转 PCB各层的含义 (solder paste 区别)
2019-03-07
负数取模怎么算(转)
2019-03-07
程序员必备的七个电脑软件
2019-03-07
《C专家编程》 第九章 再论数组 知识点小结
2019-03-07
改变Keil5所有窗口的背景颜色
2019-03-07
键盘键值表
2019-03-07