花书读书笔记(十八)-近似推断
发布日期:2021-05-07 00:53:21 浏览次数:11 分类:技术文章

本文共 342 字,大约阅读时间需要 1 分钟。

全部笔记的汇总贴:

老规矩,先贴文章,里面有直达b站大佬的视频链接:,他讲的还挺细,看看书再看看他讲,挺好的。

一、把推断视作优化问题

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

二、期望最大化

在这里插入图片描述

三、最大后验推断和稀疏编码

在这里插入图片描述

在这里插入图片描述

四、变分推断和变分学习

在这里插入图片描述

变分方法的优点是我们不需要为分布 q q q设定一个特定的参数化形式。我们设定它如何分解,之后通过解决优化问题来找出在这些分解限制下最优的概率分布。对离散型潜变量来说,这意味着我们使用传统的优化技巧来优化描述分布 q q q的有限个变量。对连续型潜变量来说,这意味着我们使用一个被称为变分法的数学分支工具来解决函数空间上的优化问题。然后决定哪一个函数来表示分布 q q q

  • 离散型潜变量
  • 变分法
  • 连续型潜变量
  • 学习和推断之间的相互作用

五、学成近似推断

  • 醒眠算法

下一章传送门:

上一篇:linux命令chmod如果当前用户属于多个组,那这个命令中的g指的是哪个组?按什么规则?
下一篇:花书读书笔记(十七)-直面配分函数

发表评论

最新留言

第一次来,支持一个
[***.219.124.196]2025年04月08日 04时06分36秒