NIN(network in network)
发布日期:2021-06-28 13:52:37
浏览次数:2
分类:技术文章
本文共 748 字,大约阅读时间需要 2 分钟。
NIN(network in network)
1)MLP卷积层
利用多层mlp的微型网络,对每个局部感受野的神经元进行更加复杂的运算,而以前的卷积层,局部感受野的运算仅仅只是一个单层的神经网络罢了。
提出了对卷积层的改进算法:MLP卷积层。Mlpconv层可以看成是每个卷积的局部感受野中还包含了一个微型的多层网络。一般来说mlp是一个三层的网络结构。NIN网络的mlp指的是局部感受野的,不是说1*1的卷积核等价于全连接。MLP与cnn相兼容,可以使用BP训练;并且MLP可自行深度化。2)全局均值池化
另一方面,传统的CNN最后一层都是全连接层,参数个数非常之多,容易引起过拟合(如Alexnet),一个CNN模型,大部分的参数都被全连接层给占用了,故这篇paper提出采用了:全局均值池化,替代全连接层。
传统的卷积神经网络卷积运算一般是出现在低层网络。对于分类问题,最后一个卷积层的特征图通过量化然后与全连接层连接,最后在接一个softmax逻辑回归分类层。 然而,全连接层因为参数个数太多,往往容易出现过拟合的现象,导致网络的泛化能力不尽人意。于是Hinton采用了Dropout的方法,来提高网络的泛化能力。 到了我们,我们提出采用全局均值池化的方法,替代传统CNN中的全连接层。与传统的全连接层不同,我们对每个特征图一整张图片进行全局均值池化,这样每张特征图都可以得到一个输出。另一方面它有一个特点,每张特征图相当于一个输出特征,然后这个特征就表示了我们输出类的特征。这样如果我们在做1000个分类任务的时候,我们网络在设计的时候,最后一层的特征图个数就要选择1000。 在NIN的文章中表明,全连接层容易引起过拟合,去掉全连接层反而有助于精度提升。转载地址:https://blog.csdn.net/wydbyxr/article/details/84560718 如侵犯您的版权,请留言回复原文章的地址,我们会给您删除此文章,给您带来不便请您谅解!
发表评论
最新留言
留言是一种美德,欢迎回访!
[***.207.175.100]2024年04月01日 22时42分41秒
关于作者
喝酒易醉,品茶养心,人生如梦,品茶悟道,何以解忧?唯有杜康!
-- 愿君每日到此一游!
推荐文章
JAVA实现美团电影价格抓取(附代码)
2019-04-29
jeesite的junit,数据没有插入?
2019-04-29
jqweui的picker动态加载数据
2019-04-29
vue省市区三级联动mysql,js/json,html/jsp
2019-04-29
elasticsearch5.5安装head插件
2019-04-29
linux安装docker部署java项目
2019-04-29
jquery的Ajax和fetch的demo
2019-04-29
阿里云服务器发送邮件失败?连接超时?25端口被封?
2019-04-29
springboot版的微信公众号,订阅号
2019-04-29
pycharm创建django项目linux部署
2019-04-29
利用Android Studio快速搭建App
2019-04-29
CompletableFuture的多线程和异步监听实现
2019-04-29
HashMap jdk1.7和1.8概述
2019-04-29
springboot多环境加载yml和logback配置
2019-04-29
几道简单的算法题(来自leetcode)
2019-04-29
推一波JAVA学习公众号
2019-04-29