机器学习——卷积神经网络:池化层

142次阅读
没有评论

共计 775 个字符,预计需要花费 2 分钟才能阅读完成。

池化层

池化层是用来缩减模型,提高计算速度,同时提高所取得特征的鲁棒性

池化层是用来降采样subsample, shrink, 减少计算负荷,内存使用,参数数量(防止过拟合)

正如卷积神经网络一样,在池化层中的每个神经元被连接到上面一层输出的神经元,只对应一小块感受野的区域。 我们必须定义大小,步长,padding类型

池化层没有权重值,他只是聚合输入根据取最大值或者求均值

池化层的例子: 2×2的池化核,步长为2,没有填充,只有最大值往下传,其他输入被丢弃掉了; 直观的理解说就是,因为取最大值,所以较小值就会被忽略,也就是不重要的特征会被忽略
机器学习——卷积神经网络:池化层
我们可以把池化后的结果看作是某些特征的集合,比如垂直边缘,或者一只眼睛
一般池化层用在卷积层后面,也就意味着当你做了特征的抽取之后,有一个过滤的功能,把比较弱的特征过滤掉.

机器学习——卷积神经网络:池化层

机器学习——卷积神经网络:池化层

机器学习——卷积神经网络:池化层

平均池化

平均池化选取的不是每个过滤器的最大值,而是平均值
最大池化更常用,但是对很深的神经网络而言,你可以用平均池化来分解规模为7x7x1000的网络的表示层,在整个空间求平均值,得到1x1x1000机器学习——卷积神经网络:池化层

池化层参数的总结

超参数:

f: 过滤器大小

s:步长

最大池化或者平均池化

没有padding!所以池化层公式就变为: ((n – f )/ s + 1) x ((n – f )/ s + 1) x nc

最大池化层是一个静态属性

卷积神经网络的示例2

机器学习——卷积神经网络:池化层机器学习——卷积神经网络:池化层

为什么要用卷积神经网络

既然我们能把图像数据化,那我们可以可以不用卷积神经网络呢,直接用深度神经网络呢?

可以,但是运算量很大

比如LeNet,第一层就需要1400万个参数,而且要知道32×32是一个非常非常小的图像

但是用卷积神经网络,第一层只有156个参数

卷积神经网络流程

机器学习——卷积神经网络:池化层

tensorflow_cnn_mnist执行逻辑

目的:通过卷积神经网络来实现手写数字识别验证

此卷积网络使用SAME
p = (5-1)/2 = 2机器学习——卷积神经网络:池化层机器学习——卷积神经网络:池化层

tensorflow_cnn_mnist参数

机器学习——卷积神经网络:池化层

机器学习——卷积神经网络:池化层

机器学习——卷积神经网络:池化层

机器学习——卷积神经网络:池化层

正文完
 
admin
版权声明:本站原创文章,由 admin 2019-11-23发表,共计775字。
转载说明:除特殊说明外本站文章皆由CC-4.0协议发布,转载请注明出处。
评论(没有评论)
验证码