分享web开发知识

注册/登录|最近发布|今日推荐

主页 IT知识网页技术软件开发前端开发代码编程运营维护技术分享教程案例
当前位置:首页 > 技术分享

Convolutional Neural Networks(5):Pooling Layer

发布时间:2023-09-06 01:54责任编辑:沈小雨关键词:暂无标签

池化层(Pooling layer)同样是收到了视觉神经科学的启发。在初级视觉皮层V1(Primary visual cortex)中,包含了许多复杂细胞(Complex cells),这些细胞对于图像中物体微小的变化具有不变性(invariance to small shifts and distortions). 这种不变性也是Pooling layer的核心,我们首先来看Pooling layer如何工作,然后具体分析这种不变性。

我们举例说明Pooling layer的工作过程,在下图中的Max pooling操作中,其filter大小是2x2,stride是2,padding是0

根据CNN(4)中的公式:

我们可以得出pooling后的feature map是2x2的。

在开头提到的不变性(invariance),包含三个方面,即位移(translation),旋转(rotation)及缩放(scale)。首先来看位移:

再看旋转(rotation):

再来看缩放(Scale):

我们可以得出结论如下:

首先,pooling layer使得CNN拥有了一定的识别失真后的pattern的功能,增加了神经网络的generalization,降低了overfitting。

第二,很明显的,因为池化后的feature map变小,数据在保留主要特征的情况下,降维了。

附注:我从下面这篇知乎文章获得的启发很大,表示感谢。

https://www.zhihu.com/question/36686900

Convolutional Neural Networks(5):Pooling Layer

原文地址:https://www.cnblogs.com/rhyswang/p/9038425.html

知识推荐

我的编程学习网——分享web前端后端开发技术知识。 垃圾信息处理邮箱 tousu563@163.com 网站地图
icp备案号 闽ICP备2023006418号-8 不良信息举报平台 互联网安全管理备案 Copyright 2023 www.wodecom.cn All Rights Reserved