深度学习池化层的作用 |
您所在的位置:网站首页 › 池化层的意义 › 深度学习池化层的作用 |
目录 一、概述 二、池化分类 1、Max Pooling:最大池化 2、Average Pooling:平均池化 三、池化作用 1.、invariance(不变性), 2、降维度 3、增大感受野 4、获得定长输出。 5、防止过拟合或有可能会带来欠拟合。 6、减小计算量和内存消耗 7、非线性和鲁棒性 8、聚合特征 9、下采样(downsamping) 一、概述池化(Pooling):也称为欠采样或下采样。主要用于特征降维,压缩数据和参数的数量,减小过拟合,同时提高模型的容错性。 上图就是一个池化的示意图,用了一个10*10的卷积核,对20*20的图像分块不重叠的进行了池化,池化之后featuremap为2*2的大小。 二、池化分类 1、Max Pooling:最大池化Max Pooling:选取最大的,我们定义一个空间邻域(比如,2*2的窗口),并从窗口内的修正特征图中取出最大的元素,最大池化被证明效果更好一些。 Average Pooling:平均的,我们定义一个空间邻域(比如,2*2的窗口),并从窗口内的修正特征图中算出平均值。 这种不变性包括translation(平移),rotation(旋转),scale(尺度)。 2、降维度降低优化难度和参数。保留主要的特征同时减少参数(降维,效果类似PCA)和计算量,防止过拟合,提高模型泛化能力。 3、增大感受野 4、获得定长输出。文本分类的时候输入是不定长的,可以通过池化获得定长输出 5、防止过拟合或有可能会带来欠拟合。 6、减小计算量和内存消耗 7、非线性和鲁棒性 8、聚合特征 9、下采样(downsamping) |
今日新闻 |
推荐新闻 |
CopyRight 2018-2019 办公设备维修网 版权所有 豫ICP备15022753号-3 |