发布日期：2021-12-13 所属栏目：智能科学技术

　　摘要：针对YOLO系列算法参数量大、算法复杂度咼提出一种基于BN(batchnormalization)层■枝方法。该方法先通过对BN层的缩放系数7以及平移系数0添加正则化约束训练，根据BN层参数以及卷积层各通道对网络贡献度等指标设定合适阈值进行剪枝。该方法在基本没有精度损失的前提下对YOLOv4Tiny模型压缩11倍，计算量减少72%，在CPU和GPU处理器下推理速度分别增快44%和29%。实验结果表明，该剪枝方法能保持模型良好性能的前提下压缩模型，减少参数，降低算法复杂度。

　　关键词：深度学习;卷积神经网络;YOLOv4Tiny;YOLOv3Tiny;模型剪枝;稀疏训练

　　曹远杰;高瑜翔;刘海波;吴美霖;涂雅培;夏朝禹成都信息工程大学学报2021-12-13

　　0引言

　　随着计算机视觉的发展，对深度学习网络性能要求提高，出现许多优秀的深层神经网络模型[13]，如VGGNet、GoogleNet、ResNet、DenseNet等。伴随性能提高的同时，网络层数也在不断增加。这些网络都因为算法复杂度太高难以在嵌人式平台等资源较少的设备应用。针对网络模型太大、参数量太多、算法计算量(FLOPs)大等问题，出现许多解决方案。如SqueezeNet网络，网络米用squeeze和expand两部分，squeeze部分由1x1的卷积组成，expand部分是将1x1和3x3两种层的输出特征图进行合并(s…|Q第一层，的频数分_直方'鹰如图3所示，第一层参数较少。

　　由囿3可知，稀疏训练、后各通道均值差别较大。F集合中可以.剪掉的通道比普通逋道均值小了约1〇7倍：a假设输入A为1，权值、a和fr参数郁为3E：|，(%XM，X￡+6，)可以粗略地看作第;：层BNs的输出特征图，此处五为和输出特征B太小一#的全1矩阵。r集合各元素取均值为必，涵由于通道均值差别太的原因向0趋近，当a，