YOLOv6 是美团推出的，在这个版本里面，不再使用之前 YOLOv4 和 YOLOv5 的带 CSP 结构的 CSPDarknet-53 作为 backbone 了，而是在 RepVGG 的启发下，推出了新的 EfficientRep 作为 YOLOv6 的 backbone。

RepVGG 最重要的一点是：结构的重参数化

简单来说，在训练和推理的时候采用不同的结构，在训练的时候采用多分支结构进行训练，但是在推理的时候使用单分支，即保留了训练多分支的准确度，又兼具推理时单分支的速度。

具体来说，训练中，backbone 中使用的是 RepBlock 模块，但是在推理的时候，可以将这些 RepBlock 模块换成带 ReLU 激活函数的 3 x 3 卷积块。

RepVGG 主干在小型网络中具有更强的特征表示能力，但是随着参数和计算成本的爆炸式增长， RepVGG 在大模型中难以获得较高的性能，所以：

最左边 YOLOv5 的 backbone 我用的是最新版本的，其中 CSP 模块是 C3 模块，然后激活函数也是 SiLU的。从上面图片可以看出来，基本上，YOLOv6 大体上的结构变化不大，但是内部的 C3 模块换成了 RepBlock 模块或者是 CspStackRep Block 模块（这取决于模型的大小）。用到的 RepBlock 模块和 CspStackRep 模块的具体结构也在右边给了出来。

值得注意的是，就和前面提到的训练和推理的解耦，训练的时候，RepBlock 和 CspStackRep Block 模块内部使用的都是 RepVGG 模块，这是一种多分支结构，可以学习到更多不同的特征。但是到了推理的时候，为了提升推理的速度，将多分支的 RepVGG 换成了单分支的 RepConv 结构。

其实也可以看出来 YOLOv6 的一个比较创新的地方就是 RepVGG 模块向 RepConv 转换的一个结构重参数化。

对于不同的分支，重参数化的过程不一样：

RepConv 其实就是一个 3x3 卷积 + ReLU 激活函数，相比于普通的卷积块，少了其中的 BN 层，这是因为 Rep 的核心思想就是 Conv2D 与 DB 的融合，等效成一个 3x3 卷积。

我们知道：卷积 Conv2D 和 批归一化 BN 的公式如下： Conv ( x ) = W ( x ) + b \text{Conv}(x) = W(x) + b Conv(x)=W(x)+b BN ( x ) = γ ⋅ ( x − mean ) var + β \text{BN}(x) = \gamma \cdot \frac{(x - \text{mean})}{\sqrt[]{\text{var}} } + \beta BN(x)=γ⋅var ​(x−mean)​+β按照卷积块的流程，先经过卷积层，然后是 BN 层，公式可以写成下面形式： BN ( Conv ( x ) ) = γ ⋅ W ( x ) + b − mean var + β \text{BN}(\text{Conv}(x)) = \gamma \cdot \frac{W(x) + b - \text{mean}}{\sqrt{\text{var} } } + \beta BN(Conv(x))=γ⋅var ​W(x)+b−mean​+β化简可以得到： BN ( Conv ( x ) ) = γ var ⋅ W ( x ) + ( γ ⋅ ( b − mean ) var + β ) \text{BN}(\text{Conv}(x)) = \frac{\gamma }{\sqrt[]{\text{var}}}\cdot W(x) + (\frac{\gamma \cdot (b - \text{mean})}{\sqrt[]{\text{var}}} + \beta ) BN(Conv(x))=var ​γ​⋅W(x)+(var ​γ⋅(b−mean)​+β)其实可以等价为一个卷积层： W f u s e d ( x ) = γ var ⋅ W ( x ) W_{fused}(x) = \frac{\gamma }{\sqrt[]{\text{var}}}\cdot W(x) Wfused​(x)=var ​γ​⋅W(x) b f u s e d = γ ⋅ ( b − mean ) var + β b_{fused} = \frac{\gamma \cdot (b - \text{mean})}{\sqrt[]{\text{var}}} + \beta bfused​=var ​γ⋅(b−mean)​+βConv 与 BN 融合的结果可以表示为： BN ( Conv ( x ) ) = W f u s e d ( x ) + b f u s e d \text{BN}(\text{Conv}(x)) = W_{fused}(x) + b_{fused} BN(Conv(x))=Wfused​(x)+bfused​

这上面的计算过程中 Conv 是带 bias 的，但是现在一般来说，如果后面接的是 BN 层，Conv 是不需要带 bias 的，因为即便带了 bias，在后续的 BN 层中，也不会有什么作用，反而增加计算量。

首先，我们知道多通道卷积：

所以上面的图中，输入是 3x3x2，有 2 个 channel。然后卷积核也有 2 个，每个卷积核有 2 个 channel。

所以 3x3 Conv 简化下来可以画上面那样，中间的 4 个 3x3 卷积核实际上和 RepVGG(train) -> RepConv(infer) 章节的 4 个绿色的卷积核是一样的意思。

我们知道 1x1 Conv 的卷积的计算过程如上面示意图所示，其实我们也发现了，将 1x1 Conv 周围 padding 成 0 就可以等效转换成 3x3 Conv 层了，获得和 1x1 Conv 一样的输出结果。

而 identity 的分支，我们想要输入和输出是一样的，根据上面的 1x1 卷积，其实我们可以做出下面的转换 首先将 identity 转换成如上所示的 1x1 Conv，然后再转换成 3x3 Conv

identity 层就是输入直接等于输出，也即 input 中每个通道每个元素直接输出到 output 中对应的通道，用一个什么样的卷积层来等效这个操作呢，我们知道，卷积操作必须涉及要将每个通道加起来然后输出的，然后又要保证 input 中的每个通道每个元素等于 output 中，从这一点，我们可以从 PWconv 想到，只要令当前通道的卷积核参数为 1，其余的卷积核参数为 0，就可以做到；从 DWconv 中可以想到，用 conv_1x1 卷积且卷积核权重为 1，就能保证每次卷积不改变输入，因此， identity 可以等效成如下的 conv_1x1 的卷积形式：

参考文章：