BP神经网络(算法整体思路及原理+手写公式推导) |
您所在的位置:网站首页 › bp年龄 › BP神经网络(算法整体思路及原理+手写公式推导) |
1. 简介2. 计算过程3. 权重偏置更新公式推导4. BP神经网络优劣势
1. 简介
BP(back propagation)神经网络是1986年由Rumelhart和McClelland为首的科学家提出的概念,是一种按照误差逆向传播算法训练的多层前馈神经网络,是应用最广泛的神经网络。 BP网络是在输入层与输出层之间增加若干层(一层或多层)神经元,这些神经元称为隐单元,它们与外界没有直接的联系,但其状态的改变,则能影响输入与输出之间的关系,每一层可以有若干个节点。 2. 计算过程首先,我们先来了解一下神经网络图示基本含义: 了解了神经元图示的基本含义,现在来说一下BP神经网络的整体流程如下:
同样的,我们以这张图为例来推导权重(w、v)偏置(β、λ)更新公式。
🌷🌷🌷🌷🌷🌷🌷🌷🌷🌷🌷🌷🌷🌷🌷
BP神经网络无论在网络理论还是在性能方面已比较成熟。其突出优点就是具有很强的非线性映射能力和柔性的网络结构。网络的中间层数、各层的神经元个数可根据具体情况任意设定,并且随着结构的差异其性能也有所不同。但是BP神经网络也存在以下的一些主要缺陷。 ①学习速度慢,即使是一个简单的问题,一般也需要几百次甚至上千次的学习才能收敛。 ②容易陷入局部极小值。 ③网络层数、神经元个数的选择没有相应的理论指导。 ④网络推广能力有限。 |
CopyRight 2018-2019 办公设备维修网 版权所有 豫ICP备15022753号-3 |