什么是神经网络?

您所在的位置:网站首页 神经网络科研绘图 什么是神经网络?

什么是神经网络?

2023-12-11 20:24| 来源: 网络整理| 查看: 265

将各个节点当成自己的线性回归模型,由输入数据、权重、偏差(或阈值)和输出组成。 该公式与以下类似:

∑wixi + bias = w1x1 + w2x2 + w3x3 + bias

output = f(x) = 1 if ∑w1x1 + b>= 0; 0 if ∑w1x1 + b < 0

确定输入层后,即可分配权重。 这些权重有助于确定任何给定变量的重要性,与其他输入相比,较大的权重对输出的贡献更大。 将所有输入乘以其各自的权重,然后求和。 之后,通过一个激活函数传递输出,该函数决定了输出结果。 如果该输出超出给定阈值,那么它将“触发”(或激活)节点,将数据传递到网络中的下一层。 这会导致一个节点的输出变成下一个节点的输入。 这个将数据从一层传递至下一层的过程可将此神经网络定义为前馈网络。

我们利用二进制值来解析单个节点的外观。 我们可以将这个概念应用到更具体的例子,比如您是否应该去冲浪(是为 1,否为 0)。 决定去还是不去是我们预测的结果,即 y-hat。 我们假设有三个因素影响您的决定:

海浪好不好? (是:1,否:0) 需要排队吗? (是:1,否:0) 最近是否发生过鲨鱼袭击事件? (是:0,否:1)

然后,我们假设以下内容作为输入:

X1 = 1,因为海浪在翻涌 X2 = 0,因为人群已散去 X3 = 1,因为最近没有发生过鲨鱼袭击事件

现在,我们需要分配一些权重来确定重要性。 较大的权重表示特定变量对决策或结果较为重要。

W1 = 5,因为较大的涌浪不太常出现 W2 = 2,因为您已经习惯了人多 W3 = 4,因为对鲨鱼感到恐惧

最后,我们还假设一个阈值 3,这将转换为偏差值 -3。 所有输入到位后,我们就可以开始将值插入公式,得出期望的输出。

Y-hat = (1*5) + (0*2) + (1*4) – 3 = 6

如果我们从本节开始使用激活函数,那么可以确定此节点的输出为 1,因为 6 大于 0。 在此情况下,您会去冲浪;但如果我们调整权重或阈值,就会从模型中得出不同的结果。 当我们观察一个决策时,比如在上述示例中,我们可以看到,神经网络制定日益复杂决策的方式取决于之前决策或之前层的输出。

在上述示例中,我们使用了感知器来说明一些数学运算,而神经网络则利用 sigmoid 神经元,这些神经元的取值为 0 和 1。 由于神经网络的行为类似于决策树,将数据从一个节点级联到另一个节点,因此 x 值取 0 和 1 将减少单个变量的任何指定更改对任何指定节点输出的影响,并因此减少对神经网络输出的影响。

开始思考神经网络的更实际用例时,比如图像识别或分类,我们将利用监督学习或标记的数据集来训练算法。 在训练模型时,我们将使用成本(或损失)函数来评估其准确性。 这通常也称为均方误差 (MSE)。 在以下方程中:

i 代表样本的索引 y-hat 是预测结果 y 是实际值 m 是样本数

= =1/2 ∑129_(=1)^▒( ̂^(() )−^(() ) )^2

最终,目标是最大程度减小成本函数,确保任何指定观察的正确拟合。 当模型调整其权重和偏差时,它使用成本函数和强化学习来达到收敛点或局部最小值。 算法通过梯度下降调整权重,这使模型可以确定减少错误(或使成本函数最小化)的方向。 在每个训练示例中,模型参数都会进行调整,以逐步收敛至最小值。  

阅读此篇 IBM Developer 文章,其中较为深入地解释了神经网络中涉及的定量概念。

大多数的深度神经网络都是前馈网络,这意味着它们只在一个方向上流动,即从输入到输出。 但是,您也可以通过反向传播训练模型;也就是说,从输出到输入反向移动。 通过反向传播,我们能够计算和归因与每个神经元关联的错误,并相应地调整和拟合模型的参数。



【本文地址】


今日新闻


推荐新闻


CopyRight 2018-2019 办公设备维修网 版权所有 豫ICP备15022753号-3