神经网络是如何识别图片的？终于搞懂神经元是怎么工作的了

上一篇文章数据是如何输入到神经网络的我们讲到了计算机并不能直接理解图片、声音和文字而是需要先把这些数据转换成数字然后再输入到神经网络中。例如一张64×64像素的彩色图片可以转换成12288个数字。这些数字进入神经网络之后就会经过输入层、隐藏层最后由输出层给出预测结果。那么问题来了神经网络接收到这么多数字之后究竟是怎么知道图片里面是什么东西的难道它真的能看懂图片吗其实并没有那么神奇。神经网络内部做的事情说白了就是一系列数学计算。只不过它能够通过大量的数据学习逐渐找到数据中隐藏的规律。今天我们就从最基础的神经元开始把这个过程弄明白。一、什么是神经元在介绍神经网络之前我们先认识一个非常重要的东西神经元Neuron。你可以把神经元理解成一个小型的计算器它有多个数据输入口接收到数字之后会按照一定的规则进行计算然后输出一个新的数字。例如我们有三个数字235现在把这三个数字交给一个神经元神经元就可以对它们进行计算最终得到一个结果。当然真实的神经元并不是简单地把数字加起来它还会涉及几个重要的概念权重Weight偏置Bias激活函数Activation Function这三个东西就是理解神经网络计算过程的关键。最近在补 AI 方面的基础踩了不少坑。很多课程一上来就是公式和代码对非科班的人不太友好。后来找到一个网站 人工智能深度学习网站 讲深度学习居然是从为什么猫能认出主人这种问题讲起的一路能看懂 Transformer 在干嘛。分享给同样想入门但被劝退过的朋友。二、什么是权重为什么每个数字都不一样我们先来看权重。假设现在有三个数字输入到神经元中第一个数字2第二个数字3第三个数字5神经元接收到这些数字之后并不会直接把它们相加而是会给每个数字分配一个权重。例如输入数字对应权重20.530.850.2接下来每个输入数字都要乘以对应的权重2 × 0.5 13 × 0.8 2.45 × 0.2 1最后把它们加起来1 2.4 1 4.4这样就得到了一个计算结果。你可能会问为什么要给每个数字设置不同的权重呢其实权重就像是一个重要程度的调节器。权重越大说明这个输入数字对当前神经元计算结果的影响越大权重越小影响就越小。举个生活中的例子。假设我们想判断一个人今天是否适合跑步需要考虑三个因素天气情况身体状态是否有时间这三个因素的重要程度显然不一样。如果今天身体不舒服那么身体状态就应该占据更大的比重。神经网络中的权重也可以这样理解它决定了不同输入数据在计算过程中所占的比重。不过要注意权重并不是程序员提前给每个输入指定好的而是神经网络在训练过程中通过大量样本逐渐学习出来的。三、什么是偏置为什么还需要它刚才我们已经知道神经元会把每个输入数字乘以对应的权重然后将结果相加。但这还不是全部。神经元通常还会额外加上一个数字这个数字就叫做偏置Bias。我们继续使用上面的例子。刚才计算得到的结果是1 2.4 1 4.4假设这个神经元的偏置为-2那么最终计算结果就是4.4 - 2 2.4为什么要多加一个偏置呢你可以把偏置理解成一个额外的调节参数。权重负责调整每个输入数字的影响程度而偏置则可以调整神经元最终计算结果的整体大小。如果没有偏置神经元的计算就会受到一些不必要的限制。所以权重和偏置配合起来可以让神经网络拥有更大的调整空间。到这里我们已经可以总结出神经元的基本计算方式输入数字 × 权重然后全部相加最后加上偏置。用数学公式表示就是z w₁x₁ w₂x₂ w₃x₃ b这里x输入的数据w每个输入对应的权重b偏置z计算得到的结果如果输入数据有12288个那么公式中就会有12288个输入和对应的权重。是不是一下子就明白了其实神经元并没有想象中那么复杂。四、什么是激活函数它到底有什么用现在我们已经知道一个神经元可以通过权重和偏置计算出一个结果。但是还有一个问题。如果神经元只是不断地进行乘法和加法那么无论网络有多少层整体计算仍然可以合并成一次线性计算。这样一来增加再多的神经网络层数也无法有效学习复杂的非线性关系。因此神经网络还需要一个非常重要的东西激活函数Activation Function。激活函数可以理解成神经元计算完成之后的一道处理程序。它会根据计算结果按照特定的规则转换成新的输出。例如我们常见的一种激活函数叫做ReLU。它的规则非常简单如果输入结果小于0就输出0。如果输入结果大于0就保持原来的数值。例如输入结果ReLU输出-30-10002255是不是很容易理解如果一个神经元计算出来的结果是-3经过ReLU处理之后就变成了0。如果计算结果是5那么输出仍然是5。当然激活函数不只有ReLU还有Sigmoid、Tanh等不同类型它们有各自的特点和使用场景。这里我们暂时不深入研究先记住一点激活函数能够让神经网络学习更加复杂的规律这是神经网络非常重要的组成部分。五、多个神经元组合起来就形成了神经网络现在我们已经认识了神经元也知道了权重、偏置和激活函数。那么一个神经网络究竟是怎么组成的呢其实非常简单。一个神经网络就是由大量神经元连接起来形成的网络。前面我们提到过神经网络一般可以分成三个部分输入层隐藏层输出层输入层负责接收数据隐藏层负责计算输出层负责给出最终结果。假设我们现在要识别一张图片里面是不是一只猫。首先图片经过处理之后变成数字数据进入输入层。然后这些数字被传递到第一层隐藏层。这一层中的每个神经元都会根据自己的权重和偏置进行计算再通过激活函数得到输出结果。接下来这些输出结果又会传递到下一层隐藏层继续进行计算。如此反复直到数据到达输出层。最后输出层可能给出这样的结果识别类别预测结果猫95%狗3%其他2%神经网络根据计算结果认为这张图片最有可能是一只猫。当然这里只是为了方便理解而举的例子真实的图像识别模型可能拥有更多层、更多神经元以及更加复杂的计算结构。六、神经网络是如何学会这些权重的讲到这里可能又有朋友产生疑问了。前面我们一直在说权重和偏置那么这些数字究竟是从哪里来的难道程序员需要提前把所有权重都设置好吗当然不是。如果所有权重都需要人工设置那么神经网络也就没有那么大的价值了。实际上神经网络最厉害的地方就在于它能够通过训练数据自动学习这些参数。我们还是以识别猫的图片为例。假设现在给神经网络准备了10000张图片其中有猫的图片也有狗的图片。在训练开始之前神经网络中的权重通常会使用随机数进行初始化。第一次识别图片时由于它还没有学会相关规律所以预测结果可能完全不准确。例如我们给它一张猫的图片它却认为这是一只狗。这时候怎么办我们可以把正确答案告诉它然后将它的预测结果与正确答案进行比较计算出预测误差。接下来神经网络会利用反向传播Backpropagation计算各个参数应该如何调整再通过优化算法例如梯度下降更新权重和偏置。调整之后再拿新的图片进行预测。如果预测结果仍然不准确就继续调整。经过大量样本的反复训练神经网络中的权重和偏置会逐渐发生变化模型也就能够学习到越来越有用的特征和规律。这个过程就叫做训练Training。这里大家可以记住一个非常重要的区别训练就是让神经网络学习参数预测就是使用已经学好的参数处理新的数据。我们平时使用AI识别图片、识别语音大多数时候实际上是在使用一个已经训练好的模型进行预测。七、总结今天我们从神经元开始一步步了解了神经网络内部是如何工作的。简单总结一下神经元负责接收数字并进行计算。权重决定不同输入数据对计算结果的影响程度。偏置可以进一步调整神经元的计算结果。激活函数让神经网络能够学习更加复杂的规律。多个神经元连接起来就形成了神经网络。通过训练神经网络能够自动调整权重和偏置逐渐提高预测能力。现在回过头来看我们就能理解为什么神经网络可以识别图片了。它并不是像人一样真正看懂了一张图片而是通过大量训练数据不断调整内部参数最终学会了图片中不同数字特征与识别结果之间的关系。不过这里还有一个值得继续研究的问题神经网络第一次猜错时它怎么知道自己错了多少比如同一张猫的照片AI 两次都把它认成了狗但第一次给「猫」的概率是 20%第二次是 45%。两次都错为什么说第二次更好下一篇 《 AI两次都把猫认成了狗为什么第二次更好一文看懂准确率和损失函数 》我们就用这只猫聊聊准确率和损失函数看看怎么给神经网络的预测打分。等弄清楚这个分数是怎么算出来的我们再来讲反向传播和梯度下降看看模型是怎么一步步调整权重的。