图灵奖得主,带你详解深度学习(16)

图14/33

我们要做的是用这些图像训练神经网络,去调整好那11935个参数。我们可以用其中3万个图像训练,用剩下3万个图像检验训练效果。

这个训练调整参数的方法,就是“误差反向传播”。比如我们输入一个数字“7”的图像。

图15/33

神经网络实际收到的是784个像素值。经过两层神经元的传播计算,理想情况下,输出层的7号神经元的输出值应该最接近于1,其他的都很接近于0。

一开始结果并不是这么准确,我们要用一套特定的规则去调整各个神经元的参数。

参数调整有个方向,叫做“误差梯度”。

比如对输出层的7号神经元来说,调整方向就是要让它的输出值变大;对其他9个神经元,调整方向则是让输出值变小。

这个调整策略是看哪个输入信息对结果的影响大,对它的权重的调整就要大一点。

几万个训练图像可能会被反复使用多次,神经网络参数不断修改,最终将会达到稳定。

推荐阅读