反向传播与梯度下降的通俗解释

反向传播与梯度下降的通俗解释

----反向传播与梯度下降的通俗解释//---- http://

反向传播与梯度下降的通俗解释


第2章 神经网络中的三个基本概念

2.0 通俗地理解三大概念

这三大概念是:反向传播 , 梯度下降 , 损失函数 。

神经网络训练的最基本的思想就是:先“猜”一个结果 , 我们叫预测结果a , 看看这个预测结果和事先标记好的训练集中的真实结果y之间的差距 , 然后调整策略 , 再试一次 , 这一次就不是“猜”了 , 而是有依据地向正确的方向靠近 。 如此反复多次 , 一直到预测结果和真实结果之间相差无几 , 亦即|a-y|->0 , 就结束训练 。

推荐阅读