反向传播与梯度下降的通俗解释( 五 )
图2-2 打靶的弹着点记录
在有监督的学习中 , 需要衡量神经网络输出和所预期的输出之间的差异大小 。 这种误差函数需要能够反映出当前网络输出和实际结果之间一种量化之后的不一致程度 , 也就是说函数值越大 , 反映出模型预测的结果越不准确 。
这个例子中 , 小明预期的目标是全部命中靶子的中心 , 最外圈是1分 , 之后越向靶子中心分数是2 , 3 , 4分 , 正中靶心可以得10分 。
- 每次试枪弹着点和靶心之间的差距就叫做误差 , 可以用一个误差函数来表示 , 比如差距的绝对值 , 如图中的红色线 。
- 一共试枪5次 , 就是迭代/训练了5次的过程 。
- 每次试枪后 , 把靶子拉回来看弹着点 , 然后调整下一次的射击角度的过程 , 叫做反向传播 。 注意 , 把靶子拉回来看和跑到靶子前面去看有本质的区别 , 后者容易有生命危险 , 因为还有别的射击者 。 一个不恰当的比喻是 , 在数学概念中 , 人跑到靶子前面去看 , 叫做正向微分;把靶子拉回来看 , 叫做反向微分 。
推荐阅读
- LGD|LOL:SN又差点翻车?NEST焕峰烬重现世界名画高地反向架狙!
- csgo|Major大赛:大菠萝胸口贴队标反向毒奶,网友:这届Major实在太白了
- 传奇|王者荣耀:S25战士梯度排行,铠皇依旧强势,橘子成功崛起
- 绝地求生|阿伟第二套联名皮肤曝光,反向一箭标志,致敬LOL生涯名场面
- 疯狂之源|对抗路梯度变化,狂铁T3,杨戬T2,铠T1,难度最低的他登顶T0
- 教练|这一波叫做反向冲分!Hero再次被零封,真准备俯冲B组了吗?
- icon|LNG选手反向爆破LPL观众?冷少私下开喷,mlxg后又出一位“贵族”
- gala|猫神被喷到申请退役,反向大招抵消冠军荣誉,被质疑害了三支队伍
- ttg|KPL第二轮战队梯度排行:E星,狼队与TTG三家争霸,AG陷入迷茫!
- ag战队|AG首战差点被零封,猫神离谱反向大招,一诺老夫子打出9.2输出