易坊好文馆

  1. 首页 > 玩科技 >

反向传播与梯度下降的通俗解释( 七 )

其实射击还不这么简单 ， 如果是远距离狙击 ， 还要考虑空气阻力和风速 ， 在神经网络里 ， 空气阻力和风速可以对应到隐藏层的概念上 。

在这个例子中：

  • 目的：打中靶心；
  • 初始化：随便打一枪 ， 能上靶就行 ， 但是要记住当时的步枪的姿态；
  • 前向计算：让子弹飞一会儿 ， 击中靶子；
  • 损失函数：环数 ， 偏离角度；
  • 反向传播：把靶子拉回来看；
  • 梯度下降：根据本次的偏差 ， 调整步枪的射击角度 ， goto前向计算 。

损失函数的描述是这样的：

  1. 1环 ， 偏左上45度；
  2. 6环 ， 偏左上15度；
  3. 7环 ， 偏左；
  4. 8环 ， 偏左下15度；
  5. 10环 。

这里的损失函数也有两个信息：

  1. 距离；
  2. 方向 。

所以 ， 梯度 ， 是个矢量！它应该即告诉我们方向 ， 又告诉我们数值 。

推荐阅读


上一篇：一起封禁虚拟货币交易！微信支付和支付宝携手究竟是排斥谁？

下一篇：谷歌：这些是2019年最受欢迎的GIF图 太神了