图灵奖得主,带你详解深度学习(14)

再比如说,写“0”的时候的中间是空的,那么对应正方形中间的那些像素点的数值应该是0。

然而,这种人为找规律的思路非常不可行。

首先你很难想到所有的规则,更重要的是很多规则都是模糊的——比如,7的左下角空白,那这个空白区域应该有多大呢?不同人的写法肯定不一样。

肯定有规律,可我们说不清都是什么规律,这种问题特别适合神经网络学习。

2.设定

我们要用的方法叫做“误差反向传播网络”,它最早起源于1986年发表在《自然》杂志上的一篇论文,这篇论文的被引用次数已经超过了4万次,是深度学习的里程碑。

根据尼尔森的教程,我们建一个三层的神经网络,就是下面这张图。

图灵奖得主,带你详解深度学习

图13/33

第一层是输入数据,图中只画了8个点,但其实上有784个数据点。

推荐阅读