OpenAI解密神经网络黑匣子:AI图像分类原来是张激活地图( 八 )

图13/24

最后,回到左边,我们可以看到圆形的食物和水果主要是由颜色组成的——我们看到归属于“柠檬”、“橘子”和“无花果”。

OpenAI解密神经网络黑匣子:AI图像分类原来是张激活地图

图14/24

模型在多层次上发展过程

上述工作中,我们主要关注网络的一个层——mixed4c,它位于网络的中间。而卷积网络通常很深,由许多层组成,且逐步构建更强大的抽象。 为了获得整体视图,我们必须研究模型的抽象是如何在多个层次上发展的。

首先,让我们比较来自网络不同区域的三个层,以了解每个层的不同特征——mixed3b、mixed4c和mixed5b。我们将关注每层的有助于“卷心菜”分类的区域。

OpenAI解密神经网络黑匣子:AI图像分类原来是张激活地图

图15/24

推荐阅读