OpenAI解密神经网络黑匣子:AI图像分类原来是张激活地图( 五 )

图6/24

mixed4c层,应用到InceptionV1,从左至右:20x20,40x40,80x80,160x160。

这幅地图集乍一看可能有点让人不知所措,这种多样性反映了模型开发的各种抽象和概念。

如果我们看一下地图集的左上方,我们会看到看起来像动物头部的东西。

不同种类的动物之间有一些区别,但似乎更多的是一些普通哺乳动物的元素——眼睛、皮毛、鼻子——而不是不同种类动物的集合。

OpenAI解密神经网络黑匣子:AI图像分类原来是张激活地图

图7/24

随着我们向下移动,我们开始看到不同类型的毛皮和四足动物的背部。

OpenAI解密神经网络黑匣子:AI图像分类原来是张激活地图

图8/24

在此之下,我们发现不同的动物腿和脚在不同的地面上休息。

推荐阅读