OpenAI解密神经网络黑匣子:AI图像分类原来是张激活地图( 七 )

OpenAI解密神经网络黑匣子:AI图像分类原来是张激活地图

图11/24

现在让我们跳到地图集的另一边,在那里我们可以看到许多不同的文本检测器。当识别诸如“菜单”、“web站点”或“book jacket”之类的类时,这些检测器将非常有用。

OpenAI解密神经网络黑匣子:AI图像分类原来是张激活地图

图12/24

再向上看,可以看到许多不同的人。在ImageNet中很少有专门识别人员的类,但人们会出现在很多图像中。

我们看到人们使用的物品(“锤子”、“笛子”)、人们穿的衣服(“领结”、“邮筒”)以及人们参加的活动(“篮球”)的属性。在这些可视化中,肤色是一致的,我们怀疑这反映了用于训练的数据的分布。

OpenAI解密神经网络黑匣子:AI图像分类原来是张激活地图

推荐阅读