OpenAI解密神经网络黑匣子：AI图像分类原来是张激活地图

2019-03-09

图1/24

新智元报道

编辑：三石

【新智元导读】Google和OpenAI联合发布了Activation Atlas(激活地图)，终于将神经网络图像分类的“黑匣子”用可视化的方式表示出来了！AI的世界真是神奇！

AI眼中的世界就是激活地图(Activation Atlases)。

近日，谷歌与OpenAI共同创建了Activation Atlases，这是一种可视化神经元之间相互作用的新技术。通过使用特征反演(feature inversion)来可视化一个图像分类网络中数以百万计的激活。

换言之，神经网络图像分类的黑匣子终于被打开了。这将有助于研究人员更好的理解AI系统在内部决策的过程。

Activation Atalas：神经网络隐藏层可以表示什么

我们先来看下以往的工作的一些缺陷：

推荐阅读

上一篇：华为nova 4e配置参数曝光前置3200万像素+6.15寸水滴屏

下一篇：原创<br> 三星公布新机S10系列战报很是罕见！旗舰机在国内终于有起色了