OpenAI解密神经网络黑匣子：AI图像分类原来是张激活地图( 九 )
当在网络中移动时，后面的层似乎变得更加具体和复杂。
因为每个层都在前一层的激活之上构建其激活。后一层的接受域也往往比前一层更大(这意味着图像的子集更大)，因此概念似乎包含了更多的整体对象。
还有另一个值得注意的现象：不仅概念正在被提炼，而且新概念正在从旧概念的组合中出现。
图16/24
最后，如果我们缩小一点，我们可以看到更宽的激活空间的形状是如何从一层到另一层变化的。通过在几个连续的层中观察相似的区域，我们可以看到概念得到细化和区分——在mixed4a中，我们看到非常模糊的通用blob，通过mixed4e将其细化为更加具体的“半岛”。
图17/24
激活地图中，类的边界是导致神经网络容易“误认”主要原因
推荐阅读
- 原神|原神：鹤观有些解密是真阴间，翻山越岭下水不说，还得穿墙？
- 刺客信条起源|刺客信条起源“塞特阿娜特之墓”古老石板解密攻略
- 睡眠之中|梦中的恐怖之旅：Epic本周送出阴间恐怖解密游戏《睡眠之中》！
- |原神惑饲滩石头解密攻略大全 惑饲滩石头机关解密教程
- 原神|原神：能让你持续玩一年的动力？角色？宝箱？还是解密？
- 梦幻西游|梦幻西游：梦幻第二部限时资料片上线，是纯单人探案解密类玩法
- 预告|明日方舟新官方预告解密 鹰角小姐的饼还是面粉阶段 28日有大动作
- 海岛|原神：1.6版本海岛7个解密任务，总共6华丽宝箱材料和300多原石。
- edg战队|赢了还要被喷太冤枉，EDG比赛BUG详细解密来了，重赛是无奈之举
- RNG|RNG远古龙不斩杀DK选手，这到底是游戏机制还是BUG？详细解密来了