OpenAI解密神经网络黑匣子：AI图像分类原来是张激活地图( 十 )
突出显示完整地图集的特定类别激活有助于了解该类如何与网络“可以看到”的完整空间相关联。
但是，如果我们想要真正隔离有助于特定类的激活，我们 可以删除所有其他激活。与一般地图集类似，我们在类特定激活向量上运行维数减少5，以便排列类激活图集中显示的特征可视化。
图18/24
类激活图集使我们能够更清楚地了解网络使用哪些检测器对特定类进行排名。 在“呼吸管”示例中，我们可以清楚地看到海洋、水下和彩色面具。
不过，在某些情况下，我们希望看到有很强的相关性(比如鱼和潜水者)。这些激活本身可能比我们感兴趣的类对不同的类有更强的贡献，但是它们的存在也可以对我们感兴趣的类有更大的贡献。
对于这些，我们需要选择一种不同的过滤方法。
推荐阅读
- 原神|原神：鹤观有些解密是真阴间，翻山越岭下水不说，还得穿墙？
- 刺客信条起源|刺客信条起源“塞特阿娜特之墓”古老石板解密攻略
- 睡眠之中|梦中的恐怖之旅：Epic本周送出阴间恐怖解密游戏《睡眠之中》！
- |原神惑饲滩石头解密攻略大全 惑饲滩石头机关解密教程
- 原神|原神：能让你持续玩一年的动力？角色？宝箱？还是解密？
- 梦幻西游|梦幻西游：梦幻第二部限时资料片上线，是纯单人探案解密类玩法
- 预告|明日方舟新官方预告解密 鹰角小姐的饼还是面粉阶段 28日有大动作
- 海岛|原神：1.6版本海岛7个解密任务，总共6华丽宝箱材料和300多原石。
- edg战队|赢了还要被喷太冤枉，EDG比赛BUG详细解密来了，重赛是无奈之举
- RNG|RNG远古龙不斩杀DK选手，这到底是游戏机制还是BUG？详细解密来了