如何提取网络架构的先验知识?为它画幅素描吧!( 七 )

未来的研究方向

简洁地概括网络的操作似乎和模型可解释性有着密切的联系,所以进一步探究「速写」相关的思想能否被应用在模型可解释性领域是一个有趣的方向。我们的「速写」也可以被组织成一个「知识图谱」(knowledge graph),使模式可以被快速识别和检索。此外,我们的「速写」机制允许无缝地向「速写」库中添加新的模块,所以探究这种特性在神经网络架构搜索(architecture search)和网络拓扑演进中的应用也是一个有趣的想法。最后,「速写」可以认为是组织记忆中之前遇到信息的一种方式(例如,共享相同模块或属性的图像,它们的「速写」也会共享相同的子模块)。高屋建瓴地说,这和人类使用先验信息来识别物体并且泛化到未曾遇到的情境中的过程非常相似。

本文为机器之心编译,转载请联系本公众号获得授权。

------------------------------------------------

推荐阅读