清华、李飞飞团队等提出强记忆力 E3D-LSTM 网络( 七 )
的连续帧序列,因此现在每个单元时间步都对应一段视频,而不是单帧视频。
2、针对帧序列数据额外添加了一个召回门(recall gate)以及相关结构,用于实现长时依赖学习,也就是自注意力机制。这部分对应网络名称中的 Eidetic。
3、由于输入数据变成了四维张量,因此在更新公式中采用 3D 卷积操作而不是 2D 卷积。
大部分门结构的更新公式和 ST-LSTM 相同,额外添加了召回门更新公式:
图10/18
图11/18
上面介绍的机制用于同一层不同时间步连接,作者将这种机制也用在了不同层同一时间步的连接,但效果并不好,这是因为不同层在同一时刻学习到的信息并没有太好的依赖性。
推荐阅读
- 剑网3|天上蓬莱飞飞,地上小鬼追追,被剑网三蓬莱毁掉的李渡鬼城好玩么
- 学霸|清华学霸化身霸道总裁,全程带飞御姐方圆,美女直言斗鱼学霸真多
- msi|MSI新人解说登场!清华学霸和美女小姐姐,郎才女貌未来可期!
- 吸尘器|中国科技被低估了!清华学霸自研“超级电机”,小米有品众筹爆卖1500万
- 华为鸿蒙系统|为何华为不将鸿蒙设在清华北大?任正非说了一句话,让人无言以对
- 因“不想写作业”黑掉清华网站的00后黑客,1元买下购物网站,现状如何了?
- 卢伟冰不愧是清华毕业的,写打油诗嘲笑荣耀V30,一个配置用了六年
- 【Pivot捷报】重磅!CMU计算机博士全奖(机器人所)来啦!!!祝贺【清华】的同学
- 世纪悍匪叶继欢:曾10分钟打劫5家金铺,女儿进清华大学洗白
- 清华北大毕业生2019就业去向公布:华为成最大赢家