清华、李飞飞团队等提出强记忆力 E3D-LSTM 网络( 八 )
基于 E3D-LSTM 的半监督辅助学习
在许多监督学习任务，例如视频动作识别中，没有足够的监督信息和标注信息来帮助训练一个令人满意的 RNN，因此可以将视频预测作为一个辅助的表征学习方法，来帮助网络更好的理解视频特征，并提高时间域上的监督性。
具体的，让视频预测和动作识别任务共享相同的主干网络（图 1），只不过损失函数不同，在视频预测任务中，目标函数为：
带上标的 X 表示预测值，不带上标的表示真值，F 表示 Frobenius 归一化。
在动作识别任务中，目标函数为：
其中 Y 和是预测值和帧值，这样通过将预测任务的损失函数嵌入到识别任务中，以及主干网络的共享，能在一定程度上帮助识别任务学习到更多的时序信息。为了保证过渡平滑，额外添加了一个权重因子，会随着迭代次数的增加而线性衰减：
作者将这种方法称为半监督辅助学习。
实验结果
视频预测任务，在 Moving MINIST 数据集上的结果：
推荐阅读
- 剑网3|天上蓬莱飞飞，地上小鬼追追，被剑网三蓬莱毁掉的李渡鬼城好玩么
- 学霸|清华学霸化身霸道总裁，全程带飞御姐方圆，美女直言斗鱼学霸真多
- msi|MSI新人解说登场！清华学霸和美女小姐姐，郎才女貌未来可期！
- 吸尘器|中国科技被低估了！清华学霸自研“超级电机”，小米有品众筹爆卖1500万
- 华为鸿蒙系统|为何华为不将鸿蒙设在清华北大？任正非说了一句话，让人无言以对
- 因“不想写作业”黑掉清华网站的00后黑客，1元买下购物网站，现状如何了？
- 卢伟冰不愧是清华毕业的，写打油诗嘲笑荣耀V30，一个配置用了六年
- 【Pivot捷报】重磅！CMU计算机博士全奖（机器人所）来啦！！！祝贺【清华】的同学
- 世纪悍匪叶继欢：曾10分钟打劫5家金铺，女儿进清华大学洗白
- 清华北大毕业生2019就业去向公布：华为成最大赢家