旷视首席科学家孙剑：深度学习变革视觉计算丨CCF-GAIR 2019(27)
第一步是训练一个SuperNet ， 这是一个超大的网络 ， 任何子网络是我们想搜索的网络 。 我们先训SuperNet所有的权重；
第二步是做对SuperNet采样其中的子网络 ， 好处是这一步不需要训练 ， 非常高效 ， 训练时间是正常训练时间的1.5-2倍 ， 可以得到非常好的效果 。 目前在多个测试集上得到了最好效果 。
我们的方法不但可以做图像分类 ， 也可以做物体检测 。
我们的方法还可以用来做模型简化（Pruning） ， 同样可以用SuperNet的方法 ， 先训一个PruningNet ， 它相当于一个SuperNet ， 由PruningNet生成很多子网络 ， 得到很多很好的Pruning的效果 。
推荐阅读
- 暴雪|《暗黑破坏神：不朽》首席制作人跑路！网易要和暴雪割席了？
- lpl|梦幻西游：被出其和龙游加持的剑荡四方有多强？能当五庄的首席
- 奥拉夫|战神4首席关卡设计师官宣入职米哈游！米哈游要下血本做3A了？
- ea|《哈利波特：魔法觉醒》分享下自己的上首席艾薇三书思路
- 梦幻西游|梦幻西游：2020区出1?3技能超级鬼将，土豪30万游戏币收首席票！
- 暗黑破坏神4|继续动荡! 《暗黑破坏神4》总监和首席设计师遭解雇
- 梦幻西游|梦幻西游：这就是别人家的门派，魔王寨的大佬每分25W收首席投票
- 魔兽世界怀旧服|魔兽怀旧服：曾经猎人SW毕业，只见过“梦想”一次，被首席拿走了
- 北美|退钱！LOL首席冤大头诞生，花1660W美金被日本队干碎还遭嘲讽
- 梦幻西游|梦幻西游：173级打图唐的梦！喜炸千伤不磨扇，店小二首席弟子！