旷视首席科学家孙剑:深度学习变革视觉计算丨CCF-GAIR 2019(12)

会上 , 旷视首席科学家、研究院院长、西安交通大学人工智能学院院长孙剑带来了题为《深度学习变革视觉计算》的精彩分享 。

孙剑从视觉智能、计算机摄影学以及AI计算3个方面介绍了计算机视觉研究领域的变革 。

他首先回顾了深度学习发展历史 , 深度学习发展到今天并不容易 , 过程中遇到了两个主要障碍:

第一 , 深度神经网络能否很好地被训练 。 在深度学习获得成功之前曾被很多人怀疑 , 相比传统的机器学习理论 , 深度学习神经网络的参数要比数据大10倍甚至上百倍;

第二 , 当时的训练过程非常不稳定 , 论文即使给出了神经网络训练方法 , 其他研究者也很难把结果复现出来 。

这些障碍直到2012年才开始慢慢被解除 。

孙剑认为 , 深度学习和传统机器学习最大的差别是 , 随着数据量越来越大 , 使用更大的神经网络就有可能超越人类性能 。

而具体到计算平台上 , 目前包括云、端、芯上的很多硬件上都可以部署智能 , 技术发展趋势是如何自适应地根据计算平台做自动模型设计 。 在这方面 , 旷视提出了Single Path One-Shot NAS的模型搜索新方法 , 它分为两步:

推荐阅读