旷视首席科学家孙剑:深度学习变革视觉计算丨CCF-GAIR 2019(24)

随着端上对功耗要求更低、面积体积更小 , 所以需要进一步研究如何把神经网络在芯片上高效运行 。

因此出现了以低比特表示为代表的一系列工作 , 包括DorefaNet(旷视首先提出) , 在低比特运算方面 , 这是第一个提出将权重、激活向量、和梯度都进行低比特化的工作 。

在芯片上 , 比计算最大的问题是内存访问带宽受限 , 需要内存访问量很大程度压下去 , 才可能高效运行 。

这是我们在2017年推出的第一款基于FPGA的智能相机 , 我们把DorefaNet放在智能相机里 。

推荐阅读