摩尔定律终结了吗?大规模集成电路的后摩尔时代怎么发展?( 二 )

摩尔定律的终结给我们带来了很多启示 。 首先 , 既然晶体管的数量无法增长 , 那么我们需要关心的问题就是如何更高效地利用芯片上有限的晶体管 。 专用硬件构建模块被认为是主要的解决方案 , 例如谷歌的TPU、Volta的Tensor Cores等 。 除此以外 , 我们可以对层次存储中的数据移动进行更多更明确的控制 。 当然 , 我们还可以使用非冯·诺伊曼(Nonvon Neumann)的体系结构 。 然而 , 硬件体系结构的变化将使得高性能软件的开发工作比以往更加困难 。 因此 , 一个很有潜力的研究方向是通过编译器有效利用这些日益复杂的定制架构 。 如此一来 , 我们将发挥出不同类型架构的特性 , 获得软件高性能的同时 , 提高应用程序设计与实现的高生产率和可移植性 。

目前编译器最大的挑战在于优化数据移动(data movement) 。 硬件的浮点计算能力已经十分充足 , 而数据移动的时间开销和能耗开销却占比巨大 。 因此 , 如何为数据移动建模并进行优化 , 已然成为一个巨大的难题 。 不同于算法的计算复杂度 , 许多算法的数据移动复杂度是未知的 。

推荐阅读