新思科技Chekib:AI芯片架构创新面临四大挑战( 四 )

通常做卷积运算的第一种方法是直接进行卷积运算,设计一个比较硬核的加速器,这种方式在传统的通信芯片设计里会采用,还有一种方法是采用数学变换的方式,把卷积转化为矩阵,这样可以更加通用地应对不同卷积的尺寸。

新思科技Chekib:AI芯片架构创新面临四大挑战

图3/8

在这几种常见的方法中,我们提到的问题都存在,包括高并发、高耦合,大量的数据引发了高带宽存取、以及数据间的相关耦合性,带来了一个“存储墙”的问题。

在现在的学术界、工业界,“存储墙”都是热点的话题,我们也看到了很多使用试图破解“存储墙”的不同方法。“存储墙”带来的瓶颈是性能跟功耗两方面的。最开始需要通过外存和内存之间交换数据,这一步功耗比较大,第二步是在存储器的数据排序,如何高效地填入到计算单元,这是第二个非常重要的难点。

这个问题我们可以简化抽象成用EU是计算单元,Memory是所有的存储。本质上AI计算的核心问题是“如何更高效地将数据输送给计算单位”,而计算并不重要。

推荐阅读