阿里首款AI芯片含光800重磅发布：全球最强AI推理芯片如何练成？( 三 )_上周

含光800性能的突破得益于软硬件的协同创新，芯片架构方面，含光800采用创新的架构，针对深度学习中使用的大量权重参数和张量数据，在支持稀疏压缩与量化处理的基础上，通过独特设计的数据访存与流水线处理技术，大大减低了I/O需求和数据的搬移。NPU同时深度优化了卷积，矩阵乘，向量计算和各种激活函数，通过高有效的硬件资源调度和全并行的数据流处理，把AI运算的性能和能效都推向极致。

其中，性能的提升必须解决内存墙问题。所谓的内存墙，是指采用采用冯诺依曼结构的处理器，存储和运算处理分离，当进行深度神经网络处理时，算力得到了提升，但大量读写运行操作会受到带宽限制，芯片的整体性能提升也同时受到限制。

平头哥的做法是通过自研架构大幅减少对内存的访问，在保证性能的情况下，把芯片功耗降到最低水平。具体而言，含光800会根据神经网络推理运算特征，设计特定的硬件、高速连接的存储结构以及专用指令集，对内存和计算单元实现高效组织管理，实现单条指令完成多个操作，提高计算效率和内存访问效率。