华人科学家造全球首个存算一体通用AI芯片,类脑计算关键元件再获验证( 四 )

图丨(来源:格罗宁根大学)

卢伟介绍,存算一体架构对于需要处理大量数据的应用场景如 AI 非常有吸引力,理想的存算一体架构能把整个 AI 模型存在芯片上并直接在存储单元上运行。这样可以彻底舍弃外置存储单元如 DRAM,以极大地提高芯片的功耗比和处理量。现有和正在研发的解决方案大概有以下几种:

1. 使用现有的存储技术比如 SRAM,这种方案比较成熟,被很多初创公司和科研机构所采用。但是,由于 SRAM 密度和功耗的限制,它只能用在很小的“玩具模型(toy model)”上。大的模型还需要将参数储存在外置的 DRAM 上,整个系统的功耗比会因此迅速下降。

2. 新型的非易失性存储器(non-volatile memory, NVM)比如 RRAM、STT-MRAM,这个方向同样有很多公司感兴趣。这类嵌入式 NVM 有希望实现整个模型的片上存储,但其局限是,模型的运算还需要通过中央处理器 CPU,并不能彻底解决数据传输比如总线的堵塞问题。

3. 真正意义上的存算一体结构会尽量避免使用 CPU,而通过嵌入的 NVM 直接做运算。其中的困难在于,怎么解决使用存储单元做运算带来的模拟信号的误差问题,以及怎么实现足够精度和高效的模拟/数字信号转换。

推荐阅读