原创<br> 台积电官博力挺摩尔定律,5nm制程工艺将有重大突破( 六 )

当今的高级封装技术能让内存更接近逻辑处理。通常情况下,逻辑内核通过独立的存储器芯片进行反馈,如DDR或GDDR等接口。

存储设备和逻辑内核之间的物理距离会增加延迟,从而限制性能。离散存储器的带宽也会受到限制,因为它们只提供有限的接口宽度。

此外,逻辑分立器和存储器的功耗也决定了设备的整体性能,尤其是在智能手机或loT设备等应用中,因为分立器件辐射热能的能力有限。

像机器学习的训练和推理等其他应用,也正在突破功率、带宽和延迟的界限。

人工智能通常被视为一种计算机问题,但AI有两个不同的方面:训练(机器学习)和推理。

任何AI系统要进行工作都必须先训练神经网络,而训练需要密集的计算操作,例如前馈和后向传播,其中逻辑核心会被馈送大量数据。逻辑内核的馈送速度越快,学习速度就越快,因此带宽在这一步至关重要。

训练神经网络的行为消耗了极大的能量,但通过封装逻辑核心和内存,我们可以大大降低AI训练的功耗,同时增加内存带宽。

推荐阅读