真正的人工智能边缘计算推出高度集成的处理器IP

现在几乎所有高端智能手机的图像处理子系统都集成了神经网络 。语音记录和语音处理专家会争辩说,我们现在所说的人工智能已经在边缘运行了许多年 。

真正的人工智能边缘计算推出高度集成的处理器IP

文章插图
然而,在大多数情况下 , 这些应用使用的SoC和DSP并不是为现代人工智能工作负载而设计的 。随着人工智能技术和部署的发展,出现了一些新的工程挑战:
需要一直运行的超低功耗系统,可以通过电池供电长时间运行 , 为推理提供快速响应时间 。
【真正的人工智能边缘计算推出高度集成的处理器IP】集成的安全要求可以保护机器学习地图不被篡改或窃取 。
需要能够适应人工智能模型和算法快速变化的灵活解决方案
这些趋势增加了寻求服务嵌入式人工智能市场的IP和处理器供应商的风险,目前预计到2024年该市场将达到46亿美元 。这些公司现在正在提供高度集成和专用的计算解决方案,以抢占这一业务的份额 。
切断电源
随着人工智能在助听器的约束下部署在设备中,功耗成为推理平台的首要考虑因素 。EtaCompute已将获得专利的动态电压频率缩放(DVFS)技术集成到其多核SoC中 , 以服务于这些使用案例 。
为了节省功率,许多传统处理器包括睡眠功能,当有负载时唤醒内核 。然而,这些设备中的大多数以峰值速度运行内核,这当然需要额外的功率 。

    推荐阅读