算法|麒麟芯片的黑科技:同样的App,在华为手机上就多几种AI能力( 三 )


为开发者打开新世界大门的 HUAWEI HiAI Foundation 是麒麟芯片 AI 计算能力的开放平台 , 其目标是全面开放 NPU 能力 。 它可以自动把开发者手中的 AI 模型轻量化成移动版 , 集成到 APP 上 , 并获得手机芯片异构算力的原生优化加速 。
2017 年 9 月 , 华为发布了首款自带神经网络计算单元 NPU 的移动芯片麒麟 970 。 2018 年 3 月 , HUAWEI HiAI Foundation 随之发布 。 经过几年发展 , HUAWEI HiAI Foundation 已经从仅支持手机扩展到了全场景硬件 , 还可以做到一次开发多端运行 。 计算能力上看 , 则可以协同 NPU/CPU/GPU/DSP 实现异构计算 , 大幅提升了效率 。
在 HUAWEI HiAI Foundation 的最新版本上 , 新增的能力主要有三个方面:提供 AI 模型性能优化快速升级的端云协同;开放为开发者提供更多可选模型结构的 Model Zoo;还有模型量化工具包 , 可以快速压缩 App 中 AI 模型的体积 。

算法|麒麟芯片的黑科技:同样的App,在华为手机上就多几种AI能力
文章图片

经过多代持续打磨 , HUAWEI HiAI Foundation 的兼容性和易用性已经相当成熟 。 人们熟知的鸿蒙 OS 的用户已经超过了 1.5 亿 , 是史上发展最快的终端操作系统 。 而作为麒麟芯片计算能力的开放平台 , HUAWEI HiAI Foundation 的应用范围也是前所未有, 它现在的日调用量高达 600 亿次 。
相比 TensorFlow Lite GPU、Android NN 等端侧 AI 计算生态 , HUAWEI HiAI Foundation 已经成为了业内最流行的 AI 架构 , 而且领先幅度正变得越来越大 。
每天百亿调用量意味着海量的智慧业务正在端侧应用 , 充分发挥了麒麟芯片的 AI 算力 , 为用户带来了前所未有的体验 。 随着 AI 生态的不断演进 , 技术应用的经验也会为未来的改进打下基础 , 助力下一代芯片的研发 。
黑科技:端云协同
仅仅方便开发 , 体验好还不够 。 与高通、联发科等公司提出的工具相比 , 华为的优势在于「端云协同」 。
深度学习算法由很多计算单元组成 , 我们称这些计算单元为算子(Operator , 简称 Op) 。 从广义上讲 , 对任何函数进行某一项操作都可以认为是一个算子 。 在深度学习框架中 , 算子对应层中的计算逻辑 , 例如:卷积层(Convolution Layer)中的卷积算法 , 是一个算子;全连接层(Fully-connected Layer)中的权值求和过程也是一个算子 。

算法|麒麟芯片的黑科技:同样的App,在华为手机上就多几种AI能力
文章图片

对于构建 AI 应用来说 , 算子提升了效率 , 然而大多数手机中的算子库集成于系统中 , 加入新功能要等手机系统几个月一次的更新 , 这是很多 AI 新算法难以落地的原因 。
HUAWEI HiAI Foundation 选择把算子库放到云端 , 当有新开发的算子时 , 只需要对比一下旧的算子库 , 把更新算子下载到手机端里就可以让所有手机支持新技术了 。 这种端云协同的方式既提高了开发者工作效率 , 又扩大了应用范围 , 算子更新的频率可以和 App 更新的速度同步 。

推荐阅读