易坊好文馆

  1. 首页 > 玩科技 >

算法|麒麟芯片的黑科技：同样的App，在华为手机上就多几种AI能力( 三 )

华为 麒麟 科技 芯片 手机 应用 视频 app 算法 分辨率 模型 异构 算子


为开发者打开新世界大门的 HUAWEI HiAI Foundation 是麒麟芯片 AI 计算能力的开放平台 ， 其目标是全面开放 NPU 能力 。 它可以自动把开发者手中的 AI 模型轻量化成移动版 ， 集成到 APP 上 ， 并获得手机芯片异构算力的原生优化加速 。
2017 年 9 月 ， 华为发布了首款自带神经网络计算单元 NPU 的移动芯片麒麟 970 。 2018 年 3 月 ， HUAWEI HiAI Foundation 随之发布 。 经过几年发展 ， HUAWEI HiAI Foundation 已经从仅支持手机扩展到了全场景硬件 ， 还可以做到一次开发多端运行 。 计算能力上看 ， 则可以协同 NPU/CPU/GPU/DSP 实现异构计算 ， 大幅提升了效率 。
在 HUAWEI HiAI Foundation 的最新版本上 ， 新增的能力主要有三个方面：提供 AI 模型性能优化快速升级的端云协同；开放为开发者提供更多可选模型结构的 Model Zoo；还有模型量化工具包 ， 可以快速压缩 App 中 AI 模型的体积 。

算法|麒麟芯片的黑科技：同样的App，在华为手机上就多几种AI能力
文章图片

经过多代持续打磨 ， HUAWEI HiAI Foundation 的兼容性和易用性已经相当成熟 。 人们熟知的鸿蒙 OS 的用户已经超过了 1.5 亿 ， 是史上发展最快的终端操作系统 。 而作为麒麟芯片计算能力的开放平台 ， HUAWEI HiAI Foundation 的应用范围也是前所未有， 它现在的日调用量高达 600 亿次 。
相比 TensorFlow Lite GPU、Android NN 等端侧 AI 计算生态 ， HUAWEI HiAI Foundation 已经成为了业内最流行的 AI 架构 ， 而且领先幅度正变得越来越大 。
每天百亿调用量意味着海量的智慧业务正在端侧应用 ， 充分发挥了麒麟芯片的 AI 算力 ， 为用户带来了前所未有的体验 。 随着 AI 生态的不断演进 ， 技术应用的经验也会为未来的改进打下基础 ， 助力下一代芯片的研发 。
黑科技：端云协同
仅仅方便开发 ， 体验好还不够 。 与高通、联发科等公司提出的工具相比 ， 华为的优势在于「端云协同」 。
深度学习算法由很多计算单元组成 ， 我们称这些计算单元为算子（Operator ， 简称 Op） 。 从广义上讲 ， 对任何函数进行某一项操作都可以认为是一个算子 。 在深度学习框架中 ， 算子对应层中的计算逻辑 ， 例如：卷积层（Convolution Layer）中的卷积算法 ， 是一个算子；全连接层（Fully-connected Layer）中的权值求和过程也是一个算子 。

算法|麒麟芯片的黑科技：同样的App，在华为手机上就多几种AI能力
文章图片

对于构建 AI 应用来说 ， 算子提升了效率 ， 然而大多数手机中的算子库集成于系统中 ， 加入新功能要等手机系统几个月一次的更新 ， 这是很多 AI 新算法难以落地的原因 。
HUAWEI HiAI Foundation 选择把算子库放到云端 ， 当有新开发的算子时 ， 只需要对比一下旧的算子库 ， 把更新算子下载到手机端里就可以让所有手机支持新技术了 。 这种端云协同的方式既提高了开发者工作效率 ， 又扩大了应用范围 ， 算子更新的频率可以和 App 更新的速度同步 。

推荐阅读


上一篇：最新消息|恒生科技指数历经10个月时间几乎腰斩 互联网科技股重挫

下一篇：数据|爱玩QQ的年轻人，对通讯已“毫无兴趣”？