其二 ， 算子深度融合 。
算子是支持AI模型训练与推理的基本运算单元及组合 ， 异构计算架构基本都要有自己的算子库 。 5.0版本重新定制了更灵活的算子融合规则 ， 通过多个算子自动融合提升模型训练效率 。
其三 ， 自适应梯度切分 。
这项技术 ， 是华为针对集群训练提出的智能梯度切分算法 ， 具体针对模型训练中的迭代计算进行了优化 。
CANN 5.0能通过智能梯度切分算法 ， 自动搜索出最优梯度参数切分方式 ， 让计算和通信进一步并行执行 ， 使得通信拖尾时间降至最低、梯度调优时间降低90% 。
其四 ， AutoTune智能计算调优 。
不同的AI模型 ， 如果架构只用一种方式进行计算分配的话 ， 势必会造成不适配的情况 。
因此 ， CANN 5.0研究出了智能数据切分技术 ， 提出最优切分策略 ， 确保每个计算单元被充分利用 ， 平均性能提升30%以上 。
5.0版本也预置了海量模型优化 ， 能极大地缩短开发者的调优时间 。
正是这些技术优势 ， 让华为在AI性能提升上 ， 拥有了更多的底气 。
如何评价昇腾CANN 5.0？
一方面 ， 无论是AI模型、还是硬件层面的架构优化 ， 都是AI技术走向更复杂的“通用化”的一个体现 。
对于AI模型来说 ， 更加通用的模型 ， 并非仅仅是“参数越堆越多”的结果 。
目前的通用AI模型 ， 无论从训练数据、还是架构设计本身来看 ， 技术上都还有许多亟待完善的地方：由数据带来的模型偏见、架构设计的冗余和不可解释性……
显然 ， AI模型面临的这些问题 ， 不可能单纯通过“模型变大”来彻底得到解决 。
对于硬件也是如此 ， 当下AI行业对于算力需求的扩大 ， 同样不可能只通过硬件的堆砌来填补空缺 。
如何在单个硬件算力受限的情况下 ， 充分利用每个硬件的性能 ， 达到算力1+1=2甚至是＞2的效果 ， 是AI行业的每个参与者都必须思考的问题 。
异构计算架构 ， 是高效利用不同硬件算力的解决方案之一 ， 对于它来说 ， 通用化也是同样复杂的一个问题 。
相比于单纯为某一场景、或某一功能而设计的专用异构计算架构 ， 适用于全平台、全场景的“通用型”异构计算架构 ， 从实现到优化上都要复杂得多 。
这里的难度 ， 不仅仅在于实现功能上的通用性 ， 而是在同样场景下 ， 将对AI模型的性能优化做得和专用架构一样好 。
从这个角度来看 ， 不可能存在一个“一劳永逸”的技术解决方案 。
无论是AI模型还是异构计算架构 ， 都必须不断推陈出新、打破自己和行业的固有认知 ， 与时俱进 ， 才可能在变幻莫测的时代浪潮中保持身位 。
推荐阅读
- 代码|GGV纪源资本连投三轮，这家无代码公司想让运营流程变简单
- 建设|这一次，我们用SASE为教育信息化建设保驾护航
- 年轻人|人生缺少的不是运气，而是少了这些高质量订阅号
- 生活|气笑了，这APP的年度报告是在嘲讽我吧
- bug|这款小工具让你的Win10用上“Win11亚克力半透明菜单”
- Samsung|新渲染揭示Galaxy S22 Ultra几乎就是Galaxy Note复刻版
- 硬件|汽车之家年底裁员，员工称多个职能部门已被撤销
- 视点·观察|科技巨头纷纷发力元宇宙：这是否是所有人的未来？
- 硬件|Yukai推Amagami Ham Ham机器人：可模拟宠物咬指尖
- 硬件|闪极140W多口充电器发布：首发399元 支持PD3.1