榜单|问智算时代,谁主沉浮:2021 MLperf全球AI基准测试榜单背后

日前 , 国际权威AI基准测试MLPerf?公布了最新一期榜单 。 在总计40个测试项目中 , 中国智算系统厂商浪潮获得18项性能第一 , 斩获该榜单近半数的冠军 。 那么问题来了 , 该榜单到底代表了什么?浪潮取得该榜单绝对优势的背后又有何深意?

榜单|问智算时代,谁主沉浮:2021 MLperf全球AI基准测试榜单背后
文章图片

权威榜单 , 考验企业软硬兼施实力
提及MLPerf?, 其主要是用于测试 ML(Machine Learning)硬件、软件以及服务的训练和推理性能的公开基准 , 该行业基准测试组织自 2018 年 5 月成立以来 , 得到了亚马逊、百度、Facebook、谷歌、哈佛大学、英特尔、微软和斯坦福大学等支持 , 一直在跟随 AI 的发展步伐持续演进 。
需要说明的是 , 由于该测试的发起和标准制定者以及参与者均是当下AI领域知名的学术研究机构和领先企业 , 所以其测试内容及结果对于AI 下一阶段的算力、应用趋势 , 以及衡量相关企业在AI领域的竞争力均具有相当的指引和参考价值 。
以最新发布的2021 MLperf?全球AI基准测试榜单为例 , 其性能评测基于最新MLPerf?Inference V1.0基准 , 涵盖了图像分类、目标检测、医疗图像分割、自然语言处理、语音转文字和推荐系统6类AI应用场景 , 分为数据中心和边缘两类处理场景 , 每类场景都包含固定任务(Closed)和开放优化(Open)两类性能竞赛 , 共有浪潮、NVIDIA、英特尔、高通、阿里巴巴、戴尔、HPE等17家厂商参与了MLPerf竞赛 。
其中 , 浪潮在固定任务(Closed)的全部33个赛项中获得18个冠军 , 包括数据中心固定任务(Closed)的16个赛项中的11项性能第一和边缘固定任务(Closed)的17个赛项中的7项性能第一 。

榜单|问智算时代,谁主沉浮:2021 MLperf全球AI基准测试榜单背后
文章图片

究其原因 , 我们认为 , 其主要得益于浪潮在AI计算系统创新上卓越的系统设计能力和全栈优化能力 。 例如在硬件层面 , 通过对CPU、GPU硬件性能的精细校准和全面优化 , 使CPU性能、GPU性能、CPU与GPU之间的数据通路均处于最优状态;在软件层面 , 通过对TensorRT的深度优化,结合GPU硬件拓扑对多GPU的轮询调度优化使单卡至多卡性能达到了近似线性扩展 。
以此次获得数据中心固定任务(Closed)11项性能第一、卫冕“性能王”的浪潮AI服务器NF5488A5为例 , 其是业界率先实现8颗高性能GPU液冷散热的超强AI服务器 , 并通过深度优化系统设计,AI计算效能显著提升 , 并确保设备可在高温、高负载环境下稳定运行 。
由此来看 , 浪潮在AI领域的领先性可谓实至名归 , 但更为重要的 , 是其背后彰显出的AI产业发展趋势 。
AI产业化 , 产业AI化 , 智算时代已来
如果说 , 上述2021 MLperf?全球AI基准测试榜单体现出了以浪潮为代表的中国在AI基础算力上的实力 , 那么其背后显现出的是全球 , 乃至中国AI产业化和产业AI化的趋势 。
我们先看所谓的AI产业化 。 其实上述测试的6大应景场景就是基于机器学习的AI产业化的典型表现 。 具体到产品 , 以我们熟悉的智能音箱为例 , 根据Strategy Analytics发布的研究报告显示 , 2020年 , 全球智能音箱的出货量突破了1.5亿部 , 未来市场空间巨大 。
至于产业AI化 , 据麦肯锡发布的《人工智能对全球经济影响的模拟计算》报告显示 , 有一半的受访者至少使用了一项人工智能功能 , 有一半的受访者表示他们的收入因此增加了 。 换言之 , 人工智能技术已经渗透企业的主流业务应用之中 。
而到2030年 , 大约70%的公司至少采用其中一种人工智能技术 , 而不到一半的大公司可能会在其组织内使用全系列的人工智能技术 , 届时人工智能到2030年可能会带来约13万亿美元的额外经济产出 , 每年将全球GDP提升约1.2% 。

榜单|问智算时代,谁主沉浮:2021 MLperf全球AI基准测试榜单背后
文章图片

具体到中国 , 据艾瑞咨询报告显示 , 从2019年到2025年 , 中国人工智能核心产品的规模将保持年复合26.8%的增长率;人工智能相关产业为27.8% , 二者合计到2025年的规模将达到20万亿元左右 。

榜单|问智算时代,谁主沉浮:2021 MLperf全球AI基准测试榜单背后
文章图片

伴随市场规模 , 随之而来的则是包括金融、医疗、教育、无人驾驶、零售、制造等几乎所有产业针对各种应用中的痛点 , 利用人工智能的产业升级 。
以金融行业为例 , 面对成本压力 , 利用语音识别、语义理解等技术打造智能客服 , 可以降低客服成本;面对服务单一 , 利用大数据、人工智能技术开发智能投顾 , 能向更多客户提供个性服务;面对交易欺诈 , 人工智能与大数据相结合构建智能风控体系 , 多维度数据综合评估 , 可以大幅提升风险管控能力 。

榜单|问智算时代,谁主沉浮:2021 MLperf全球AI基准测试榜单背后
文章图片

正是由于上述AI产业化和产业AI化相互融合和发展的趋势 , 基于单一CPU及架构组成的传统数据中心已经不能满足AI产业化对于算力和应用的需求 , 取而代之的将是以异构及全新生态构成的智算中心 , 并成为产业从传统的计算时代迈向智算时代的重要标志 。
硬核+生态应挑战 , 智算中心的决胜之道
“人工智能计算需求未来将占据80%以上的计算需求 , 承载这种需求的就是AI算力中心 , 即智算中心 。 ”针对上述AI产业化和产业AI化的趋势 , 浪潮集团执行总裁、首席科学家王恩东院士早在去年就提出了智算中心这一代表AI时代新的计算模式 。 此后 , 该概念成为业内和产业的共识 , 而智算时代下 , 智算中心的新竞争赛道也就此正式开启 。
不过 , 伴随智算中心竞争的加剧 , 挑战也迎面而来 , 并主要体现在多元化、巨量化和生态化三个方面 。 那么接下来的是 , 谁能直面上述的挑战 , 谁就能力主沉浮 , 脱颖而出 。
其实在我们看来 , 所谓多元化和巨量化挑战的根本就在于如何充分发挥算力的效率 , 加速AI的产业化应用 。 这就需要计算技术与产业构建一个新的发展格局 。
以浪潮为例 , 在体系结构方面 , 浪潮在2014年提出了融合架构以及三步走技术路线 , 指明了数据中心体系结构的发展方向 。 目前已经从1.0走到2.0 , 以IO方式实现了存储资源和FPGA、GPU、xPU加速设备池化 , 正逐步进入3.0阶段 , 提供更高效、灵活、智能的体系架构 。 基于融合架构 , 浪潮正从硬件重构、软件定义方面引领智算技术体系 , 支撑AI创新应用 。
此处需要补充说明的是 , 在智算硬件平台上 , 浪潮已经处在产业中绝对领先的位置 。
其中的CPU服务器自不必多说 , 稳稳的中国市场第一和全球市场第三 , 在以GPU为代表的AI服务器方面 , 据IDC发布的2020HI《全球人工智能市场半年度追踪报告》显示 , 按市场规模计 , 其中浪潮以16.4%的市占率位居全球第一 , 是名副其实的全球AI服务器头号玩家 。

榜单|问智算时代,谁主沉浮:2021 MLperf全球AI基准测试榜单背后
文章图片

更让我们吃惊的是 , 在AI加速服务器(非GPU服务器)市场 , 同样是IDC的统计 , 去年浪潮在该市场按规模计 , 市场份额高达55% , 领先排名第二竟达1倍多 。

榜单|问智算时代,谁主沉浮:2021 MLperf全球AI基准测试榜单背后
文章图片

众所周知 , 智算时代 , 作为智算的基础 , AI服务器成为一切逻辑运转的根本 。 而浪潮领先的多样化的AI计算平台底座(异构计算的硬核实力) , 无疑为其在应对多元化和巨量化挑战方面进一步夯实了竞争力 , 大幅提升了竞争的门槛 。
就像我们前述 , 除了多元化和巨量化 , 生态化也是相关企业在智算中心亟待面对的挑战 。
众所周知 , 智算时代 , 新兴IT企业已经积累了大量优质的算法框架、模型和数据 , 这些优质的AI技术正是产业AI化过程中行业用户所需要的 , 而这些同时也是为这些用户服务的传统合作伙伴所欠缺的 , 这就是所谓生态化的挑战 。
虽然说目前在智算中心的竞争中大家都在提生态 , 甚至不乏的有的企业提出“高大上”的目标 , 但在我们看来 , 惟有对症下药才能药到病除 。
我们还是以浪潮为例 , 针对上述生态化的挑战 , 浪潮务实性地提出了元脑生态计划 , 即联合具备 AI 开发核心能力的左手伙伴和具备行业整体方案交付能力的右手伙伴共同组成 , 聚合了AI最强算力平台、最优质的算法模型开发能力和最优质的集成、部署和服务能力 , 支撑和加速各行业、各产业与人工智能的融合 , 让各个行业、各个产业具备可感知、自学习、可进化的能力 , 最终帮助用户完成业务智能转型升级 , 以生态之力成就行业、产业AI大脑 。

榜单|问智算时代,谁主沉浮:2021 MLperf全球AI基准测试榜单背后
文章图片

截止到目前 , 元脑生态已经发展了1.5万多的合作伙伴 , 包括2200多个行业ISV , 超过90%的方案百强企业 。 在人工智能百强企业当中有85%都与浪潮有着深度的合作 , 这里面不仅包括BAT等互联网头部企业 , 也包括第四范式、寒武纪等AI的企业 。 可以说 , 在事关智算产业发展最为重要的生态战中 , 浪潮也同样走在了竞争的前列 。
【榜单|问智算时代,谁主沉浮:2021 MLperf全球AI基准测试榜单背后】总结:一花独放不是春 , 百花齐放春满园 。 从产业竞争的角度 , 适应AI产业发展趋势和特点的开放硬核和生态理应成为主流 , 其综合实力决定着谁会是最终的赢家;从国家数字经济基础设施的战略角度 , 智算中心在建设和竞争的过程中 , 一定秉承开放标准、集约高效、普适普适的原则以及公共属性 , 只有这样 , 中国的智算产业才能在竞争中健康有序地发展 , 才能真正成为推动中国数字化经济转型的基础设施之石 。

    推荐阅读