阿里含光800单芯片性能测试,四项世界第一( 二 )

\n

image/sec , 是第二名Google TPU v3的2.11倍 。 Google TPU v3.8用了4颗芯片 , 因此论单芯片性能 , 含光800是TPU v3的8.5倍 。

\n

2、服务模式:是第二名Google

\n

TPU v3的2.82倍

\n

服务模式 , 主要用来测评芯片系统单张图片的吞吐量 , 含光800的成绩是45169.48 image/sec , 是第二名Google TPU v3.8的2.82倍 。

\n

3、多路模式:是第二名的Habana

\n

Goya的3.84倍

\n

多路模式 , 则是评估芯片系统所能支撑的视频流的最大路数 。 这里的视频流 , 定义为20帧/sec 。 在多路模式测试中 , 含光800最大可同时处理2692路视频流 , 是第二名的Habana Goya的3.84倍 。

\n

4、单路模式:比第二名Habana的Goya快1.41倍

\n

单路模式测试 , 是用于评估芯片系统的单张图片请求吞吐量 。 它强调单图片的推理场景下 , 芯片的最小反应延迟 , 反应越快越“聪明” , 数值越小越优秀 。 这项测试中 , 含光800的成绩 , 是0.17毫秒 。 比第二名Habana的Goya快1.41倍 。

推荐阅读