原创<br> 揭秘NVIDIA加速AI推理的密码,1台T4服务器完胜200台CPU服务器( 五 )

2、包含实验特性,首用GDDR6

Turing是首款采用GDDR6显存的GPU架构,最高可提供320GB/s的显存带宽,其存储器接口电路也经过全面重新设计。

相比此前Pascal GPU使用的GDDR5X。Turing的GDDR6将速度提升40%,能效提升20%。

3、专用硬件转码引擎

视频解码正呈现爆炸式增长,在内容推荐、广告植入分析、无人车感知等领域都获得大规模应用。

T4凭借专业的硬件转码引擎,将解码能力提升至上代GPU的两倍,可以解码多达38路全高清视频流,而且能在不损失视频画质的前提下实现快速编码或最低比特率编码。

原创<br> 揭秘NVIDIA加速AI推理的密码,1台T4服务器完胜200台CPU服务器

超大规模推理平台TensorRT

仅有强大硬件还不够,要搭配高适配度的软件工具,才能最大化硬件算力的利用率,为开发者带来更完整和优化的开发体验。

推荐阅读