原创<br> 揭秘NVIDIA加速AI推理的密码，1台T4服务器完胜200台CPU服务器

2019-07-14

科技频道提示您本文原始标题是：揭秘NVIDIA加速AI推理的密码，1台T4服务器完胜200台CPU服务器

每天，数以万计的语音助手、翻译、推荐、视频管理、自动驾驶等各类新兴服务，都在以超快速度完成深度学习推理。

用户会看重AI产品的实时性、高准确度，而对于开发者来说，要考虑到的因素更多，不仅要满足最终用户的需求，还要考虑成本、能效等因素，因而，能满足可编程性、低延迟、高准确度、高吞吐量、易部署的成套AI推理软硬件组合成为开发者的心头好。

而配备NVIDIA TensorRT超大规模推理平台的GPU可以说是学术界和产业界最受欢迎的AI推理组合之一，它们可以带来速度、准确度和快速响应能力的成倍提升。

去年NVIDIA最新发布的Tesla T4 GPU，因其专为推理而生的超高效率、超低功耗，能为开发者节省大笔预算，已成为业界首选AI推理神器。

推荐阅读

上一篇：科学家研制出全新小型机器人

下一篇：营收碾压茅台，千亿“油王”将登陆A股！