原创<br> 揭秘NVIDIA加速AI推理的密码,1台T4服务器完胜200台CPU服务器( 三 )
每天由第三方商家上传到京东POP平台的视频数据不计其数,京东必须确保上传的信息安全无害。
以前,要审核1000路的视频流,京东必须在云端部署1000枚CPU,而使用NVIDIA AI推理平台后,吞吐量提升20倍,速度比CPU快40倍,1台配备4个Tesla P40的服务器能代替超过约50台CPU服务器。
T4作为NVIDIA专为加速AI推理打造的GPU,在推理性能和能效比上一代产品P4 更胜一筹。
如图,左边是200台占用四个机架的CPU服务器,支持语音、NLP和视频应用,功耗达60千瓦。而相同的吞吐量和功能,一台搭载16块T4 GPU的服务器就足矣,不仅如此,这台服务器还将功耗降为原来的1/30。
推荐阅读
- 商人|游戏商人的月入百万是真的吗?揭秘真实的剑三游戏商人真实现状
- 传奇世界|传奇世界:揭秘传世不为人知的隐秘-大争之世!
- 梦幻西游|梦幻西游:打书牛人揭秘打书五大要点,每一点都关系到成与败!
- 传奇世界|揭秘:你所不知道的世界起源!
- 三星|传世群英版开局玩法大揭秘
- 机战|机战30:原创女主三叶收获极高评价 夏亚坦言这是自己的新妈妈
- 李炫君|揭秘《重装机兵》大BOSS泰德布罗拉:他竟然是一介“女人”?
- 短视频|亦真亦假:揭秘直播年入百万的顶级实操干货,横向纵向破法!
- 战神4|揭秘假面骑士圣刃幕后皮套设计 原废案的最终形态星尘龙更劝退
- 开放世界|CSGO新晋大主播露脸轰动主播圈,抠脚大汉形象藏不住了,即将揭秘