NV何琨:AI视频处理加速引擎及Deepstream介绍( 五 )

DeepStream还支持一些新的特性。比如一个服务器上要接很多路摄像头,这种情况要接很多路Pipeline。比如汽车上,在停车的时候需要启用后端的摄像头,这时需要Create新的Pipeline;在自动行驶的过程中,为了避撞,汽车两边的摄像头的精度需要更多的关注,这时DeepStream会自动管理或删减Pipeline。当然还根据自动驾驶提供的360度摄像头全景拼接,在需要使用的时候直接include库就可以了,非常简单方便。

NV何琨:AI视频处理加速引擎及Deepstream介绍

图7/14

TensorRT

说到DeepStream,除了视频的编解码以外,最核心的内容就是推理工具,推理是深度学习真正把模型部署到产品中非常重要的一部分。DeepStream的底层推理任务基于TensorRT,核心任务是GPU推理引擎。它是一种高性能深度学习推理优化器和运行时加速库,调用的时候直接include,可以优化神经网络模型以及其他功能。

NV何琨:AI视频处理加速引擎及Deepstream介绍

推荐阅读