业界 | TensorFlow 携手 NVIDIA，使用 TensorRT 优化 TensorFlow Serving 性能_：业界|TensorFlow携手NVIDIA

科技频道提示您本文原始标题是：业界 | TensorFlow 携手 NVIDIA，使用 TensorRT 优化 TensorFlow Serving 性能

AI 科技评论按：日前，TensorFlow 团队与 NVIDIA 携手合作，将 NVIDIA 用来实现高性能深度学习推理的平台——TensorRT 与 TensorFlow Serving 打通结合，使用户可以轻松地实现最佳性能的 GPU 推理。目前，TensorFlow Serving 1.13 已实现对 TF-TRT 的支持，而不久后 TensorFlow 2.0 也将支持 TF-TRT 的实现。 TensorFlow 在官方博客中对这项成果进行了发布，雷锋网 AI 科技评论编译如下。

TensorFlow Serving 项目地址：https://tensorflow.org/serving/NVIDIA TensorRT 项目地址：https://developer.nvidia.com/tensorrtTensorFlow Serving 是应用于机器学习模型的灵活的高性能服务系统，而 NVIDIA TensorRT 则是一个用以实现高性能深度学习推理的平台，将二者相结合后，用户可以轻松地实现最佳性能的 GPU 推理。TensorFlow 团队与 NVIDIA 携手合作，在 TensorFlow v1.7 中添加了对 TensorRT 的首度支持，此后，他们更是保持密切的合作，共同致力于对 TensorFlow-TensorRT 集成（被称作 TF-TRT）进行改进。。目前，TensorFlow Serving 1.13 已实现对 TF-TRT 的支持，而不久后 TensorFlow 2.0 也将支持 TF-TRT 的实现。