TensorFlow Lite发布重大更新！支持移动GPU、推断速度提升4-6倍( 三 )_乾明发自凹非寺量子位出品|公众号QbitA

你可以编辑Gradle文件，用AAR替代当前的版本，并将下面的代码片段，添加到Java初始化代码中。

// Initialize interpreter with GPU delegate.GpuDelegate delegate = new GpuDelegate();Interpreter.Options options = (new Interpreter.Options()).addDelegate(delegate);Interpreter interpreter = new Interpreter(model, options);// Run inference.while (true) {writeToInputTensor(inputTensor); interpreter.run(inputTensor, outputTensor); readFromOutputTensor(outputTensor);}// Clean up.delegate.close();

在iOS设备（用C++）中，要先下载二进制版本的TensorFlow Lite。

然后更改代码，在创建模型后调用ModifyGraphWithDelegate ( )。

// Initialize interpreter with GPU delegate.std::unique_ptr interpreter;InterpreterBuilder(model, op_resolver)(&interpreter);auto* delegate = NewGpuDelegate(nullptr); // default configif (interpreter->ModifyGraphWithDelegate(delegate) != kTfLiteOk) return false;// Run inference.while (true) {WriteToInputTensor(interpreter->typed_input_tensor(0)); if (interpreter->Invoke() != kTfLiteOk) return false; ReadFromOutputTensor(interpreter->typed_output_tensor(0));}// Clean up.interpreter = nullptr;DeleteGpuDelegate(delegate);