代码详解:构建一个简单的Keras+深度学习REST API(11)

print(("* Loading Keras model and Flask starting server..."

"please wait until server has fully started"))

load_model()

app.run()

首先调用load_model从磁盘加载Keras模型 。

对load_model的调用是一个阻止操作——阻止web服务在模型完全加载之前启动 。 如果未能确保模型完全载入内存中 , 在启动web服务之前也没有做好推理准备 , 就可能会遇到以下情况:

1. 请求被发送到服务器

2.服务器接受请求 , 预处理数据 , 然后尝试将其传递到模型中

3.由于模型还未完全加载 , 脚本将会出错!

在构建自己的Keras REST APIs时 , 务必确保插入逻辑 , 以保证在接受请求前模型就已加载并准备好进行推理 。

推荐阅读