模型服务使用流程

使用流程

使用ModelService的流程如下，首先初始化Xiaomi Cloud-ML客户端环境。

cloudml init

然后上传模型文件到FDS中，或者在TensorFlow代码中直接导出模型到FDS。

最后使用cloudml命令行工具提交创建模型服务即可，通过 -a 参数还可以实现同时加载多个模型版本等功能。

-u表示模型的fds路径，通过挂载fds bucket到/fds，再指定模型的路径。参考：Fdsfuse介绍

cloudml models create -n linear -v v1 -u /fds/linear_path -a ""

模型启动后，可以直接查看模型创建的状态和日志等信息。

cloudml models events linear v1

cloudml models logs linear v1

注意，当前的模型服务均为公开可访问的。

参数介绍

• -n 是必选参数，用户可以自行选择模型名称。
• -v 是必选参数，用户可以自行选择模型版本，名称和版本共同标示ModelService实例。
• -u 是必选参数，表示模型文件的路径。
• -a 是可选参数，用户可在启动模型服务时传入任意的自定义参数。

更多功能

模型服务还支持多副本、在线升级等功能，可继续阅读后面的文档。