模型服务使用流程

使用流程

使用ModelService的流程如下,首先初始化Xiaomi Cloud-ML客户端环境。

cloudml init

然后上传模型文件到FDS中,或者在TensorFlow代码中直接导出模型到FDS。

最后使用cloudml命令行工具提交创建模型服务即可,通过 -a 参数还可以实现同时加载多个模型版本等功能。

-u表示模型的fds路径,通过挂载fds bucket到/fds,再指定模型的路径。参考:Fdsfuse介绍

cloudml models create -n linear -v v1 -u /fds/linear_path -a ""

模型启动后,可以直接查看模型创建的状态和日志等信息。

cloudml models events linear v1

cloudml models logs linear v1

注意,当前的模型服务均为公开可访问的。

参数介绍

  • -n 是必选参数,用户可以自行选择模型名称。
  • -v 是必选参数,用户可以自行选择模型版本,名称和版本共同标示ModelService实例。
  • -u 是必选参数,表示模型文件的路径。
  • -a 是可选参数,用户可在启动模型服务时传入任意的自定义参数。

更多功能

模型服务还支持多副本、在线升级等功能,可继续阅读后面的文档。

results matching ""

    No results matching ""