使用GPU模型服务

简介

Xiaomi Cloud-ML模型服务也支持基于GPU的服务,用法与训练任务相同,可参考 使用GPU训练

使用GPU模型服务

用户创建模型服务时加入GPU参数即可使用GPU资源。

cloudml models create -n linear -v v1 -u fds://cloud-ml/linear -c 1 -M 1G -g 1

参数介绍

  • -g 参数表示使用的GPU数量,平台会选择资源充足的机器进行调度,除此之外启动的GPU容器镜像也不同于CPU容器镜像。

results matching ""

    No results matching ""