超参调优任务(HpJob) 基本组件和训练流程

下图是使用 Cloud-ML HpJob 的基本组件和训练流程。其中1,2,3为用户操作步骤,a,b,c 为平台处理流程。

hp_job workflow

Cloud-ML HpJob 的运行基本和Trainjob相同,hpjob依赖的基础设施和trainjob相同:Docker Registry 和 FDS。

HpJob 训练用户的基本操作过程如下:

1. 准备代码,用户需要在本地准备一份调试好的训练代码,要确保符合基本项目规范。具体参见后面介绍;

2. 提交任务,项目代码准备完成后,用户即可提交任务。目前Hpjob只支持命令行提交,并且必须利用json文件进行提交,后面有详细介绍;

3. 查看结果,与trainjob不同,用户只可以通过Web UI的形式查看训练结果,也就是每组超参值组合及其训练得到的目标值,当然用户也可以选择将每组训练的模型和其他结果进行保存,这和trainjob相同。

Hpjob 训练平台的基本处理流程如下:

a. 创建环境,平台收到用户提交的任务后,从 Docker Registry 中下载用户指定的镜像,并为用户创建运行时;如果一切正常,执行后面的操作;有任何异常,比如资源不足,节点故障,Cloud-ML会通过事件的方式告诉用户;

b. 生成超参对, 平台根据用户给出的超参范围和参数生成算法,生成超参对

c. 执行训练,运行环境创建和参数对生成完成后,平台下载用户指定的训练代码并执行。内部的逻辑是,下载代码、解压、安装依赖包(如果代码里面指定了所需的依赖包)、传递超参值、执行代码,执行过程收集训练日志并保存;

d.保存目标属性值(must) 保存训练模型和(/或)中间结果(optional),Cloud-Ml根据训练程序的日志解析出目标属性值并保存在Cloud-Ml内部数据库中,同时用户训练过程中如果有需要保存的中间结果、临时数据、日志等需要保存,平台将结果保存到用户指定的地方,供训练后使用。具体的目标属性值输出格式在后面介绍。

e. 循环执行, 用户在提交任务时会给出一个目标属性和对应的期望值,Cloud-Ml比较保存的实际目标属性值和用户指定的目标属性期望值:如果已经达到用户设定的期望值,则返回,用户可以通过Cloud-Ml提供的Web UI查看训练结果,其中包括超参对和对应的目标属性值;如果否,则Cloud-Ml再次执行步骤 c 和 d,直到结果达到期望值。在循环执行过程中,Cloud-Ml会保存每一组数据供用户后续查看。具体的目标属性值设定后面介绍。

注: Cloud-ML 的运行时由 Docker 管理,所有任务都运行于容器中,Cloud-ML 已经准备了许多深度学习框架的镜像,用户直接指定对应版本镜像名称即可;对于有特殊需求的用户,Cloud-ML 支持使用自己制作的镜像。

上手超参调优Katib部分,我们将通过教程的形式,一步一步让用户上手Cloud-ML平台。

results matching ""

    No results matching ""