CPU 和 GPU 版本模型的训练及部署

CPU 版本模型训练与部署

模型部署在 CPU 设备时,训练参数中推荐将 模型类型 选择为 轻量(推荐CPU部署)

../../../_images/instance_cpu_training.png

部署设备 选择为 CPU

../../../_images/instance_cpu_deployment.png

GPU 版本模型训练与部署

模型部署在 GPU 设备时,训练参数中推荐将 模型类型 选择为 标准(推荐GPU部署)

../../../_images/instance_gpu_training.png

模型部署在 GPU 设备时,将 部署设备 选择为 GPU

  • dlkmo:模型需要优化大约 5 分钟 ,适用于训练模型与部署模型使用的设备 GPU 显卡型号不同的情况。

  • dlkmt:模型无需优化可以直接导出使用,仅支持训练模型与部署模型使用的设备 GPU 显卡型号相同的情况。

../../../_images/instance_gpu_deployment.png