CPU 和 GPU 版本模型的训练及部署

CPU 版本模型训练与部署

模型部署在 CPU 设备时,训练参数中,推荐将 模型类型 选择为 轻量(推荐CPU部署)

../../../_images/instance_cpu_training.png

部署设备 选择为 CPU

../../../_images/instance_cpu_deployment.png

GPU 版本模型训练与部署

模型部署在 GPU 设备时,训练参数中,推荐将 模型类型 选择为 标准(推荐GPU部署)

../../../_images/instance_gpu_training.png

部署设备 选择为 GPU。只有训练模型与部署模型使用的设备 GPU 显卡型号相同时,需要将 导出模型类型 选择为 dlkmt 格式,否则选择 dlkmo 格式,以避免因导出和部署模型设备的显卡型号不同,而无法使用模型文件。

../../../_images/instance_gpu_deployment.png