CPU 和 GPU 版本模型部署

CPU 版本模型部署

模型部署在 CPU 设备时,将 部署设备 选择为 CPU

../../../_images/object_cpu_deployment.png

GPU 版本模型部署

模型部署在 GPU 设备时,将 部署设备 选择为 GPU

  • dlkmo:模型需要优化大约 5 分钟 ,适用于训练模型与部署模型使用的设备 GPU 显卡型号不同的情况。

  • dlkmt:模型无需优化可以直接导出使用,仅支持训练模型与部署模型使用的设备 GPU 显卡型号相同的情况。

../../../_images/object_gpu_deployment.png