CPU 및 GPU 모델 배포

CPU 모델 배포

CPU 장치에서 모델을 배포하는 경우 배포 장치CPU 로 설정하십시오.

../../../_images/object_cpu_deployment.png

GPU 모델 배포

GPU 장치에서 모델을 배포하는 경우 배포 장치GPU 로 설정하십시오.

  • dlkmo:모델을 최적화하는 데 약 5분 정도 필요하며, 이는 모델을 훈련하는 장치와 모델을 배포하는 장치에 사용되는 GPU 그래픽 카드의 모델이 다른 경우에 적용됩니다.

  • dlkmt:모델을 최적화하지 않고 바로 도출하고 사용할 수 있으며, 이는 모델을 훈련하는 장치와 모델을 배포하는 장치에 사용되는 GPU 그래픽 카드의 모델이 동일한 경우에만 적용됩니다.

../../../_images/object_gpu_deployment.png