CPU・GPUで推論を実行するモデルのデプロイ設定

CPUで推論を実行するモデル

デプロイ設定で CPU を選択します。

../../../_images/object_cpu_deployment.png

GPUで推論を実行するモデル

デプロイ設定で GPU を選択します。

  • dlkmo:モデルの最適化は、約 5 分間かかります。モデルトレーニングと推論に使用する GPU グラフィックスカード型番が異なる場合に適します。

  • dlkmt:モデルを最適化せずに使用することができます。モデルトレーニングと推論に使用する GPU グラフィックスカード型番が一致している場合にのみ適します。

../../../_images/object_gpu_deployment.png