CPU・GPUで推論を実行するモデルのトレーニングとデプロイ設定

CPUで推論を実行するモデル

モデルを CPU で推論を実行する場合、トレーニングパラメータで モデルタイプ軽量(CPUを推奨) を選択してください。

../../../_images/instance_cpu_training.png

展開するデバイスに CPU を選択します。

../../../_images/instance_cpu_deployment.png

GPUで推論を実行するモデル

モデルを GPU で推論を実行する場合、トレーニングパラメータで モデルタイプ軽量(GPUを推奨) を選択してください。

../../../_images/instance_gpu_training.png

モデルを GPU で推論を実行する場合、デバイスに GPU を選択します。

  • dlkmo:モデルの最適化は、約 5 分間かかります。モデルトレーニングと推論に使用する GPU グラフィックスカード型番が異なる場合に適します。

  • dlkmt:モデルを最適化せずに使用することができます。モデルトレーニングと推論に使用する GPU グラフィックスカード型番が一致している場合にのみ適します。

../../../_images/instance_gpu_deployment.png