CPU・GPUで推論を実行するモデルのデプロイ設定

CPUで推論を実行するモデル

デプロイ設定で CPU を選択します。

GPUで推論を実行するモデル

デプロイ設定で GPU を選択します。

• dlkmo：モデルの最適化は、約 5 分間かかります。モデルトレーニングと推論に使用する GPU グラフィックスカード型番が異なる場合に適します。

• dlkmt：モデルを最適化せずに使用することができます。モデルトレーニングと推論に使用する GPU グラフィックスカード型番が一致している場合にのみ適します。