CPU・GPUで推論を実行するモデルのトレーニングとデプロイ設定¶
CPUで推論を実行するモデル¶
モデルを CPU で推論を実行する場合、トレーニングパラメータで モデルタイプ に 軽量(CPUを推奨) を選択してください。
展開するデバイスに CPU を選択します。
GPUで推論を実行するモデル¶
モデルを GPU で推論を実行する場合、トレーニングパラメータで モデルタイプ に 軽量(GPUを推奨) を選択してください。
モデルを GPU で推論を実行する場合、デバイスに GPU を選択します。
dlkmo:モデルの最適化は、約 5 分間かかります。モデルトレーニングと推論に使用する GPU グラフィックスカード型番が異なる場合に適します。
dlkmt:モデルを最適化せずに使用することができます。モデルトレーニングと推論に使用する GPU グラフィックスカード型番が一致している場合にのみ適します。