CPU・GPUで推論を実行するモデルのデプロイ設定

CPUで推論を実行するモデル

デプロイ設定で CPU を選択します。

GPUで推論を実行するモデル

デプロイ設定で GPU を選択します。

エクスポートするモデルタイプとデプロイするデバイスのGPU型番が一致しなければ、モデルを使用することはできません。したがって、デプロイ設定で GPU を選択します。モデルのトレーニングとデプロイに使用する産業用コンピュータのGPU型番が一致する場合にのみエクスポートするモデルタイプを dlkmt を選択します。これ以外の場合に dlkmo を選択します。