ディープラーニングモデルパッケージ管理ツール

Mech-MSRでは、ディープラーニングモデルパッケージ管理ツールを使用してモデルパッケージをインポートできます。

概要

ディープラーニングモデルパッケージ管理ツールは、Mech-MSRが提供するツールであり、ディープラーニングモデルパッケージの管理を行います。Mech-DLK 2.6.1以降のバージョンによってエクスポートされたディープラーニングモデルパッケージの最適化を行うとともに、実行モード、ハードウェアタイプ、モデル推論の効率、モデルパッケージの状態を管理できます。さらに、PCのGPU使用率を監視する機能も備えています。

ディープラーニングモデルパッケージを推論 を使用する場合、モデルパッケージを管理ツールにインポートし、その後、該当ステップで使用できます。モデルパッケージをこのツールにインポートすることで、最適化を事前に完了させることができます。

インポートしたモデルパッケージを使用してディープラーニング推論を行うには、Mech-DLKソフトウェアライセンス（Pro-RunまたはPro-Trainバージョン）が必要です。有効なライセンスを取得するには、Mech-Mindの営業担当までお問い合わせください。

機能使用

ツールを開くには、以下のいずれかの方法を使用します。

  • メニューバーからディープラーニング  ディープラーニングモデルパッケージ管理ツール をクリックします。

  • プロジェクト編集エリアで、「ディープラーニングモデルパッケージを推論」ステップ上の 設定ツール をクリックします。

  • プロジェクト編集エリアで、「ディープラーニングモデルパッケージを推論」ステップをクリックして選択し、パラメータ欄 の モデルパッケージ管理ツール で エディタを開く をクリックします。

画面説明

各オプション項目の説明は以下のとおりです。

オプション項目 説明

キャッシュモデルパッケージ名

インポートされたモデルパッケージの名前。

モデルを使用するプロジェクト

モデルパッケージを使用するMech-MSRプロジェクト。

モデルパッケージのタイプ

モデルパッケージの種類（例：テキスト検出、テキスト認識など）。

「すばやく位置決め」のモデルパッケージは現在サポートされていません。

実行モード

推論時のモデルパッケージの実行モード。共有モード と パフォーマンスモード を設定可能です。

  • 共有モード：複数のステップが同じモデルパッケージを使用する際に、推論を順番に実行することで、より多くのリソースを節約できます。

  • パフォーマンスモード：複数のステップが同じモデルパッケージを使用する際に、推論を並行実行し、処理速度を向上させます。ただし、より多くのリソースを消費します。

ハードウェアタイプ

モデルパッケージの推論時に使用するハードウェアの種類。GPU（デフォルト）、GPU（最適化）、CPU が含まれます。

  • CPU：CPUを使用してモデルパッケージを推論します。GPUと比較して推論時間が長くなり、認識精度が低下します。

  • GPU（デフォルト）：ハードウェアに応じた最適化を行わずに推論を実行します。推論速度は向上しません。

  • GPU（最適化）：ハードウェアに応じた最適化を1回実行します（所要時間：約5～15分）。最適化後の推論時間は短縮されます。

ツールは、PCのハードウェアを検出し、使用可能な ハードウェアタイプ オプションを決定します。ハードウェアタイプ の表示ルールは以下の通りです。

  • CPU：PCにIntel製のCPUが搭載されている場合に表示されます。

  • GPU（デフォルト）、GPU（最適化）：PCにNVIDIA製の専用GPUが搭載され、かつドライバーバージョンが472.50以上の場合に表示されます。

モデル推論の効率

モデル推論の効率を設定可能です。

モデルパッケージの状態

モデルパッケージの状態（例：最適化中、使用可能、最適化失敗）。

一般的な操作

以下では、ディープラーニングモデルパッケージ管理ツールの一般的な操作について説明します。

ディープラーニングモデルパッケージをインポート

  1. モデルパッケージ管理ツールを開き、画面の左上の インポート をクリックします。

  2. 表示されるファイル選択画面で、インポーするモデルパッケージを選択し、開く をクリックします。すると、選択したモデルパッケージがツールのリストに追加されます。

モデルパッケージをインポートする際、GPUドライバーの最低バージョンは472.50です。（500以上のバージョンは、ディープラーニングステップの実行時間が変動する可能性があるため推奨されません。CPUの最低要件はIntel 第6世代Coreです。ハードウェア要件を満たしていない場合、モデルパッケージのインポートに失敗する可能性があります。

ディープラーニングモデルパッケージを削除

削除するモデルパッケージを選択し、ツール画面右上の 削除 をクリックします。

deep learning model management log out model

モデルパッケージが 最適化中または使用中（そのモデルパッケージを使用するプロジェクトが実行中）の場合、削除できません。

実行モードの切替え

実行モード で deep learning model management icon 1 をクリックし、共有モード または パフォーマンスモード を選択します。

deep learning model management select operating mode

  • モデルパッケージが最適化中または使用中（そのモデルパッケージを使用するプロジェクトが実行中）の場合、実行モード を切り替えることはできません。

  • 共有モード の場合、 ディープラニングモデルパッケージを推論 のステップ パラメータ欄 で GPU ID を変更することはできません。

ハードウェアタイプの切替え

モデルパッケージの推論に使用するハードウェアタイプは、GPU（デフォルト）、GPU（最適化）、CPUに切り替えることができます。

ハードウェアタイプ の deep learning model management icon 1 をクリックし、GPU（デフォルト）、GPU（最適化） または CPU を選択します。

deep learning model management select hardware type

モデルパッケージが 最適化中 または 使用中（そのモデルパッケージを使用するプロジェクトが実行中） の場合、ハードウェアタイプ を切り替えることはできません。

モデル推論の効率設定

設定手順は以下のどおりです。

  1. 設定するモデルパッケージを選択します。

  2. モデル推論の効率 の対応する 設定 をクリックし、表示されるウィンドウで バッチサイズ と 精度 を設定します。モデルの実行効率は、「バッチサイズ」と「精度」パラメータによって異なります。

    • バッチサイズ：モデル推論時に一度にニューラルネットワークへ入力する画像の数です。初期値は1で、変更できません。

    • 精度（「ハードウェアタイプ」が「GPU（最適化）」の場合のみ設定可能）：

      • FP32：モデルの精度は高いですが推論速度は遅いです。

      • FP16：モデルの精度は低いですが推論速度は速いです。

トラブルシューティング

ディープラーニングモデルパッケージのインポート失敗

問題

ディープラーニングモデルパッケージをインポートしようとすると、「ディープラーニングモデルのインポートに失敗しました」というメッセージが表示されます。

考えられる原因

  1. 同じ名前のモデルパッケージがすでにインポートされています。

  2. 同じ内容のモデルパッケージがすでにインポートされています。

  3. ソフトウェアまたはハードウェアの要件を満たしていません。

解決策

  1. モデルパッケージの名前を変更するか、すでにインポートされているモデルパッケージを削除します。

  2. モデルパッケージの内容を確認し、既存のモデルパッケージと完全に一致する場合は、再インポートは不要です。

  3. GPUドライバーのバージョンが472.50以上であること、およびCPUがインテル第6世代Core以上であることを確認します。

ディープラーニングモデルパッケージの最適化失敗

問題

ディープラーニングモデルパッケージの最適化を実行すると、「モデルパッケージの最適化に失敗しました」というメッセージが表示されます。

考えられる原因

GPUのVRAM（ビデオメモリ）が不足しています。

解決策

  • 未使用のモデルパッケージをツール内で削除し、最適化するモデルパッケージを再度インポートします。

  • 他のモデルパッケージの「実行モード」を「共有モード」に変更し、最適化するモデルパッケージを再度インポートします。

この情報は役に立ちましたか？

ご意見・ご要望がございましたら、以下よりお寄せください：

Mech-Mindは、お客様のプライバシーを重視しています

このサイトでは最高の体験を提供するために Cookie を使用しています。サイトの閲覧を続ける場合、Cookie の使用に同意したことになります。「拒否する」を選択すると、このサイトを訪れた際に追跡や記憶が行われないように単独の Cookie が使用されます。

  • Preference
  • 同意する
  • 拒否する