ディープラーニングモデルパッケージ管理ツール

現在ご覧いただいているのは最新版の内容です(V2.2.0)。異なるバージョンを参照する場合は、画面右上のボタンから切り替えが可能です。

■ ご利用中のバージョンが分からない場合や、サポートが必要な場合はお気軽にサポート窓口までご連絡ください。

以下では、ディープラーニングモデルパッケージ管理ツールの使用方法と注意事項について説明します。

概要

ディープラーニングモデルパッケージ管理ツールは、Mech-Visionが提供するディープラーニングモデルパッケージ管理用ツールです。このツールでは、Mech-DLK 2.2.0 以降のバージョンによってエクスポートされたディープラーニングモデルパッケージの最適化を行うとともに、実行モード、ハードウェアタイプ、モデル推論の効率、モデルパッケージの状態を管理できます。また、このツールでは、IPCのGPU使用率監視にも対応可能です。

プロジェクト内でディープラーニング関連ステップ(ディープラーニングモデルパッケージを推論任意ワーク把持(V2)など)を使用する場合は、事前にモデルパッケージをディープラーニングモデルパッケージ管理ツールへインポートし、その後、ディープラーニングステップ内で使用できます。ディープラーニングモデルパッケージをこのツールにインポートすることで、事前に最適化することが可能です。

  • 任意ワーク把持(V2) モデルパッケージを使用してディープラーニング推論を行うには、該当モデルパッケージのソフトウェアライセンスを取得している必要があります。ライセンスをお持ちでない場合は、Mech-Mindの営業担当までお問い合わせのうえ、ライセンスを取得してください。

  • GPUドライバーのバージョンが526.98以上であること、およびCPUがインテル第6世代Core以上であることを確認します。ハードウェアの条件を満たさない場合、ディープラーニングモデルパッケージのインポートに失敗します。

Mech-DLK 3.0.0 以降では、モデルパッケージは単体モデルパッケージと複数モデルパッケージの2種類に分類されます。Mech-DLK 2.4.1~3.0.0未満のバージョンでは、単体モデルパッケージおよび直列モデルパッケージ(接続モデル)のみがサポートされます。

  • 単体モデルパッケージ:1つのディープラーニングアルゴリズムモジュールのみを搭載したモデルパッケージのことを指します(例:インスタンスセグメンテーションモデル)。

  • 複数モデルパッケージ:複数のディープラーニングアルゴリズムモジュールを含むモデルパッケージで、モジュール間は直列・並列・直並列の組合せが可能です。各モジュール間のデータフローは、設定に応じて柔軟に伝送できます。直列接続(前モデルの出力を次モデルの入力として使用)をサポートするだけでなく、並列接続や直並列混在のデータフロー分岐にも対応しています。

    図に示すように、複数モデルパッケージは画像分類モジュール1つと複数の欠陥セグメンテーションモジュールで構成されています。画像分類モジュールと複数の欠陥セグメンテーションモジュールは直列接続され、さらに欠陥セグメンテーションモジュール同士は並列接続されています。

    multi model package example

機能使用

ツールを開くには、以下のいずれかの方法を使用します。

  • メニューバーから ディープラーニング  ディープラーニングモデルパッケージ管理ツール を選択します。

  • プロジェクト編集エリアで、ディープラーニングステップ上の 設定ツール をクリックします。

  • プロジェクト編集エリアで、ディープラーニングステップをクリックして選択し、パラメータ欄モデルパッケージ管理ツールエディタを開く をクリックします。

entrance

画面説明

各設定項目の説明は以下の通りです。

項目名 説明

キャッシュモデルパッケージ名

インポートされたモデルパッケージの名前。

モデルを使用するプロジェクト

モデルパッケージを使用するMech-Visionプロジェクト。

モデルパッケージのタイプ

モデルパッケージの種類。単体モデルパッケージ(対象物検出、テキスト認識など)および複数モデルパッケージを含みます。

実行モード

推論時のモデルパッケージの実行モード。共有モードパフォーマンスモード を設定可能です。

  • 共有モード:このオプションを選択すると、複数のステップが同じディープラーニングモデルパッケージを使用し、前の推論が完了してから次の推論を行い、より多くの実行時リソースを節約することができます。

  • パフォーマンスモード:このオプションを選択すると、複数のステップが同じディープラーニングモデルパッケージを使用し、並行して推論します。実行速度を上げることができますが、より多くの実行時リソースを消費します。

ハードウェアタイプ

モデルパッケージの推論時に使用するハードウェアの種類。GPU(デフォルト)GPU(最適化)CPU が含まれます。

  • CPU:CPUを使用してモデルパッケージを推論します。GPUと比較して推論時間が長くなり、認識精度が低下します。

  • GPU(デフォルト):このオプションを選択すると、ハードウェアタイプに応じてディープラーニングモデルパッケージを最適化する必要はなく、ディープラーニングモデルパッケージの推論が高速化されることはありません。

  • GPU(最適化):ハードウェアに応じた最適化を1回実行します(所要時間:約5~15分)。最適化後の推論時間は短縮されます。

ツールはIPCのハードウェア構成を検出し、その結果に応じて ハードウェアタイプ オプションを決定します。表示条件は以下の通りです。

  • CPU:IPCにIntel製のCPUが搭載されている場合に表示されます。

  • GPU(デフォルト)、GPU(最適化):IPCに NVIDIA 製のディスクリート GPUが搭載されており、GPUドライバーのバージョンが 526.98 以上である場合に表示されます。

モデル推論の効率

モデル推論の効率を設定可能です。

モデルパッケージの状態

モデルパッケージの状態で、最適化中…​最適化失敗未読み込み使用可能 の4種類があります。

  • 最適化中…​:モデルパッケージを最適化しています。

  • 最適化失敗:モデルパッケージの最適化に失敗しました。

  • 未読み込み:まだどの ディープラーニングモデルパッケージを推論 ステップにも使用されていません。

  • 使用可能:モデルパッケージは、ディープラーニングモデルパッケージを推論 ステップで使用されています。

操作

モデルパッケージに対して、解放または削除操作を行うことができます。

  • 解放:解放 をクリックすると、モデルパッケージの状態は 使用可能 から 未読み込み に変わります。ただし、モデルパッケージ自体はディープラーニング関連ステップのパラメータ内に保持されます。ステップを再実行すると、状態は再び使用可能に戻ります。

  • 削除:削除 をクリックすると、モデルパッケージは現在のプロジェクトから削除されます。削除後、このモデルパッケージに依存するステップは実行に失敗する可能性があります。

モデルパッケージの最適化中は、解放および削除を実行できず、ソフトウェアを終了することもできません。最適化完了後に、再度操作を行ってください。

一般的な操作

以下では、ディープラーニングモデルパッケージ管理ツールの一般的な操作について説明します。

ディープラーニングモデルパッケージをインポート

  1. モデルパッケージ管理ツールを開き、右上の インポート をクリックします。

  2. 表示されるファイル選択画面で、インポーするモデルパッケージを選択し、開く をクリックします。すると、選択したモデルパッケージがツールのリストに追加されます。

実行モードの切替え

実行モードicon 1 をクリックし、共有モード または パフォーマンスモード を選択します。

select operating mode
  • モデルパッケージの最適化中、または実行中のプロジェクトで使用されている場合は、実行モード を切り替えることはできません。

  • モデルパッケージの実行モードが 共有モード の場合、ディープラニングステップ パラメータ欄GPU ID を切り替えることはできません。

ハードウェアタイプの切替え

ディープラーニングモデルパッケージ推論のハードウェアタイプを、GPU(デフォルト)、GPU(最適化)、CPUに切り替えることができます。

ハードウェアタイプicon 1 をクリックし、GPU(デフォルト)GPU(最適化)または CPU を選択します。

select hardware type
  • モデルパッケージの最適化中、または実行中のプロジェクトで使用されている場合は、ハードウェアタイプ を切り替えることはできません。

  • モデルパッケージにすばやく位置決めが含まれている場合、「GPU(最適化)」は選択できません。

  • テキスト検出およびテキスト認識の汎用モデルパッケージを使用する場合、「GPU(デフォルト)」は選択できません。

モデル推論の効率設定

設定手順は以下のどおりです。

  1. 設定するモデルパッケージを選択します。

  2. モデル推論の効率 の対応する 設定 をクリックし、表示されるウィンドウで バッチサイズ精度 を設定します。モデルの実行効率は、「バッチサイズ」と「精度」パラメータによって異なります。

    • バッチサイズ:モデル推論時にニューラルネットワークに一度に投入する画像の数で、1~128の範囲で設定します。この値を大きくするとモデル推論が高速化しますが、より多くのメモリを消費することになります。この値が正しく設定されていない場合、推論速度が低下する可能性があります。

  • バッチサイズ の値は、実際にニューラルネットワークに投入される画像数と一致させることが推奨されます。

  • インスタンスセグメンテーションモデルでは、バッチサイズ の変更はサポートされておらず、バッチサイズは 1 に固定されます。

  • 複数モデルパッケージ推論を使用する場合、入力/出力ポートのデータ次元は 最初のモデル のバッチサイズによって決定されます。最初のモデルのバッチサイズが 1 より大きい場合にのみ、ポートの次元が拡張されます。

  • 精度(ハードウェアタイプGPU(最適化)の場合のみ設定可能):

    • FP32:モデルの精度は高いですが推論速度は遅いです。

    • FP16:モデルの精度は低いですが推論速度は速いです。

トラブルシューティング

ディープラーニングモデルパッケージのインポートに失敗

問題

ディープラーニングモデルパッケージをインポートしようとすると、「ディープラーニングモデルのインポートに失敗しました」というメッセージが表示されます。

考えられる原因

  1. 同じ名前のモデルパッケージがすでにインポートされています。

  2. 同じ内容のモデルパッケージがすでにインポートされています。

  3. ソフトウェアまたはハードウェアの要件を満たしていません。

解決策

  1. モデルパッケージの名前を変更するか、すでにインポートされているモデルパッケージを削除します。

  2. モデルパッケージの内容を確認し、既存のモデルパッケージと完全に一致する場合は、再インポートは不要です。

  3. GPUドライバーの最低バージョンが526.98であること、および CPUの最低要件が第6世代のインテル Coreであることを確認します。

ディープラーニングモデルパッケージの最適化に失敗

問題

ディープラーニングモデルパッケージの最適化を実行すると、「モデルパッケージの最適化に失敗しました」というメッセージが表示されます。

考えられる原因

GPUのVRAM(ビデオメモリ)が不足しています。

解決策

  • 未使用のモデルパッケージをツール内で削除し、最適化するモデルパッケージを再度インポートします。

  • 他のモデルパッケージの「実行モード」を「共有モード」に変更し、最適化するモデルパッケージを再度インポートします。

互換性に関する注意事項

  • Mech-Vision 2.2.0 以降のバージョンでは、Mech-DLK 2.5.4 以降のバージョンでエクスポートされたディープラーニングモデルパッケージを使用できます。また、Mech-DLK内のすべてのアルゴリズムモジュールをサポートし、複数モデルパッケージのインポートおよび推論実行にも対応しています。ただし、実際の使用時には以下の互換性問題が発生する可能性があります。

    • すばやく位置決めモデルでは、GPU(最適化)ハードウェアタイプを使用できません。

    • Mech-DLK 2.5.4 のモデルパッケージをインポートした際、後処理画面のクラス名の表示が異常になる場合があります。例えば、画像分類モデルでは、推論設定ツールの可視化設定内で単一クラスのみ表示され、全クラスを正常に表示できない場合があります。

  • Mech-Vision 1.7.1バージョンでは、Mech-DLK 2.4.1バージョンによってエクスポートされたディープラーニングモデルパッケージも使用できますが、いくつかの互換性問題もあります。Mech-Vision1.7.2バージョン以降とMech-DLK 2.4.1バージョン以降によってエクスポートされたディープラーニングモデルパッケージとの併用が推奨されています。

    • Mech-Visionは直列モデルを使用できません。

    • モデル推論の効率を設定できません。

    • 画像分類の効果が悪くなる可能性があります。

    • モデルパッケージをCPUデバイスでは使用できません。

  • Mech-Vision 1.7.1バージョンで最適化されたモデルパッケージをMech-Vision 1.7.2バージョンに使用する場合、モデルパッケージが「ディープラーニングモデルパッケージを推論」ステップで初めて実行するときに速度が遅くなります。

  • モデルパッケージ推論に使用される ハードウェアタイプGPU(最適化) である場合、以下の点に注意する必要があります。

    モデルパッケージがMech-Vision 1.7.Xで最適化されておらず、Mech-Vision 1.8.0以降で最適化されている場合、そのモデルパッケージをMech-Vision 1.7.Xで直接使用することはできません。ディープラーニングモデルパッケージ管理ツールの キャッシュフォルダを開く をクリックし、モデルパッケージの対応するキャッシュフォルダを削除してから、モデルパッケージを再度最適化する必要があります。

    モデルパッケージに対応するキャッシュフォルダは、model_config.jsonファイルで見ることができます。

この情報は役に立ちましたか?

ご意見・ご要望がございましたら、以下よりお寄せください:

Mech-Mindは、お客様のプライバシーを重視しています

このサイトでは最高の体験を提供するために Cookie を使用しています。サイトの閲覧を続ける場合、Cookie の使用に同意したことになります。「拒否する」を選択すると、このサイトを訪れた際に追跡や記憶が行われないように単独の Cookie が使用されます。