Mech-MSR 딥 러닝 모델 패키지 관리 도구

현재 최신 버전 (2.2.1)에 대한 매뉴얼을 보고 계십니다. 다른 버전에 액세스하려면 페이지 오른쪽 상단 모서리에 있는 '버전 전환' 버튼을 클릭하세요.

■ 현재 사용하고 있는 제품의 버전이 확실하지 않은 경우에는 언제든지 당사 기술 지원팀에 문의하시기 바랍니다.

Mech-MSR에서 딥 러닝 모델 패키지 관리 도구를 사용하여 모델 패키지를 가져올 수 있습니다.

소개

딥 러닝 모델 패키지 관리 도구는 Mech-MSR의 모든 딥러닝 모델 패키지를 효율적으로 관리하도록 설계되었습니다. Mech-DLK 2.6.1 이상 버전에서 내보낸 모델 패키지를 최적화할 수 있으며, 실행 모드, 하드웨어 유형, 모델 효율성, 모델 패키지 상태를 관리할 수 있습니다. 또한 이 도구는 IPC 의 GPU 사용률을 모니터링할 수 있습니다.

프로젝트에서 딥 러닝 모델 패키지 추론 스텝을 사용하는 경우, 먼저 모델 패키지를 딥 러닝 모델 패키지 관리 도구에 가져와야 해당 스텝에서 사용할 수 있습니다. 모델 패키지를 사전에 도구에 가져오면, 최적화를 미리 수행할 수 있습니다.

  • 가져온 모델 패키지를 사용하여 딥 러닝 추론을 수행하려면, Mech-DLK소프트웨어 라이선스를 보유하고 있어야 합니다. 딥 러닝 라이선스가 없는 경우, Mech-Mind영업팀에 문의하여 라이선스를 취득해야 합니다. (Pro-Run, Pro-Train 또는 단일 모듈 유형 라이선스 중 선택 가능) 딥 러닝 라이선스를 이미 보유하고 있는 경우, 라이선스가 유효하며 사용하려는 모델 패키지와 일치하고, 현재 산업용 IPC에서 인식 가능한지 확인해야 합니다. 조건을 충족하지 않는 경우,Mech-Mind영업팀에 문의하여 유효한 라이선스를 취득해야 합니다.

  • GPU 드라이버에 필요한 최소 버전이 526.98이고, CPU에 필요한 최소 버전이 6세대 Intel Core인지 확인하세요. 하드웨어가 위 요구 사항을 충족하지 않으면, 딥 러닝 모델 패키지를 정상적으로 가져올 수 없습니다.

Mech-DLK 3.0.0 버전부터, 모델 패키지는 단일 모델 패키지와 다중 모델 패키지의 두 가지 유형으로 나뉩니다. Mech-DLK 2.4.1 버전부터 Mech-DLK 3.0.0 버전 이전까지는 단일 모델 패키지와 캐스케이딩 모델 패키지(즉, 직렬 모델)만 도출하는 것을 지원합니다.

  • 단일 모델 패키지: 모델 패키지에 단 하나의 딥 러닝 알고리즘 모듈이 있는 모델. 예를 들면 '인스턴스 세그먼테이션' 모델과 같습니다.

  • 다중 모델 패키지: 모델 패키지 안에 여러 개의 딥 러닝 알고리즘 모듈이 포함되어 있으며, 모듈 간에 직렬, 병렬, 또는 직병렬 방식으로 조합할 수 있습니다.

    그림과 같이, 다중 모델 패키지에는 하나의 이미지 분류 모듈과 여러 개의 결함 세그먼테이션 모듈이 포함되어 있습니다. 여기서 이미지 분류 모듈과 여러 결함 세그먼테이션 모듈은 직렬로 연결되어 있으며, 여러 결함 세그먼테이션 모듈끼리는 병렬로 구성되어 있습니다.

    ][align="center"

도구 열기

다음 방법 중 하나를 통해 딥러닝 모델 패키지 관리 도구를 열 수 있습니다:

  • 프로젝트를 새로 만들거나 기존 프로젝트를 연 후 메뉴 바에서 menu:딥 러닝 [ 딥 러닝 모델 패키지 관리 도구]를 선택합니다.

  • 프로젝트 편집 구역에서 '딥 러닝 모델 패키지 추론' 스텝의 구성 마법사 버튼을 클릭합니다.

  • 프로젝트 편집 구역에서 '딥 러닝 모델 패키지 추론' 스텝을 선택하고 파라미터 패널에서 모델 패키지 관리 도구 항목 아래 편집기를 열기 버튼을 클릭합니다.

deep learning model management

도구 구성

이 도구는 다음과 같은 구성으로 이루어져 있습니다.

구성 설명

사용 가능한 모델 패키지

가져온 모델 패키지의 이름입니다.

프로젝트 이름

해당 모델 패키지를 사용하는 Mech-MSR 프로젝트입니다.

모델 패키지 유형

모델 패키지의 유형에는 단일 모델 패키지(예: 물체 검출, 텍스트 인식 등)와 다중 모델 패키지가 있습니다.

실행 모드

실행 모드 옵션 : 공유 모드, 성능 모드

  • 공유 모드 : 동일한 모델 패키지를 사용하는 여러 스텝의 추론이 순차적으로 실행됩니다. 런타임 리소스를 절약할 수 있습니다.

  • 성능 모드 : 동일한 모델 패키지를 사용하는 여러 스텝의 추론이 병렬로 실행됩니다. 추론 속도는 빨라지지만, 더 많은 런타임 리소스가 사용됩니다.

하드웨어 유형

하드웨어 유형 옵션 : GPU(기본값), GPU(최적화), CPU

  • CPU :딥러닝 추론에 CPU를 사용합니다. 추론 속도가 느려지고, GPU에 비해 인식 정확도가 낮을 수 있습니다.

  • GPU(기본값) : GPU를 사용하지만, 모델 패키지가 하드웨어에 맞게 최적화되지 않은 상태로 실행됩니다. 이 경우 추론 속도 개선 효과는 제한적입니다.

  • GPU(최적화) : 선택 시 모델 패키지가 사용 중인 하드웨어에 맞게 최적화됩니다. 최적화에는 약 5~15분 정도 소요되며, 이후 추론 시간이 단축되고 성능이 향상됩니다.

이 도구는 IPC 모델을 감지하는 것을 통해 하드웨어 유형 옵션을 결정합니다. 각 옵션의 표시 규칙은 다음과 같습니다.

  • CPU : IPC에 Intel CPU가 감지되면 이 옵션이 표시됩니다.

  • GPU(기본값), GPU(최적화) : IPC에 NVIDIA 외장 그래픽 카드가 장착되어 있고, 그래픽 카드 드라이버 버전이 526.98 이상일 경우 이 두 옵션이 표시됩니다.

모델 효율성

모델 패키지 추론 효율성을 구성할 수 있습니다.

모델 패키지 상태

모델 패키지의 상태에는 최적화 중, 최적화 실패 , 미로드, 준비 완료의 네 가지가 있습니다.

  • 최적화 중: 모델 패키지가 최적화 진행 중인 상태입니다.

  • 최적화 실패: 모델 패키지 최적화가 실패한 상태입니다.

  • 미로드: 모델 패키지가 아직 어떤 딥 러닝 모델 패키지 추론 스텝에서도 사용되지 않은 상태입니다.

  • 준비 완료: 모델 패키지가 이미 딥 러닝 모델 패키지 추론 스텝에서 사용된 상태입니다.

작업

모델 패키지에 대해 해제 또는 삭제 작업을 수행할 수 있습니다.

  • 해제:해제 버튼을 클릭하면 모델 패키지 상태가 준비 완료에서 미로드로 변경되지만, 모델 패키지는 여전히 딥 러닝 모델 패키지 추론 스텝의 파라미터에 남아 있습니다. 스텝을 다시 실행하면 상태가 준비 완료로 복원됩니다.

  • 삭제:삭제 버튼을 클릭하면 모델 패키지가 현재 프로젝트에서 제거됩니다. 삭제 후에는 해당 모델 패키지에 의존하는 스텝이 실행에 실패할 수 있습니다.

모델 패키지가 최적화 중인 경우에는 해제 또는 삭제가 불가능하며, 소프트웨어를 종료할 수도 없습니다. 최적화가 완료된 후에 관련 작업을 다시 수행해야 합니다.

일반 작업

이 부분에서는 딥 러닝 모델 패키지 관리 도구에 대한 일반적인 작업에 대해 소개합니다.

딥 러닝 모델 패키지 가져오기

  1. 딥 러닝 모델 패키지 관리 도구를 연 후, 오른쪽 상단의 가져오기 버튼을 클릭합니다.

  2. 팝업 창에서 가져올 모델 패키지를 선택한 뒤, 열기 버튼을 클릭하면 선택한 모델 패키지가 목록에 추가됩니다.

실행 모드 전환

모델 패키지 추론의 실행 모드를 전환하려면 딥 러닝 모델 패키지 관리 도구의 실행 모드 열에서 deep learning model management icon 1 버튼을 클릭하고 공유 모드 또는 성능 모드를 선택하면 됩니다.

deep learning model management select operating mode
  • 모델 패키지가 최적화 중이거나 실행 중인 프로젝트에서 사용되고 있을 경우, 실행 모드를 전환할 수 없습니다.

  • 모델 패키지의 실행 모드가 공유 모드인 경우에는, 딥 러닝 모델 패키지 추론 스텝 파라미터 패널의 GPU ID를 변경할 수 없습니다.

하드웨어 유형 전환

딥 러닝 모델 패키지 추론을 위한 하드웨어 유형을 GPU(기본값), GPU(최적화) 또는 CPU로 변경할 수 있습니다.

딥 러닝 모델 패키지 관리 도구의 하드웨어 유형 열에서 deep learning model management icon 1 버튼을 클릭하고 GPU(기본값), GPU(최적화), CPU 중 하나를 선택합니다.

deep learning model management select hardware type
  • 모델 패키지가 최적화 중이거나 실행 중인 프로젝트에서 사용되고 있을 경우, 하드웨어 유행를 전환할 수 없습니다.

  • 모델 패키지에 신속하게 위치 지정 기능이 포함된 경우, GPU(최적화) 선택은 지원되지 않습니다.

  • 텍스트 감지, 텍스트 인식을 포함한 범용 모델 패키지를 사용할 경우, GPU(기본값) 선택은 지원되지 않습니다.

모델 효율성 구성

모델 효율성을 구성하는 프로세스는 다음과 같습니다.

  1. 구성할 딥 러닝 모델 패키지를 결정합니다.

  2. 모델 효율성 아래의 구성 버튼을 클릭하고 팝업 창에서 배치(Batch) 크기정밀도를 설정합니다. 모델의 실행 효율성은 배치 크기와 정밀도 설정에 따라 달라질 수 있습니다.

    배치 크기: 모델 추론 중에 한 번에 신경망으로 전송되는 이미지의 수이며 범위는 1~128입니다. 이 값을 늘리면 모델 추론 속도가 빨라지지만 더 많은 그래픽 카드 메모리를 차지하게 됩니다. 이 값을 무리하게 설정하면 추론 속도가 느려집니다.

  • '배치 크기' 값은 실제로 신경망에 공급되는 이미지 수와 일치하는 것이 좋습니다.

  • 인스턴스 세그먼테이션 모델은 배치 크기 설정을 지원하지 않으며 배치 크기는 1이어야 합니다.

  • 다중 모델 패키지 추론을 사용할 때, 입력/출력 포트의 데이터 차원은 첫 번째 모델의 배치 크기에 의해 결정됩니다: 첫 번째 모델의 배치 크기가 1보다 클 때만 포트의 차원이 확장됩니다.

  • 정밀도 (하드웨어 유형GPU(최적화) 로 설정된 경우에만 표시):

    • FP32 : 고정밀 모델로, 추론 속도는 느리지만 정확도가 높습니다.

    • FP16 : 저정밀 모델로, 빠른 추론 속도를 제공합니다.

오류 분석

딥 러닝 모델 패키지 가져오기 실패

문제 증상

가져올 딥 러닝 모델 패키지를 선택한 후, 시스템에서 "딥 러닝 모델 패키지를 가져오지 못했습니다."라는 오류 메시지가 표시됩니다.

가능한 원인

  • 모델 패키지를 다운로드 센터에서 받은 경우, 다운로드 과정 중 패키지가 손상되었을 수 있습니다.

  • 모델 패키지가 손상되었거나 사용자에 의해 편집되었을 수 있습니다.

  • Mech-MSR과 Mech-DLK 버전이 호환되지 않을 수 있습니다.

  • IPC 하드웨어가 요구 사항을 충족하지 못할 수 있습니다(예: 메모리 부족, 하드 드라이브 공간 부족).

해결 방법

  • 모델 패키지를 다운로드 센터에서 받은 경우, CRC-32 값을 확인하여 패키지의 무결성을 검증하세요. CRC32 값이 일치하지 않으면 모델 패키지를 다시 다운로드하세요.

  • 모델 패키지가 손상되었거나 편집되었는지 확인하세요. 문제가 있다면 사용 중인 Mech-DLK 소프트웨어에서 모델 패키지를 다시 내보내세요.

  • 사용 중인 Mech-MSR과 Mech-DLK 소프트웨어 버전이 호환되는지 확인하세요. 자세한 내용은 딥 러닝 호환성 안내 문서를 참조하세요.

  • IPC의 하드웨어 상태를 점검하고, 충분한 메모리 및 디스크 공간이 있는지 확인하세요.

  • 문제가 계속 발생하면 기술 지원팀에 문의하세요.

딥 러닝 모델 패키지 최적화 실패

문제 증상

딥 러닝 모델 패키지를 최적화하는 도중, "모델 패키지 최적화에 실패했습니다"라는 오류 메시지가 나타납니다.

가능한 원인

GPU 메모리가 부족합니다.

해결 방법

  • 도구에서 사용되지 않는 모델 패키지를 제거한 다음 최적화 할 모델 패키지를 다시 가져옵니다.

  • 다른 모델 패키지의 실행 모드공유 모드로 전환한 후, 해당 모델 패키지를 다시 가져와 최적화합니다.

이 페이지가 도움이 되었습니까?

다음 방법을 통해 피드백을 보내주실 수 있습니다:

저희는 귀하의 개인정보를 소중히 다룹니다.

당사 웹사이트는 최상의 사용자 경험을 제공하기 위해 쿠키를 사용하고 있습니다. "모두 수락"을 클릭하시면 쿠키 사용에 동의하시는 것이며, "모두 거부"를 클릭하시면 이 웹사이트 방문 시 귀하의 정보가 추적되거나 기억되지 않도록 단일 쿠키만 사용됩니다.