Mech-MSR 딥 러닝 모델 패키지 관리 도구
Mech-MSR에서 딥 러닝 모델 패키지 관리 도구를 사용하여 모델 패키지를 가져올 수 있습니다.
소개
딥 러닝 모델 패키지 관리 도구는 Mech-MSR의 모든 딥러닝 모델 패키지를 효율적으로 관리하도록 설계되었습니다. Mech-DLK 2.6.1 이상 버전에서 내보낸 모델 패키지를 최적화할 수 있으며, 실행 모드, 하드웨어 유형, 모델 효율성, 모델 패키지 상태를 관리할 수 있습니다. 또한 이 도구는 IPC 의 GPU 사용률을 모니터링할 수 있습니다.
프로젝트에서 딥 러닝 모델 패키지 추론 스텝을 사용하는 경우, 먼저 모델 패키지를 딥 러닝 모델 패키지 관리 도구에 가져와야 해당 스텝에서 사용할 수 있습니다. 모델 패키지를 사전에 도구에 가져오면, 최적화를 미리 수행할 수 있습니다.
|
|
Mech-DLK 3.0.0 버전부터, 모델 패키지는 단일 모델 패키지와 다중 모델 패키지의 두 가지 유형으로 나뉩니다. Mech-DLK 2.4.1 버전부터 Mech-DLK 3.0.0 버전 이전까지는 단일 모델 패키지와 캐스케이딩 모델 패키지(즉, 직렬 모델)만 도출하는 것을 지원합니다.
|
도구 열기
다음 방법 중 하나를 통해 딥러닝 모델 패키지 관리 도구를 열 수 있습니다:
-
프로젝트를 새로 만들거나 기존 프로젝트를 연 후 메뉴 바에서 menu:딥 러닝 [ 딥 러닝 모델 패키지 관리 도구]를 선택합니다.
-
프로젝트 편집 구역에서 '딥 러닝 모델 패키지 추론' 스텝의 구성 마법사 버튼을 클릭합니다.
-
프로젝트 편집 구역에서 '딥 러닝 모델 패키지 추론' 스텝을 선택하고 파라미터 패널에서 모델 패키지 관리 도구 항목 아래 편집기를 열기 버튼을 클릭합니다.
도구 구성
이 도구는 다음과 같은 구성으로 이루어져 있습니다.
| 구성 | 설명 | ||
|---|---|---|---|
사용 가능한 모델 패키지 |
가져온 모델 패키지의 이름입니다. |
||
프로젝트 이름 |
해당 모델 패키지를 사용하는 Mech-MSR 프로젝트입니다. |
||
모델 패키지 유형 |
모델 패키지의 유형에는 단일 모델 패키지(예: 물체 검출, 텍스트 인식 등)와 다중 모델 패키지가 있습니다. |
||
실행 모드 |
실행 모드 옵션 : 공유 모드, 성능 모드
|
||
하드웨어 유형 |
하드웨어 유형 옵션 : GPU(기본값), GPU(최적화), CPU
|
||
모델 효율성 |
모델 패키지 추론 효율성을 구성할 수 있습니다. |
||
모델 패키지 상태 |
모델 패키지의 상태에는 최적화 중, 최적화 실패 , 미로드, 준비 완료의 네 가지가 있습니다.
|
||
작업 |
모델 패키지에 대해 해제 또는 삭제 작업을 수행할 수 있습니다.
|
일반 작업
이 부분에서는 딥 러닝 모델 패키지 관리 도구에 대한 일반적인 작업에 대해 소개합니다.
딥 러닝 모델 패키지 가져오기
-
딥 러닝 모델 패키지 관리 도구를 연 후, 오른쪽 상단의 가져오기 버튼을 클릭합니다.
-
팝업 창에서 가져올 모델 패키지를 선택한 뒤, 열기 버튼을 클릭하면 선택한 모델 패키지가 목록에 추가됩니다.
실행 모드 전환
모델 패키지 추론의 실행 모드를 전환하려면 딥 러닝 모델 패키지 관리 도구의 실행 모드 열에서
버튼을 클릭하고 공유 모드 또는 성능 모드를 선택하면 됩니다.
|
하드웨어 유형 전환
딥 러닝 모델 패키지 추론을 위한 하드웨어 유형을 GPU(기본값), GPU(최적화) 또는 CPU로 변경할 수 있습니다.
딥 러닝 모델 패키지 관리 도구의 하드웨어 유형 열에서
버튼을 클릭하고 GPU(기본값), GPU(최적화), CPU 중 하나를 선택합니다.
|
모델 효율성 구성
모델 효율성을 구성하는 프로세스는 다음과 같습니다.
-
구성할 딥 러닝 모델 패키지를 결정합니다.
-
모델 효율성 아래의 구성 버튼을 클릭하고 팝업 창에서 배치(Batch) 크기와 정밀도를 설정합니다. 모델의 실행 효율성은 배치 크기와 정밀도 설정에 따라 달라질 수 있습니다.
배치 크기: 모델 추론 중에 한 번에 신경망으로 전송되는 이미지의 수이며 범위는 1~128입니다. 이 값을 늘리면 모델 추론 속도가 빨라지지만 더 많은 그래픽 카드 메모리를 차지하게 됩니다. 이 값을 무리하게 설정하면 추론 속도가 느려집니다.
|
-
정밀도 (하드웨어 유형이 GPU(최적화) 로 설정된 경우에만 표시):
-
FP32 : 고정밀 모델로, 추론 속도는 느리지만 정확도가 높습니다.
-
FP16 : 저정밀 모델로, 빠른 추론 속도를 제공합니다.
-
오류 분석
딥 러닝 모델 패키지 가져오기 실패
문제 증상
가져올 딥 러닝 모델 패키지를 선택한 후, 시스템에서 "딥 러닝 모델 패키지를 가져오지 못했습니다."라는 오류 메시지가 표시됩니다.
가능한 원인
-
모델 패키지를 다운로드 센터에서 받은 경우, 다운로드 과정 중 패키지가 손상되었을 수 있습니다.
-
모델 패키지가 손상되었거나 사용자에 의해 편집되었을 수 있습니다.
-
Mech-MSR과 Mech-DLK 버전이 호환되지 않을 수 있습니다.
-
IPC 하드웨어가 요구 사항을 충족하지 못할 수 있습니다(예: 메모리 부족, 하드 드라이브 공간 부족).
해결 방법
-
모델 패키지를 다운로드 센터에서 받은 경우, CRC-32 값을 확인하여 패키지의 무결성을 검증하세요. CRC32 값이 일치하지 않으면 모델 패키지를 다시 다운로드하세요.
-
모델 패키지가 손상되었거나 편집되었는지 확인하세요. 문제가 있다면 사용 중인 Mech-DLK 소프트웨어에서 모델 패키지를 다시 내보내세요.
-
사용 중인 Mech-MSR과 Mech-DLK 소프트웨어 버전이 호환되는지 확인하세요. 자세한 내용은 딥 러닝 호환성 안내 문서를 참조하세요.
-
IPC의 하드웨어 상태를 점검하고, 충분한 메모리 및 디스크 공간이 있는지 확인하세요.
-
문제가 계속 발생하면 기술 지원팀에 문의하세요.