딥 러닝 모델 패키지 관리 도구
이 부분은 딥 러닝 모델 패키지 관리 도구의 사용 방법과 주의사항에 대한 소개입니다.
도구 소개
딥 러닝 모델 패키지 관리 도구는 딥 러닝 모델 패키지를 관리하기 위해 Mech-Vision 소프트웨어에서 제공하는 도구로, Mech-DLK 2.2.0 이후에 내보낸 딥 러닝 모델 패키지(단일 모델 패키지 또는 캐스케이딩 모델 패키지)를 최적화하고 실행 모드, 하드웨어 유형, 모델 효율 및 모델 패키지 상태를 관리할 수 있습니다. 또한 이 도구는 IPC의 GPU 사용량을 모니터링할 수 있습니다.
프로젝트에서 딥 러닝 관련 스텝(예: 딥 러닝 모델 패키지 추론, 임의 물체 피킹 V2 등)을 사용할 때 먼저 모델 패키지를 딥 러닝 모델 패키지 관리 도구로 도입한 후 딥 러닝 관련 스텝에서 사용할 수 있습니다. 이 도구로 모델 패키지를 미리 도입하면 모델 패키지의 최적화를 미리 완료할 수 있습니다.
|
|
Mech-DLK 3.0.0부터 모델 패키지는 단일 모델 패키지와 다중 모델 패키지 두 가지 유형으로 나뉩니다. Mech-DLK 2.4.1부터 Mech-DLK 3.0.0 이전 버전까지는 단일 모델 패키지와 캐스케이드 모델 패키지(즉 직렬 모델)만 내보낼 수 있습니다.
|
도구 열기
다음과 같은 방법으로 이 도구를 열 수 있습니다.
-
새 프로젝트를 생성하거나 기존 프로젝트를 연 후 메뉴 바에서 를 차례로 선택합니다.
-
소프트웨어의 프로젝트 편집 영역에서 딥 러닝 관련 스텝의 구성 마법사 버튼을 클릭합니다.
-
소프트웨어의 프로젝트 편집 영역에서 딥 러닝 관련 스텝을 선택한 다음, 스텝 파라미터 영역의 모델 패키지 관리 도구 아래 편집기 열기 버튼을 클릭합니다.
인터페이스 설명
이 도구 인터페이스의 각 옵션 필드 설명은 다음과 같습니다.
| 필드 | 설명 | ||
|---|---|---|---|
캐시 모델 패키지 이름 |
가져온 모델 패키지 이름입니다. |
||
사용 프로젝트 |
모델 패키지를 사용하는 Mech-Vision 프로젝트입니다. |
||
모델 패키지 유형 |
모델 패키지의 유형으로, 단일 모델 패키지("객체 검출", "텍스트 인식" 등)와 다중 모델 패키지를 포함합니다. |
||
실행 모드 |
추론 시 모델 패키지의 실행 모드로, 공유 모드와 성능 모드를 포함합니다.
|
||
하드웨어 유형 |
모델 패키지 추론 시 사용하는 하드웨어의 유형으로, GPU(기본값), GPU(최적화), CPU를 포함합니다.
|
||
모델 효율 |
모델 패키지 추론 효율을 구성할 수 있습니다. |
||
모델 패키지 상태 |
모델 패키지의 상태로, 최적화 중…, 최적화 실패, 미로드, 준비 완료 네 가지 상태가 있습니다.
|
||
작업 |
모델 패키지에 대해 해제 또는 삭제 작업을 수행할 수 있습니다.
|
사용 가이드
이 부분에서는 딥 러닝 모델 패키지 관리 도구에 대한 일반적인 작업에 대해 소개합니다.
딥 러닝 모델 패키지 가져오기
-
딥 러닝 모델 패키지 관리 도구를 열고, 인터페이스 오른쪽 위의 가져오기 버튼을 클릭합니다.
-
팝업되는 파일 선택 창에서 가져올 모델 패키지를 선택한 뒤 열기 버튼을 클릭하면 해당 모델 패키지가 도구 목록에 표시됩니다.
실행 모드 전환
모델 패키지 추론의 실행 모드를 전환하려면, 딥 러닝 모델 패키지 관리 도구의 실행 모드 필드 아래
버튼을 클릭한 뒤 공유 모드 또는 성능 모드를 선택합니다.
|
하드웨어 유형 전환
딥 러닝 모델 패키지 추론의 하드웨어 유형은 GPU(기본값), GPU(최적화), CPU로 전환할 수 있습니다.
딥 러닝 모델 패키지 관리 도구의 하드웨어 유형 필드 아래
버튼을 클릭한 뒤 GPU(기본값), GPU(최적화) 또는 CPU를 선택합니다.
|
모델 효율 구성
모델 효율 구성 절차는 다음과 같습니다.
-
구성할 딥 러닝 모델 패키지를 결정합니다.
-
모델 효율 아래의 해당 구성 버튼을 클릭한 뒤, 팝업 창에서 배치 크기와 정확도를 설정합니다. 모델 실행 효율은 배치 크기와 정확도 파라미터의 영향을 받습니다.
-
배치 크기: 모델 추론 시 한 번에 신경망으로 전송되는 이미지 수이며 범위는 1~128입니다. 이 값을 늘리면 모델 추론 속도는 빨라지지만 더 많은 비디오 메모리를 사용합니다. 값이 부적절하면 오히려 추론 속도가 느려질 수 있습니다.
-
|
-
정확도(오직 하드웨어 유형이 GPU(최적화)일 때만 설정 가능):
-
FP32: 모델 정확도는 높지만 추론 속도는 느립니다.
-
FP16: 모델 정확도는 낮지만 추론 속도는 빠릅니다.
-
오류 분석
딥 러닝 모델 패키지 도입 실패
문제 증상
가져올 딥 러닝 모델 패키지를 선택한 후, 시스템에서 "딥 러닝 모델 패키지를 가져오지 못했습니다."라는 오류 메시지가 표시됩니다.
가능한 원인
-
동일한 이름의 모델 패키지를 가져왔습니다.
-
동일한 내용이 담긴 모델 패키지를 가져왔습니다.
-
하드웨어와 소프트웨어가 최소 요구 사항을 충족할 수 없습니다.
해결 방법
-
모델 패키지 이름을 수정하거나 같은 이름의 가져온 모델 패키지를 제거합니다.
-
모델 패키지의 내용을 확인합니다. 가져온 모델 패키지와 동일하면 다시 가져올 필요가 없습니다.
-
GPU 드라이버의 최소 버전 요구 사항은 526.98이며, CPU의 최소 요구 사항은 Intel 6세대 코어입니다.
호환성 설명
-
Mech-Vision 2.2.0 및 이후 버전에서는 Mech-DLK 2.5.4 및 이후 버전에서 내보낸 딥 러닝 모델 패키지를 사용할 수 있으며, Mech-DLK의 모든 알고리즘 모듈을 지원하고 다중 모델 패키지도 가져와 추론에 사용할 수 있습니다. 다만 실제 사용 시 다음과 같은 호환성 문제가 발생할 수 있습니다.
-
빠른 위치 결정 모델은 GPU(최적화) 하드웨어 유형을 지원하지 않습니다.
-
Mech-DLK 2.5.4 버전의 모델 패키지를 가져올 때 후처리 인터페이스의 클래스 이름 표시가 비정상일 수 있습니다. 예를 들어 이미지 분류 모델이 추론 구성 도구의 시각화 구성에서 단일 클래스만 표시되고 모든 클래스를 정상적으로 표시하지 못할 수 있습니다.
-
-
Mech-Vision 1.7.1은 Mech-DLK 2.4.1 및 이후 버전에서 내보낸 딥 러닝 모델 패키지를 사용할 수 있지만, 다음과 같은 호환성 문제가 존재합니다. Mech-Vision 1.7.2 및 이후 버전과 Mech-DLK 2.4.1 및 이후 버전에서 내보낸 딥 러닝 모델 패키지를 함께 사용하는 것을 권장합니다.
-
Mech-Vision은 캐스케이딩 모델 패키지를 사용할 수 없습니다.
-
모델 효율을 조정할 수 없습니다.
-
이미지 분류 효과가 나빠질 수 있습니다.
-
모델 패키지를 CPU 장치에서 사용할 수 없습니다.
-
-
Mech-Vision 1.7.2에서 Mech-Vision 1.7.1로 최적화된 모델 패키지를 사용할 경우, "딥 러닝 모델 패키지 추론" 스텝에서 모델 패키지가 처음 실행될 때 속도가 느릴 수 있습니다.
-
모델 패키지 추론 시 사용하는 하드웨어 유형이 GPU(최적화)일 때는 다음 사항에 유의해야 합니다.
모델 패키지가 Mech-Vision 1.7.X에서 최적화되지 않았고, Mech-Vision 1.8.0 및 이후 버전에서 최적화되었다면, 해당 모델 패키지는 Mech-Vision 1.7.X에서 직접 정상적으로 사용할 수 없습니다. 딥 러닝 모델 패키지 관리 도구에서 폴더 열기를 클릭하여 모델 패키지에 해당하는 캐시 폴더를 삭제한 후, 모델 패키지를 다시 최적화해야 합니다.
model_config.json 파일을 통해 모델 패키지에 해당하는 캐시 폴더를 확인할 수 있습니다.