딥 러닝 모델 패키지 관리 도구

현재 최신 버전 (2.1.0)에 대한 매뉴얼을 보고 계십니다. 다른 버전에 액세스하려면 페이지 오른쪽 상단 모서리에 있는 '버전 전환' 버튼을 클릭하세요.

■ 현재 사용하고 있는 제품의 버전이 확실하지 않은 경우에는 언제든지 당사 기술 지원팀에 문의하시기 바랍니다.

이 부분은 딥 러닝 모델 패키지 관리 도구의 사용 방법과 주의사항에 대한 소개입니다.

도구 소개

딥 러닝 모델 패키지 관리 도구는 딥 러닝 모델 패키지를 관리하기 위해 Mech-Vision 소프트웨어에서 제공하는 도구로, Mech-DLK 2.2.0 이후에 도출한 딥 러닝 모델 패키지(단일 수준 모델 패키지 또는 캐스케이딩 모델 패키지)를 최적화하고 운행 모드, 하드웨어 유형, 모델 효율성 및 모델 패키지 상태를 관리할 수 있습니다. 또한 이 도구는 IPC의 GPU 사용량을 모니터링할 수 있습니다.

프로젝트에서 딥 러닝 관련 스텝을 사용할 때 먼저 모델 패키지를 딥 러닝 모델 패키지 관리 도구로 도입한 후 딥 러닝 관련 스텝에서 사용할 수 있습니다. 이 도구로 모델 패키지를 미리 도입하면 모델 패키지의 최적화를 미리 완료할 수 있습니다.

Mech-DLK 2.4.1 버전 이후 모델 패키지는 단일 및 캐스케이딩 모델 패키지 두 가지로 나눠집니다.

단일 모델 패키지: 모델 패키지에 단 하나의 딥 러닝 알고리즘 모듈이 있는 모델. 예를 들면 '인스턴스 세그먼테이션' 모델과 같습니다.
캐스케이딩 모델 패키지: 모델 패키지에는 딥 러닝 알고리즘 모듈의 여러 모델이 직렬로 존재하며 이전 모델의 출력은 다음 모델의 입력입니다. 예를 들면 모델 패키지에 “물체 검출”과 “인스턴스 세그먼테이션” 두 모델이 있으면 추론 순서는 물체 검출 인스턴스 세그먼테이션이며 “물체 검출” 모델의 출력은 “인스턴스 세그먼테이션” 모델의 입력이 됩니다.

인터페이스 소개

이 도구는 다음 두 가지 방법으로 열 수 있습니다.

프로젝트를 새로 만들거나 기존 프로젝트를 연 후 메뉴 바에서 menu:딥 러닝 [ 딥 러닝 모델 패키지 관리 도구]를 선택합니다.
프로젝트에서 '딥 러닝 모델 패키지 추론' 스텝을 선택하고 스텝 파라미터에서 모델 패키지 관리 도구 버튼을 클릭합니다.

딥 러닝 모델 패키지 관리 도구 인터페이스의 각 옵션 필드에 대한 소개는 아래 표와 같습니다.

필드 명칭	소개
캐시(cache) 모델 패키지 명칭	도입한 딥 러닝 모델 패키지의 명칭을 확인할 수 있습니다.
프로젝트 사용	모델 패키지를 사용하는 Mech-Vision 프로젝트를 볼 수 있습니다.
모델 패키지 유형	모델 패키지 유형을 볼 수 있습니다. 예: '물체 검출'(단일 모델 패키지), '물체 검출 + 결함 세그먼테이션'(캐스케이딩 모델 패키지)
실행 모드	딥 러닝 모델 패키지 추론의 실행 모드를 선택할 수 있습니다('공유 모드' 및 '성능 모드’를 포함).
하드웨어 유형	GPU(기본값), GPU(최적화), CPU 등 모델 패키지 추론에 사용되는 하드웨어 유형을 볼 수 있습니다.
모델 효율성	모델 패키지 추론의 효율성을 구성할 수 있습니다.
모델 패키지 상태	'최적화 중', '준비 완료', '최적화 실패' 등 모델 패키지의 상태를 확인할 수 있습니다.

필드 명칭

소개

캐시(cache) 모델 패키지 명칭

도입한 딥 러닝 모델 패키지의 명칭을 확인할 수 있습니다.

프로젝트 사용

모델 패키지를 사용하는 Mech-Vision 프로젝트를 볼 수 있습니다.

모델 패키지 유형

모델 패키지 유형을 볼 수 있습니다. 예: '물체 검출'(단일 모델 패키지), '물체 검출 + 결함 세그먼테이션'(캐스케이딩 모델 패키지)

실행 모드

딥 러닝 모델 패키지 추론의 실행 모드를 선택할 수 있습니다('공유 모드' 및 '성능 모드’를 포함).

하드웨어 유형

GPU(기본값), GPU(최적화), CPU 등 모델 패키지 추론에 사용되는 하드웨어 유형을 볼 수 있습니다.

모델 효율성

모델 패키지 추론의 효율성을 구성할 수 있습니다.

모델 패키지 상태

'최적화 중', '준비 완료', '최적화 실패' 등 모델 패키지의 상태를 확인할 수 있습니다.

실행 모드

공유 모드: 동일한 모델을 사용하는 다른 스텝은 추론을 위해 대기합니다. 이 옵션은 런타임 리소스를 절약합니다.
성능 모드: 동일한 모델을 사용하는 다른 스텝은 병렬로 추론합니다. 이 옵션은 실행 속도를 향상시키지만 더 많은 런타임 리소스를 소비합니다.

하드웨어 유형

CPU: CPU를 사용하여 딥 러닝 모델 추론을 수행하며 GPU에 비해 추론 시간이 늘어나고 인식 정확도가 떨어집니다.
GPU(기본값): 하드웨어 장치에 따라 최적화하지 않고 모델 패키지 추론을 수행합니다. 모델 패키지 추론은 가속화되지 않습니다.
GPU(최적화): 하드웨어 장치에 따라 최적화 후 모델 패키지 추론을 수행합니다. 최적화는 한 번만 수행하면 되며 5~15분 소요되고 추론 시간은 최적화 후 줄어들 것입니다.

딥 러닝 모델 패키지 관리 도구는 컴퓨터 모델을 감지하는 것을 통하여 하드웨어 유형 옵션을 결정합니다. 하드웨어 유형 옵션에 대한 표시 규칙은 다음과 같습니다.

CPU: 이 옵션은 Intel CPU가 탑재된 컴퓨터가 감지되면 표시됩니다.
GPU(기본값), GPU(최적화): 이 옵션은 NVIDIA 개별 그래픽 카드가 탑재된 컴퓨터가 감지되고, 그래픽 카드 드라이버가 472.50 이상 버전인 경우에만 표시됩니다.

사용 가이드

이 부분에서는 딥 러닝 모델 패키지 관리 도구에 대한 일반적인 작업에 대해 소개합니다.

딥 러닝 모델 패키지를 도입하기

딥 러닝 모델 패키지 관리 도구를 열고 인터페이스의 왼쪽 상단 모서리에 있는 모델 패키지 도입하기를 클릭하십시오.
팝업한 파일 선택창에서 도입할 딥 러닝 모델 패키지를 선택한 후 열기를 클릭하면 이 딥 러닝 모델 패키지가 딥 러닝 모델 관리 도구 리스트에 나타납니다. 이로써 딥 러닝 모델 패키지의 도입이 완료됩니다.

딥 러닝 모델 패키지를 도입할 때 GPU 드라이버의 최소 버전은 472.50(딥 러닝 스텝의 실행 시간에 변동이 발생할 수 있으므로 버전 500 이상의 GPU 드라이버 사용을 권장하지 않음)이며, CPU의 최소 요구 사항은 인텔 6세대 코어입니다. 하드웨어 조건이 충족되지 않으면 딥 러닝 모델 패키지 도입하기가 실패할 수 있습니다.

딥 러닝 스텝에서 딥 러닝 모델 패키지 선택

딥 러닝 모델 패키지를 도입한 후 '딥 러닝 모델 패키지 추론' 스텝에서 딥 러닝 모델 패키지를 선택하려면 그 파라미터에서 모델 패키지 이름의 드롭다운 메뉴에서 도입한 딥 러닝 모델 패키지를 선택할 수 있습니다.

deep learning model management step select model

딥 러닝 모델 패키지 제거하기

도입한 딥 러닝 모델 패키지를 제거하려면 먼저 딥 러닝 모델 패키지를 선택한 다음 딥 러닝 모델 패키지 관리 도구의 오른쪽 상단에 있는 모델 패키지 제거하기 버튼을 클릭해야 합니다.

deep learning model management log out model

최적화 중 또는 사용 중(해당 딥 러닝 모델 패키지를 사용하는 프로젝트가 실행될 때)인 모델 패키지는 제거될 수 없습니다.

딥 러닝 모델 패키지 추론의 실행 모드 전환

딥 러닝 모델 패키지 추론의 실행 모드를 전환하려면 딥 러닝 모델 패키지 관리 도구의 실행 모드 필드 아래에 있는 deep learning model management icon 1 버튼을 클릭한 후 공유 모드 또는 성능 모드를 선택합니다.

deep learning model management select operating mode

딥 러닝 모델 패키지의 최적화 상태가 최적화 중 또는사용 중(해당 딥 러닝 모델 패키지를 사용하는 프로젝트가 실행될 때)인 경우 실행 모드 전환이 금지됩니다.
딥 러닝 모델 패키지의 실행 모드가 공유 모드인 경우 딥 러닝 모델 패키지 추론 스텝의 파라미터에서 GPU ID를 전환할 수 없습니다.

딥 러닝 모델 패키지 추론을 위한 하드웨어 유형 전환

딥 러닝 모델 패키지 추론을 위한 하드웨어 유형은 GPU(기본값), GPU(최적화), CPU로 전환할 수 있습니다.

딥 러닝 모델 패키지 관리 도구에서 하드웨어 유형 필드 아래의 deep learning model management icon 1 버튼을 클릭하고 GPU(기본값), GPU(최적화) 또는 CPU를 선택합니다.

deep learning model management select hardware type

Mech-DLK 2.4.1 및 이상 버전에서 도출한 모델 패키지만 CPU와 GPU 간 전환을 지원합니다.
다음 도출한 모델 패키지는 GPU(기본) 하드웨어 유형의 사용을 지원하지 않습니다.
- Mech-DLK 2.2.0에서 도출한 인스턴스 세그먼테이션 및 인스턴스 세그먼테이션 슈퍼 모델 패키지.
- Mech-DLK에서 도출한 .dlkmt 파일만 포함하는 모델 패키지.
딥 러닝 모델 패키지의 최적화 상태가 최적화 중 또는 사용 중(해당 딥 러닝 모델 패키지를 사용하는 프로젝트가 실행될 때)인 경우 하드웨어 유형 전환이 금지됩니다.

모델 효율성 구성

Mech-DLK 2.4.1 및 이상 버전에서 도출한 모델 패키지를 사용하는 경우 다음과 같이 모델 효율성을 구성할 수 있습니다.

딥 러닝 모델 패키지를 도입합니다.

'모델 효율성' 아래의 구성 버튼을 클릭하면 모델 효율성 구성 창이 팝업하여 '배치 크기' 및 '정확도’를 구성할 수 있습니다.

모델 실행 효율성은 '배치 크기' 및 '정확도' 파라미터의 영향을 받습니다.

배치 크기: 모델 추론 중에 한 번에 신경망으로 전송되는 이미지의 수이며 범위는 1~128입니다. 이 값을 늘리면 모델 추론 속도가 빨라지지만 더 많은 그래픽 카드 메모리를 차지하게 됩니다. 이 값을 무리하게 설정하면 추론 속도가 느려집니다. 인스턴스 세그먼테이션 모델은 '배치 크기' 설정을 지원하지 않으며 '배치 크기’는 1이어야 합니다.

정확도('하드웨어 유형’이 'GPU 최적화’인 경우에만 활성화할 수 있음): FP32: 높은 모델 정확도, 느린 추론 속도; FP16: 낮은 모델 정확도, 빠른 추론 속도. 예를 들어, 'FP32’를 'FP16’으로 전환하면 모델 정확도가 낮아져 추론 결과가 변경됩니다.

'배치 크기' 값은 실제로 신경망에 공급되는 이미지 수와 일치하는 것이 좋습니다.

'배치 크기’가 실제로 신경망에 공급되는 이미지 수보다 훨씬 크게 설정되면 일부 리소스가 낭비되어 추론 속도가 느려집니다.

예: 이미지 수가 26개이고 '배치 크기’가 20으로 설정된 경우 추론이 두 번 수행되며 처음에는 20개의 이미지가 신경망에 전송되고 두 번째에는 6개의 이미지가 신경망에 전송됩니다. 두 번째 추론에서 '배치 크기' 설정이 신경망에 실제로 전송되는 이미지 수보다 훨씬 커서 일부 리소스가 낭비되고 추론 속도가 느려집니다. 따라서 리소스를 합리적으로 사용할 수 있도록 '배치 크기’를 합리적으로 설정하십시오.

주의사항

딥 러닝 모델 패키지 도입 실패

딥 러닝 모델 패키지를 이미 도입한 후 동일한 명칭의 딥 러닝 모델을 도입할 때 딥 러닝 모델 패키지의 이름을 수정하거나 동일한 이름의 모델 패키지를 제거하여 도입해야 합니다.

deep learning model management model name 1

동일한 내용의 딥 러닝 모델 패키지를 반복적으로 도입하면 딥 러닝 모델 패키지를 가져오지 못했습니다라는 메시지가 표시됩니다.

deep learning model management model name 2

소프트웨어 및 하드웨어 조건이 충족되지 않으면 딥 러닝 모델 패키지 도입하기가 실패할 수 있습니다. 최소 GPU 드라이버 버전 요구 사항은 472.50이고 CPU 최소 요구 사항은 Intel 6세대 코어입니다.

딥 러닝 모델 패키지 최적화 실패

그래픽 카드 메모리가 부족하면 아래 그림과 같이 딥 러닝 모델 패키지의 최적화가 실패할 수 있습니다. 프롬프트 창의 해결 방법에 따라 이 문제를 해결할 수 있습니다.

deep learning model management load model fail 1

호환성 설명

Mech-Vision 1.7.1 버전에서도 Mech-DLK 2.4.1 및 이상 버전에서 도출한 딥 러닝 모델 패키지를 사용할 수 있지만 다음의 호환성 문제에 주의해야 합니다. Mech-Vision 1.7.2 및 이상 버전과 Mech-DLK 2.4.1 및 이상 버전에서 도출한 딥 러닝 모델 패키지와 결합해서 사용하는 것을 권장합니다.
- Mech-Vision은 캐스케이딩 모델 패키지를 사용할 수 없습니다.
- 모델 효율성을 조정할 수 없습니다.
- 이미지 분류 효과가 나빠질 수 있습니다.
- 모델 패키지를 CPU 장치에서 사용할 수 없습니다.
Mech-Vision 1.7.2에서 Mech-Vision 1.7.1 최적화된 모델 패키지를 사용하는 경우 '딥 러닝 모델 패키지 추론' 스텝에서 모델 패키지의 첫 번째 실행 시간이 더 오래 걸릴 수 있습니다.
모델 패키지 추론에 사용되는 하드웨어 유형이 GPU(최적화)인 경우 다음 사항에 주의해야 합니다.

Mech-Vision 1.7.X에서는 모델 패키지가 최적화되지 않았습니다. Mech-Vision 1.8.0 및 이상 버전에서 최적화된 후에는 Mech-Vision 1.7.X에서 모델 패키지를 직접 사용할 수 없습니다. 딥 러닝 모델 패키지를 관리 도구에서 폴더 열기를 클릭하여 해당하는 캐시 폴더를 삭제한 후 모델 패키지를 다시 최적화하십시오.

model_config.json 파일을 통해 모델 패키지에 해당하는 캐시 폴더를 확인할 수 있습니다.