딥 러닝 모델 패키지 관리 도구

현재 버전 (1.7.5)에 대한 매뉴얼을 보고 계십니다. 다른 버전에 액세스하려면 페이지 오른쪽 상단 모서리에 있는 '버전 전환' 버튼을 클릭하세요.

■ 최신 버전의 소프트웨어를 사용하려면 Mech-Mind 다운로드 센터를 방문하여 다운로드하세요.

■ 현재 사용하고 있는 제품의 버전이 확실하지 않은 경우에는 언제든지 당사 기술 지원팀에 문의하시기 바랍니다.

이 부분은 딥 러닝 모델 패키지 관리 도구의 사용 방법과 주의사항에 대한 소개입니다.

도구 소개

딥 러닝 모델 패키지 관리 도구는 딥 러닝 모델 패키지를 관리하기 위해 Mech-Vision 소프트웨어에서 제공하는 도구로, Mech-DLK 2.2.0 이후에 도출한 딥 러닝 모델 패키지(단일 수준 모델 패키지 또는 캐스케이딩 모델 패키지)를 최적화하고 운행 모드, 하드웨어 유형, 모델 효율성 및 모델 패키지 상태를 관리할 수 있습니다. 또한 이 도구는 IPC의 GPU 사용량을 모니터링할 수 있습니다.

프로젝트에서 딥 러닝 관련 스텝을 사용할 때 먼저 모델 패키지를 딥 러닝 모델 패키지 관리 도구로 도입한 후 딥 러닝 관련 스텝에서 사용할 수 있습니다. 이 도구로 모델 패키지를 미리 도입하면 모델 패키지의 최적화를 미리 완료할 수 있습니다.

Mech-DLK 2.4.1 버전 이후 모델 패키지는 단일 및 캐스케이딩 모델 패키지 두 가지로 나눠집니다.

  • 단일 모델 패키지: 모델 패키지에 단 하나의 딥 러닝 알고리즘 모듈이 있는 모델. 예를 들면 "인스턴스 세그먼테이션" 모델과 같습니다.

  • 캐스케이딩 모델 패키지: 모델 패키지에는 딥 러닝 알고리즘 모듈의 여러 모델이 직렬로 존재하며 이전 모델의 출력은 다음 모델의 입력입니다. 예를 들면 모델 패키지에 “물체 검출”과 “인스턴스 세그먼테이션” 두 모델이 있으면 추론 순서는 물체 검출  인스턴스 세그먼테이션이며 “물체 검출” 모델의 출력은 “인스턴스 세그먼테이션” 모델의 입력이 됩니다.

인터페이스 소개

이 도구는 다음 두 가지 방법으로 열 수 있습니다.

  • 프로젝트를 새로 만들거나 기존 프로젝트를 연 후 메뉴 바에서 menu:딥 러닝 [ 딥 러닝 모델 패키지 관리 도구]를 선택합니다.

  • 프로젝트에서 "딥 러닝 모델 패키지 추론" 스텝을 선택하고 스텝 파라미터에서 모델 패키지 관리 도구 버튼을 클릭합니다.

딥 러닝 모델 패키지 관리 도구 인터페이스의 각 옵션 필드에 대한 소개는 아래 표와 같습니다.

필드 명칭 소개

캐시(cache) 모델 패키지 명칭

도입한 딥 러닝 모델 패키지의 명칭을 확인할 수 있습니다.

프로젝트 사용

모델 패키지를 사용하는 Mech-Vision 프로젝트를 볼 수 있습니다.

모델 패키지 유형

모델 패키지 유형을 볼 수 있습니다. 예: "물체 검출"(단일 모델 패키지), "물체 검출 + 결함 세그먼테이션"(캐스케이딩 모델 패키지)

실행 모드

딥 러닝 모델 패키지 추론의 실행 모드를 선택할 수 있습니다("공유 모드" 및 "성능 모드"를 포함).

하드웨어 유형

GPU(기본값), GPU(최적화), CPU 등 모델 패키지 추론에 사용되는 하드웨어 유형을 볼 수 있습니다.

모델 효율성

모델 패키지 추론의 효율성을 구성할 수 있습니다.

모델 패키지 상태

"최적화 중", "준비 완료", "최적화 실패" 등 모델 패키지의 상태를 확인할 수 있습니다.

실행 모드

  • 공유 모드: 동일한 모델을 사용하는 다른 스텝은 추론을 위해 대기합니다. 이 옵션은 런타임 리소스를 절약합니다.

  • 성능 모드: 동일한 모델을 사용하는 다른 스텝은 병렬로 추론합니다. 이 옵션은 실행 속도를 향상시키지만 더 많은 런타임 리소스를 소비합니다.

하드웨어 유형

  • CPU: CPU를 사용하여 딥 러닝 모델 추론을 수행하며 GPU에 비해 추론 시간이 늘어나고 인식 정확도가 떨어집니다.

  • GPU(기본값): 하드웨어 장치에 따라 최적화하지 않고 모델 패키지 추론을 수행합니다. 모델 패키지 추론은 가속화되지 않습니다.

  • GPU(최적화): 하드웨어 장치에 따라 최적화 후 모델 패키지 추론을 수행합니다. 최적화는 한 번만 수행하면 되며 5~15분 소요되고 추론 시간은 최적화 후 줄어들 것입니다.

사용 가이드

이 부분에서는 딥 러닝 모델 패키지 관리 도구에 대한 일반적인 작업에 대해 소개합니다.

딥 러닝 모델 패키지를 도입하기

  1. 딥 러닝 모델 패키지 관리 도구를 열고 인터페이스의 왼쪽 상단 모서리에 있는 모델 패키지 도입하기를 클릭하십시오.

  2. 팝업한 파일 선택창에서 도입할 딥 러닝 모델 패키지를 선택한 후 열기를 클릭하면 이 딥 러닝 모델 패키지가 딥 러닝 모델 관리 도구 리스트에 나타납니다. 이로써 딥 러닝 모델 패키지의 도입이 완료됩니다.

딥 러닝 모델 패키지를 도입할 때 GPU 드라이버의 최소 버전은 472.50(딥 러닝 스텝의 실행 시간에 변동이 발생할 수 있으므로 버전 500 이상의 GPU 드라이버 사용을 권장하지 않음)이며, CPU의 최소 요구 사항은 인텔 6세대 코어입니다. 하드웨어 조건이 충족되지 않으면 딥 러닝 모델 패키지 도입하기가 실패할 수 있습니다.

딥 러닝 스텝에서 딥 러닝 모델 패키지 선택

딥 러닝 모델 패키지를 도입한 후 "딥 러닝 모델 패키지 추론" 스텝에서 딥 러닝 모델 패키지를 선택하려면 그 파라미터에서 모델 패키지 이름의 드롭다운 목록에서 도입한 딥 러닝 모델 패키지를 선택할 수 있습니다.

deep learning model management step select model

딥 러닝 모델 패키지 제거하기

도입한 딥 러닝 모델 패키지를 제거하려면 먼저 딥 러닝 모델 패키지를 선택한 다음 딥 러닝 모델 패키지 관리 도구의 오른쪽 상단에 있는 모델 패키지 제거하기 버튼을 클릭해야 합니다.

deep learning model management log out model

최적화 중 또는 사용 중(해당 딥 러닝 모델 패키지를 사용하는 프로젝트가 실행될 때)인 모델 패키지는 제거될 수 없습니다.

딥 러닝 모델 패키지 추론의 실행 모드 전환

딥 러닝 모델 패키지 추론의 실행 모드를 전환하려면 딥 러닝 모델 패키지 관리 도구의 실행 모드 필드 아래에 있는 deep learning model management icon 1 버튼을 클릭한 후 공유 모드 또는 성능 모드를 선택합니다.

deep learning model management select operating mode

  • 딥 러닝 모델 패키지의 최적화 상태가 최적화 중 또는사용 중(해당 딥 러닝 모델 패키지를 사용하는 프로젝트가 실행될 때)인 경우 실행 모드 전환이 금지됩니다.

  • 딥 러닝 모델 패키지의 실행 모드가 공유 모드인 경우 딥 러닝 모델 패키지 추론 스텝의 파라미터에서 GPU ID를 전환할 수 없습니다.

딥 러닝 모델 패키지 추론을 위한 하드웨어 유형 전환

딥 러닝 모델 패키지 추론을 위한 하드웨어 유형은 GPU(기본값), GPU(최적화), CPU로 전환할 수 있습니다.

딥 러닝 모델 패키지 관리 도구에서 하드웨어 유형 필드 아래의 deep learning model management icon 1 버튼을 클릭하고 GPU(기본값), GPU(최적화) 또는 CPU를 선택합니다.

deep learning model management select hardware type

  • Mech-DLK 2.4.1 및 이상 버전에서 도출한 모델 패키지만 CPU와 GPU 간 전환을 지원합니다.

  • 다음 도출한 모델 패키지는 GPU(기본) 하드웨어 유형의 사용을 지원하지 않습니다.

    • Mech-DLK 2.2.0에서 도출한 인스턴스 세그먼테이션 및 인스턴스 세그먼테이션 슈퍼 모델 패키지.

    • Mech-DLK에서 도출한 .dlkmt 파일만 포함하는 모델 패키지.

  • 딥 러닝 모델 패키지의 최적화 상태가 최적화 중 또는 사용 중(해당 딥 러닝 모델 패키지를 사용하는 프로젝트가 실행될 때)인 경우 하드웨어 유형 전환이 금지됩니다.

모델 효율성 구성

Mech-DLK 2.4.1 및 이상 버전에서 도출한 모델 패키지를 사용하는 경우 다음과 같이 모델 효율성을 구성할 수 있습니다.

  1. 딥 러닝 모델 패키지를 도입합니다.

  2. "모델 효율성" 아래의 구성 버튼을 클릭하면 모델 효율성 구성 창이 팝업하여 "배치 크기" 및 "정확도"를 구성할 수 있습니다.

    모델 실행 효율성은 "배치 크기" 및 "정확도" 파라미터의 영향을 받습니다.

    • 배치 크기: 모델 추론 중에 한 번에 신경망으로 전송되는 이미지의 수이며 범위는 1~128입니다. 이 값을 늘리면 모델 추론 속도가 빨라지지만 더 많은 그래픽 카드 메모리를 차지하게 됩니다. 이 값을 무리하게 설정하면 추론 속도가 느려집니다. 인스턴스 세그먼테이션 모델은 "배치 크기" 설정을 지원하지 않으며 "배치 크기"는 1이어야 합니다.

    • 정확도("하드웨어 유형"이 "GPU 최적화"인 경우에만 활성화할 수 있음): FP32: 높은 모델 정확도, 느린 추론 속도; FP16: 낮은 모델 정확도, 빠른 추론 속도.

      "배치 크기" 값은 실제로 신경망에 공급되는 이미지 수와 일치하는 것이 좋습니다.

      "배치 크기"가 실제로 신경망에 공급되는 이미지 수보다 훨씬 크게 설정되면 일부 리소스가 낭비되어 추론 속도가 느려집니다.

      예: 이미지 수가 26개이고 "배치 크기"가 20으로 설정된 경우 추론이 두 번 수행되며 처음에는 20개의 이미지가 신경망에 전송되고 두 번째에는 6개의 이미지가 신경망에 전송됩니다. 두 번째 추론에서 "배치 크기" 설정이 신경망에 실제로 전송되는 이미지 수보다 훨씬 커서 일부 리소스가 낭비되고 추론 속도가 느려집니다. 따라서 리소스를 합리적으로 사용할 수 있도록 "배치 크기"를 합리적으로 설정하십시오.

주의사항

딥 러닝 모델 패키지 도입 실패

  • 딥 러닝 모델 패키지를 이미 도입한 후 동일한 명칭의 딥 러닝 모델을 도입할 때 딥 러닝 모델 패키지의 이름을 수정하거나 동일한 이름의 모델 패키지를 제거하여 도입해야 합니다.

deep learning model management model name 1

  • 동일한 내용의 딥 러닝 모델 패키지를 반복적으로 도입하면 딥 러닝 모델 패키지를 가져오지 못했습니다라는 메시지가 표시됩니다.

deep learning model management model name 2

  • 소프트웨어 및 하드웨어 조건이 충족되지 않으면 딥 러닝 모델 패키지 도입하기가 실패할 수 있습니다. 최소 GPU 드라이버 버전 요구 사항은 472.50이고 CPU 최소 요구 사항은 Intel 6세대 코어입니다.

딥 러닝 모델 패키지 최적화 실패

그래픽 카드 메모리가 부족하면 아래 그림과 같이 딥 러닝 모델 패키지의 최적화가 실패할 수 있습니다. 프롬프트 창의 해결 방법에 따라 이 문제를 해결할 수 있습니다.

deep learning model management load model fail 1

호환성 설명

  • Mech-Vision 1.7.1 버전에서도 Mech-DLK 2.4.1 및 이상 버전에서 도출한 딥 러닝 모델 패키지를 사용할 수 있지만 다음의 호환성 문제에 주의해야 합니다. Mech-Vision 1.7.2 및 이상 버전과 Mech-DLK 2.4.1 및 이상 버전에서 도출한 딥 러닝 모델 패키지와 결합해서 사용하는 것을 권장합니다.

    • Mech-Vision은 캐스케이딩 모델 패키지를 사용할 수 없습니다.

    • 모델 효율성을 조정할 수 없습니다.

    • 이미지 분류 효과가 나빠질 수 있습니다.

    • 모델 패키지를 CPU 장치에서 사용할 수 없습니다.

  • Mech-Vision 1.7.2에서 Mech-Vision 1.7.1 최적화된 모델 패키지를 사용하는 경우 "딥 러닝 모델 패키지 추론" 스텝에서 모델 패키지의 첫 번째 실행 시간이 더 오래 걸릴 수 있습니다.

  • Mech-DLK 2.4.1 버전을 사용하여 물체 검출 모델 패키지를 도출할 때 "추론 시 최대 인스턴스 수"를 1로 설정하고 딥 러닝 모델 패키지 관리 도구의 하드웨어 유형이 CPU인 경우, 모델 패키지의 추론 속도가 매우 느려질 것입니다. "추론 시 최대 인스턴스 수"의 값은 1보다 큰 것이 좋습니다.

저희는 귀하의 개인 정보를 소중하게 생각합니다.

당사 웹사이트는 귀하에게 최상의 경험을 제공하기 위해 쿠키를 사용합니다. "모두 수락"을 클릭하시는 경우, 귀하는 사의 쿠키 사용에 동의하게 됩니다. "모두 거부"를 클릭하시는 경우, 귀하가 이 웹사이트를 방문할 때 추적되거나 기억되지 않도록 하기 위해 단일 쿠키가 사용됩니다.

  • Preference
  • 모두 수락
  • 모두 거부