성능 향상을 위해 Deci로 Ultralytics YOLOv5 컴파일 및 양자화하기

Ultralytics는 YOLOv5와 같은 오픈 소스 도구를 모두가 무료로 사용할 수 있도록 연구 개발 자금을 마련하기 위해 다른 스타트업과 상업적으로 제휴합니다. 이 글에는 해당 파트너사로 연결되는 제휴 링크가 포함될 수 있습니다.

업데이트: NVIDIA는 2024년에 Deci를 인수했으며, 현재 deci.ai는 NVIDIA로 리디렉션됩니다. Deci 플랫폼을 이용하는 아래 단계는 참고용으로 유지했습니다.

Deci 플랫폼에는 모든 프로덕션 환경에서 YOLOv5 모델을 쉽게 관리하고 최적화하며 배포할 수 있는 무료 도구가 포함되어 있습니다. Deci는 TensorFlow, PyTorch, Keras, ONNX와 같은 인기 딥러닝 프레임워크를 모두 지원합니다. 웹 기반 플랫폼을 사용하거나 Python 클라이언트를 통해 코드에서 실행하면 됩니다.

Deci를 사용하는 이유#

Deci를 사용하면 모델 내보내기뿐 아니라 모델 가지치기와 양자화도 수행할 수 있습니다.

Deci는 어떤 형식으로든 모델을 내보내고 원본 모델과 변환된 모델의 성능을 비교할 수 있는 편리한 인터페이스를 제공합니다. 사용자는 양자화를 통해 모델을 추가로 최적화할 수 있습니다.

Deci로 할 수 있는 작업:#

추론 성능을 최대 10배 향상#

모델을 자동으로 컴파일하고 양자화하며, 다양한 프로덕션 설정을 평가해 하드웨어에서 지연 시간과 처리량을 개선하고 모델 크기와 메모리 사용량을 줄일 수 있습니다.

애플리케이션에 가장 적합한 추론 하드웨어 찾기#

버튼 한 번으로 엣지 디바이스를 포함한 다양한 하드웨어에서 모델 성능을 벤치마크할 수 있습니다. 여러 하드웨어와 프로덕션 설정을 수동으로 구성하고 테스트할 필요가 없습니다.

몇 줄의 코드로 배포#

Deci의 Python 기반 추론 엔진을 활용해 보세요. 여러 프레임워크와 하드웨어 유형을 지원합니다.

최초 설정#

1단계#

무료 계정을 만드세요.

2단계#

사전 학습된 YOLOv5 모델의 최적화를 시작하려면 먼저 모델을 ONNX 형식으로 변환해야 합니다. 모델을 ONNX 형식으로 변환하는 방법은 YOLOv5 내보내기 튜토리얼을 참조하세요.

3단계#

화면 오른쪽 상단의 "Lab" 탭으로 이동해 "New Model" 버튼을 클릭하여 YOLOv5 ONNX 모델을 업로드하세요.

모델 업로드 마법사의 단계에 따라 모델 컴파일에 사용할 대상 하드웨어와 원하는 배치 크기 및 양자화 수준을 선택하세요.

관련 정보를 입력한 후 "Start"를 클릭하세요. Deci 플랫폼은 선택한 하드웨어에 맞게 Ultralytics YOLOv5 모델의 런타임 최적화를 자동으로 수행하고, 다양한 하드웨어 유형에서 모델을 벤치마크합니다. 이 과정은 약 10분이 소요됩니다.

작업이 완료되면 이전에 업로드한 기준 모델 아래에 새 행이 표시됩니다. 여기에서 사전 학습된 Ultralytics YOLOv5 모델의 최적화된 버전을 확인할 수 있습니다.

다음 단계#

그런 다음 "Deploy" 버튼을 클릭하여 최적화된 모델을 다운로드할 수 있습니다.

그러면 모델 다운로드 메시지가 표시되며, Deci의 런타임 추론 엔진인 Infery를 설치하고 사용하는 방법에 대한 안내도 제공됩니다.

Infery 사용은 선택 사항입니다. 원시 Python 파일을 다운로드하여 원하는 다른 추론 엔진과 함께 사용할 수 있습니다.

"Insights" 탭에서 최적화 및 벤치마크 결과를 살펴보세요.

시작할 준비가 되셨나요?#

마무리하기 전에 Deci가 제공하는 몇 가지 이점을 살펴보겠습니다.

• 정확도를 저하시키지 않고 모델의 추론 처리량과 지연 시간을 최적화합니다.
• 널리 사용되는 모든 프레임워크의 모델을 최적화할 수 있습니다.
• 모든 딥러닝 작업을 대상으로 하는 모델을 지원합니다.
• 널리 사용되는 CPU 및 GPU 머신에 배포할 수 있도록 지원합니다.
• 다양한 하드웨어 호스트와 클라우드 제공업체에서 모델의 적합성을 벤치마크합니다.
• 업로드한 모델을 서빙, 추론 및 배포에 사용할 수 있도록 준비합니다.

방금 살펴본 것처럼 약 15분 만에 Ultralytics YOLOv5 모델의 성능을 두 배로 높일 수 있습니다. Deci 플랫폼은 사용하기 쉽고 직관적입니다.

궁금한 점이 있으신가요? 커뮤니티에 참여해 지금 질문을 남겨주세요!