Deci를 활용한 더 나은 성능을 위한 Ultralytics YOLOv5 컴파일 및 양자화

Ultralytics는 YOLOv5와 같은 훌륭한 오픈 소스 도구를 모두에게 무료로 제공하기 위한 연구 및 개발 자금을 마련하고자 다른 스타트업과 상업적 파트너십을 맺고 있습니다. 이 글에는 해당 파트너에 대한 제휴 링크가 포함될 수 있습니다.

Deci 플랫폼에는 모든 프로덕션 환경에서 YOLOv5 모델을 쉽게 관리, 최적화 및 배포할 수 있는 무료 도구가 포함되어 있습니다. Deci는 TensorFlow, PyTorch, Keras, ONNX와 같은 널리 사용되는 모든 DL 프레임워크를 지원합니다. 웹 기반 플랫폼 또는 코드에서 실행할 수 있는 Python 클라이언트만 있으면 됩니다.

Deci를 사용하는 이유#

Deci를 사용하면 모델을 내보내는 것뿐만 아니라 모델 프루닝과 양자화도 수행할 수 있습니다!

Deci는 모든 형식으로 내보내기 위한 편리한 인터페이스와 원본 모델과 변환된 모델의 성능 비교 기능을 제공합니다. 사용자는 양자화를 통해 모델을 추가로 최적화할 수 있습니다.

Deci로 다음을 수행할 수 있습니다:#

추론 성능을 최대 10배 향상#

모델을 자동으로 컴파일 및 양자화하고 다양한 프로덕션 설정을 평가하여 하드웨어에서 더 나은 지연 시간, 처리량, 모델 크기 및 메모리 사용량 감소를 달성할 수 있습니다.

애플리케이션에 가장 적합한 추론 하드웨어 찾기#

버튼 하나로 다양한 하드웨어(엣지 디바이스 포함)에서 모델 성능을 벤치마크할 수 있습니다. 여러 하드웨어 및 프로덕션 설정을 수동으로 구성하고 테스트할 필요가 없습니다.

몇 줄의 코드로 배포#

Deci의 Python 기반 추론 엔진을 활용할 수 있습니다. 여러 프레임워크와 하드웨어 유형을 지원합니다.

Deci 플랫폼에 대한 자세한 내용은 Deci의 웹사이트를 방문해 주세요.

최초 설정#

1단계#

무료 계정을 개설합니다.

2단계#

사전 학습된 YOLOv5 모델 최적화를 시작하려면 먼저 모델을 ONNX 형식으로 변환해야 합니다. 모델을 ONNX 형식으로 변환하는 방법은 YOLOv5 내보내기 튜토리얼을 참조하세요.

3단계#

"Lab" 탭으로 이동한 다음 화면 오른쪽 상단의 "New Model" 버튼을 클릭하여 YOLOv5 ONNX 모델을 업로드합니다.

모델 업로드 마법사의 단계에 따라 대상 하드웨어와 모델 컴파일에 사용할 배치 크기 및 양자화 수준을 선택합니다.

관련 정보를 입력한 후 "Start"를 클릭합니다. Deci 플랫폼은 선택한 하드웨어에 맞게 Ultralytics YOLOv5 모델의 런타임 최적화를 자동으로 수행하고 다양한 하드웨어 유형에서 모델을 벤치마크합니다. 이 과정은 약 10분 정도 걸립니다.

완료되면 이전에 업로드한 기준 모델 아래에 새 행이 화면에 나타납니다. 여기에서 사전 학습된 Ultralytics YOLOv5 모델의 최적화된 버전을 확인할 수 있습니다.

다음 단계#

그런 다음 "Deploy" 버튼을 클릭하여 최적화된 모델을 다운로드할 수 있습니다.

그러면 모델을 다운로드하고 Infery(Deci의 런타임 추론 엔진)를 설치하고 사용하는 방법에 대한 안내를 받을 수 있습니다.

Infery 사용은 선택 사항입니다. Python 원시 파일을 받아 원하는 다른 추론 엔진과 함께 사용할 수 있습니다.

"Insights" 탭에서 최적화 및 벤치마크 결과를 확인할 수 있습니다.

시작할 준비가 되셨나요?#

마무리하기 전에 Deci가 제공하는 몇 가지 이점을 살펴보겠습니다:

• 정확도를 저하시키지 않고 모델의 추론 처리량과 지연 시간을 최적화합니다
• 널리 사용되는 모든 프레임워크의 모델을 최적화할 수 있습니다
• 모든 딥러닝 작업을 대상으로 하는 모델을 지원합니다
• 널리 사용되는 CPU 및 GPU 시스템에 배포할 수 있습니다
• 다양한 하드웨어 호스트와 클라우드 제공업체에서 모델의 적합성을 벤치마크합니다
• 업로드된 모델을 서빙, 추론 및 배포에 사용할 수 있는 상태로 준비합니다

방금 확인했듯이 전체 15분 만에 Ultralytics YOLOv5 모델의 성능을 두 배로 향상할 수 있습니다. Deci 플랫폼은 매우 쉽고 직관적으로 사용할 수 있습니다.

궁금한 점이 있으신가요? 커뮤니티에 참여하여 오늘 질문을 남겨 주세요!