Yolo 비전 선전
선전
지금 참여하기

Deci로 성능 향상을 위한 Ultralytics YOLOv5 컴파일 및 정량화하기

Ultralytics 팀

4분 소요

2022년 10월 26일

Deci의 플랫폼으로 Ultralytics YOLOv5 모델을 최적화하고 배포하여 성능을 최대 10배까지 향상하세요. 무료로 시작하여 자동 모델 최적화를 활용하세요.

저희는 다른 스타트업과 상업적 파트너십을 맺고 YOLOv5 같은 멋진 오픈 소스 도구의 연구 및 개발 자금을 지원하여 모든 사람이 무료로 사용할 수 있도록 하고 있습니다. 이 문서에는 해당 파트너의 제휴 링크가 포함되어 있을 수 있습니다.

Deci 플랫폼에는 손쉽게 관리, 최적화 및 배포할 수 있는 무료 도구가 포함되어 있습니다. YOLOv5 모델을 쉽게 관리하고 최적화하고 배포할 수 있는 무료 툴이 포함되어 있습니다. Deci는 TensorFlow, PyTorch, Keras, ONNX 등 널리 사용되는 모든 DL 프레임워크를 지원합니다. 웹 기반 플랫폼이나 Python 클라이언트만 있으면 코드에서 실행할 수 있습니다.

Deci를 선택해야 하는 이유는 무엇인가요?

Deci를 사용하여 내보내기뿐만 아니라 모델의 가지치기 및 양자화도 수행할 수 있습니다!

Deci는 모든 형식으로 내보내고 원본 모델과 변환된 모델 간의 성능을 비교할 수 있는 훌륭한 인터페이스를 제공합니다. 사용자는 양자화를 통해 모델을 더욱 최적화하도록 선택합니다.

Deci를 통해 다음을 수행할 수 있습니다:

최대 10배까지 추론 성능 향상

모델을 자동으로 컴파일 및 양자화하고 다양한 프로덕션 설정을 평가하여 하드웨어에서 더 나은 지연 시간, 처리량, 모델 크기 및 메모리 사용량 감소를 달성합니다.

애플리케이션에 가장 적합한 추론 하드웨어 찾기

버튼 하나로 다양한 하드웨어(엣지 포함) 장치에서 모델의 성능을 벤치마킹합니다. 여러 하드웨어 및 프로덕션 설정을 수동으로 설정하고 테스트할 필요가 없습니다.

몇 줄의 코드로 배포

Deci의 python 추론 엔진을 활용하세요. 여러 프레임워크 및 하드웨어 유형과 호환됩니다.

Deci 플랫폼에 대한 자세한 내용은 Deci 웹사이트를 방문하십시오.

최초 설정

1단계

무료 계정을 개설하세요.

Deci 및 Ultralytics YOLOv5 시작하기

2단계

사전 학습된 YOLOv5 모델을 최적화하려면 모델을 ONNX 형식으로 변환해야 합니다. 모델을 ONNX 형식으로 변환하는 방법에 대한 지침은 YOLOv5 내보내기 튜토리얼을 참조하세요.

3단계

"실험실" 탭으로 이동하여 화면 오른쪽 상단에 있는 "새 모델" 버튼을 클릭하여 YOLOv5 ONNX 모델을 업로드합니다.

Deci를 사용하여 향후 배포를 위해 Ultralytics YOLOv5 모델을 ONNX 변환하기

모델 업로드 마법사의 단계에 따라 대상 하드웨어와 모델 컴파일에 필요한 배치 크기 및 양자화 수준을 선택하십시오.

Deci를 사용한 배포를 위한 Ultralytics YOLOv5 모델 컴파일

관련 정보를 입력한 후 "시작"을 클릭합니다. Deci 플랫폼은 선택한 하드웨어에 대한 YOLOv5 모델의 런타임 최적화를 자동으로 수행하고 다양한 하드웨어 유형에서 모델을 벤치마킹합니다. 이 과정은 약 10분 정도 소요됩니다.

완료되면 이전에 업로드한 기준 모델 아래에 새 행이 화면에 나타납니다. 여기에서 사전 학습된 YOLOv5 모델의 최적화된 버전을 확인할 수 있습니다.

Deci와 함께 배포하는 데 최적화된 Ultralytics YOLOv5 모델

다음은 무엇입니까?

그런 다음 "Deploy" 버튼을 클릭하여 최적화된 모델을 다운로드할 수 있습니다.

Deci와 함께 배포할 준비가 된 Ultralytics YOLOv5 모델

그러면 모델을 다운로드하고 Deci의 런타임 추론 엔진인 Infery를 설치하고 사용하는 방법에 대한 지침을 받으라는 메시지가 표시됩니다.

Infery 사용은 선택 사항입니다. python 원시 파일을 가져와서 원하는 다른 추론 엔진과 함께 사용할 수 있습니다.

데시 인퍼리를 사용하여 Ultralytics YOLOv5 배포하기

"Insights" 탭에서 최적화 및 벤치마크 결과를 살펴보세요.

Ultralytics YOLOv5 모델의 Deci를 사용한 최적화

시작할 준비가 되셨나요?

마무리하기 전에 Deci가 제공하는 몇 가지 장점에 대해 논의해 보겠습니다.

  • 정확도를 저하시키지 않으면서 모델의 추론 처리량과 대기 시간을 최적화합니다.
  • 모든 인기 있는 프레임워크에서 모델을 최적화할 수 있습니다.
  • 모든 딥 러닝 작업을 대상으로 하는 모델을 지원합니다.
  • 인기 있는 CPU 및 GPU 머신에 배포 지원
  • 다양한 하드웨어 호스트 및 클라우드 공급자에서 모델의 적합성을 벤치마킹합니다.
  • 모델을 업로드하여 서비스, 추론 및 배포를 위한 준비를 합니다.

방금 보셨듯이 전체 시간 15분 만에 YOLOv5 모델의 성능을 두 배로 높일 수 있습니다. Deci 플랫폼은 사용하기 매우 쉽고 직관적입니다.

궁금한 점이 있으신가요? 커뮤니티에 가입하여 오늘 질문을 남겨주세요!

함께 미래의 AI를 만들어 갑시다!

미래의 머신러닝 여정을 시작하세요

무료로 시작하기