Ultralytics YOLO11을 사용하여 일괄 추론을 실행하는 방법

자율 주행차가 작동하는 것을 본 적이 있다면 실시간 AI 추론을 목격한 것입니다. 자율 주행차는 일반적으로 카메라, 센서 및 AI를 사용하여 주변 환경을 처리하고 거의 즉각적인 결정을 내립니다. 그러나 빠른 응답이 필요하지 않은 경우 실시간 추론은 리소스 집약적일 수 있습니다.

이러한 경우 더 나은 옵션은 배치 추론입니다. 실시간으로 데이터를 지속적으로 처리하는 대신, 배치 추론은 예약된 간격으로 대량의 데이터 세트를 처리할 수 있습니다. 이 접근 방식은 리소스를 절약하고 전력 소비를 줄이며 인프라 비용을 절감하는 데 도움이 됩니다.

예를 들어, 컴퓨터 비전 애플리케이션에서 Ultralytics YOLO11과 같은 모델은 객체 감지 및 인스턴스 분할과 같은 실시간 작업에 사용될 수 있습니다. 그러나 대량의 시각적 데이터를 실시간으로 처리하는 것은 부담이 될 수 있습니다. 

‍

YOLO11은 배치 추론을 통해 시각 데이터를 일괄적으로 처리할 수 있어 시스템에 부담을 줄이고 성능 저하 없이 효율성을 높일 수 있습니다. 이를 통해 하드웨어에 과부하를 주거나 비용을 늘리지 않고도 Vision AI 솔루션을 대규모로 쉽게 배포할 수 있습니다.

이번 글에서는 배치 추론, 이점 및 YOLO11을 사용한 배치 추론이 컴퓨터 비전 애플리케이션에서 어떻게 적용될 수 있는지 살펴볼 것입니다. 그럼 시작해 볼까요!

컴퓨터 비전의 배치 추론 살펴보기

배치 추론은 들어오는 대로 조각조각 처리하는 대신 한 번에 큰 작업을 처리하는 것으로 생각할 수 있습니다. 실시간으로 데이터를 지속적으로 처리하는 대신 배치 추론을 사용하면 설정된 간격으로 대규모 데이터 그룹을 처리할 수 있습니다. 이 접근 방식은 즉각적인 응답이 필요하지 않은 경우 훨씬 더 효율적이며 컴퓨팅 리소스를 절약하고 에너지 사용을 줄이며 비용을 절감하는 데 도움이 됩니다.

컴퓨터 비전과 관련하여 짧은 지연 시간이 중요한 특정 애플리케이션이 있습니다. 짧은 지연 시간은 입력(예: 이미지 또는 비디오 프레임)을 수신하는 시점과 시스템의 응답 사이의 최소 지연을 의미합니다. 예를 들어 실시간 보안 모니터링에서는 작은 지연도 안전 위험을 초래할 수 있습니다.

그러나 다른 많은 컴퓨터 비전 시나리오에서는 짧은 지연 시간이 중요하지 않습니다. 시스템이 즉시 반응할 필요가 없을 때 배치 추론이 빛을 발합니다. 배치 추론은 시각적 데이터를 컴퓨터 비전 모델에 그룹 또는 배치로 제공하여 시스템이 실시간으로 지속적으로 처리하는 대신 한 번에 대규모 데이터 세트를 처리할 수 있도록 합니다.

배치 추론 작동 방식 이해

다음은 배치 추론과 관련된 단계에 대한 자세한 내용입니다.

• 데이터 수집: 시각적 데이터는 일정 기간 동안 수집됩니다. 여기에는 애플리케이션에 따라 보안 영상, 제품 이미지 또는 고객 데이터가 포함될 수 있습니다.

• 배치 준비: 수집된 데이터는 배치로 그룹화됩니다. 이 단계에서 데이터는 모델에 필요한 형식으로 포맷됩니다. 예를 들어 이미지는 크기가 조정되거나 정규화되거나 모델이 처리할 수 있는 적절한 형식으로 변환될 수 있습니다.

• 예측(Prediction): 데이터가 준비되면 전체 배치가 YOLO11과 같은 모델에 입력되어 전체 배치를 한 번에 처리합니다. 이를 통해 모델은 각 데이터 포인트를 개별적으로 처리하는 것보다 더 효율적으로 전체 배치에 있는 모든 데이터에 대한 예측을 동시에 수행할 수 있습니다.

배치 추론은 언제 사용해야 할까요?

이제 배치 추론이 무엇이고 실시간 추론과 어떻게 다른지 다루었으므로 언제 사용해야 하는지 자세히 살펴보겠습니다.

배치 추론은 과거 데이터 분석에 이상적입니다. 지난달 지하철역의 감시 영상이 있고 하루 중 다른 시간에 출입하는 사람 수를 포함하여 특정 패턴을 식별하려고 한다고 가정해 보겠습니다. 

실시간으로 각 프레임을 처리하는 대신, 일괄 추론을 통해 즉각적인 결과 없이도 전체 월간 분량의 영상을 일괄적으로 처리하여 주요 이벤트나 추세를 식별할 수 있습니다. 이렇게 하면 시스템에 과부하를 주거나 지속적인 모니터링 없이도 대량의 데이터를 보다 효율적으로 분석하고 장기적인 패턴에 대한 통찰력을 얻을 수 있습니다.

배치 추론은 시스템 리소스가 제한적일 때도 최적의 솔루션입니다. 피크 시간 외(예: 야간)에 추론을 실행하면 컴퓨팅 비용을 절감하고 피크 사용 시간 동안 시스템에 과부하가 걸리지 않도록 할 수 있습니다. 따라서 대규모 데이터 세트를 처리해야 하지만 실시간 분석이 필요하지 않은 기업이나 프로젝트에 효율적이고 비용 효율적인 접근 방식입니다.

Ultralytics YOLO11을 사용한 배치 추론

Ultralytics Python 패키지는 YOLO11과 같은 모델에 대한 일괄 추론을 지원합니다. YOLO11을 사용하면 한 번에 처리되는 이미지 또는 비디오 프레임 수를 결정하는 '배치' 인수를 지정하여 일괄 추론을 쉽게 실행할 수 있습니다. 

배치 추론 프로세스 중에 배치에 있는 모든 이미지에 대해 동시에 예측이 생성됩니다. 기본적으로 배치 크기는 1로 설정되지만 원하는 숫자로 조정할 수 있습니다. 

예를 들어, 배치 크기가 5로 설정된 경우 YOLO11은 한 번에 5개의 이미지 또는 비디오 프레임을 처리하고 5개 모두에 대한 예측을 생성합니다. 일반적으로 배치 크기가 클수록 추론 시간이 빨라집니다. 이는 배치에서 여러 이미지를 처리하는 것이 개별적으로 처리하는 것보다 효율적이기 때문입니다.

배치 추론으로 구현되는 컴퓨터 비전 애플리케이션

다음으로, 배치 추론을 위한 실제 컴퓨터 비전 사용 사례를 살펴보겠습니다.

헬스케어 분야의 진단 및 연구 개선

의학 연구에서 많은 양의 시각적 데이터를 사용하는 것은 매우 일반적입니다. 여기서 배치 추론은 과학자들이 화학, 생물학 및 유전학과 같은 분야에서 데이터를 더 쉽게 분석하는 데 도움이 될 수 있습니다. 한 번에 하나씩 분석하는 대신 데이터를 일괄적으로 처리하여 시간과 노력을 절약합니다.

예를 들어, 의료 시설에서 배치 추론은 MRI 또는 CT 스캔과 같은 대규모 의료 이미지 세트를 분석하는 데 특히 유용할 수 있습니다. 병원은 하루 종일 이러한 스캔을 수집하여 밤새 배치로 처리할 수 있습니다. 

이 접근 방식을 통해 병원은 하드웨어와 직원을 더 효율적으로 사용하고 운영 비용을 절감하며 모든 스캔이 일관되고 균일한 방식으로 검토되도록 할 수 있습니다. 또한 방대한 양의 데이터를 처리해야 하는 대규모 연구 프로젝트 및 장기 연구에도 유용합니다.

‍

시뮬레이션을 사용한 자율 주행 차량 개선

자율 주행 자동차는 컴퓨터 비전과 같은 AI 기술을 사용하여 주변 환경을 처리합니다. YOLO11과 같은 고급 모델의 도움으로 자동차의 온보드 시스템은 다른 차량, 차선, 도로 표지판 및 길거리의 사람들을 인식할 수 있습니다. 실시간 추론은 도로에서 매우 중요하지만, 자율 주행 기술은 백그라운드에서 배치 추론에도 크게 의존합니다. 

‍

자동차가 여행을 완료한 후 카메라 영상, 센서 판독값, LIDAR 스캔과 같이 수집한 데이터는 나중에 대규모 배치로 처리할 수 있습니다. 이를 통해 엔지니어는 자동차의 AI 모델을 업데이트하고 시스템 안전성을 강화하며 다양한 운전 조건을 처리하는 능력을 향상시킬 수 있습니다.

배치 추론은 자율 주행 시뮬레이션에서도 사용되어 자율 주행 자동차가 혼잡한 교차로를 탐색하거나 예측할 수 없는 보행자 움직임에 대응하는 것과 같은 다양한 상황에서 어떻게 반응하는지 테스트합니다. 이 접근 방식은 시간을 절약하고 비용을 절감하며 실제 모든 시나리오를 테스트하는 데 따른 위험을 피합니다.

배치 추론 기반의 소매 데이터 분석

마찬가지로, 소매점의 경우 YOLO11과 같은 컴퓨터 비전 모델을 사용한 일괄 추론은 운영 효율성을 크게 향상시킬 수 있습니다. 예를 들어, 매장의 카메라 시스템은 하루 종일 수천 장의 이미지를 캡처할 수 있으며, 이 이미지는 야간에 일괄적으로 처리할 수 있습니다. 

이를 통해 소규모 매장에서 실시간 처리 없이도 고객 행동, 트래픽 패턴 및 제품 상호 작용과 같이 매장에서 발생하는 상황을 분석할 수 있습니다. 실시간 처리는 소규모 매장에서 어려울 수 있습니다. 

또 다른 흥미로운 예는 일괄 추론을 사용하여 매장 내 고객 활동이 높고 낮은 영역을 시각화하는 히트 맵을 생성하는 것입니다. 이러한 히트 맵을 분석함으로써 소매업체는 가장 많은 고객이 방문하는 영역과 매장에서 더 많은 관심이나 제품 배치 최적화가 필요한 부분을 식별할 수 있습니다. 이 데이터는 소매업체가 매장 레이아웃, 제품 배치, 심지어 고객 경험과 판매를 개선하기 위한 판촉 전략에 대해 더 나은 결정을 내리는 데 도움이 될 수 있습니다.

‍

배치 추론의 장단점

배치 추론이 다양한 산업에 가져다 줄 수 있는 주요 이점은 다음과 같습니다.

• 간편한 통합: 배치 추론은 기존 워크플로우에 쉽게 통합될 수 있으며, 특히 대량의 데이터를 일괄적으로 처리해야 하는 소매, 보안 또는 의료와 같은 산업에 적합합니다.
  ‍
• 더 쉬운 데이터 관리: 많은 양의 데이터를 처리할 때 배치 추론은 데이터를 관리 가능한 덩어리로 그룹화하므로 데이터 관리를 간소화할 수 있습니다. 이를 통해 시간이 지남에 따라 데이터를 더 쉽게 추적, 검토 및 구성할 수 있습니다.
  ‍
• 네트워크 부하 감소: 데이터를 일괄 처리할 때 특정 시점에 전송되는 데이터 양을 최소화하여 클라우드 기반 시스템 또는 분산 컴퓨팅 환경에서 네트워크 리소스에 대한 부담을 줄일 수 있습니다.

배치 추론을 사용하면 많은 이점이 있지만 고려해야 할 몇 가지 제한 사항도 있습니다. 다음은 유념해야 할 몇 가지 요소입니다.

• 저장 공간 요구 사항: 배치 처리를 위한 대용량 데이터 세트를 저장하면 특히 고해상도 이미지, 비디오 또는 대량의 데이터의 경우 저장 비용이 크게 증가할 수 있습니다.
  ‍
• 백로그 발생 가능성: 데이터가 빠르게 누적되거나 대량의 배치가 제때 처리되지 않으면 백로그가 발생할 수 있습니다. 이는 통찰력 제공 지연 및 새로운 데이터의 적시 처리 지연으로 이어질 수 있습니다.
  ‍
• 리소스 급증(Resource spikes): 특히 고해상도 이미지를 포함하는 대규모 배치의 경우 메모리 또는 컴퓨팅 사용량이 급증할 수 있습니다. 제대로 관리하지 않으면 이러한 급증으로 인해 시스템에 과부하가 걸려 속도가 느려지거나 충돌이 발생할 수 있습니다.

주요 내용

배치 추론은 즉각적인 결과가 필요하지 않은 대량의 시각적 데이터를 처리하는 효율적인 방법입니다. 각 이미지를 실시간으로 분석하는 대신 야간과 같이 예약된 시간에 일괄적으로 처리합니다. 

이 방법은 비용 효율적이고 계산 부하를 줄이면서도 정확한 결과를 제공합니다. 상점에서 재고 관리를 돕는 것부터 의사가 의료 스캔 분석을 지원하고 자율 주행 자동차 기술을 향상시키는 것까지, 일괄 추론은 컴퓨터 비전을 실제 애플리케이션에 더욱 접근하기 쉽고 저렴하며 실용적으로 만듭니다.

AI에 대해 더 자세히 알아볼 준비가 되셨나요? GitHub 저장소를 탐색하고, 커뮤니티와 소통하며, 라이선스 옵션을 확인하여 컴퓨터 비전 여정을 시작해 보세요. 솔루션 페이지에서 제조업 분야의 AI 및 물류 산업의 컴퓨터 비전과 같은 혁신에 대해 자세히 알아보세요.