Ultralytics YOLO11을 사용하여 배치 추론 실행

자율주행차가 실제로 움직이는 모습을 본 적이 있다면 실시간 AI 추론을 목격하신 것입니다. 자율주행차는 일반적으로 카메라, 센서, AI를 사용하여 주변 환경을 처리하고 거의 즉각적인 결정을 내립니다. 하지만 빠른 응답이 필요하지 않은 경우, 실시간 추론은 리소스를 많이 소모할 수 있습니다.

이러한 경우 더 나은 옵션은 배치 추론입니다. 데이터를 실시간으로 연속 처리하는 대신, 배치 추론은 대규모 데이터 세트를 정해진 간격으로 처리할 수 있습니다. 이 접근 방식은 리소스를 절약하고 전력 소비를 줄이며 인프라 비용을 절감하는 데 도움이 됩니다.

예를 들어, 컴퓨터 비전 애플리케이션에서는 Ultralytics YOLO11과 같은 모델을 객체 검출 및 인스턴스 세분화와 같은 실시간 작업에 사용할 수 있습니다. 그러나 대량의 시각 데이터를 실시간으로 처리하는 것은 부담이 될 수 있습니다.

그림 1. Ultralytics YOLO11을 사용하여 이미지 내 객체를 세그멘테이션하는 예시입니다.

배치 추론을 사용하면 Ultralytics YOLO11을 시각 데이터에 대해 배치 단위로 실행할 수 있어, 성능 저하 없이 시스템 부하를 줄이고 효율성을 향상시킬 수 있습니다. 이를 통해 하드웨어에 과부하를 주거나 비용을 증가시키지 않고도 Vision AI 솔루션을 대규모로 쉽게 배포할 수 있습니다.

이번 글에서는 배치 인퍼런싱, 그 이점, 그리고 batch inferencing using Ultralytics YOLO11을 컴퓨터 비전 애플리케이션에 적용하는 방법에 대해 살펴보겠습니다. 시작하겠습니다!

컴퓨터 비전에서의 배치 추론 살펴보기#

배치 추론은 데이터가 들어오는 즉시 하나씩 처리하는 대신 큰 작업을 한꺼번에 해결하는 것으로 생각할 수 있습니다. 배치 추론을 사용하면 지속적으로 실시간 데이터를 처리하는 대신, 큰 그룹의 데이터를 정해진 간격으로 처리할 수 있습니다. 이 접근 방식은 즉각적인 응답이 필요하지 않을 때 훨씬 더 효율적이며 컴퓨팅 리소스를 절약하고 에너지 사용을 줄이며 비용을 절감하는 데 도움이 됩니다.

컴퓨터 비전의 경우 낮은 지연 시간이 필수적인 특정 애플리케이션이 있습니다. 낮은 지연 시간이란 입력(이미지나 비디오 프레임 등)을 수신한 후 시스템이 응답하기까지의 최소한의 지연을 의미합니다. 예를 들어 실시간 보안 모니터링에서는 아주 작은 지연 시간이라도 안전상의 위험을 초래할 수 있습니다.

하지만 다른 많은 컴퓨터 비전 시나리오에서는 낮은 지연 시간이 그리 중요하지 않습니다. 바로 이 지점이 시스템이 즉각적으로 반응할 필요가 없을 때 배치 추론이 빛을 발하는 순간입니다. 배치 추론은 시각 데이터를 컴퓨터 비전 모델에 그룹 또는 배치 단위로 공급하여, 실시간으로 지속적으로 처리하는 대신 대규모 데이터셋을 한 번에 처리할 수 있도록 합니다.

배치 추론의 작동 방식 이해하기#

배치 추론에 포함된 단계를 자세히 살펴보겠습니다:

• 데이터 수집: 시각 데이터는 일정 기간 동안 수집됩니다. 애플리케이션에 따라 보안 영상, 제품 이미지 또는 고객 데이터가 포함될 수 있습니다.

• 배치 준비: 수집된 데이터는 배치 단위로 그룹화됩니다. 이 단계에서 데이터는 모델이 요구하는 형식으로 포맷됩니다. 예를 들어 이미지는 모델이 처리할 수 있도록 크기 조정, 정규화 또는 적절한 형식으로 변환될 수 있습니다.

• Prediction: 데이터가 준비되면 전체 배치가 모델(예: Ultralytics YOLO11)에 입력되어 전체 배치를 한 번에 처리합니다. 이를 통해 모델이 배치 내의 모든 데이터에 대한 예측을 동시에 수행할 수 있으므로, 각 데이터 포인트를 개별적으로 처리하는 것보다 프로세스가 더 효율적으로 진행됩니다.

배치 추론은 언제 사용해야 할까요?#

배치 추론이 무엇이며 실시간 추론과 어떻게 다른지 살펴보았으니, 이제 언제 사용해야 할지 더 자세히 알아보겠습니다.

배치 추론은 과거 데이터를 분석하는 데 이상적입니다. 지하철역에서 지난 한 달 동안의 감시 영상이 있고, 하루 중 시간대에 따라 들어오고 나가는 사람의 수와 같은 특정 패턴을 식별하려고 한다고 가정해 보겠습니다.

각 프레임을 실시간으로 처리하는 대신 배치 추론을 사용하면 전체 한 달 치 영상을 배치 단위로 처리하여 즉각적인 결과 없이도 주요 이벤트나 트렌드를 파악할 수 있습니다. 이런 방식으로 대량의 데이터를 더 효율적으로 분석하고 시스템에 과부하를 주거나 지속적인 모니터링 없이도 장기적인 패턴에 대한 통찰을 얻을 수 있습니다.

배치 추론은 시스템 리소스가 제한된 경우에도 최적의 솔루션입니다. 비혼잡 시간대(예: 야간)에 추론을 실행함으로써 컴퓨팅 비용을 절약하고 최대 사용 시간대에 시스템에 과부하가 걸리지 않도록 보장할 수 있습니다. 이는 대규모 데이터 세트를 처리해야 하지만 실시간 분석이 필요하지 않은 비즈니스나 프로젝트에 효율적이고 비용 효율적인 접근 방식입니다.

Ultralytics YOLO11을 사용한 배치 추론#

Ultralytics Python 패키지는 YOLO11과 같은 모델에 대한 배치 추론을 지원합니다. YOLO11을 사용하면 한 번에 처리할 이미지나 비디오 프레임 수를 결정하는 'batch' 인수를 지정하여 쉽게 배치 추론을 실행할 수 있습니다.

배치 추론 과정에서 배치 내의 모든 이미지에 대한 예측이 동시에 생성됩니다. 기본적으로 배치 크기는 1로 설정되어 있지만, 원하는 숫자로 조정할 수 있습니다.

예를 들어, 배치 크기가 5로 설정된 경우 Ultralytics YOLO11은 한 번에 5개의 이미지 또는 비디오 프레임을 처리하고 5개 모두에 대한 예측을 한 번에 생성합니다. 여러 이미지를 배치로 처리하는 것이 개별적으로 처리하는 것보다 더 효율적이므로, 일반적으로 배치 크기가 클수록 인퍼런스 시간이 단축됩니다.

배치 추론으로 지원되는 컴퓨터 비전 애플리케이션#

다음으로 배치 추론의 실제 컴퓨터 비전 활용 사례를 살펴보겠습니다.

의료 분야의 진단 및 연구 향상#

의학 연구에서는 대량의 시각 데이터를 다루는 것이 매우 흔합니다. 여기서는 배치 추론을 통해 과학자들이 화학, 생물학, 유전학 등의 분야에서 데이터를 더 쉽게 분석할 수 있습니다. 데이터를 하나씩 분석하는 대신 배치 단위로 처리하여 시간과 노력을 절약할 수 있습니다.

예를 들어 의료 시설에서 배치 추론은 MRI나 CT 스캔과 같은 대규모 의료 이미지 세트를 분석하는 데 특히 유용할 수 있습니다. 병원은 하루 종일 이러한 스캔 데이터를 수집하고 야간에 배치 단위로 처리할 수 있습니다.

이러한 접근 방식을 통해 병원은 하드웨어와 인력을 더 잘 활용하고 운영 비용을 절감하며 모든 스캔이 일관되고 통일된 방식으로 검토되도록 보장할 수 있습니다. 또한 방대한 데이터를 처리해야 하는 대규모 연구 프로젝트 및 장기 연구에도 유익합니다.

그림 2. Ultralytics YOLO11을 사용하여 의료 스캔 이미지를 탐지합니다.

시뮬레이션을 통한 자율주행 자동차 개선#

자율주행차는 주변 세상을 처리하기 위해 computer vision과 같은 AI 기술을 사용합니다. Ultralytics YOLO11과 같은 고성능 모델의 도움을 받아 차량의 온보드 시스템은 다른 차량, 차선, 도로 표지판, 보행자를 인식할 수 있습니다. 도심 주행에서는 실시간 인퍼런싱이 매우 중요하지만, 자율주행 기술은 백그라운드에서 배치 인퍼런싱에도 크게 의존합니다.

그림 3. YOLO11은 도로 위의 보행자를 쉽게 검출할 수 있습니다.

자동차 주행이 완료되면 수집된 카메라 영상, 센서 측정값, LIDAR 스캔 등 수시간 분량의 데이터를 나중에 대규모 배치로 처리할 수 있습니다. 이를 통해 엔지니어는 차량의 AI 모델을 업데이트하고 시스템 안전을 강화하며 다양한 주행 조건을 처리하는 능력을 향상할 수 있습니다.

또한 배치 추론은 자율주행 시뮬레이션에서 혼잡한 교차로를 탐색하거나 예측할 수 없는 보행자의 움직임에 반응하는 등 다양한 상황에서 자율주행 자동차가 어떻게 반응할지 테스트하는 데 사용됩니다. 이 접근 방식은 시간을 절약하고 비용을 줄이며 모든 시나리오를 실제 환경에서 테스트하는 것과 관련된 위험을 피할 수 있습니다.

배치 추론을 통한 소매 데이터 분석#

마찬가지로 소매점의 경우, Ultralytics YOLO11과 같은 컴퓨터 비전 모델을 사용한 배치 인퍼런싱은 운영 효율성을 크게 향상시킬 수 있습니다. 예를 들어, 매장의 카메라 시스템은 하루 동안 수천 장의 이미지를 캡처할 수 있으며, 이 이미지들은 야간에 배치 단위로 처리될 수 있습니다.

이를 통해 매장은 소규모 매장에서 실시간 처리가 어려울 수 있는 실시간 처리 없이도 고객 행동, 트래픽 패턴, 제품 상호작용 등 매장에서 발생하는 상황을 분석할 수 있습니다.

또 다른 흥미로운 예는 배치 추론을 사용하여 매장 내 고객 활동이 많고 적은 영역을 시각화하는 히트맵을 생성하는 것입니다. 소매업체는 이러한 히트맵을 분석하여 유동 인구가 가장 많은 영역과 매장에서 더 많은 주의나 제품 배치 최적화가 필요한 부분을 파악할 수 있습니다. 이 데이터를 통해 소매업체는 매장 레이아웃, 제품 배치, 심지어 프로모션 전략에 대해 더 나은 결정을 내려 고객 경험과 매출을 향상시킬 수 있습니다.

그림 4. 히트맵은 소매업체가 매장 내 인기 구역을 파악하는 데 도움을 줄 수 있습니다.

배치 추론의 장단점#

다음은 배치 추론이 다양한 산업에 가져올 수 있는 주요 이점들입니다:

• 통합 용이성: 배치 추론은 소매, 보안 또는 헬스케어와 같이 대량의 데이터를 대량으로 처리해야 하는 산업을 위해 기존 워크플로에 쉽게 통합할 수 있습니다.
• 더 쉬운 데이터 관리: 대량의 데이터를 다룰 때 배치 추론은 데이터가 관리하기 쉬운 청크로 그룹화되므로 데이터 관리를 간소화할 수 있습니다. 이를 통해 시간이 지남에 따라 데이터를 더 쉽게 추적, 검토 및 구성할 수 있습니다.
• 네트워크 부하 감소: 데이터가 배치 단위로 처리되면 특정 순간에 전송되는 데이터 양이 최소화되어 클라우드 기반 시스템이나 분산 컴퓨팅 환경에서 네트워크 리소스에 대한 부담을 줄일 수 있습니다.

배치 추론을 사용하는 것에는 많은 장점이 있지만 고려해야 할 제한 사항도 있습니다. 다음은 명심해야 할 몇 가지 요소입니다:

• 스토리지 요구 사항: 배치 처리를 위해 대규모 데이터 세트를 저장하면 특히 고해상도 이미지, 비디오 또는 대량의 데이터를 다룰 때 스토리지 비용이 크게 증가할 수 있습니다.
• 백로그 가능성: 데이터가 빠르게 축적되거나 대규모 배치가 제때 처리되지 않으면 백로그가 발생할 수 있습니다. 이는 통찰력 제공 지연 및 새로운 데이터 처리를 적시에 수행하는 데 지장을 줄 수 있습니다.
• 리소스 스파이크: 특히 고해상도 이미지가 포함된 대규모 배치는 메모리나 컴퓨팅 사용량의 급증을 유발할 수 있습니다. 제대로 관리되지 않으면 이러한 스파이크가 시스템에 과부하를 주어 속도 저하나 충돌을 일으킬 수 있습니다.

핵심 요약#

배치 추론은 즉각적인 결과가 필요하지 않은 대량의 시각 데이터를 효율적으로 처리하는 방법입니다. 각 이미지를 실시간으로 분석하는 대신 야간과 같이 정해진 시간에 배치 단위로 처리합니다.

이 방법은 비용 효율적이며 컴퓨팅 부하를 줄이면서도 정확한 결과를 제공합니다. 매장의 재고 관리부터 의사의 의료 스캔 분석 보조, 자율주행 자동차 기술 향상에 이르기까지 배치 추론은 컴퓨터 비전을 실제 애플리케이션에 더 접근 가능하고 경제적이며 실용적으로 만들어줍니다.

AI의 세계로 깊이 빠져들 준비가 되셨나요? GitHub 저장소를 탐색하고, 커뮤니티에 참여하며, 라이선스 옵션을 확인하여 컴퓨터 비전 여정을 시작해 보세요. 솔루션 페이지에서 제조업에서의 AI 및 물류 산업에서의 컴퓨터 비전과 같은 혁신에 대해 자세히 알아보세요.