Ultralytics YOLO11을 사용해 배치 추론 실행하기

자율주행차가 실제로 주행하는 모습을 본 적이 있다면 실시간 AI 추론을 경험한 것입니다. 자율주행차는 일반적으로 카메라, 센서, AI를 사용해 주변 환경을 처리하고 거의 즉각적으로 판단합니다. 그러나 빠른 응답이 필요하지 않은 상황에서는 실시간 추론에 많은 리소스가 소모될 수 있습니다.

이러한 경우에는 배치 추론이 더 나은 선택입니다. 데이터를 실시간으로 지속해서 처리하는 대신, 배치 추론은 정해진 간격으로 대량의 데이터를 처리할 수 있습니다. 이 접근 방식은 리소스를 절약하고 전력 소비를 줄이며 인프라 비용을 절감하는 데 도움이 됩니다.

예를 들어 컴퓨터 비전 애플리케이션에서는 Ultralytics YOLO11과 같은 모델을 객체 탐지 및 인스턴스 세그멘테이션 같은 실시간 작업에 사용할 수 있습니다. 그러나 대량의 시각 데이터를 실시간으로 처리하려면 상당한 리소스가 필요할 수 있습니다.

그림 1. Ultralytics YOLO11을 사용한 이미지 내 객체 세그멘테이션 예시입니다.

배치 추론을 사용하면 Ultralytics YOLO11이 시각 데이터를 배치 단위로 처리하여 시스템 부하를 줄이고 성능 저하 없이 효율성을 높일 수 있습니다. 따라서 하드웨어에 과부하를 주거나 비용을 늘리지 않고도 Vision AI 솔루션을 대규모로 더 쉽게 배포할 수 있습니다.

이 글에서는 배치 추론과 그 이점을 살펴보고, Ultralytics YOLO11을 사용한 배치 추론을 컴퓨터 비전 애플리케이션에 적용하는 방법을 설명합니다.

컴퓨터 비전에서의 배치 추론 살펴보기#

배치 추론은 들어오는 데이터를 하나씩 처리하는 대신 큰 작업을 한 번에 처리하는 방식으로 생각할 수 있습니다. 데이터를 실시간으로 계속 처리하는 대신 배치 추론을 사용하면 정해진 간격으로 대규모 데이터 그룹을 처리할 수 있습니다. 즉각적인 응답이 필요하지 않을 때 이 방법은 훨씬 효율적이며, 컴퓨팅 리소스와 에너지 사용량을 줄이고 비용을 절감하는 데 도움이 됩니다.

컴퓨터 비전에서는 낮은 지연 시간이 중요한 애플리케이션이 있습니다. 낮은 지연 시간이란 입력(예: 이미지 또는 비디오 프레임)을 받은 시점부터 시스템이 응답할 때까지의 지연이 최소화되는 것을 의미합니다. 예를 들어 실시간 보안 모니터링에서는 짧은 지연만으로도 안전 위험이 발생할 수 있습니다.

그러나 다른 여러 컴퓨터 비전 시나리오에서는 낮은 지연 시간이 그다지 중요하지 않습니다. 시스템이 즉시 반응할 필요가 없는 상황에서는 배치 추론이 효과적입니다. 배치 추론은 시각 데이터를 그룹이나 배치 단위로 컴퓨터 비전 모델에 입력해, 실시간으로 지속 처리하는 대신 대규모 데이터셋을 한 번에 처리할 수 있도록 합니다.

배치 추론의 작동 방식 이해하기#

배치 추론의 단계를 자세히 살펴보겠습니다.

• 데이터 수집: 일정 기간 동안 시각 데이터를 수집합니다. 애플리케이션에 따라 보안 영상, 제품 이미지 또는 고객 데이터가 포함될 수 있습니다.
• 배치 준비: 수집한 데이터를 배치로 그룹화합니다. 이 단계에서 모델이 요구하는 형식으로 데이터를 준비합니다. 예를 들어 이미지 크기를 조정하거나 정규화하거나 모델이 처리하기에 적합한 형식으로 변환할 수 있습니다.
• 예측: 데이터 준비가 끝나면 전체 배치를 모델(예: Ultralytics YOLO11)에 입력하고 한 번에 처리합니다. 이를 통해 모델은 배치의 모든 데이터에 대한 예측을 동시에 수행할 수 있으므로 데이터 포인트를 개별적으로 처리하는 것보다 효율적입니다.

배치 추론은 언제 사용해야 할까요?#

배치 추론이 무엇이며 실시간 추론과 어떻게 다른지 살펴보았으니, 이제 언제 사용하면 좋은지 자세히 알아보겠습니다.

배치 추론은 과거 데이터를 분석하는 데 적합합니다. 예를 들어 지난 한 달간 지하철역의 보안 영상이 있고, 하루 중 시간대별 출입 인원수와 같은 특정 패턴을 파악하려 한다고 가정해 보겠습니다.

각 프레임을 실시간으로 처리하는 대신 배치 추론을 사용하면 한 달치 영상을 배치 단위로 처리하여 즉각적인 결과 없이도 주요 이벤트나 추세를 파악할 수 있습니다. 이를 통해 시스템에 과부하를 주거나 지속적으로 모니터링하지 않고도 대량의 데이터를 더 효율적으로 분석하고 장기적인 패턴에 대한 인사이트를 얻을 수 있습니다.

시스템 리소스가 제한된 경우에도 배치 추론은 최적의 솔루션입니다. 사용량이 적은 시간대(예: 야간)에 추론을 실행하면 컴퓨팅 비용을 절감하고 사용량이 많은 시간대에 시스템이 과부하되지 않도록 할 수 있습니다. 따라서 대규모 데이터셋을 처리해야 하지만 실시간 분석은 필요하지 않은 기업이나 프로젝트에 효율적이고 비용 효과적인 접근 방식입니다.

Ultralytics YOLO11을 사용한 배치 추론#

Ultralytics Python 패키지는 YOLO11과 같은 모델의 배치 추론을 지원합니다. YOLO11에서는 batch 추론 인자를 지정해 배치 추론을 간편하게 실행할 수 있으며, 이 인자는 한 번에 처리할 이미지 또는 비디오 프레임 수를 결정합니다.

배치 추론 과정에서는 배치에 포함된 모든 이미지에 대한 예측을 동시에 생성합니다. 기본 배치 크기는 1이지만 원하는 숫자로 조정할 수 있습니다. 입력 소스가 디렉터리, 비디오 파일 또는 입력 소스 목록이 담긴 .txt 파일인 경우 배치 처리가 적용됩니다.

예를 들어 배치 크기를 5로 설정하면 Ultralytics YOLO11은 한 번에 이미지 또는 비디오 프레임 5개를 처리하고 5개 모두에 대한 예측을 생성합니다. 여러 이미지를 배치로 처리하는 것이 이미지를 개별적으로 처리하는 것보다 효율적이므로, 배치 크기가 커지면 일반적으로 처리량이 증가하고 전체 처리 시간이 단축됩니다.

배치 추론으로 구현하는 컴퓨터 비전 애플리케이션#

이어서 배치 추론의 실제 컴퓨터 비전 활용 사례를 살펴보겠습니다.

의료 분야의 진단 및 연구 개선#

의학 연구에서는 대량의 시각 데이터를 다루는 일이 매우 흔합니다. 이때 배치 추론을 활용하면 과학자가 화학, 생물학, 유전학 등의 분야에서 데이터를 더욱 쉽게 분석할 수 있습니다. 항목을 하나씩 분석하는 대신 데이터를 배치 단위로 처리해 시간과 노력을 절약합니다.

예를 들어 의료기관에서는 MRI나 CT 스캔과 같은 대량의 의료 이미지를 분석할 때 배치 추론이 특히 유용합니다. 병원은 하루 동안 이러한 스캔을 수집한 뒤 밤새 배치로 처리할 수 있습니다.

이 접근 방식은 병원이 하드웨어와 인력을 더 효과적으로 활용하고 운영 비용을 절감하며 모든 스캔을 일관되고 균일한 방식으로 검토하도록 합니다. 또한 방대한 데이터를 처리해야 하는 대규모 연구 프로젝트와 장기 연구에도 유용합니다.

그림 2. Ultralytics YOLO11을 사용해 의료 스캔에서 병변을 감지하는 모습.

시뮬레이션을 통한 자율주행차 개선#

자율주행차는 컴퓨터 비전과 같은 AI 기술을 사용해 주변 세계를 처리합니다. Ultralytics YOLO11과 같은 고급 모델을 활용하면 차량 내 시스템이 다른 차량, 차선, 도로 표지판, 보행자를 인식할 수 있습니다. 도로에서는 실시간 추론이 중요하지만, 자율주행 기술은 내부적으로 배치 추론에도 크게 의존합니다.

그림 3. YOLO11은 도로 위 보행자를 쉽게 탐지할 수 있습니다.

자동차가 주행을 마친 후에는 몇 시간 분량의 카메라 영상, 센서 측정값, LiDAR 스캔과 같은 수집 데이터를 나중에 대량으로 처리할 수 있습니다. 이를 통해 엔지니어는 자동차의 AI 모델을 업데이트하고 시스템 안전성을 강화하며 다양한 주행 조건에 대응하는 성능을 개선할 수 있습니다.

배치 추론은 혼잡한 교차로 통과나 예측할 수 없는 보행자 움직임에 대한 대응 등 다양한 상황에서 자율주행차가 어떻게 반응할지 테스트하는 자율주행 시뮬레이션에도 사용됩니다. 이 접근 방식은 시간을 절약하고 비용을 줄이며 실제 환경에서 모든 시나리오를 시험할 때 따르는 위험을 피할 수 있습니다.

배치 추론을 활용한 소매 데이터 분석#

마찬가지로 소매점에서는 Ultralytics YOLO11과 같은 컴퓨터 비전 모델을 활용한 배치 추론으로 운영 효율성을 크게 높일 수 있습니다. 예를 들어 매장 카메라 시스템은 하루 동안 수천 장의 이미지를 촬영하고, 이를 밤새 배치로 처리할 수 있습니다.

이를 통해 소규모 매장에서 어려울 수 있는 실시간 처리 없이도 고객 행동, 유동 인구 패턴, 제품 상호작용 등 매장 내 상황을 분석할 수 있습니다.

또 다른 흥미로운 사례는 매장 내 고객 활동이 많은 영역과 적은 영역을 시각화하는 히트맵을 배치 추론으로 생성하는 것입니다. 이러한 히트맵을 분석하면 소매업체는 유동 인구가 가장 많은 구역과 더 많은 관심이나 상품 배치 최적화가 필요한 매장 내 영역을 파악할 수 있습니다. 이 데이터는 소매업체가 매장 레이아웃과 상품 배치, 나아가 고객 경험과 매출을 개선하기 위한 프로모션 전략에 대해 더 나은 결정을 내리는 데 도움이 됩니다.

그림 4. 히트맵은 소매업체가 매장 내 인기 구역을 파악하도록 도울 수 있습니다.

배치 추론의 장단점#

배치 추론이 다양한 산업 분야에 제공할 수 있는 주요 이점은 다음과 같습니다.

• 손쉬운 통합: 배치 추론은 기존 워크플로에 쉽게 통합할 수 있습니다. 특히 대량 데이터를 일괄 처리해야 하는 소매, 보안, 의료 분야에 적합합니다.
• 간편한 데이터 관리: 대량의 데이터를 다룰 때 배치 추론은 데이터를 관리하기 쉬운 단위로 그룹화하므로 데이터 관리를 간소화할 수 있습니다. 이를 통해 시간이 지남에 따라 데이터를 더 쉽게 추적하고 검토하고 정리할 수 있습니다.
• 네트워크 부하 감소: 데이터를 배치로 처리하면 특정 시점에 전송되는 데이터의 양을 최소화할 수 있어 클라우드 기반 시스템이나 분산 컴퓨팅 환경의 네트워크 리소스 부담이 줄어듭니다.

배치 추론을 사용하면 많은 이점이 있지만 고려해야 할 한계도 있습니다. 다음과 같은 몇 가지 요소를 염두에 두어야 합니다.

• 스토리지 요구 사항: 배치 처리를 위해 대규모 데이터셋을 저장하면 스토리지 비용이 크게 증가할 수 있으며, 고해상도 이미지와 비디오 또는 대량의 데이터를 다룰 때 특히 그렇습니다.
• 대기열 누적 가능성: 데이터가 빠르게 쌓이거나 대규모 배치를 제때 처리하지 못하면 작업 대기열이 누적될 수 있습니다. 이로 인해 인사이트 제공이 지연되고 새로운 데이터 처리가 늦어질 수 있습니다.
• 리소스 사용량 급증: 특히 고해상도 이미지가 포함된 대규모 배치는 메모리나 연산 리소스 사용량을 급증시킬 수 있습니다. 적절히 관리하지 않으면 이러한 급증으로 시스템에 과부하가 발생해 속도가 느려지거나 충돌할 수 있습니다.

핵심 요점#

배치 추론은 즉각적인 결과가 필요하지 않은 대량의 시각 데이터를 효율적으로 처리하는 방법입니다. 각 이미지를 실시간으로 분석하는 대신 야간처럼 정해진 시간에 배치 단위로 처리합니다.

이 방법은 비용 효율적이고 컴퓨팅 부하를 줄이면서 정확한 결과를 제공합니다. 매장의 재고 관리 지원부터 의사의 의료 스캔 분석 지원, 자율주행차 기술 개선까지 배치 추론은 컴퓨터 비전을 실제 애플리케이션에서 더 쉽게 활용하고, 비용을 낮추며, 실용성을 높여 줍니다.

AI에 대해 더 알아보고 싶으신가요? GitHub 저장소를 살펴보고 커뮤니티에 참여해 라이선스 옵션을 확인한 후 컴퓨터 비전 여정을 시작해 보세요. 솔루션 페이지에서 제조업 분야 AI와 물류 산업의 컴퓨터 비전 같은 혁신 사례를 알아보세요.