Ultralytics YOLO11을 사용하여 배치 추론 실행하기

자율주행 자동차가 작동하는 모습을 본 적이 있다면, 실시간 AI 추론을 직접 본 것입니다. 자율주행 자동차는 일반적으로 카메라, 센서, AI를 사용해 주변 환경을 처리하고 거의 즉시 의사 결정을 내립니다. 그러나 빠른 응답이 필요하지 않은 경우 실시간 추론은 리소스를 많이 사용할 수 있습니다.

이러한 경우에는 배치 추론이 더 나은 선택입니다. 배치 추론은 데이터를 실시간으로 지속적으로 처리하는 대신, 예약된 간격으로 대규모 데이터 세트를 처리할 수 있습니다. 이 접근 방식은 리소스를 절약하고 전력 소비를 줄이며 인프라 비용을 낮추는 데 도움이 됩니다.

예를 들어 컴퓨터 비전 애플리케이션에서는 Ultralytics YOLO11과 같은 모델을 객체 감지 및 인스턴스 세그멘테이션과 같은 실시간 작업에 사용할 수 있습니다. 그러나 대량의 시각 데이터를 실시간으로 처리하는 작업은 부담이 클 수 있습니다.

그림 1. Ultralytics YOLO11을 사용해 이미지 내 객체를 세그멘테이션하는 예시입니다.

배치 추론을 사용하면 Ultralytics YOLO11을 시각 데이터에 대해 배치 단위로 실행하여 시스템 부담을 줄이고 성능 저하 없이 효율성을 높일 수 있습니다. 이를 통해 하드웨어에 과도한 부담을 주거나 비용을 증가시키지 않고도 Vision AI 솔루션을 대규모로 더 쉽게 배포할 수 있습니다.

이 글에서는 배치 추론과 그 이점, 그리고 Ultralytics YOLO11을 사용한 배치 추론을 컴퓨터 비전 애플리케이션에 적용하는 방법을 살펴봅니다. 지금 시작해 보겠습니다!

컴퓨터 비전에서의 배치 추론 살펴보기#

배치 추론은 큰 작업을 입력되는 대로 조금씩 처리하는 대신 한 번에 처리하는 방식이라고 생각할 수 있습니다. 배치 추론을 사용하면 데이터를 실시간으로 계속 처리하는 대신, 정해진 간격으로 대규모 데이터 그룹을 처리할 수 있습니다. 즉각적인 응답이 필요하지 않을 때 이 접근 방식은 훨씬 효율적이며, 컴퓨팅 리소스를 절약하고 에너지 사용량과 비용을 줄이는 데 도움이 됩니다.

컴퓨터 비전에서는 낮은 지연 시간이 중요한 애플리케이션이 있습니다. 낮은 지연 시간이란 입력(예: 이미지 또는 비디오 프레임)을 수신한 후 시스템이 응답하기까지의 지연이 최소화되는 것을 의미합니다. 예를 들어 실시간 보안 모니터링에서는 작은 지연도 안전 위험으로 이어질 수 있습니다.

그러나 다른 많은 컴퓨터 비전 시나리오에서는 낮은 지연 시간이 그다지 중요하지 않습니다. 시스템이 즉시 반응할 필요가 없을 때 배치 추론이 효과를 발휘합니다. 배치 추론은 시각 데이터를 그룹 또는 배치 단위로 컴퓨터 비전 모델에 입력하여, 시스템이 데이터를 실시간으로 계속 처리하는 대신 대규모 데이터 세트를 한 번에 처리할 수 있도록 합니다.

배치 추론 작동 방식 이해하기#

배치 추론에 포함되는 단계를 자세히 살펴보겠습니다.

• 데이터 수집: 일정 기간 동안 시각 데이터를 수집합니다. 애플리케이션에 따라 보안 영상, 제품 이미지 또는 고객 데이터 등이 포함될 수 있습니다.

• 배치 준비: 수집한 데이터를 배치로 그룹화합니다. 이 단계에서 데이터는 모델의 요구 사항에 맞게 형식이 지정됩니다. 예를 들어 이미지는 모델이 처리할 수 있도록 크기를 조정하거나 정규화하거나 적절한 형식으로 변환할 수 있습니다.

• 예측: 데이터가 준비되면 전체 배치를 모델(예: Ultralytics YOLO11)에 입력하고, 모델은 전체 배치를 한 번에 처리합니다. 이를 통해 모델이 배치의 모든 데이터에 대해 동시에 예측을 수행할 수 있으므로 각 데이터 포인트를 개별적으로 처리하는 것보다 효율적입니다.

배치 추론은 언제 사용해야 하나요?#

이제 배치 추론이 무엇이며 실시간 추론과 어떻게 다른지 살펴보았으므로, 배치 추론을 언제 사용해야 하는지 자세히 알아보겠습니다.

배치 추론은 과거 데이터를 분석하는 데 적합합니다. 한 달 동안 지하철역에서 촬영한 감시 영상이 있고, 하루 중 시간대별 출입 인원과 같은 특정 패턴을 식별하려고 한다고 가정해 보겠습니다.

각 프레임을 실시간으로 처리하는 대신 배치 추론을 사용하면 한 달 분량의 영상을 배치 단위로 처리하여 즉각적인 결과 없이도 주요 이벤트나 추세를 식별할 수 있습니다. 이를 통해 시스템에 과도한 부담을 주거나 지속적인 모니터링을 요구하지 않고도 대량의 데이터를 더 효율적으로 분석하고 장기적인 패턴에 대한 인사이트를 얻을 수 있습니다.

배치 추론은 시스템 리소스가 제한된 경우에도 최적의 솔루션입니다. 사용량이 적은 시간대(예: 야간)에 추론을 실행하면 컴퓨팅 비용을 절약하고 사용량이 많은 시간대에 시스템이 과부하되지 않도록 할 수 있습니다. 따라서 실시간 분석은 필요하지 않지만 대규모 데이터 세트를 처리해야 하는 기업이나 프로젝트에 효율적이고 비용 효과적인 접근 방식입니다.

Ultralytics YOLO11을 사용한 배치 추론#

Ultralytics Python 패키지는 YOLO11과 같은 모델의 배치 추론을 지원합니다. YOLO11에서는 처리할 이미지 또는 비디오 프레임의 개수를 한 번에 지정하는 ‘batch’ 인수를 설정하여 배치 추론을 쉽게 실행할 수 있습니다.

배치 추론 과정에서는 배치에 포함된 모든 이미지에 대한 예측이 동시에 생성됩니다. 기본 배치 크기는 1로 설정되어 있지만 원하는 숫자로 조정할 수 있습니다.

예를 들어 배치 크기를 5로 설정하면 Ultralytics YOLO11은 한 번에 5개의 이미지 또는 비디오 프레임을 처리하고 5개 모두에 대한 예측을 동시에 생성합니다. 일반적으로 배치 크기가 클수록 추론 시간이 빨라집니다. 배치에서 여러 이미지를 처리하는 것이 이미지를 개별적으로 처리하는 것보다 효율적이기 때문입니다.

배치 추론으로 구현되는 컴퓨터 비전 애플리케이션#

이제 배치 추론의 실제 컴퓨터 비전 활용 사례를 살펴보겠습니다.

의료 분야의 진단 및 연구 향상#

의학 연구에서는 대량의 시각 데이터를 다루는 일이 매우 일반적입니다. 이때 배치 추론을 사용하면 과학자들이 화학, 생물학, 유전학과 같은 분야에서 데이터를 더 쉽게 분석할 수 있습니다. 데이터를 한 번에 하나씩 분석하는 대신 배치 단위로 처리하여 시간과 노력을 절약할 수 있습니다.

예를 들어 의료 시설에서는 MRI 또는 CT 스캔과 같은 대규모 의료 이미지 세트를 분석할 때 배치 추론이 특히 유용할 수 있습니다. 병원은 하루 동안 이러한 스캔을 수집한 후 야간에 배치로 처리할 수 있습니다.

이 접근 방식은 병원이 하드웨어와 인력을 더 효과적으로 활용하고 운영 비용을 절감하며 모든 스캔을 일관되고 균일한 방식으로 검토하도록 합니다. 또한 방대한 양의 데이터를 처리해야 하는 대규모 연구 프로젝트와 장기 연구에도 유용합니다.

그림 2. Ultralytics YOLO11을 사용한 의료 스캔 감지입니다.

시뮬레이션을 활용한 자율주행 차량 개선#

자율주행 자동차는 컴퓨터 비전과 같은 AI 기술을 사용해 주변 세계를 처리합니다. Ultralytics YOLO11과 같은 고급 모델을 활용하면 차량의 온보드 시스템이 다른 차량, 차선, 도로 표지판, 보행자를 인식할 수 있습니다. 도로에서는 실시간 추론이 매우 중요하지만, 자율주행 기술은 보이지 않는 곳에서 배치 추론에도 크게 의존합니다.

그림 3. YOLO11은 도로의 보행자를 쉽게 감지할 수 있습니다.

자동차가 주행을 완료하면 수 시간 분량의 카메라 영상, 센서 판독값, LIDAR 스캔 등 수집된 데이터를 나중에 대규모 배치로 처리할 수 있습니다. 이를 통해 엔지니어는 자동차의 AI 모델을 업데이트하고 시스템 안전성을 향상시키며 다양한 주행 조건에 대처하는 능력을 개선할 수 있습니다.

배치 추론은 자율주행 시뮬레이션에서도 사용되어, 혼잡한 교차로를 통과하거나 예측하기 어려운 보행자의 움직임에 대응하는 등 다양한 상황에서 자율주행 자동차가 어떻게 반응할지 테스트합니다. 이 접근 방식은 시간을 절약하고 비용을 줄이며 모든 시나리오를 실제 환경에서 테스트할 때 발생하는 위험을 방지합니다.

배치 추론으로 구현되는 소매 데이터 분석#

마찬가지로 소매점에서는 Ultralytics YOLO11과 같은 컴퓨터 비전 모델을 활용한 배치 추론으로 운영 효율성을 크게 향상시킬 수 있습니다. 예를 들어 매장의 카메라 시스템은 하루 동안 수천 개의 이미지를 캡처하고, 이를 야간에 배치로 처리할 수 있습니다.

이를 통해 매장은 실시간 처리 없이도 고객 행동, 방문 패턴, 제품 상호작용 등 매장 내 상황을 분석할 수 있습니다. 실시간 처리는 소규모 매장에 부담이 될 수 있습니다.

또 다른 흥미로운 예로 배치 추론을 사용해 매장 내 고객 활동이 많은 영역과 적은 영역을 시각화하는 히트맵을 생성할 수 있습니다. 이러한 히트맵을 분석하면 소매업체는 어느 영역에 가장 많은 고객이 방문하는지, 매장의 어느 부분에 더 많은 관심이나 제품 배치 최적화가 필요한지 파악할 수 있습니다. 이 데이터는 소매업체가 고객 경험과 매출을 향상하기 위해 매장 레이아웃, 제품 배치, 프로모션 전략 등에 대해 더 나은 의사 결정을 내리는 데 도움이 됩니다.

그림 4. 히트맵은 소매업체가 매장 내 인기 영역을 파악하는 데 도움이 됩니다.

배치 추론의 장단점#

배치 추론이 다양한 산업에 제공하는 주요 이점은 다음과 같습니다.

• 통합 용이성: 배치 추론은 기존 워크플로에 쉽게 통합할 수 있습니다. 특히 대량의 데이터를 일괄 처리해야 하는 소매, 보안, 의료와 같은 산업에 적합합니다.
• 간편한 데이터 관리: 대량의 데이터를 다룰 때 배치 추론은 데이터를 관리 가능한 단위로 그룹화하므로 데이터 관리를 간소화할 수 있습니다. 따라서 시간의 흐름에 따라 데이터를 추적하고 검토하며 정리하기가 더 쉬워집니다.
• 네트워크 부하 감소: 데이터를 배치로 처리하면 특정 시점에 전송되는 데이터의 양을 최소화할 수 있어 클라우드 기반 시스템이나 분산 컴퓨팅 환경에서 네트워크 리소스에 가해지는 부담을 줄일 수 있습니다.

배치 추론을 사용하면 많은 이점이 있지만 고려해야 할 몇 가지 제한 사항도 있습니다. 다음 요소를 염두에 두어야 합니다.

• 스토리지 요구 사항: 배치 처리를 위해 대규모 데이터 세트를 저장하면 특히 고해상도 이미지, 비디오 또는 대량의 데이터를 다룰 때 스토리지 비용이 크게 증가할 수 있습니다.
• 백로그 발생 가능성: 데이터가 빠르게 누적되거나 대규모 배치가 제때 처리되지 않으면 백로그가 발생할 수 있습니다. 이로 인해 인사이트 제공이 지연되고 새 데이터를 적시에 처리하지 못할 수 있습니다.
• 리소스 급증: 대규모 배치, 특히 고해상도 이미지가 포함된 배치는 메모리 또는 컴퓨팅 사용량을 급증시킬 수 있습니다. 이러한 급증을 적절히 관리하지 않으면 시스템에 과도한 부하가 발생하여 속도가 느려지거나 충돌할 수 있습니다.

핵심 요점#

배치 추론은 즉각적인 결과가 필요하지 않은 대량의 시각 데이터를 효율적으로 처리하는 방법입니다. 각 이미지를 실시간으로 분석하는 대신 야간과 같이 예약된 시간에 배치로 처리합니다.

이 방법은 비용 효율적이고 컴퓨팅 부하를 줄이면서도 정확한 결과를 제공합니다. 배치 추론은 매장의 재고 관리를 지원하고 의사의 의료 스캔 분석을 보조하며 자율주행 자동차 기술을 향상시키는 등 컴퓨터 비전을 실제 애플리케이션에서 더 쉽게 활용하고 경제적이며 실용적으로 사용할 수 있도록 합니다.

AI를 자세히 알아볼 준비가 되셨나요? GitHub 저장소를 살펴보고, 커뮤니티에 참여하고, 라이선스 옵션을 확인하여 컴퓨터 비전 여정을 시작해 보세요. 솔루션 페이지에서 제조 분야의 AI 및 물류 산업의 컴퓨터 비전과 같은 혁신에 대해 자세히 알아보세요.