Ultralytics YOLO11을 사용하여 배치 추론 실행

자율주행 자동차를 실제로 보신 적이 있다면 실시간 AI 추론을 경험하신 것입니다. 자율주행 자동차는 일반적으로 카메라, 센서 및 AI를 사용하여 주변 환경을 처리하고 거의 즉각적인 결정을 내립니다. 그러나 빠른 응답이 필요하지 않은 경우 실시간 추론은 리소스를 많이 소모할 수 있습니다.

이러한 경우 더 나은 옵션은 배치 추론입니다. 데이터를 실시간으로 연속 처리하는 대신, 배치 추론은 대규모 데이터 세트를 정해진 간격으로 처리할 수 있습니다. 이 접근 방식은 리소스를 절약하고 전력 소비를 줄이며 인프라 비용을 절감하는 데 도움이 됩니다.

예를 들어, 컴퓨터 비전 애플리케이션에서 Ultralytics YOLO11과 같은 모델은 객체 탐지 및 인스턴스 세분화와 같은 실시간 작업에 사용될 수 있습니다. 하지만 방대한 양의 시각 데이터를 실시간으로 처리하는 것은 부담스러울 수 있습니다.

그림 1. YOLO11을 사용하여 이미지의 객체를 세분화하는 예시.

배치 추론을 사용하면 YOLO11을 시각 데이터에 대해 배치 단위로 실행할 수 있어 시스템의 부담을 줄이고 성능 저하 없이 효율성을 개선할 수 있습니다. 이를 통해 하드웨어에 과부하를 주거나 비용을 증가시키지 않으면서 Vision AI 솔루션을 규모에 맞게 더 쉽게 배포할 수 있습니다.

이 글에서는 배치 추론과 그 이점, 그리고 YOLO11을 사용한 배치 추론을 컴퓨터 비전 애플리케이션에 어떻게 적용할 수 있는지 알아봅니다. 바로 시작해보겠습니다!

Link to this section컴퓨터 비전에서의 배치 추론 살펴보기#

배치 추론은 데이터가 들어오는 즉시 하나씩 처리하는 대신 큰 작업을 한꺼번에 해결하는 것으로 생각할 수 있습니다. 배치 추론을 사용하면 지속적으로 실시간 데이터를 처리하는 대신, 큰 그룹의 데이터를 정해진 간격으로 처리할 수 있습니다. 이 접근 방식은 즉각적인 응답이 필요하지 않을 때 훨씬 더 효율적이며 컴퓨팅 리소스를 절약하고 에너지 사용을 줄이며 비용을 절감하는 데 도움이 됩니다.

컴퓨터 비전의 경우 낮은 지연 시간이 필수적인 특정 애플리케이션이 있습니다. 낮은 지연 시간이란 입력(이미지나 비디오 프레임 등)을 수신한 후 시스템이 응답하기까지의 최소한의 지연을 의미합니다. 예를 들어 실시간 보안 모니터링에서는 아주 작은 지연 시간이라도 안전상의 위험을 초래할 수 있습니다.

하지만 다른 많은 컴퓨터 비전 시나리오에서는 낮은 지연 시간이 그리 중요하지 않습니다. 시스템이 즉각적으로 반응할 필요가 없을 때 배치 추론이 빛을 발합니다. 배치 추론은 시각 데이터를 그룹이나 배치 단위로 컴퓨터 비전 모델에 공급하여 시스템이 실시간으로 연속 처리하는 대신 대규모 데이터 세트를 한꺼번에 처리할 수 있게 합니다.

Link to this section배치 추론의 작동 방식 이해하기#

배치 추론에 포함된 단계를 자세히 살펴보겠습니다:

• 데이터 수집: 시각 데이터는 일정 기간 동안 수집됩니다. 애플리케이션에 따라 보안 영상, 제품 이미지 또는 고객 데이터가 포함될 수 있습니다.

• 배치 준비: 수집된 데이터는 배치 단위로 그룹화됩니다. 이 단계에서 데이터는 모델이 요구하는 형식으로 포맷됩니다. 예를 들어 이미지는 모델이 처리할 수 있도록 크기 조정, 정규화 또는 적절한 형식으로 변환될 수 있습니다.

• 예측: 데이터 준비가 완료되면 전체 배치를 모델(예: YOLO11)에 공급하여 모델이 전체 배치를 한꺼번에 처리합니다. 이를 통해 모델은 배치 내의 모든 데이터에 대해 동시에 예측을 수행할 수 있으며, 이는 각 데이터 포인트를 개별적으로 처리하는 것보다 더 효율적입니다.

Link to this section배치 추론은 언제 사용해야 할까요?#

배치 추론이 무엇이며 실시간 추론과 어떻게 다른지 살펴보았으니, 이제 언제 사용해야 할지 더 자세히 알아보겠습니다.

배치 추론은 기록 데이터를 분석하는 데 이상적입니다. 예를 들어 지난달 지하철 역의 감시 영상이 있고 하루 중 시간대별로 들어오고 나가는 사람의 수와 같은 특정 패턴을 식별하려 한다고 가정해 보겠습니다.

각 프레임을 실시간으로 처리하는 대신 배치 추론을 사용하면 전체 한 달 치 영상을 배치 단위로 처리하여 즉각적인 결과 없이도 주요 이벤트나 트렌드를 파악할 수 있습니다. 이런 방식으로 대량의 데이터를 더 효율적으로 분석하고 시스템에 과부하를 주거나 지속적인 모니터링 없이도 장기적인 패턴에 대한 통찰을 얻을 수 있습니다.

배치 추론은 시스템 리소스가 제한된 경우에도 최적의 솔루션입니다. 비혼잡 시간대(예: 야간)에 추론을 실행함으로써 컴퓨팅 비용을 절약하고 최대 사용 시간대에 시스템에 과부하가 걸리지 않도록 보장할 수 있습니다. 이는 대규모 데이터 세트를 처리해야 하지만 실시간 분석이 필요하지 않은 비즈니스나 프로젝트에 효율적이고 비용 효율적인 접근 방식입니다.

Link to this sectionUltralytics YOLO11을 사용한 배치 추론#

Ultralytics Python 패키지는 YOLO11과 같은 모델에 대한 배치 추론을 지원합니다. YOLO11을 사용하면 'batch' 인수를 지정하여 한 번에 처리할 이미지나 비디오 프레임 수를 결정함으로써 배치 추론을 쉽게 실행할 수 있습니다.

배치 추론 과정에서 배치 내의 모든 이미지에 대한 예측이 동시에 생성됩니다. 기본적으로 배치 크기는 1로 설정되어 있지만 원하는 숫자로 조정할 수 있습니다.

예를 들어 배치 크기가 5로 설정되면 YOLO11은 한 번에 5개의 이미지나 비디오 프레임을 처리하고 5개 모두에 대한 예측을 한꺼번에 생성합니다. 배치를 통해 여러 이미지를 처리하는 것이 개별적으로 처리하는 것보다 효율적이므로 일반적으로 배치 크기가 클수록 추론 속도가 빨라집니다.

Link to this section배치 추론으로 지원되는 컴퓨터 비전 애플리케이션#

다음으로 배치 추론의 실제 컴퓨터 비전 활용 사례를 살펴보겠습니다.

Link to this section의료 분야의 진단 및 연구 향상#

의료 연구에서는 방대한 양의 시각 데이터를 다루는 것이 매우 흔합니다. 여기서 배치 추론은 과학자들이 화학, 생물학, 유전학 분야 전반에서 데이터를 더 쉽게 분석하도록 도울 수 있습니다. 한 번에 하나씩 분석하는 대신 데이터를 배치 단위로 처리하여 시간과 노력을 절약할 수 있습니다.

예를 들어 의료 시설에서 배치 추론은 MRI나 CT 스캔과 같은 대규모 의료 이미지 세트를 분석하는 데 특히 유용할 수 있습니다. 병원은 하루 종일 이러한 스캔 데이터를 수집하고 야간에 배치 단위로 처리할 수 있습니다.

이러한 접근 방식을 통해 병원은 하드웨어와 인력을 더 잘 활용하고 운영 비용을 절감하며 모든 스캔이 일관되고 통일된 방식으로 검토되도록 보장할 수 있습니다. 또한 방대한 데이터를 처리해야 하는 대규모 연구 프로젝트 및 장기 연구에도 유익합니다.

그림 2. YOLO11을 사용하여 의료 스캔 데이터 탐지하기.

Link to this section시뮬레이션을 통한 자율주행 자동차 개선#

자율주행 자동차는 주변 환경을 처리하기 위해 컴퓨터 비전과 같은 AI 기술을 사용합니다. YOLO11과 같은 고급 모델의 도움으로 차량의 온보드 시스템은 다른 차량, 차선, 도로 표지판 및 거리의 보행자를 인식할 수 있습니다. 도로 위에서는 실시간 추론이 필수적이지만, 자율주행 기술은 백그라운드에서도 배치 추론에 크게 의존합니다.

그림 3. YOLO11은 도로 위의 보행자를 쉽게 탐지할 수 있습니다.

자동차 주행이 완료되면 수집된 카메라 영상, 센서 측정값, LIDAR 스캔 등 수시간 분량의 데이터를 나중에 대규모 배치로 처리할 수 있습니다. 이를 통해 엔지니어는 차량의 AI 모델을 업데이트하고 시스템 안전을 강화하며 다양한 주행 조건을 처리하는 능력을 향상할 수 있습니다.

또한 배치 추론은 자율주행 시뮬레이션에서 혼잡한 교차로를 탐색하거나 예측할 수 없는 보행자의 움직임에 반응하는 등 다양한 상황에서 자율주행 자동차가 어떻게 반응할지 테스트하는 데 사용됩니다. 이 접근 방식은 시간을 절약하고 비용을 줄이며 모든 시나리오를 실제 환경에서 테스트하는 것과 관련된 위험을 피할 수 있습니다.

Link to this section배치 추론을 통한 소매 데이터 분석#

소매점의 경우도 마찬가지로, YOLO11과 같은 컴퓨터 비전 모델을 이용한 배치 추론은 운영 효율성을 크게 향상할 수 있습니다. 예를 들어 매장의 카메라 시스템은 하루 종일 수천 개의 이미지를 캡처할 수 있으며, 이 이미지들은 야간에 배치 단위로 처리될 수 있습니다.

이를 통해 매장은 소규모 매장에서 실시간 처리가 어려울 수 있는 실시간 처리 없이도 고객 행동, 트래픽 패턴, 제품 상호작용 등 매장에서 발생하는 상황을 분석할 수 있습니다.

또 다른 흥미로운 예는 히트맵을 생성하기 위해 배치 추론을 사용하는 것입니다. 이는 매장 내 고객 활동이 많은 영역과 적은 영역을 시각화합니다. 이러한 히트맵을 분석함으로써 소매업체는 어떤 영역이 가장 많은 유동 인구를 유치하는지, 매장의 어느 부분이 더 많은 관심이나 제품 배치 최적화가 필요한지 파악할 수 있습니다. 이 데이터는 소매업체가 매장 레이아웃, 제품 위치 지정, 프로모션 전략에 대해 더 나은 결정을 내려 고객 경험과 매출을 향상하도록 도울 수 있습니다.

그림 4. 히트맵은 소매업체가 매장에서 인기 있는 영역을 파악하는 데 도움이 될 수 있습니다.

Link to this section배치 추론의 장단점#

다음은 배치 추론이 다양한 산업에 가져올 수 있는 주요 이점들입니다:

• 쉬운 통합: 배치 추론은 대량의 데이터를 일괄 처리해야 하는 소매, 보안 또는 의료와 같은 산업의 기존 워크플로에 쉽게 통합될 수 있습니다.
• 더 쉬운 데이터 관리: 대량의 데이터를 다룰 때 배치 추론은 데이터가 관리하기 쉬운 청크로 그룹화되므로 데이터 관리를 간소화할 수 있습니다. 이를 통해 시간이 지남에 따라 데이터를 더 쉽게 추적, 검토 및 구성할 수 있습니다.
• 네트워크 부하 감소: 데이터가 배치 단위로 처리되면 특정 순간에 전송되는 데이터 양이 최소화되어 클라우드 기반 시스템이나 분산 컴퓨팅 환경에서 네트워크 리소스에 대한 부담을 줄일 수 있습니다.

배치 추론을 사용하는 것에는 많은 장점이 있지만 고려해야 할 제한 사항도 있습니다. 다음은 명심해야 할 몇 가지 요소입니다:

• 스토리지 요구 사항: 배치 처리를 위해 대규모 데이터 세트를 저장하면 특히 고해상도 이미지, 비디오 또는 대량의 데이터를 다룰 때 스토리지 비용이 크게 증가할 수 있습니다.
• 백로그 가능성: 데이터가 빠르게 축적되거나 대규모 배치가 제때 처리되지 않으면 백로그가 발생할 수 있습니다. 이는 통찰력 제공 지연 및 새로운 데이터 처리를 적시에 수행하는 데 지장을 줄 수 있습니다.
• 리소스 스파이크: 특히 고해상도 이미지가 포함된 대규모 배치는 메모리나 컴퓨팅 사용량의 급증을 유발할 수 있습니다. 제대로 관리되지 않으면 이러한 스파이크가 시스템에 과부하를 주어 속도 저하나 충돌을 일으킬 수 있습니다.

Link to this section핵심 요약#

배치 추론은 즉각적인 결과가 필요하지 않은 대량의 시각 데이터를 효율적으로 처리하는 방법입니다. 각 이미지를 실시간으로 분석하는 대신 야간과 같이 정해진 시간에 배치 단위로 처리합니다.

이 방법은 비용 효율적이며 컴퓨팅 부하를 줄이면서도 정확한 결과를 제공합니다. 매장의 재고 관리부터 의사의 의료 스캔 분석 보조, 자율주행 자동차 기술 향상에 이르기까지 배치 추론은 컴퓨터 비전을 실제 애플리케이션에 더 접근 가능하고 경제적이며 실용적으로 만들어줍니다.

AI에 대해 더 깊이 알아볼 준비가 되셨나요? GitHub 리포지토리를 살펴보고, 커뮤니티와 소통하며, 라이선스 옵션을 확인하여 컴퓨터 비전 여정을 시작하세요. 솔루션 페이지에서 제조업의 AI 및 물류 산업의 컴퓨터 비전과 같은 혁신에 대해 자세히 알아보세요.