다양한 컴퓨터 비전 애플리케이션에 Ultralytics YOLO11 사용할 때 실시간 추론과 일괄 추론의 차이점을 살펴보세요.
자율주행차가 실제로 작동하는 모습을 본 적이 있다면, 실시간 AI 추론을 목격하신 적이 있을 것입니다. 자율주행차는 일반적으로 카메라, 센서, AI를 사용하여 주변 환경을 처리하고 거의 즉각적인 결정을 내립니다. 그러나 빠른 응답이 필요하지 않은 경우 실시간 추론은 리소스를 많이 사용할 수 있습니다.
이러한 경우 더 나은 옵션은 일괄 추론입니다. 일괄 추론은 데이터를 실시간으로 연속적으로 처리하는 대신 예약된 간격으로 대규모 데이터 세트를 처리할 수 있습니다. 이 접근 방식은 리소스를 절약하고 전력 소비를 줄이며 인프라 비용을 절감하는 데 도움이 됩니다.
예를 들어, 컴퓨터 비전 애플리케이션에서는 다음과 같은 모델이 사용됩니다. Ultralytics YOLO11 와 같은 모델을 객체 감지 및 인스턴스 분할과 같은 실시간 작업에 사용할 수 있습니다. 그러나 대량의 시각적 데이터를 실시간으로 처리하는 것은 까다로울 수 있습니다.
일괄 추론을 사용하면 시각 데이터에 대해 일괄적으로 YOLO11 실행할 수 있으므로 성능 저하 없이 시스템의 부담을 줄이고 효율성을 개선할 수 있습니다. 따라서 하드웨어에 부담을 주거나 비용을 증가시키지 않고도 비전 AI 솔루션을 대규모로 쉽게 배포할 수 있습니다.
이 글에서는 일괄 추론과 그 이점, 그리고 컴퓨터 비전 애플리케이션에서 YOLO11 사용한 일괄 추론을 어떻게 적용할 수 있는지 살펴보겠습니다. 시작해 보겠습니다!
일괄 추론은 큰 작업을 들어오는 대로 하나씩 처리하는 대신 한꺼번에 처리하는 것으로 생각할 수 있습니다. 일괄 추론을 사용하면 데이터를 실시간으로 계속 처리하는 대신 대규모 데이터 그룹을 일정 간격으로 처리할 수 있습니다. 이 접근 방식은 즉각적인 대응이 필요하지 않을 때 훨씬 더 효율적이므로 컴퓨팅 리소스를 절약하고 에너지 사용을 줄이며 비용을 절감하는 데 도움이 됩니다.
컴퓨터 비전과 관련하여 짧은 지연 시간이 필수적인 특정 애플리케이션이 있습니다. 짧은 지연 시간은 이미지 또는 비디오 프레임과 같은 입력 수신과 시스템 응답 사이의 최소 지연 시간을 의미합니다. 예를 들어 실시간 보안 모니터링에서는 작은 지연도 안전 위험을 초래할 수 있습니다.
그러나 다른 많은 컴퓨터 비전 시나리오에서는 짧은 지연 시간이 그다지 중요하지 않습니다. 시스템이 즉각적으로 반응할 필요가 없을 때 일괄 추론이 빛을 발하는 곳입니다. 배치 추론은 시각 데이터를 그룹 또는 일괄적으로 컴퓨터 비전 모델에 공급하는 방식으로 작동하므로 시스템이 대규모 데이터 세트를 실시간으로 연속적으로 처리하지 않고 한 번에 처리할 수 있습니다.
일괄 추론과 관련된 단계를 자세히 살펴보세요:
배치 추론이 무엇이며 실시간 추론과 어떻게 다른지 살펴보았으니 이제 배치 추론을 언제 사용하는지 자세히 살펴보겠습니다.
일괄 추론은 과거 데이터를 분석하는 데 이상적입니다. 지난 한 달 동안의 지하철역 감시 영상이 있고, 하루 중 다른 시간대에 출입하는 사람의 수와 같은 특정 패턴을 파악하려고 한다고 가정해 보겠습니다.
일괄 추론을 사용하면 각 프레임을 실시간으로 처리하는 대신 한 달 분량의 영상을 일괄적으로 처리하여 즉각적인 결과 없이도 주요 이벤트나 추세를 파악할 수 있습니다. 이렇게 하면 시스템에 부담을 주거나 지속적으로 모니터링할 필요 없이 대량의 데이터를 보다 효율적으로 분석하고 장기적인 패턴에 대한 인사이트를 얻을 수 있습니다.
일괄 추론은 시스템 리소스가 제한되어 있는 경우에도 최적의 솔루션입니다. 야간과 같이 사용량이 많지 않은 시간에 추론을 실행하면 컴퓨팅 비용을 절감하고 사용량이 많은 시간대에 시스템이 과부하되지 않도록 할 수 있습니다. 따라서 대규모 데이터 세트를 처리해야 하지만 실시간 분석이 필요하지 않은 비즈니스나 프로젝트에 효율적이고 비용 효과적인 접근 방식이 될 수 있습니다.
Ultralytics Python 패키지는 YOLO11 같은 모델에 대한 일괄 추론을 지원합니다. YOLO11 사용하면 한 번에 처리할 이미지 또는 비디오 프레임의 수를 결정하는 'batch' 인수를 지정하여 일괄 추론을 쉽게 실행할 수 있습니다.
배치 추론 프로세스 중에는 배치의 모든 이미지에 대해 동시에 예측이 생성됩니다. 기본적으로 배치 크기는 1로 설정되어 있지만 원하는 수로 조정할 수 있습니다.
예를 들어 배치 크기를 5로 설정하면 YOLO11 한 번에 5개의 이미지 또는 비디오 프레임을 처리하고 5개의 예측을 모두 한 번에 생성합니다. 배치 크기가 클수록 일반적으로 여러 이미지를 개별적으로 처리하는 것보다 일괄 처리하는 것이 더 효율적이므로 추론 시간이 더 빨라집니다.
다음으로 일괄 추론에 대한 실제 컴퓨터 비전 사용 사례를 살펴보겠습니다.
의학 연구에서는 대량의 시각적 데이터로 작업하는 것이 매우 일반적입니다. 여기서 일괄 추론은 과학자들이 화학, 생물학, 유전학 등의 분야에서 데이터를 더 쉽게 분석하는 데 도움이 될 수 있습니다. 한 번에 하나씩 분석하는 대신 데이터를 일괄 처리하여 시간과 노력을 절약할 수 있습니다.
예를 들어, 의료 시설에서 일괄 추론은 MRI나 CT 스캔과 같은 대량의 의료 이미지 세트를 분석하는 데 특히 유용할 수 있습니다. 병원에서는 하루 종일 이러한 스캔을 수집하여 밤새 일괄 처리할 수 있습니다.
이 접근 방식을 통해 병원은 하드웨어와 인력을 더 효율적으로 활용하고 운영 비용을 절감하며 모든 스캔이 일관되고 균일한 방식으로 검토되도록 할 수 있습니다. 또한 방대한 양의 데이터를 처리해야 하는 대규모 연구 프로젝트와 장기 연구에도 유용합니다.
자율 주행 자동차는 컴퓨터 비전과 같은 AI 기술을 사용하여 주변 환경을 처리합니다. YOLO11 같은 고급 모델의 도움으로 차량의 온보드 시스템은 다른 차량, 차선, 도로 표지판, 도로 위의 사람들을 인식할 수 있습니다. 도로 위에서는 실시간 추론이 중요하지만, 자율 주행 기술은 배후에서 이루어지는 일괄 추론에도 크게 의존합니다.
자동차가 주행을 완료한 후에는 몇 시간 동안의 카메라 영상, 센서 판독값, LIDAR 스캔 등 수집한 데이터를 나중에 대량으로 처리할 수 있습니다. 이를 통해 엔지니어는 자동차의 AI 모델을 업데이트하고 시스템 안전을 강화하며 다양한 주행 조건을 처리하는 능력을 향상시킬 수 있습니다.
일괄 추론은 자율주행 시뮬레이션에서도 사용되어 복잡한 교차로를 통과하거나 예측할 수 없는 보행자의 움직임에 대응하는 등 다양한 상황에서 자율주행차가 어떻게 반응하는지 테스트할 수 있습니다. 이 접근 방식은 시간을 절약하고 비용을 절감하며 실제 상황에서 모든 시나리오를 테스트하는 데 따르는 위험을 피할 수 있습니다.
마찬가지로 소매점의 경우, YOLO11 같은 컴퓨터 비전 모델을 사용한 일괄 추론을 통해 운영 효율성을 크게 향상시킬 수 있습니다. 예를 들어, 매장의 카메라 시스템은 하루 종일 수천 개의 이미지를 캡처할 수 있으며, 이를 밤새 일괄 처리할 수 있습니다.
이를 통해 소규모 매장에서는 어려울 수 있는 실시간 처리 없이도 고객 행동, 트래픽 패턴, 제품 상호 작용 등 매장에서 일어나는 상황을 분석할 수 있습니다.
또 다른 흥미로운 예는 배치 추론을 사용하여 매장 내에서 고객 활동이 많은 영역과 적은 영역을 시각화하는 히트맵을 생성하는 것입니다. 이러한 히트맵을 분석하여 리테일러는 유동인구가 가장 많은 구역과 더 많은 관심을 기울여야 하거나 제품 배치 최적화가 필요한 부분을 파악할 수 있습니다. 이 데이터를 통해 리테일러는 매장 레이아웃, 제품 포지셔닝, 심지어 고객 경험 및 판매 향상을 위한 프로모션 전략에 대한 더 나은 결정을 내릴 수 있습니다.
다음은 배치 추론이 다양한 산업에 가져올 수 있는 주요 이점 중 일부입니다:
일괄 추론을 사용하면 많은 이점이 있지만 고려해야 할 몇 가지 제한 사항도 있습니다. 다음은 몇 가지 유의해야 할 사항입니다:
일괄 추론은 즉각적인 결과가 필요하지 않은 대량의 시각적 데이터를 처리하는 효율적인 방법입니다. 각 이미지를 실시간으로 분석하는 대신 밤과 같이 예약된 시간에 일괄적으로 처리합니다.
이 방법은 비용 효율적이고 계산 부하를 줄이면서도 정확한 결과를 제공합니다. 매장의 재고 관리 지원부터 의사의 의료 스캔 분석 지원, 자율 주행 자동차 기술 향상에 이르기까지 배치 추론은 컴퓨터 비전을 실제 애플리케이션에 더 쉽고 저렴하며 실용적으로 사용할 수 있게 해줍니다.
AI에 대해 자세히 알아볼 준비가 되셨나요? GitHub 리포지토리를 살펴보고, 커뮤니티에 참여하고, 라이선스 옵션을 확인하여 컴퓨터 비전 여정을 시작하세요. 솔루션 페이지에서 제조 분야의 AI와 물류 업계의 컴퓨터 비전과 같은 혁신에 대해 자세히 알아보세요.