실시간 추론
Ultralytics YOLO를 통한 실시간 추론으로 자율 주행 및 보안 시스템과 같은 AI 애플리케이션을 즉시 예측할 수 있는 방법을 알아보세요.
실시간 추론은 훈련된 머신러닝(ML) 모델을 사용하여 새로운 실시간 데이터를 최소한의 지연으로 예측하는 프로세스입니다. AI 및 컴퓨터 비전(CV)의 맥락에서 이는 시스템이 비디오 스트림과 같은 정보를 처리하고 거의 즉각적으로 출력을 생성할 수 있음을 의미합니다. 목표는 추론 지연 시간을 충분히 짧게 만들어 결과가 의사 결정에 즉시 유용하도록 하는 것입니다. 이 기능은 타이밍이 중요한 애플리케이션에 매우 중요하며, 자동차부터 의료 분야에 이르기까지 다양한 산업에서 AI를 활용하는 방식을 변화시키고 있습니다.
실시간 추론 대. 일괄 추론
실시간 추론과 일괄 추론을 구분하는 것이 중요합니다. 주요 차이점은 데이터 처리 방식에 있습니다.
- 실시간 추론: 일반적으로 한 번에 하나의 입력 또는 작은 스트림으로 생성되거나 수신되는 데이터를 처리합니다. 우선 순위는 입력과 출력 사이의 지연(대기 시간)을 최소화하는 것입니다. 이는 대화형 및 시간에 민감한 시스템에 필수적입니다.
- 일괄 추론: 일정 기간에 걸쳐 데이터를 수집하여 한꺼번에 대량으로 처리하는 방식입니다. 이 접근 방식은 지연 시간을 최소화하기보다는 처리량 (시간 경과에 따라 처리되는 데이터의 양)을 최대화하는 데 우선순위를 둡니다. 일괄 처리는 일일 보고서 생성이나 대규모 데이터 세트의 주기적 분석과 같이 긴급하지 않은 작업에 적합합니다.
두 가지 모두 학습된 모델을 사용하여 예측을 수행하지만, 결과의 긴급성에 따라 사용 사례는 근본적으로 다릅니다.
현실 세계에서의 애플리케이션
즉각적인 의사 결정이 가능하기 때문에 다양한 분야에 걸쳐 광범위하고 강력한 애플리케이션을 활용할 수 있습니다.
- 자율 주행 시스템: 자율 주행 자동차에서 실시간 추론은 안전의 문제입니다. 모델은 안전하게 주행하고 충돌을 피하기 위해 물체 감지를 수행하여 보행자, 다른 차량, 도로 표지판을 수 밀리초 내에 식별해야 합니다. 마찬가지로 드론과 로봇도 내비게이션과 주변 환경과의 상호 작용을 위해 실시간 추론에 의존합니다.
- 스마트 제조: 생산 라인에서 AI가 탑재된 카메라는 실시간 품질 관리를 수행할 수 있습니다. Ultralytics YOLO11과 같은 모델은 컨베이어 벨트에서 움직이는 제품의 결함을 감지하여 즉시 제거할 수 있습니다. 이는 제조 분야에서 최신 AI의 핵심 구성 요소입니다.
- 인터랙티브 헬스케어: 수술 중 모델이 카메라의 라이브 비디오를 분석하여 집도의에게 실시간 지침을 제공할 수 있습니다. 진단 환경에서는 실시간 의료 이미지 분석을 통해 의사가 라이브 스캔 중에 이상 징후를 더 빨리 파악할 수 있습니다.
- 스마트 감시: 최신 보안 시스템은 실시간 추론을 통해 비디오 피드를 분석하고 무단 침입이나 버려진 소포와 같은 잠재적 위협을 식별하여 즉각적인 경보를 발동합니다. 이는 단순한 녹화를 넘어 능동적이고 지능적인 모니터링으로 나아갑니다.
실시간 성능 달성
실시간 컴퓨팅 애플리케이션을 위해 모델을 충분히 빠르게 실행하려면 상당한 최적화가 필요한 경우가 많습니다:
Ultralytics YOLO와 같은 모델은 효율성과 정확성을 염두에 두고 설계되어 실시간 객체 감지 작업에 매우 적합합니다. Ultralytics HUB와 같은 플랫폼은 훈련, 최적화(예: ONNX 또는 TensorRT 형식으로 내보내기), 모델 배포를 위한 도구를 제공하여 다양한 배포 옵션에서 실시간 추론 솔루션을 쉽게 구현할 수 있게 해줍니다.
