Ultralytics YOLO26의 더욱 빠른 엣지 우선 설계가 미치는 영향

이번 주 초 Ultralytics는 엣지에서 컴퓨터 비전 시스템이 작동하는 방식을 재정의하는 것을 목표로 하는 더 빠르고 가벼우며 작은 YOLO 모델인 Ultralytics YOLO26을 공식 출시했습니다. YOLO26은 객체 감지와 인스턴스 세그멘테이션을 비롯해 이전 YOLO 모델과 동일한 핵심 비전 작업을 지원합니다.

그림 1. Ultralytics YOLO26을 사용하여 객체를 세그멘테이션하는 예시입니다.

Ultralytics YOLO26과 이전 모델의 결정적인 차이는 작동하도록 설계된 환경에 있습니다. 클라우드 그래픽 처리 장치(GPU)나 벤치마크 중심의 성능을 주로 최적화하는 대신, YOLO26은 실제 엣지 디바이스와 임베디드 하드웨어에 배포하기 위해 처음부터 설계되었습니다.

컴퓨터 비전이 연구 단계에서 실제 운영 환경으로 이동하면서 성능 제약의 현실이 더욱 분명해지고 있습니다. 엣지 환경은 엄격한 지연 시간 예산, 제한된 메모리, 전력 및 열 제약, 그리고 다양한 플랫폼에서 예측 가능한 동작이 필요하다는 점에 의해 좌우됩니다.

이러한 환경에서 전체 시스템 성능은 단순한 순수 추론 속도뿐 아니라 전체 파이프라인이 얼마나 효율적으로 작동하는지에 따라 결정됩니다. 후처리 오버헤드, 메모리 부담, 플랫폼별 실행 경로가 병목이 되는 경우가 많습니다.

Ultralytics YOLO26은 개별 모델 지표가 아니라 전체 추론 파이프라인을 살펴보는 더 빠른 엣지 우선 접근 방식을 취해 이러한 문제를 해결합니다. 엣지 최적화에 집중하고 추론 파이프라인을 간소화하며 불필요한 후처리 단계를 제거함으로써, YOLO26은 지연 시간을 줄이고 운영 환경에서 더욱 안정적인 동작을 구현하는 속도 향상을 제공합니다.

이 글에서는 Ultralytics YOLO26의 아키텍처 선택이 실제 성능 향상으로 어떻게 이어지는지, 그리고 엣지에서 더 빠르게 작동하는 것이 차세대 컴퓨터 비전 애플리케이션에서 가능한 범위를 근본적으로 어떻게 바꾸는지 살펴봅니다.

엣지 배포의 현실#

컴퓨터 비전 모델을 엣지에서 실행하는 것은 클라우드에서 실행하는 것과 매우 다릅니다. 클라우드 환경에서는 일반적으로 강력한 GPU, 대용량 메모리, 안정적인 하드웨어를 사용할 수 있습니다. 엣지에서는 이러한 가정이 적용되지 않습니다.

대부분의 엣지 배포는 GPU가 아닌 다양한 하드웨어 아키텍처에서 실행됩니다. 디바이스는 일반적으로 작업별로 여러 특화 프로세서를 사용하며, 이러한 프로세서는 클라우드 GPU의 순수 연산 성능보다 효율성과 낮은 전력 소비에 최적화되어 있습니다.

지연 시간도 또 다른 주요 제약입니다. 엣지 시스템은 엄격한 실시간 제한 내에서 작동하는 경우가 많으며, 작은 지연도 응답성이나 안전성에 영향을 줄 수 있습니다. 이러한 경우에는 순수 추론 속도보다 엔드투엔드 지연 시간이 더 중요합니다. 모델 자체는 이론상 빠르더라도 후처리와 데이터 이동이 추가되면 요구 성능에 미치지 못할 수 있습니다.

메모리도 중요한 역할을 합니다. 많은 엣지 디바이스에는 제한된 메모리와 공유 캐시가 있습니다. 대규모 중간 텐서와 비효율적인 메모리 사용은 모델 자체가 효율적이더라도 시스템 속도를 저하시킬 수 있습니다.

전력 및 열 제한은 추가적인 제약을 만듭니다. 엣지 디바이스는 능동 냉각 없이 고정된 전력 예산 내에서 작동하는 경우가 많습니다. 성능은 짧은 순간에만 빠른 것이 아니라 효율적이고 지속 가능해야 합니다.

이 모든 요소에 더해 엣지 배포에는 일관성이 필요합니다. 모델은 디바이스와 런타임 전반에서 동일하게 작동해야 합니다. 플랫폼별 코드나 복잡한 후처리 단계는 미묘한 차이를 만들어 시스템의 배포와 유지 관리를 어렵게 할 수 있습니다.

그림 2. 엣지 배포의 제약 살펴보기. 이미지 제공: 작성자.

이러한 제약이 엣지에서 성능이 실제로 무엇을 의미하는지 정의합니다. 다시 말해, 성능은 단일 지표가 아니라 전체 파이프라인에 의해 결정됩니다.

엣지 비전에 다른 성능 모델이 필요한 이유#

그렇다면 엣지 배포의 제약은 엣지를 위해 구축된 컴퓨터 비전 모델의 요구 사항과 어떤 관련이 있을까요? 모델이 연구 환경에서 실제 시스템으로 이동하면 그 연관성이 분명해집니다.

클라우드 환경에서는 성능을 추론 속도와 정확도 같은 벤치마크로 측정하는 경우가 많습니다. 엣지에서는 이러한 지표만으로는 전체 상황을 알 수 없습니다. 비전 시스템은 일반적으로 이기종 하드웨어에서 실행되며, 신경망 추론은 특화 가속기로 오프로드되는 반면 파이프라인의 다른 부분은 범용 프로세서에서 실행됩니다.

이러한 맥락에서는 모델 속도만으로 충분하지 않습니다. 모델이 배포된 후 전체 시스템이 어떻게 작동하는지가 핵심입니다. 모델 자체는 빠르게 보일 수 있지만 후처리, 데이터 이동 또는 플랫폼별 단계에서 오버헤드가 발생하면 요구 성능에 미치지 못할 수 있습니다.

따라서 엣지 비전에는 개별 벤치마크가 아니라 시스템 수준의 효율성에 초점을 맞춘 성능 모델이 필요합니다. Ultralytics YOLO26은 엣지 우선 최적화, 간소화된 추론, 실제 배포를 위해 구축된 엔드투엔드 실행에 집중함으로써 이러한 변화를 반영합니다.

속도의 기반: 엣지 우선 설계#

엣지에서 성능은 모델이 디바이스의 실제 하드웨어 아키텍처에 얼마나 잘 매핑되는지에 따라 결정됩니다. 엣지를 우선하여 설계하면 사용 가능한 처리 장치의 구체적인 조합과 관계없이 실제 플랫폼 전반에서 비전 시스템을 안정적으로 실행할 수 있습니다.

엣지 우선 접근 방식은 클라우드 GPU에 최적화된 모델을 나중에 조정하는 대신 이기종 하드웨어 전반에서 예측 가능하고 효율적인 실행을 우선합니다. 간단히 말해, 이는 신경망 가속기에 잘 매핑되는 연산을 선호하고 모델 외부의 비신경망 작업을 최소화하며 엔드투엔드 실행을 늦출 수 있는 불필요한 복잡성을 줄이는 것을 의미합니다.

Ultralytics YOLO26은 이러한 제약을 고려하여 설계되었습니다. 아키텍처는 이상적인 조건에서의 최고 처리량보다 일관된 성능에 초점을 맞춥니다. 실행 경로를 간소화하고 불필요한 연산을 제거함으로써 YOLO26은 추론 파이프라인 전반의 오버헤드를 줄이고 디바이스에서 사용 가능한 가속 기능과 메모리 계층 구조를 더 효과적으로 활용합니다.

이 접근 방식은 안정성도 향상합니다. 엣지 우선 최적화는 더 예측 가능한 타이밍과 더 적은 성능 급증으로 이어지며, 이는 실시간 시스템에 매우 중요합니다. 속도를 달성하기 위해 특화 하드웨어나 무거운 후처리에 의존하는 대신 Ultralytics YOLO26은 추론 파이프라인 전체에서 효율성을 강조합니다.

엔드투엔드 추론과 후처리 비용#

불필요한 후처리 단계를 제거한다는 것이 무엇을 의미하는지 궁금하실 수 있습니다. 이를 이해하기 위해 한 걸음 물러나 기존 객체 감지 시스템의 작동 방식을 살펴보겠습니다.

많은 객체 감지 파이프라인에서 추론은 모델이 예측을 생성할 때 끝나지 않습니다. 대신 모델은 다수의 겹치는 바운딩 박스를 출력하며, 이를 사용하기 전에 필터링하고 정제해야 합니다. 이러한 정리 작업은 모델 외부에서 실행되는 후처리 단계를 통해 수행됩니다.

가장 일반적인 후처리 단계 중 하나는 비최대 억제, 즉 NMS입니다. NMS는 겹치는 바운딩 박스를 비교하여 가장 확신도가 높은 감지만 유지하고 동일한 객체를 가리키는 중복 감지를 제거합니다. 이 방식은 효과적이지만 추론이 완료된 후 추가 연산을 발생시킵니다.

그림 3. NMS 이해하기. 이미지 제공: 작성자.

엣지에서는 이러한 추가 작업에 비용이 발생합니다. NMS와 같은 후처리 단계는 신경망 추론에 사용되는 특화 가속기에 적합하지 않습니다. 이러한 가속기는 제어 중심 또는 메모리 집약적 연산보다 밀집된 신경망 연산에 최적화되어 있기 때문입니다.

그 결과 NMS는 추가 지연 시간과 메모리 오버헤드를 발생시키며, 감지 수가 증가할수록 비용도 커집니다. 모델 자체가 빠르더라도 NMS가 전체 실행 시간의 상당 부분을 차지할 수 있습니다.

후처리는 시스템 복잡성도 증가시킵니다. 후처리는 모델 외부에 존재하므로 런타임과 하드웨어 대상별로 별도로 구현해야 합니다. 이로 인해 플랫폼별 코드 경로, 디바이스 간 일관되지 않은 동작, 더욱 취약한 배포 파이프라인이 발생하는 경우가 많습니다.

무엇보다 후처리는 진정한 엔드투엔드 성능이라는 개념을 무너뜨립니다. 모델 추론 속도를 측정하는 것만으로는 운영 환경에서 시스템이 어떻게 작동하는지 알 수 없습니다. 궁극적으로 중요한 것은 파이프라인의 모든 단계를 포함한 입력부터 최종 출력까지의 총 시간입니다.

이러한 상황에서 후처리는 엣지의 숨은 병목이 됩니다. 후처리는 모델 외부에 존재하면서 지연 시간을 추가하고 CPU 리소스를 사용하며 배포를 복잡하게 만듭니다.

Ultralytics YOLO26이 NMS를 제거하는 방식과 그로 인해 더 빨라지는 이유#

YOLO26은 NMS를 제거합니다. 추론 후 중복 감지를 정리하는 대신 중복 감지의 근본 원인을 해결하기 때문입니다. 필터링이 필요한 겹치는 예측을 다수 생성하는 대신, 모델은 확신도가 높은 최종 감지 결과를 더 적은 수로 직접 생성하도록 학습됩니다.

이는 학습 중 감지를 학습하는 방식을 변경함으로써 가능합니다. Ultralytics YOLO26은 객체와 예측 사이에 더욱 명확한 일대일 관계를 유도하여 중복을 근본 원인에서 줄입니다. 그 결과 중복 감지는 외부 후처리가 아니라 네트워크 자체에서 해결됩니다.

NMS 제거는 엣지 성능에 즉각적인 영향을 줍니다. NMS는 신경망 가속기에 잘 매핑되지 않으므로 이를 제거하면 메모리 이동이 줄고 비용이 큰 비신경망 처리 단계를 피할 수 있습니다. 이를 통해 엔드투엔드 지연 시간이 감소하고 성능이 더욱 예측 가능해집니다. 특히 후처리가 전체 실행 시간에서 상당한 비중을 차지할 수 있는 엣지 디바이스에서 효과적입니다.

추론 파이프라인도 간소화됩니다. 모델 외부 단계가 줄어들면 데이터 이동과 구성 요소 간 핸드오프가 감소합니다. 모델의 출력이 이미 최종 결과이므로 실행을 더욱 예측 가능하게 만들 수 있습니다.

진정한 엔드투엔드 성능을 위한 DFL 제거#

Ultralytics YOLO26의 또 다른 혁신은 이전 YOLO 모델에서 바운딩 박스 회귀에 사용되었던 Distribution Focal Loss, 즉 DFL을 제거한 것입니다. 단일 좌표를 직접 예측하는 대신 DFL을 사용하는 모델은 가능한 값의 분포를 학습한 다음 해당 분포에서 최종 바운딩 박스를 도출합니다. 이 접근 방식은 위치 추정 정확도를 향상하는 데 도움이 되었으며 이전 세대에서 중요한 진전이었습니다.

그러나 시간이 지나면서 DFL은 상충 요소도 가져왔습니다. 분포를 예측하면 연산량이 증가하고 모델 아키텍처에 복잡성이 추가되어 CPU에서의 추론이 느려지고 다양한 배포 형식으로 모델을 내보내기가 어려워질 수 있습니다. 또한 DFL은 고정된 회귀 범위를 적용하므로 매우 큰 객체를 감지할 때 유연성이 제한될 수 있습니다.

Ultralytics YOLO26은 더 단순한 엔드투엔드 설계로 전환하는 과정의 일환으로 DFL을 제거합니다. 바운딩 박스 회귀를 더욱 직접적인 방식으로 재설계하여 정확도를 유지하면서 불필요한 연산을 줄였습니다. 이러한 변경 사항은 YOLO26의 NMS 없는 접근 방식과 일치합니다.

CPU 추론 속도가 43% 더 빨라진 이유#

CPU 기반 벤치마크에서 YOLO26은 이전 YOLO 모델보다 뚜렷한 성능 향상을 보여줍니다. Ultralytics YOLO11과 비교하면 YOLO26 nano 모델은 CPU 추론을 최대 43% 더 빠르게 수행하며, 이는 실제 엣지 배포에 의미 있는 영향을 미칩니다.

그림 4. Ultralytics YOLO26 CPU 속도 벤치마킹.

이러한 향상은 단일 구성 요소를 최적화한 결과가 아니라 전체 추론 파이프라인을 간소화한 결과입니다. 엔드투엔드 실행은 후처리 오버헤드를 제거하고, 더욱 직접적인 바운딩 박스 회귀 방식은 연산량을 줄이며, CPU 우선 설계 선택은 범용 프로세서에서의 실행 효율성을 향상합니다.

이러한 변경 사항이 결합되어 지연 시간을 줄이고 CPU 작업량을 낮추며 실제 엣지 하드웨어에서 더 빠르고 일관된 성능을 제공합니다.

Ultralytics YOLO26이 엣지 배포와 내보내기에 미치는 영향#

Ultralytics YOLO26의 성능 향상은 더 빠른 추론을 넘어섭니다. 모델을 간소화하고 메모리 오버헤드를 줄임으로써 다양한 엣지 환경에 더욱 쉽게 배포하고 안정적으로 실행할 수 있습니다.

Ultralytics YOLO26의 엔드투엔드 설계는 내보내기도 간소화합니다. 보조 구성 요소가 줄고 외부 후처리 단계가 없으므로 내보낸 모델은 완전히 독립적으로 사용할 수 있습니다. 이를 통해 플랫폼별 종속성이 줄어들고 런타임과 하드웨어 대상 전반에서 일관된 동작을 보장하는 데 도움이 됩니다.

실제로 이는 다양한 내보내기 형식을 사용하여 Ultralytics YOLO26을 카메라, 로봇, 임베디드 시스템과 같은 엣지 디바이스에 더 쉽게 배포할 수 있다는 의미입니다. 내보낸 모델을 그대로 실행하므로 통합 단계가 줄고 배포 과정에서 동작이 달라질 위험도 낮아집니다.

더 빠른 엣지 추론으로 로보틱스 및 산업용 비전 AI 구현#

지금까지 Ultralytics YOLO26의 엣지 우선 설계가 시스템 수준에서 성능을 어떻게 향상하는지 살펴보았습니다. 그러나 진정한 영향은 비전 AI를 실제 애플리케이션에 더 쉽게 통합할 수 있도록 한다는 점에 있습니다.

예를 들어 로보틱스 및 산업 환경에서 비전 시스템은 엄격한 실시간 제약 내에서 작동하는 경우가 많습니다. 제한된 컴퓨팅 리소스를 사용하고 클라우드 연결에 의존하지 않으면서 빠르고 일관되게 의사 결정을 내려야 합니다. Ultralytics YOLO26을 사용하면 이러한 요구 사항을 현실적으로 충족할 수 있습니다.

로봇 내비게이션 및 객체 조작과 같은 애플리케이션은 더 낮은 지연 시간과 예측 가능한 추론의 이점을 얻으므로 로봇이 주변 환경의 변화에 원활하게 대응할 수 있습니다. 마찬가지로 산업 환경에서는 비전 모델을 생산 라인에서 직접 실행하여 지연이나 복잡성 증가 없이 결함을 감지하고 구성 요소를 추적하며 공정을 모니터링할 수 있습니다.

Ultralytics YOLO26은 엣지 하드웨어에서 빠르고 안정적인 추론을 지원하여 비전 AI를 배포하고 유지 관리해야 하는 과제가 아니라 로보틱스 및 산업 시스템의 자연스러운 구성 요소로 만드는 데 기여합니다.

핵심 요점#

Ultralytics YOLO26은 지연 시간, 메모리, 안정성과 같은 실제 제약이 가능한 범위를 결정하는 엣지를 위해 구축되었습니다. CPU 우선 실행, 엔드투엔드 추론, 간소화된 배포를 중심으로 모델을 설계함으로써 YOLO26은 비전 AI를 실제 시스템에 실용적으로 통합할 수 있도록 합니다. 이러한 엣지 우선 접근 방식은 성능과 예측 가능성이 가장 중요한 로보틱스 및 산업용 비전부터 임베디드 및 온디바이스 AI까지 폭넓은 애플리케이션을 지원합니다.

성장하는 커뮤니티에 참여하고 실습에 활용할 수 있는 AI 리소스를 확인하려면 GitHub 리포지토리를 살펴보세요. 지금 비전 AI를 구축하려면 라이선스 옵션을 확인하세요. 솔루션 페이지를 방문하여 농업 분야의 AI가 농업을 어떻게 변화시키고 있는지, 헬스케어 분야의 비전 AI가 미래를 어떻게 만들어가고 있는지 알아보세요.