Ultralytics YOLO26이 NMS를 제거한 이유와 이것이 배포 방식을 바꾸는 방법

2026년 1월 14일, 컴퓨터 비전 모델의 최신 세대인 Ultralytics YOLO26을 출시했습니다. YOLO26을 개발하면서 정확도나 속도만 개선하는 데 그치지 않고, 실제 시스템에서 객체 탐지 모델을 구축하고 배포하는 방식을 재고하고자 했습니다.

컴퓨터 비전이 연구 단계에서 프로덕션으로 넘어가면서, 모델은 CPU, 엣지 디바이스, 카메라, 로봇, 임베디드 하드웨어에서 실행될 것으로 점점 더 기대되고 있습니다. 이러한 환경에서는 신뢰성, 낮은 지연 시간, 간편한 배포가 성능만큼이나 중요합니다.

Ultralytics YOLO26은 이러한 현실을 고려해 추론 파이프라인의 불필요한 복잡성을 제거한 간소화된 엔드투엔드 아키텍처로 설계되었습니다. YOLO26의 가장 중요한 혁신 중 하나는 일반적으로 NMS라고 하는 비최대 억제를 제거할 수 있다는 점입니다.

수년간 NMS는 객체 감지 시스템의 표준 구성 요소로 사용되어 중복 감지를 정리하는 후처리 단계 역할을 했습니다. 효과적이기는 하지만, 특히 엣지 하드웨어에서는 추가 연산과 배포상의 어려움도 발생시켰습니다.

YOLO26에서는 다른 접근 방식을 취했습니다. 예측을 생성하고 학습하는 방식을 재고하여 진정한 엔드투엔드 NMS-free 추론을 구현했습니다. 모델은 외부 정리 단계나 수작업으로 만든 규칙에 의존하지 않고 최종 감지 결과를 직접 생성합니다. 이로써 YOLO26의 속도가 빨라지고, 내보내기가 쉬워지며, 다양한 하드웨어 플랫폼에 더 안정적으로 배포할 수 있습니다.

그림 1. Ultralytics YOLO26을 사용한 이미지 내 객체 감지.

이 글에서는 기존 객체 탐지가 NMS에 의존했던 이유와 NMS가 배포 병목 현상이 된 과정, 그리고 Ultralytics YOLO26이 우회 방법의 필요성을 없애는 방식을 자세히 살펴보겠습니다.

기존 객체 감지에서는 중복 감지가 생성됩니다#

NMS가 무엇이며 Ultralytics YOLO26에서 NMS를 제거한 이유를 살펴보기 전에, 잠시 한 걸음 물러나 기존 객체 감지 모델이 예측 결과를 생성하는 방식을 알아보겠습니다.

기존 객체 감지 모델은 동일한 객체에 대해 서로 겹치는 바운딩 박스를 여러 개 생성하는 경우가 많습니다. 이 박스들은 모두 이미지 속 같은 객체를 가리키지만, 각 박스에는 자체 신뢰도 점수가 부여됩니다.

여기에는 몇 가지 이유가 있습니다. 첫째, 모델은 다양한 공간 위치와 서로 다른 스케일에서 동시에 예측합니다. 이를 통해 모델은 크기가 다양한 객체를 감지할 수 있지만, 인접한 여러 위치가 동일한 객체를 각각 식별할 수도 있습니다.

둘째, 많은 객체 감지 시스템은 앵커 기반 접근 방식을 사용하여 각 위치 주변에 다수의 후보 박스를 생성합니다. 이 방식은 객체를 정확하게 찾을 가능성을 높이지만, 겹치는 예측의 수도 늘립니다.

마지막으로, 그리드 기반 감지 방식 자체에서도 자연스럽게 중복이 발생합니다. 객체가 여러 그리드 셀의 경계 근처에 있으면 여러 셀이 해당 객체의 박스를 예측하여 서로 겹치는 감지 결과가 여럿 생성될 수 있습니다.

이 때문에 모델의 원시 출력에는 단일 객체에 대한 박스가 여러 개 포함되는 경우가 많습니다. 결과를 실제로 활용하려면 중복 예측을 필터링하여 최종 감지 결과 하나만 남겨야 합니다.

비최대 억제 이해하기#

객체 감지 모델이 동일한 객체에 대해 서로 겹치는 바운딩 박스를 여러 개 생성하면, 결과를 사용하기 전에 정리해야 합니다. 이때 비최대 억제를 적용합니다.

비최대 억제는 모델이 예측을 완료한 후 실행되는 후처리 단계입니다. 각 객체가 최종 바운딩 박스 하나로 표현되도록 중복 감지를 줄이는 것이 목적입니다.

그림 2. NMS 개요. 이미지 제공: 저자.

이 과정에서는 신뢰도 점수와 박스 간 겹침 정도를 기준으로 바운딩 박스를 비교합니다. 먼저 신뢰도가 매우 낮은 예측을 제거합니다.

그런 다음 남은 박스를 신뢰도 순으로 정렬하고, 점수가 가장 높은 박스를 최적의 감지 결과로 선택합니다. 선택된 박스를 다른 박스와 비교합니다.

다른 박스가 선택된 박스와 지나치게 많이 겹치면 해당 박스를 억제하고 제거합니다. 겹침은 일반적으로 교집합 대비 합집합을 사용해 측정합니다. 이 지표는 두 박스가 공유하는 영역과 두 박스가 차지하는 전체 영역 간의 비율을 계산합니다. 가장 신뢰도가 높고 서로 겹치지 않는 감지 결과만 남을 때까지 이 과정을 반복합니다.

NMS가 배포를 복잡하게 만드는 이유#

비최대 억제는 중복 감지를 필터링하는 데 도움이 되지만, 모델이 연구 단계를 벗어나 실제 환경에 배포되면 더 두드러지는 문제도 일으킵니다.

가장 큰 문제 중 하나는 성능입니다. NMS는 추론 후에 실행되며, 유지할 박스를 결정하기 위해 바운딩 박스를 서로 비교해야 합니다.

이 과정은 연산 비용이 많이 들고 효율적인 병렬화도 어렵습니다. 엣지 디바이스와 CPU 기반 시스템에서는 이러한 추가 작업으로 지연 시간이 눈에 띄게 늘어 실시간 요구사항을 충족하기 어려울 수 있습니다.

NMS는 배포 복잡성도 높입니다. 모델 자체에 포함되어 있지 않기 때문에 별도의 후처리 코드로 구현해야 합니다.

런타임과 플랫폼마다 NMS를 처리하는 방식이 다르므로 대상 환경별로 맞춤 구현을 유지 관리해야 하는 경우가 많습니다. 한 환경에서 작동하는 방식이 다른 환경에서는 조금 다르게 동작할 수 있어 배포의 안정성과 확장성이 떨어집니다.

하드웨어 최적화도 또 다른 과제입니다. NMS는 신경망 연산을 효율적으로 실행하도록 설계된 특수 AI 가속기에 원활하게 매핑되지 않습니다. 그 결과, 최적화된 하드웨어에서 모델이 빠르게 실행되더라도 NMS가 병목이 되어 전체 성능을 제한할 수 있습니다.

이러한 요인 외에도 NMS는 신뢰도 임계값과 겹침 임계값처럼 수동으로 선택한 매개변수에 의존합니다. 이러한 설정은 결과에 큰 영향을 줄 수 있으며, 데이터셋, 애플리케이션 또는 하드웨어에 따라 조정해야 하는 경우가 많습니다. 이로 인해 프로덕션 시스템의 동작을 예측하기 어려워지고 추가 구성 작업이 필요합니다.

엔드투엔드 객체 감지 추론 설명#

비최대 억제의 한계로 인해 객체 감지 모델이 추론 시점에 어떻게 동작해야 하는지 다시 생각하게 되었습니다. 겹치는 예측을 여러 개 생성한 뒤 정리하는 대신, 더 근본적인 질문을 던졌습니다.

모델이 최종 감지 결과를 직접 생성할 수 있다면 어떨까요? 이 질문은 엔드투엔드 객체 감지 추론의 핵심입니다. 엔드투엔드 시스템에서는 외부 정리 단계에 의존하지 않고 감지 과정 전체를 처음부터 끝까지 처리하도록 모델을 학습합니다.

모델은 후보 박스를 많이 생성한 뒤 추론 후 필터링하는 대신, 신뢰도가 높고 서로 겹치지 않는 예측을 소수만 자체적으로 생성하도록 학습합니다. 중복 감지는 후처리로 제거하는 것이 아니라 네트워크 내부에서 해결됩니다.

최신 모델 아키텍처는 이러한 접근 방식이 가능하면서도 실용적임을 보여주었습니다. 적절한 학습 전략을 사용하면 모델은 여러 예측이 경쟁하는 대신 각 객체를 단일 예측과 연결하는 방법을 학습하여 중복을 근본적으로 줄일 수 있습니다.

그림 3. Ultralytics YOLO26을 사용한 객체 감지 예시.

이를 구현하려면 학습 방식도 바뀌어야 합니다. 여러 예측이 동일한 객체를 두고 경쟁하게 하는 대신, 모델은 명확한 단일 결정을 내리도록 학습하여 더 적은 수의 신뢰도 높은 감지 결과를 생성합니다.

전체적으로 추론 파이프라인이 간소화됩니다. 중복이 이미 모델 내부에서 해결되므로 추론 시점에 비최대 억제를 사용할 필요가 없습니다. 모델 출력은 이미 최종 감지 결과 집합입니다.

이러한 엔드투엔드 설계는 배포도 더 쉽게 해줍니다. 후처리 단계나 플랫폼별 NMS 구현이 없어 내보낸 모델은 완전히 독립적으로 작동하며 다양한 추론 프레임워크와 하드웨어 대상에서 일관되게 동작합니다.

파트너십 리드 엔지니어인 Francesco Mattioli는 다음과 같이 설명합니다. “진정한 엔드투엔드 학습이란 픽셀부터 예측까지 모델이 모든 과정을 처리해야 한다는 뜻입니다. 미분 가능성을 깨뜨리고 배포를 복잡하게 만드는 수작업 후처리 단계에 의존해서는 안 됩니다.”

Ultralytics YOLO26이 NMS를 제거하는 방법#

Ultralytics YOLO26은 후처리로 감지 결과를 정리하는 대신 감지 결과를 학습하고 생성하는 방식을 바꿔 비최대 억제를 제거합니다. 동일한 객체를 두고 여러 예측이 경쟁하게 하는 대신, YOLO26은 객체와 출력 간의 명확한 일대일 관계를 학습하도록 훈련됩니다.

이는 기존의 일대다 헤드와 함께 학습되는 전용 일대일 탐지 헤드 덕분이기도 합니다. 이 헤드는 여러 후보가 겹치도록 생성하는 대신 각 객체에 대해 확신도 높은 예측 하나를 생성하는 데 모델이 집중하도록 돕습니다. 각 객체를 하나의 예측과 연결하여 중복 탐지를 자연스럽게 줄입니다.

학습 중 일관된 매칭 전략을 적용해 이러한 동작을 강화하고, 모델이 겹치는 예측을 생성하는 대신 객체마다 신뢰도 높은 단일 결정을 내리도록 유도합니다. 결과적으로 모델은 예측을 더 적게 생성하지만, 각 예측은 최종 감지 결과를 나타냅니다.

DFL 제거로 NMS-free 감지가 가능해진 이유#

Ultralytics YOLO26에서 NMS-free 추론을 가능하게 하는 또 다른 중요한 혁신은 분포 초점 손실(Distribution Focal Loss, DFL)의 제거입니다. 이전 YOLO 모델에서는 단일 값을 예측하는 대신 가능한 박스 위치의 분포를 예측하여 바운딩 박스 회귀 성능을 높이는 데 DFL을 사용했습니다.

이 접근 방식은 위치 추정 정확도를 높였지만 감지 파이프라인도 복잡하게 만들었습니다. 이러한 복잡성은 진정한 엔드투엔드 추론으로 전환하는 데 제약이 되었습니다.

DFL은 추가 연산과 고정된 회귀 범위를 도입하여 모델이 명확한 일대일 객체 할당을 학습하기 어렵게 만들고 비최대 억제와 같은 후처리 단계에 대한 의존도를 높였습니다. Ultralytics YOLO26에서는 DFL을 제거하고 바운딩 박스 회귀를 더 단순하고 직접적인 방식으로 재설계했습니다.

모델은 분포 기반 출력에 의존하는 대신 더 적고 신뢰도 높은 감지 결과를 지원하는 방식으로 정확한 박스 좌표를 예측하도록 학습됩니다. 이 변경은 중복 예측을 근본적으로 줄이고 바운딩 박스 회귀를 Ultralytics YOLO26의 엔드투엔드 NMS-free 설계와 일치시킵니다.

Ultralytics YOLO26은 NMS-free이며 배포가 쉽습니다#

NMS-free 설계 덕분에 Ultralytics YOLO26은 진정한 엔드투엔드 모델입니다. 이는 모델 내보내기에 중요한 영향을 줍니다.

내보내기란 학습된 모델을 ONNX, TensorRT, CoreML 또는 OpenVINO와 같이 학습 환경 외부에서 실행할 수 있는 형식으로 변환하는 것을 뜻합니다. 기존 파이프라인에서는 비최대 억제가 모델 자체에 포함되지 않아 이 과정이 제대로 진행되지 않는 경우가 많습니다.

NMS를 제거하면 Ultralytics YOLO26은 이 문제를 완전히 피할 수 있습니다. 내보낸 모델에는 최종 탐지 결과를 생성하는 데 필요한 모든 기능이 이미 포함되어 있습니다. 현재 Ultralytics 릴리스에서는 예측, 검증 또는 내보내기 시 nms=False을 사용해 NMS가 없는 일대일 헤드를 선택할 수 있으며, 정확도를 약간 더 높여주는 NMS가 포함된 기본 일대다 헤드도 계속 사용할 수 있습니다. 엔드투엔드 탐지 가이드에서 두 옵션을 모두 설명합니다.

따라서 내보낸 모델은 완전히 독립적으로 작동하며 다양한 추론 프레임워크와 하드웨어 대상에 더 쉽게 이식할 수 있습니다. 동일한 모델이 서버, CPU 전용 시스템, 임베디드 디바이스 또는 엣지 가속기에서 일관되게 동작합니다. 내보낸 모델이 실제로 실행되는 모델과 정확히 같으므로 배포가 더 간단해집니다.

이러한 간소화는 엣지 애플리케이션에서 특히 중요합니다. 예를 들어 YOLO26은 드론과 같은 디바이스에 쉽게 배포하여 작물 모니터링, 현장 점검, 식물 건강 분석 등에 활용할 수 있습니다. 이러한 사용 사례에서는 연산 성능과 전력 예산이 제한되어 복잡한 후처리 파이프라인을 사용하기 어렵습니다. 모델이 최종 감지 결과를 직접 출력하므로 추가 처리 단계 없이 경량 하드웨어에서 안정적으로 실행됩니다.

그림 4. Ultralytics YOLO26은 드론과 같은 엣지 디바이스에 쉽게 배포할 수 있습니다.

요약하면 NMS-free 추론은 내보내기와 배포의 마찰을 줄이고 더 깔끔하고 안정적인 비전 시스템을 구현합니다. NMS는 우회 방법이었습니다. 이제 Ultralytics YOLO26에는 더 이상 우회 방법이 필요하지 않습니다.

핵심 요점#

Ultralytics YOLO26은 중복 감지를 사후에 정리하는 대신 근본적인 문제를 해결해 비최대 억제를 제거할 수 있습니다. 엔드투엔드 설계 덕분에 모델이 최종 감지 결과를 직접 생성하므로 다양한 하드웨어에서 내보내기와 배포가 더 간단하고 일관되게 이루어집니다. NMS는 이전 시스템에서 유용한 해결책이었지만 YOLO26에는 더 이상 필요하지 않습니다.

커뮤니티에 참여하고 GitHub 저장소를 확인하여 AI에 대해 자세히 알아보세요. 솔루션 페이지에서 농업 분야의 AI와 소매업 분야의 컴퓨터 비전을 살펴보세요. 라이선스 옵션을 확인하고 지금 바로 비전 AI를 시작하세요!