ProgLoss, STAL 및 MuSGD로 Ultralytics YOLO26이 더 스마트하게 학습하는 방법

지난주에 저희는 에지 중심의 실시간 컴퓨터 비전 모델의 새로운 표준을 제시하는 Ultralytics YOLO26을 출시했습니다. Ultralytics YOLO11과 같은 이전의 Ultralytics YOLO 모델들과 마찬가지로, YOLO26은 객체 검출, 인스턴스 세분화, 포즈 추정을 포함하여 사용자들이 익숙해하는 핵심 컴퓨터 비전 작업을 지원합니다.

그림 1. 이미지에서 객체를 세그멘테이션하는 데 사용되는 Ultralytics YOLO26의 예시입니다.

하지만 Ultralytics YOLO26은 단순한 점진적 업데이트가 아닙니다. 지원하는 작업은 친숙해 보일지 몰라도, 이 새로운 모델은 computer vision 모델이 학습되는 방식을 혁신적으로 발전시킨 단계입니다. YOLO26은 추론 효율성을 넘어 학습을 더욱 안정적으로 만드는 데 초점을 둡니다.

Ultralytics YOLO26은 전체 학습 수명 주기를 염두에 두고 설계되었습니다. 즉, 더 빠른 수렴, 더욱 안정적인 학습 실행, 일관된 모델 동작을 의미합니다. 이러한 개선 사항은 학습 안정성이 모델 반복 및 배포 속도에 직접적인 영향을 미치는 실제 워크플로에서 특히 중요합니다.

이를 위해 Ultralytics YOLO26은 Progressive Loss Balancing(ProgLoss), Small-Target-Aware Label Assignment(STAL), MuSGD 옵티마이저 등 여러 가지 표적화된 학습 혁신 기술을 도입했습니다. 이러한 변경 사항은 함께 작동하여 학습 손실이 균형을 이루는 방식, 레이블이 할당되는 방식, 그리고 시간이 지남에 따라 최적화가 작동하는 방식을 개선합니다.

본 글에서는 각 메커니즘이 어떻게 작동하는지, 그리고 왜 이러한 기능이 Ultralytics YOLO26을 더 쉽게 학습시키고 대규모 환경에서 더 안정적으로 만드는지 살펴보겠습니다. 시작해 보겠습니다!

Ultralytics YOLO26: 더 빠르게 실행될 뿐만 아니라 더 똑똑하게 학습하도록 설계됨#

Ultralytics YOLO26은 비최대 억제(NMS)와 같은 후처리 단계에 대한 의존성을 제거하여 전체 추론 파이프라인을 기본적으로 간소화합니다. 중복되는 예측을 많이 생성한 후 이를 필터링하는 대신, YOLO26은 네트워크에서 직접 최종 탐지 결과를 생성합니다.

이를 통해 YOLO26은 엔드투엔드 모델이 되어, 예측, 중복 제거, 최종 출력이 모두 네트워크 자체 내에서 학습됩니다. 이는 배포를 단순화하고 추론 효율성을 향상시키는 동시에, 학습 과정에서 모델이 학습하는 방식도 형성합니다.

그림 2. YOLO26은 최첨단 엔드투엔드, NMS 없는 추론을 제공합니다 (출처)

이와 같은 엔드투엔드 시스템에서는 학습과 추론이 긴밀하게 연결되어 있습니다. 나중에 예측을 수정할 외부 후처리 단계가 없으므로, 모델은 학습 과정에서 명확하고 자신감 있는 결정을 내리도록 학습해야 합니다.

따라서 학습 목표와 추론 동작 간의 정렬이 특히 중요해집니다. 모델이 학습되는 방식과 추론 시 사용되는 방식 사이에 불일치가 있으면 불안정한 학습이나 더 느린 수렴으로 이어질 수 있습니다.

Ultralytics YOLO26은 처음부터 실제 사용 환경을 중심으로 학습 프로세스를 설계하여 이 문제를 해결합니다. 추론 속도에만 집중하는 대신, 이 학습 시스템은 Nano부터 Extra Large까지의 모델 크기에 걸쳐 장기 학습 시 안정적인 학습, 일관된 수렴, 그리고 다양한 데이터셋에서의 강건한 성능을 지원하도록 구축되었습니다.

두 개의 학습 헤드가 Ultralytics YOLO26의 학습을 개선하는 방법#

Ultralytics YOLO26의 주요 학습 혁신 중 하나는 이전 YOLO 모델에서 사용된 2헤드 학습 방식을 발전시킨 것입니다. 객체 탐지 모델에서 '헤드'는 예측을 수행하는 네트워크 부분을 의미합니다.

즉, 탐지 헤드는 이미지 내 객체의 위치와 객체의 종류를 예측하는 법을 배웁니다. 이는 바운딩 박스 좌표를 회귀 분석하여 수행되며, 입력 이미지 내 각 객체의 위치와 크기를 추정하는 것을 학습합니다.

학습 중에 모델은 예측이 정답(Ground Truth)과 얼마나 차이가 나는지를 수치화한 '손실(loss)'을 최소화하는 방식으로 학습합니다. 손실이 낮을수록 모델의 예측이 정답에 가깝고, 손실이 높을수록 오차가 크다는 것을 의미합니다. 이 손실 계산은 학습 중에 모델이 파라미터를 업데이트하는 방법을 안내합니다.

Ultralytics YOLO26은 학습 중에 동일한 기본 모델을 공유하지만 서로 다른 목적을 수행하는 두 개의 감지 헤드를 사용합니다. 일대일 헤드는 추론 시점에 사용되는 헤드입니다. 각 객체를 단 하나의 확실한 예측과 연결하는 법을 학습하며, 이는 YOLO26의 엔드투엔드 NMS-free 설계에 필수적입니다.

한편, '일대다(one-to-many) 헤드'는 학습 중에만 사용됩니다. 이 헤드는 동일한 객체에 대해 여러 예측을 연결할 수 있게 하여 더 밀도 높은 감독을 제공합니다. 이러한 더 풍부한 학습 신호는 특히 초기 단계에서 학습을 안정화하고 정확도를 향상하는 데 도움을 줍니다.

Ultralytics YOLO26에서는 두 헤드 모두 박스 회귀와 분류에 동일한 손실 계산을 사용합니다. 이전 구현에서는 학습 과정 전반에 걸쳐 이 두 손실 신호 사이에 고정된 균형을 적용했습니다.

그러나 실제로는 각 헤드의 중요성이 시간에 따라 변화합니다. 조밀한 감독은 초기 단계에 가장 유용한 반면, 학습 후반부에는 추론 동작과의 정렬이 더 중요해집니다. Ultralytics YOLO26은 이러한 통찰력을 바탕으로 설계되었으며, 이는 학습 진행에 따라 학습 신호의 균형을 재조정하는 방식을 직접적으로 이끌어냅니다.

Ultralytics YOLO26의 프로그레시브 손실 균형(ProgLoss) 활용#

그렇다면 Ultralytics YOLO26은 학습 중에 변화하는 이러한 학습 요구 사항을 어떻게 처리할까요? ProgLoss(프로그레시브 손실 균형)를 사용하여 시간 경과에 따른 학습 신호의 가중치를 조정합니다.

ProgLoss는 학습이 진행됨에 따라 각 헤드가 전체 손실에 기여하는 정도를 동적으로 전환하는 방식으로 작동합니다. 초기에는 학습을 안정화하고 재현율(recall)을 향상하기 위해 일대다 헤드에 더 높은 가중치를 둡니다. 학습이 계속됨에 따라 균형은 점차 일대일 헤드 쪽으로 이동하며, 학습 과정을 추론 동작과 더욱 긴밀하게 정렬시킵니다.

이러한 점진적 전환을 통해 Ultralytics YOLO26은 올바른 순서로 학습할 수 있습니다. 모델이 경쟁하는 목표들을 한 번에 최적화하도록 강제하는 대신, Progressive Loss Balancing은 학습의 각 단계에서 가장 유용한 학습 신호에 우선순위를 둡니다. 그 결과 더 부드러운 수렴, 불안정한 학습 실행 감소, 그리고 더 일관된 최종 성능을 얻을 수 있습니다.

STAL이 Ultralytics YOLO26의 소형 객체 학습을 돕는 방법#

Ultralytics YOLO26의 또 다른 흥미로운 학습 개선 사항은 모델이 예측에 학습 타겟을 할당하는 방식, 즉 '라벨 할당(label assignment)' 과정에서 나옵니다. 이는 정답 객체를 후보 예측(종종 '앵커'라고 함)에 일치시키는 역할을 합니다.

이러한 매칭은 어떤 예측이 감독을 받고 손실에 기여하는지를 결정합니다. Ultralytics YOLO26은 학습 중 분류와 위치 파악을 더 잘 정렬하도록 설계된 Task Alignment Learning (TAL)이라는 기존 라벨 할당 방식을 기반으로 구축되었습니다.

TAL은 대부분의 객체에 잘 작동하지만, 학습 과정에서 중요한 한계가 드러났습니다. 매칭 과정 중에 매우 작은 객체가 완전히 탈락할 수 있다는 점입니다. 실제로 640픽셀 입력 이미지에서 약 8픽셀보다 작은 객체는 앵커 할당을 전혀 받지 못하는 경우가 많았습니다. 이런 경우 모델은 해당 객체에 대한 감독을 거의 또는 전혀 받지 못하여, 이를 안정적으로 탐지하는 방법을 배우기가 어려워집니다.

이 문제를 해결하기 위해 Ultralytics YOLO26은 Small-Target-Aware Label Assignment (STAL)를 도입합니다. STAL은 학습 과정에서 작은 객체들이 무시되지 않도록 할당 프로세스를 수정합니다. 구체적으로, 8픽셀보다 작은 객체에 대해 최소 4개의 앵커 할당을 강제합니다. 이를 통해 아주 작은 객체들도 학습 손실에 일관되게 기여할 수 있도록 보장합니다.

STAL은 소형 타겟에 대한 감독을 강화함으로써, 작거나 먼 객체가 흔히 발생하는 시나리오에서 학습 안정성과 검출 성능을 향상시킵니다. 이러한 개선은 객체가 종종 작고 멀리 있거나 부분적으로 가려져 있어 신뢰할 수 있는 검출이 필수적인 항공 이미지, 로보틱스, 사물 인터넷(IoT) 시스템과 같은 에지 중심의 YOLO26 애플리케이션에 특히 중요합니다.

Ultralytics YOLO26, MuSGD 옵티마이저 도입#

더 안정적이고 예측 가능한 학습을 지원하기 위해 Ultralytics YOLO26은 MuSGD라는 새로운 옵티마이저를 도입했습니다. 이 옵티마이저는 특히 모델 크기와 학습 복잡도가 증가함에 따라 엔드투엔드 탐지 모델의 수렴과 학습 신뢰성을 개선하도록 설계되었습니다.

신경망이 학습하고 결과적으로 그에 따라 가중치를 변경하기 위해, 학습 중에 우리는 오차("손실"이라고도 함)를 계산합니다. 따라서 모델은 손실 값을 사용하여 예측이 얼마나 틀렸는지 측정하고, 매개변수가 어떻게 변경되어야 하는지 나타내는 기울기를 계산한 다음, 오차를 줄이기 위해 해당 매개변수를 업데이트합니다. Stochastic Gradient Descent (SGD)는 이러한 업데이트를 수행하여 학습을 효율적이고 확장 가능하게 만드는 널리 사용되는 옵티마이저입니다.

그림 3. 확률적 경사 하강법 대 경사 하강법 (출처)

MuSGD는 거대 언어 모델 학습에 사용되는 방법인 Muon에서 영감을 받은 최적화 아이디어를 통합하여 이러한 친숙한 기반을 확장합니다. 이러한 아이디어는 더 체계적인 파라미터 업데이트를 통해 개선된 학습 동작을 보여준 Moonshot AI의 Kimi K2와 같은 최근의 발전 사례로부터 영향을 받았습니다.

Ultralytics YOLO26은 하이브리드 업데이트 전략을 사용합니다. 일부 파라미터는 Muon 기반 업데이트와 SGD의 조합을 사용하여 업데이트되고, 다른 파라미터는 SGD 단독으로 업데이트됩니다. 이를 통해 YOLO26은 SGD를 효과적으로 만들어 준 강건성과 일반화 특성을 유지하면서 최적화 과정에 추가적인 구조를 도입할 수 있습니다.

그 결과 더 부드러운 최적화, 더 빠른 수렴, 그리고 모델 크기에 걸쳐 더 예측 가능한 학습 동작을 달성할 수 있으며, 이는 MuSGD가 Ultralytics YOLO26을 더 쉽게 학습시키고 대규모 환경에서 더 신뢰할 수 있게 만드는 핵심 요소가 되도록 합니다.

Ultralytics YOLO26 학습 혁신의 의의#

Ultralytics YOLO26의 학습 혁신은 엔드투엔드, NMS 없는 설계, 엣지 우선 설계와 같은 주요 기능과 결합하여 모델을 더 쉽게 학습시키고 대규모 환경에서 더 안정적으로 만듭니다. 이것이 실제 컴퓨터 비전 애플리케이션에 어떤 의미가 있는지 궁금하실 것입니다.

그림 4. YOLO26의 주요 기능 살펴보기 (출처)

실제 작동 시, 컴퓨터 비전을 실제 실행되는 곳으로 가져오는 작업이 훨씬 쉬워집니다. 모델은 더 예측 가능하게 학습되고, 크기에 따라 더 일관되게 확장되며, 새로운 데이터셋에 더 간단하게 적용할 수 있습니다. 이는 특히 신뢰성과 효율성이 성능만큼 중요한 환경에서 실험과 배포 사이의 마찰을 줄여줍니다.

예를 들어, robotics 및 산업용 비전 응용 프로그램에서는 환경, 센서 또는 작업이 변경됨에 따라 모델을 자주 재학습해야 하는 경우가 많습니다. Ultralytics YOLO26을 통해 팀은 불안정한 학습 실행이나 모델 크기 간의 일관되지 않은 동작에 대한 걱정 없이 더 빠르게 반복 작업을 수행할 수 있습니다.

핵심 요약#

신뢰할 수 있는 컴퓨터 비전 시스템은 모델이 추론 시점에 어떻게 수행되는지 못지않게 모델이 어떻게 학습되는지에도 크게 의존합니다. 학습 신호의 균형을 맞추는 방식, 작은 객체를 처리하는 방식, 그리고 최적화가 진행되는 방식을 개선함으로써 Ultralytics YOLO26은 학습을 더욱 안정적이고 확장하기 쉽게 만듭니다. 안정적인 학습에 대한 이러한 초점은 특히 엣지 우선 애플리케이션에서 팀이 실험에서 실제 배포로 더욱 원활하게 전환할 수 있도록 돕습니다.

AI에 대해 알고 싶으신가요? 더 많은 정보를 확인하려면 저희 GitHub 저장소를 방문해 주세요. 활발한 커뮤니티에 가입하여 물류 분야의 AI 및 자동차 산업의 비전 AI와 같은 부문의 혁신에 대해 알아보세요. 오늘 컴퓨터 비전을 시작하려면 당사의 라이선스 옵션을 확인해 보세요.