Ultralytics YOLO26이 ProgLoss, STAL, MuSGD로 더 스마트하게 학습하는 방법

지난주에 Ultralytics YOLO26을 출시하여 엣지 우선 실시간 컴퓨터 비전 모델의 새로운 기준을 제시했습니다. Ultralytics YOLO11과 같은 이전 Ultralytics YOLO 모델과 마찬가지로 YOLO26은 객체 탐지, 인스턴스 분할, 자세 추정을 비롯해 사용자가 익숙하게 사용해 온 핵심 컴퓨터 비전 작업을 지원합니다.

그림 1. 이미지에서 객체를 분할하는 데 사용된 Ultralytics YOLO26의 예시.

그러나 Ultralytics YOLO26은 단순한 점진적 업데이트가 아닙니다. 지원 작업은 익숙해 보일 수 있지만, 이 새 모델은 컴퓨터 비전 모델의 학습 방식을 혁신적으로 발전시킵니다. YOLO26은 추론 효율성을 넘어 학습 안정성을 높이는 데 중점을 둡니다.

Ultralytics YOLO26은 전체 학습 수명 주기를 고려해 설계되었습니다. 이를 통해 더 빠른 수렴, 더 안정적인 학습 실행, 일관된 모델 동작을 구현합니다. 학습 안정성이 모델을 반복 개선하고 배포하는 속도에 직접적인 영향을 미치는 실제 워크플로에서는 이러한 개선이 특히 중요합니다.

이를 위해 Ultralytics YOLO26은 점진적 손실 균형(ProgLoss), 소형 객체 인식 레이블 할당(STAL), MuSGD 옵티마이저와 같은 표적화된 학습 혁신을 도입합니다. 이러한 변경 사항은 학습 손실의 균형을 맞추는 방법, 레이블을 할당하는 방법, 시간에 따라 최적화가 진행되는 방식 모두를 개선합니다.

이 글에서는 각 메커니즘의 작동 방식과 이러한 메커니즘이 Ultralytics YOLO26의 학습을 더 쉽게 하고 대규모 환경에서 더 안정적으로 만드는 이유를 살펴보겠습니다. 시작하겠습니다!

Ultralytics YOLO26: 더 빠른 실행뿐 아니라 더 스마트한 학습을 위해 설계된 모델#

Ultralytics YOLO26은 비최대 억제와 같은 후처리 단계에 대한 의존성을 없애 추론 파이프라인 전체를 기본적으로 간소화합니다. YOLO26은 겹치는 예측을 여러 개 생성한 뒤 필터링하는 대신 네트워크에서 최종 탐지 결과를 직접 출력합니다.

이를 통해 YOLO26은 종단 간 모델이 됩니다. 예측, 중복 해결, 최종 출력이 모두 네트워크 내부에서 학습됩니다. 따라서 배포가 간소화되고 추론 효율성이 향상되는 동시에, 학습 과정에서 모델이 학습하는 방식에도 영향을 미칩니다.

그림 2. YOLO26은 최첨단 엔드투엔드 NMS-free 추론을 제공합니다 (출처)

이와 같은 엔드투엔드 시스템에서는 학습과 추론이 밀접하게 연결되어 있습니다. 나중에 예측을 보정하는 외부 후처리 단계가 없으므로, 모델은 학습 과정에서 명확하고 확신도 높은 결정을 내리는 방법을 학습해야 합니다.

따라서 학습 목표와 추론 동작을 일치시키는 것이 특히 중요합니다. 모델의 학습 방식과 추론 시 사용 방식이 일치하지 않으면 학습이 불안정해지거나 수렴 속도가 느려질 수 있습니다.

Ultralytics YOLO26은 처음부터 실제 사용 환경을 고려해 학습 프로세스를 설계하여 이 문제를 해결합니다. 학습 시스템은 추론 속도에만 집중하는 대신, 긴 학습 과정에서 안정적으로 학습하고 Nano부터 Extra Large까지 다양한 모델 크기에서 일관되게 수렴하며, 다양한 데이터셋에서 견고한 성능을 발휘하도록 구축되었습니다.

Ultralytics YOLO26에서 두 개의 학습 헤드가 학습을 개선하는 방법#

Ultralytics YOLO26의 주요 학습 혁신 중 하나는 이전 YOLO 모델에서 사용된 2헤드 학습 방식을 기반으로 합니다. 객체 탐지 모델에서 헤드는 예측을 담당하는 네트워크 부분을 의미합니다.

다시 말해, 탐지 헤드는 이미지에서 객체가 어디에 있는지, 그리고 어떤 객체인지 예측하는 방법을 학습합니다. 이를 위해 바운딩 박스 좌표를 회귀합니다. 즉, 입력 이미지에 있는 각 객체의 위치와 크기를 추정하는 방법을 학습합니다.

학습 중 모델은 손실을 최소화하면서 학습합니다. 손실은 예측이 정답 또는 정답 레이블(ground truth)에서 얼마나 벗어났는지를 나타내는 수치입니다. 손실이 낮으면 모델의 예측이 정답에 가깝고, 손실이 높으면 오차가 큽니다. 손실 계산은 학습 중 모델이 파라미터를 업데이트하는 방식을 안내합니다.

Ultralytics YOLO26은 학습 중 동일한 기반 모델을 공유하지만 서로 다른 목적을 수행하는 두 개의 탐지 헤드를 사용합니다. 일대일 헤드는 추론 시 사용되는 헤드입니다. 각 객체를 하나의 확신도 높은 예측과 연결하는 방법을 학습하며, 이는 YOLO26의 엔드투엔드 NMS-free 설계에 필수적입니다.

한편 일대다 헤드는 학습 중에만 사용됩니다. 하나의 객체에 여러 예측을 연결할 수 있어 더 밀도 높은 감독 신호를 제공합니다. 이처럼 풍부한 학습 신호는 특히 학습 초기 단계에서 학습을 안정화하고 정확도를 높이는 데 도움이 됩니다.

Ultralytics YOLO26에서는 두 헤드 모두 박스 회귀와 분류에 동일한 손실 계산을 사용합니다. 이전 구현에서는 학습 전반에 걸쳐 이 두 손실 신호에 고정된 균형을 적용했습니다.

하지만 실제로는 시간이 지나면서 각 헤드의 중요도가 달라집니다. 밀도 높은 감독 신호는 학습 초기에 가장 유용하고, 학습 후반에는 추론 동작과의 정렬이 더 중요해집니다. Ultralytics YOLO26은 이러한 통찰을 바탕으로 설계되었으며, 이는 학습이 진행됨에 따라 학습 신호의 균형을 재조정하는 방식으로 이어집니다.

Ultralytics YOLO26은 Progressive Loss Balancing을 사용합니다#

그렇다면 Ultralytics YOLO26은 학습 중 변화하는 학습 요구에 어떻게 대응할까요? Progressive Loss Balancing을 사용해 시간의 흐름에 따라 학습 신호의 가중치를 조정합니다.

ProgLoss는 학습이 진행됨에 따라 각 헤드가 전체 손실에 기여하는 비중을 동적으로 조정합니다. 학습 초반에는 학습을 안정화하고 재현율을 높이기 위해 일대다 헤드에 더 큰 가중치를 둡니다. 학습이 계속되면 균형이 점차 일대일 헤드 쪽으로 이동해 학습을 추론 동작에 더 가깝게 정렬합니다.

이러한 점진적 전환을 통해 Ultralytics YOLO26은 올바른 순서로 학습할 수 있습니다. 모델이 서로 경쟁하는 목표를 한꺼번에 최적화하도록 강제하는 대신, Progressive Loss Balancing은 학습 단계마다 가장 유용한 학습 신호를 우선시합니다. 그 결과 수렴이 원활해지고, 불안정한 학습 실행이 줄어들며, 최종 성능이 더욱 일관됩니다.

STAL이 Ultralytics YOLO26의 작은 객체 학습을 돕는 방법#

Ultralytics YOLO26의 또 다른 흥미로운 학습 개선 사항은 모델이 학습 타깃을 예측에 할당하는 방식, 즉 레이블 할당과 관련이 있습니다. 레이블 할당은 정답 객체를 후보 예측(앵커라고도 함)과 매칭하는 역할을 합니다.

이러한 매칭에 따라 어떤 예측이 감독 신호를 받고 손실에 반영되는지가 결정됩니다. Ultralytics YOLO26은 학습 중 분류와 위치 추정을 더욱 잘 정렬하도록 설계된 TAL(Task Alignment Learning)이라는 기존 레이블 할당 방식을 기반으로 합니다.

TAL은 대부분의 객체에서 잘 작동하지만, 학습 과정에서 중요한 한계가 드러났습니다. 매칭 과정 중 아주 작은 객체가 완전히 제외될 수 있었습니다. 실제로 640픽셀 입력 이미지에서 약 8픽셀보다 작은 객체는 앵커 할당을 전혀 받지 못하는 경우가 많았습니다. 이 경우 모델은 해당 객체에 대한 감독 신호를 거의 또는 전혀 받지 못해 안정적으로 탐지하는 방법을 학습하기 어렵습니다.

이 문제를 해결하기 위해 Ultralytics YOLO26은 STAL(Small-Target-Aware Label Assignment)을 도입합니다. STAL은 학습 중 작은 객체가 무시되지 않도록 할당 과정을 수정합니다. 구체적으로 8픽셀보다 작은 객체에 최소 4개의 앵커 할당을 적용합니다. 이를 통해 아주 작은 객체도 학습 손실에 일관되게 반영됩니다.

작은 타깃에 대한 감독 신호를 강화함으로써 STAL은 작거나 멀리 있는 객체가 흔한 환경에서 학습 안정성과 탐지 성능을 개선합니다. 이러한 개선은 항공 영상, 로보틱스, 사물 인터넷(IoT) 시스템처럼 객체가 작거나 멀리 있거나 부분적으로 가려져 있고 신뢰성 있는 탐지가 중요한 엣지 우선 YOLO26 애플리케이션에서 특히 중요합니다.

Ultralytics YOLO26은 MuSGD 옵티마이저를 도입합니다#

더욱 안정적이고 예측 가능한 학습을 지원하기 위해 Ultralytics YOLO26은 MuSGD라는 새로운 옵티마이저도 도입합니다. 이 옵티마이저는 특히 모델 크기와 학습 복잡도가 증가할 때 엔드투엔드 탐지 모델의 수렴과 학습 신뢰성을 개선하도록 설계되었습니다.

신경망이 학습하면서 가중치를 적절히 변경하려면 오류(손실이라고도 함)를 계산해야 합니다. 따라서 모델은 손실값을 사용해 예측이 얼마나 잘못되었는지 측정하고, 파라미터를 어떻게 변경해야 하는지 나타내는 그래디언트를 계산한 다음, 오류를 줄이도록 파라미터를 업데이트합니다. 확률적 경사 하강법(SGD)은 이러한 업데이트를 수행하는 널리 사용되는 옵티마이저로, 효율적이고 확장 가능한 학습을 지원합니다.

그림 3. 확률적 경사 하강법과 경사 하강법 비교 (출처)

MuSGD는 대규모 언어 모델 학습에 사용되는 기법인 Muon에서 영감을 얻은 최적화 아이디어를 적용해 익숙한 기반을 발전시켰습니다. 이러한 아이디어는 더욱 구조화된 파라미터 업데이트를 통해 학습 동작을 개선한 Moonshot AI의 Kimi K2와 같은 최근 발전의 영향을 받았습니다.

Ultralytics YOLO26은 하이브리드 업데이트 전략을 사용합니다. 일부 파라미터는 Muon에서 영감을 얻은 업데이트와 SGD를 조합해 업데이트하고, 나머지는 SGD만으로 업데이트합니다. 이를 통해 YOLO26은 SGD의 효과를 뒷받침해 온 견고성과 일반화 특성을 유지하면서 최적화 과정에 구조를 더할 수 있습니다.

그 결과 최적화가 더욱 원활해지고 수렴이 빨라지며 다양한 모델 크기에서 학습 동작을 더 쉽게 예측할 수 있습니다. 따라서 MuSGD는 Ultralytics YOLO26의 학습을 더 쉽게 하고 대규모 환경에서 신뢰성을 높이는 핵심 요소입니다.

Ultralytics YOLO26 학습 혁신의 의의#

엔드투엔드, NMS-free, 엣지 우선 설계와 같은 주요 기능에 Ultralytics YOLO26의 학습 혁신이 더해져 모델을 더 쉽게 학습할 수 있고 대규모 환경에서 신뢰성이 높아집니다. 이것이 컴퓨터 비전 애플리케이션에 실제로 어떤 의미인지 궁금하실 수 있습니다.

그림 4. YOLO26의 주요 기능 살펴보기 (출처)

실제 환경에서는 컴퓨터 비전을 실제로 실행되는 위치에 더 쉽게 적용할 수 있습니다. 모델은 더 예측 가능한 방식으로 학습되고, 다양한 크기에서 더욱 일관되게 확장되며, 새로운 데이터셋에 맞게 더 간편하게 조정됩니다. 이를 통해 실험과 배포 사이의 마찰이 줄어들며, 특히 원시 성능만큼 신뢰성과 효율성이 중요한 환경에서 효과적입니다.

예를 들어 로보틱스 및 산업용 비전 애플리케이션에서는 환경, 센서 또는 작업이 바뀔 때 모델을 자주 재학습해야 하는 경우가 많습니다. Ultralytics YOLO26을 사용하면 팀은 불안정한 학습 실행이나 모델 크기에 따른 일관성 없는 동작을 걱정하지 않고 더 빠르게 반복 작업을 수행할 수 있습니다.

핵심 요점#

신뢰성 있는 컴퓨터 비전 시스템은 추론 시 성능뿐만 아니라 모델의 학습 방식에도 좌우됩니다. 학습 신호의 균형 조정, 작은 객체 처리, 최적화 진행 방식을 개선함으로써 Ultralytics YOLO26은 학습을 더욱 안정적으로 만들고 확장하기 쉽게 합니다. 신뢰성 있는 학습에 중점을 둔 덕분에 팀은 실험에서 실제 배포로 더욱 원활하게 전환할 수 있으며, 특히 엣지 우선 애플리케이션에서 효과적입니다.

AI에 대해 알아보고 싶으신가요? GitHub 저장소를 방문해 자세히 알아보세요. 활발한 커뮤니티에 참여하고 물류 분야의 AI, 자동차 산업의 비전 AI와 같은 분야의 혁신을 확인해 보세요. 지금 컴퓨터 비전을 시작하려면 라이선스 옵션을 확인해 보세요.