Ultralytics YOLO11을 활용한 소형 객체 감지 살펴보기

비전 AI를 탑재한 드론은 지상에서 수백 미터 높이로 비행하면서도 동영상에서 몇 픽셀에 불과하게 보이는 사람을 탐지해야 할 수 있습니다. 실제로 이는 로봇공학, 감시, 원격 탐사와 같은 애플리케이션에서 흔히 발생하는 과제이며, 이러한 시스템은 이미지 내의 매우 작은 객체를 식별해야 합니다.

하지만 기존 객체 탐지 모델은 이러한 작업에 어려움을 겪을 수 있습니다. 이미지와 동영상의 작은 객체에는 시각 정보가 매우 제한적입니다. 간단히 말해, 모델이 작은 객체를 살펴보더라도 학습하거나 인식할 세부 정보가 많지 않습니다.

내부적으로 이러한 모델은 일반적으로 합성곱 신경망(CNN) 기반 아키텍처를 사용합니다. 이미지는 네트워크의 여러 레이어를 통과하며 원시 픽셀 대신 관련 패턴을 강조하는 특징 맵 또는 간소화된 표현으로 변환됩니다.

이미지가 네트워크의 더 깊은 레이어로 이동할수록 이러한 특징 맵은 작아집니다. 그 결과 연산 속도는 빨라지지만, 세부 정보가 사라질 수도 있습니다.

작은 객체의 경우 이러한 세부 정보가 매우 중요합니다. 세부 정보가 사라지면 컴퓨터 비전 모델이 객체를 탐지하기 어려워지고, 바운딩 박스의 정확도가 낮아지거나 일관성이 떨어질 수 있습니다.

실시간 엔드투엔드 컴퓨터 비전 시스템에서는 이 문제가 더욱 까다롭습니다. 고해상도 이미지는 세부 정보를 보존하는 데 도움이 되지만 추론 속도가 느려지고 더 많은 GPU 성능이 필요합니다. 해상도가 낮으면 처리 속도는 빨라지지만 작은 객체를 탐지하기가 더욱 어려워집니다.

속도, 정확도, 하드웨어 제약 사이에서 끊임없이 균형을 맞춰야 합니다. 최근 기술 발전에 힘입어 Ultralytics YOLO11과 이후 출시된 Ultralytics YOLO26 같은 컴퓨터 비전 모델은 이러한 상충 관계를 더 효과적으로 관리하도록 설계되었습니다.

그림 1. 항공 이미지에서 작은 객체를 탐지하는 YOLO11 (출처)

이 글에서는 작은 객체 탐지가 어려운 이유와 Ultralytics YOLO11을 사용해 이를 더 쉽게 수행하는 방법을 살펴보겠습니다.

작은 객체 탐지란 무엇이며, 왜 중요할까요?#

작은 객체 탐지는 AI의 한 분야인 컴퓨터 비전의 작업으로, 이미지에서 매우 작은 영역을 차지하는 객체를 식별하고 위치를 찾는 데 중점을 둡니다. 이러한 객체는 디지털 이미지를 구성하는 가장 작은 단위인 픽셀 몇 개로 표현되는 경우가 많습니다. 따라서 픽셀이 더 많은 크고 선명한 대상보다 탐지하기 어렵습니다.

예를 들어 항공 이미지의 차량, 공장 바닥의 도구, 광각 감시 카메라에 포착된 사람은 모두 이미지에서 작은 객체로 보일 수 있습니다. 이러한 객체에는 중요한 정보가 담겨 있는 경우가 많고, 감시와 같은 여러 실제 애플리케이션이 올바르게 작동하려면 탐지 결과가 필요하므로 이를 탐지하는 것이 중요합니다.

작은 객체를 놓치면 시스템 성능과 의사 결정에 영향을 줄 수 있습니다. 무인 항공기(UAV) 모니터링이 좋은 예입니다. 지상에서 움직이는 작은 객체를 놓치면 항법 또는 추적 정확도에 영향을 줄 수 있습니다.

작은 객체 탐지와 관련된 과제#

초기 시스템은 수작업으로 설계한 특징과 기존 컴퓨터 비전 기법을 사용했으며, 복잡하거나 다양한 장면을 처리하는 데 어려움이 있었습니다. 딥러닝 모델의 성능이 훨씬 향상된 오늘날에도 이미지에서 극히 작은 영역만 차지하는 작은 대상을 탐지하기는 여전히 어렵습니다.

다음으로, 실제 환경의 다양한 상황에서 작은 객체를 탐지할 때 나타나는 일반적인 과제를 살펴보겠습니다.

크기, 픽셀, 정보 손실#

작은 객체에는 픽셀이 매우 적어 특징 추출과 같은 단계에서 모델이 학습할 수 있는 시각적 세부 정보가 제한됩니다. 그 결과 가장자리, 모양, 질감과 같은 패턴을 탐지하기가 어려워지고, 작은 객체가 배경에 섞일 가능성이 커집니다.

이미지가 신경망의 합성곱 레이어를 통과하면 픽셀에 담긴 시각 정보가 점차 특징 맵으로 압축됩니다. 이를 통해 모델의 효율성을 유지할 수 있지만, 세부 정보가 점차 희미해집니다.

그림 2. 특징 맵은 이미지의 시각 패턴을 나타냅니다 (출처)

작은 대상의 경우 탐지 네트워크가 작동하기도 전에 중요한 단서가 사라질 수 있습니다. 이 경우 위치 추정의 신뢰도가 낮아지고 바운딩 박스가 이동하거나 서로 겹치거나 대상 객체를 완전히 놓칠 수 있습니다.

가림, 스케일 편차, 맥락#

크기와 관련된 문제는 가림으로 인해 발생하는 경우도 많습니다. 가림은 특히 작은 객체가 장면의 다른 객체에 의해 부분적으로 가려지는 현상입니다.

이로 인해 대상이 보이는 영역이 줄어들어 객체 탐지기가 활용할 수 있는 정보가 제한됩니다. 낮은 해상도의 입력과 함께 나타날 경우 작은 가림만으로도 탐지 네트워크가 혼란을 겪을 수 있습니다. 그 예로 VisDrone과 같은 UAV 데이터셋을 들 수 있습니다. 이 데이터셋에서는 보행자, 자전거 또는 차량이 건물, 나무 또는 다른 움직이는 객체에 부분적으로 가려질 수 있습니다.

그림 3. 작은 객체를 보여주는 VisDrone 데이터셋 예시 (출처)

이와 비슷하게 스케일 편차도 거리와 카메라 위치에 따라 동일한 객체가 매우 작거나 비교적 크게 보일 수 있어 또 다른 어려움을 더합니다. 이러한 문제에도 불구하고 탐지 알고리즘은 정확도를 잃지 않으면서 다양한 스케일의 작은 객체를 인식해야 합니다.

맥락 역시 탐지에서 중요한 역할을 합니다. 예를 들어 큰 객체 주변에는 일반적으로 유용한 시각적 단서를 제공하는 명확한 환경이 있습니다. 반면 작은 대상에는 이러한 맥락 정보가 부족한 경우가 많아 패턴 인식이 더 어려워집니다.

작은 객체 탐지에서 간과되는 지표 문제#

Intersection over Union (IoU)과 같은 일반적인 평가 지표는 예측된 바운딩 박스가 정답 바운딩 박스와 얼마나 겹치는지 측정합니다. IoU는 큰 객체에는 잘 작동하지만 작은 객체에서는 동작 방식이 상당히 다릅니다.

작은 객체는 픽셀 몇 개만 차지하므로 예측 박스가 조금만 이동해도 비례 오차가 크게 발생하여 IoU 점수가 급격히 낮아질 수 있습니다. 따라서 이미지에서 객체가 보이더라도 예측 결과가 정답으로 인정되는 데 사용되는 표준 IoU 임계값을 충족하지 못하는 경우가 많습니다.

그 결과 위치 추정 오류가 거짓 양성 또는 거짓 음성으로 분류될 가능성이 커집니다. 이러한 한계로 인해 연구자들은 객체 탐지 시스템이 작고 탐지하기 어려운 대상을 평가하고 처리하는 방식을 재고하게 되었습니다.

다중 스케일 특징: 실시간 작은 객체 탐지의 핵심#

연구자들이 소형 객체 탐지 성능을 개선하기 위해 연구하면서, 여러 스케일에 걸쳐 시각 정보를 보존하고 표현하는 것이 필수적이라는 점이 분명해졌습니다. 이러한 통찰은 최근 arXiv 연구와 IEEE 국제 학술대회 및 유럽 컴퓨터 비전 학술대회(ECCV)와 같은 행사에서 발표된 논문에서도 확인할 수 있습니다.

이미지가 신경망의 더 깊은 레이어로 이동하면 작은 객체의 세부 정보가 손실되거나 완전히 사라질 수 있습니다. 따라서 Ultralytics YOLO11과 같은 최신 컴퓨터 비전 모델은 더 나은 특징 추출에 중점을 둡니다. 다음으로 특징 맵과 특징 피라미드 네트워크의 핵심 개념을 살펴보며 자세히 알아보겠습니다.

특징 맵과 스케일 표현#

원격 탐사 이미지와 같은 입력 이미지가 신경망에 들어가면 점진적으로 특징 맵으로 변환됩니다. 특징 맵은 가장자리, 모양, 질감과 같은 시각 패턴을 강조하는 이미지의 간소화된 표현입니다.

네트워크의 레이어가 깊어질수록 특징 맵의 공간 크기는 작아집니다. 이러한 축소는 모델을 효율적으로 실행하고 고수준 정보에 집중하는 데 도움이 됩니다. 그러나 특징 맵의 크기가 줄어들고 깊어지면 공간 세부 정보도 감소합니다.

그림 4. 특징 추출은 작은 객체 탐지의 핵심입니다. (출처)

큰 객체는 정확하게 탐지할 수 있을 만큼 충분한 시각 정보를 유지하지만, 작은 대상은 네트워크 레이어를 몇 개만 거쳐도 중요한 세부 정보를 잃을 수 있습니다. 이 경우 모델은 작은 객체가 존재한다는 사실조차 인식하기 어려워질 수 있습니다. 이것이 심층 객체 탐지 모델이 작은 객체를 놓치는 주요 원인 중 하나입니다.

특징 피라미드 네트워크와 다중 스케일 학습#

특징 피라미드 네트워크는 공간 세부 정보의 손실을 해결하기 위해 도입되었으며, 일반적으로 FPN이라고 합니다. 이는 여러 레이어의 정보를 결합하는 보조 모듈로 작동하여 모델이 작은 객체를 더 효과적으로 탐지하도록 합니다. 이 과정은 특징 집계 및 특징 융합이라고도 합니다.

얕은 레이어는 세밀한 공간 정보를 제공하고 깊은 레이어는 의미론적 맥락을 더해 효과적인 다중 스케일 특징 학습을 가능하게 합니다. 특징 맵을 단순히 확대하는 순진한 업샘플링과 달리 FPN은 의미 있는 정보를 보존하여 작은 객체 탐지를 개선합니다.

최신 접근법은 적응형 특징 융합과 맥락을 고려한 설계를 활용해 이 아이디어를 발전시키고 작은 대상 탐지를 더욱 향상합니다. 다시 말해 FPN은 모델이 큰 그림과 작은 세부 정보를 동시에 파악하도록 돕습니다. 이러한 최적화는 객체가 작을 때 필수적입니다.

작은 객체를 처리하기 위한 객체 탐지 모델의 발전#

다음은 매우 작은 객체를 포함해 다양한 크기의 객체를 더 잘 탐지하도록 객체 탐지 모델이 시간의 흐름에 따라 발전해 온 과정입니다.

• 초기 탐지 방법: 초기 객체 탐지 방식은 고전적인 이미지 처리에 기반한 수작업 설계 특징과 규칙 기반 알고리즘에 의존했습니다. 이러한 특징은 고정되어 있어 이미지가 달라지면 성능이 저하되었습니다.
• 머신러닝 및 딥러닝의 도입: 머신러닝과 딥러닝의 도입은 객체 탐지 연구에 큰 변화를 가져왔습니다. 신경망은 사전 정의된 규칙에 의존하는 대신 학습 데이터에서 직접 시각적 표현을 학습하여 다양한 객체 크기와 장면에 대한 적응성을 높였습니다.
• 합성곱 네트워크: 이러한 신경망은 이미지의 패턴을 학습합니다. 각 레이어는 단순한 가장자리와 색상에서 시작해 모양을 거쳐 마침내 객체 전체에 이르기까지 서로 다른 세부 정보를 포착하므로 최신 컴퓨터 비전의 핵심 기술입니다.
• 2단계 객체 탐지기: Ren 등이 소개한 Faster R-CNN과 같은 2단계 탐지기는 먼저 후보 영역을 생성한 다음 이를 분류했습니다. 이 접근 방식은 소형 객체의 정확도를 높였지만, 연산 비용이 증가하고 실시간 성능이 저하되었습니다.
• 1단계 객체 탐지기: SSD(단일 단계 탐지기)와 YOLO(You Only Look Once) 계열의 탐지기에는 YOLOv3, Ultralytics YOLOv5, 이후 버전인 Ultralytics YOLOv8 등이 있으며, 단일 패스로 탐지를 수행합니다. 이 설계는 경쟁력 있는 정확도를 유지하면서 추론 속도를 크게 높입니다.
• 최신 최첨단 모델: 최신 객체 탐지 모델은 실시간 성능과 엣지 배포에 더 중점을 둡니다. Ultralytics YOLO11과 Ultralytics YOLO26 같은 최근 Ultralytics YOLO 모델은 높은 정확도와 낮은 지연 시간의 추론 간 균형을 고려해 설계되었습니다. 따라서 연산 성능이 제한된 디바이스에서도 작은 대상을 포함한 모든 크기의 객체를 탐지하는 데 적합합니다.

작은 객체 탐지 사례에 Ultralytics YOLO11 활용하기#

작은 객체 탐지의 작동 방식을 살펴보았으니, Ultralytics YOLO11을 적용할 수 있는 실제 애플리케이션 두 가지를 알아보겠습니다.

UAV 및 항공 영상#

분주한 도심 도로 위를 높이 날아가는 드론을 떠올려 보세요. 그 높이에서는 자동차, 자전거, 심지어 사람도 화면에서 픽셀 몇 개 크기로 작아집니다.

UAV 및 항공 영상 모듈은 관심 객체가 매우 작고 복잡한 배경에 둘러싸인 이러한 장면을 자주 포착하므로, 컴퓨터 비전 모델이 탐지하기 어렵습니다.

이러한 시나리오에서 Ultralytics YOLO11은 이상적인 모델이 될 수 있습니다. 예를 들어 YOLO11과 같은 모델을 탑재하고 VisDrone과 같은 항공 이미지 데이터셋으로 미세 조정한 드론은 장면을 이동하는 차량, 자전거 이용자, 보행자를 실시간으로 모니터링할 수 있습니다. 각 객체가 이미지에서 차지하는 비중이 작더라도 탐지할 수 있습니다. 이를 통해 교통 관리, 공공 안전, 도시 계획 등의 애플리케이션에서 더 빠르게 의사결정하고 더 정확한 인사이트를 얻을 수 있습니다.

로보틱스 및 자동화#

로봇은 정확도와 타이밍이 중요한 환경에서 자주 사용됩니다. 창고, 공장, 농장과 같은 환경에서 로봇은 조립 라인의 부품, 포장 상자의 라벨, 들판의 작은 새싹과 같은 매우 작은 객체를 인식하고 신속하게 대응해야 할 수 있습니다.

특히 이러한 객체가 카메라 피드에서 픽셀 몇 개에 불과하거나 다른 객체에 부분적으로 가려져 있으면 탐지가 복잡해질 수 있습니다. 이러한 작은 세부 정보를 놓치면 자동화 속도가 느려지거나 로봇의 작업 수행 능력에 영향을 줄 수 있습니다.

이러한 상황에서 Ultralytics YOLO11이 큰 차이를 만들 수 있습니다. 개선된 특징 추출과 빠른 추론을 통해 로봇은 작은 객체를 실시간으로 탐지하고 즉시 대응할 수 있습니다.

Ultralytics YOLO11은 인스턴스 세그멘테이션도 지원하므로, 로봇이 일반적인 바운딩 박스의 위치만 찾는 대신 객체 경계와 파지 지점을 더 정확하게 파악하도록 도울 수 있습니다. 예를 들어 YOLO11이 통합된 로봇 팔은 컨베이어 벨트 위의 작은 부품을 찾아 정확한 모양을 세그멘테이션하고 손이 닿지 않는 곳으로 이동하기 전에 집어 올릴 수 있어 시스템의 효율성과 신뢰성을 높입니다.

작은 객체 탐지에 Ultralytics YOLO11이 효과적인 이유#

오늘날 다양한 컴퓨터 비전 모델이 제공되는 가운데, Ultralytics YOLO11이 어떤 점에서 두드러지는지 궁금할 수 있습니다.

작은 객체를 탐지해야 하는 애플리케이션에 Ultralytics YOLO11이 좋은 선택인 이유는 다음과 같습니다.

• 더 나은 특징 추출: YOLO11은 개선된 백본 및 넥 아키텍처를 사용해 특징 추출을 강화하고 객체 탐지의 정밀도를 높입니다.
• 에코시스템과 사용 편의성: Ultralytics Python 패키지는 YOLO11과 같은 모델의 로드, 학습, 검증, 배포를 위한 내장 함수를 제공하는 라이브러리입니다. 이러한 워크플로에는 코드 몇 줄만 필요하므로 팀은 작은 객체 탐지 모델을 빠르게 실험하고 파인튜닝할 수 있습니다.
• 엣지 배포에 최적화: Ultralytics YOLO11은 NVIDIA Jetson, Raspberry Pi, 산업용 카메라 시스템과 같은 엣지 디바이스에서 효율적으로 실행할 수 있습니다. 간단히 말해 디바이스에서 직접 실시간 비전 AI 작업을 수행할 수 있습니다.

Ultralytics YOLO11로 작은 객체를 탐지할 때 사용할 수 있는 실용적인 전략#

Ultralytics YOLO11과 같은 모델을 사용하는 것 외에도 어노테이션 준비 방식, 전체 데이터셋, 모델 학습 절차에 따라 탐지 성능이 크게 달라질 수 있습니다. 추론 시에는 SAHI 타일 추론을 사용해 고해상도 이미지에서 매우 작은 객체를 탐지하는 데 도움을 받을 수 있습니다.

중점적으로 살펴볼 항목을 간단히 정리하면 다음과 같습니다.

• 적절한 데이터 증강: 크기 조정이나 크롭과 같은 가벼운 데이터 증강은 모델이 새로운 이미지에 일반화하는 데 도움이 될 수 있습니다. 그러나 대규모로 강하게 증강하면 작은 객체가 왜곡되거나 제거되어 모델이 학습하기 어려워질 수 있습니다.
• 실패 사례 살펴보기: 모델이 객체를 놓치거나 잘못 식별하는 사례를 분석하면 기준선을 설정하고, 문제가 데이터셋에서 비롯된 것인지, 특징 추출 과정에서 정보가 손실된 것인지, 학습 설정을 조정해야 하는지 파악하는 데 도움이 됩니다.
• 데이터셋 구성: 데이터셋에는 모델이 의미 있는 패턴을 학습할 수 있도록 작은 객체의 사례가 충분히 포함되어야 합니다. 또한 학습 중 큰 객체가 작은 객체를 압도하지 않도록 균형을 유지해야 합니다.

핵심 요점#

작은 대상은 컴퓨터 비전 모델에서 이미지가 처리되는 과정에서 세부 정보가 손실되므로 탐지하기 어렵습니다. Ultralytics YOLO11은 실시간 성능을 희생하지 않으면서 세부 정보를 더 잘 보존하여 작은 객체 탐지의 신뢰성을 높입니다. 이러한 균형 덕분에 YOLO11은 실제 애플리케이션에서 정확하고 효율적인 탐지를 지원할 수 있습니다.

성장하는 커뮤니티에 참여하세요! AI에 대해 더 알아보려면 GitHub 저장소를 살펴보세요. 솔루션 페이지에서 소매업 컴퓨터 비전과 자동차 산업 AI 같은 혁신 사례를 확인하세요. 지금 컴퓨터 비전 개발을 시작하려면 라이선스 옵션을 살펴보세요.