인스턴스 분할이란 무엇인가요? 간단한 가이드

컴퓨터 비전 애플리케이션은 도로 상황을 모니터링하는 교통 카메라부터 매장의 셀프 계산대까지 일상생활에서 점점 더 흔해지고 있습니다. 기계가 사람과 비슷한 방식으로 시각 데이터를 이해하도록 지원하는 비전 AI는 다양한 산업 분야에 영향을 미치고 있습니다.

이러한 애플리케이션 중 다수는 이미지에서 주요 객체 주위에 바운딩 박스를 표시하는 컴퓨터 비전 작업인 객체 탐지에 의존합니다. 이 접근 방식은 대체로 효과적이지만, 일부 이미지 분석 솔루션에는 더 높은 정밀도가 필요합니다.

예를 들어, 의료 영상에서는 종양을 탐지하는 것만으로는 충분하지 않으며 종양의 정확한 형태를 윤곽으로 표시하는 것이 중요합니다. 마찬가지로 로봇 공학에서 기계가 물체를 올바르게 잡으려면 물체의 정확한 윤곽을 인식해야 합니다. 이러한 과제를 해결하기 위해 인스턴스 세그멘테이션은 더욱 정밀한 솔루션을 제공합니다.

인스턴스 세그멘테이션은 객체 탐지만으로는 충분하지 않은 사용 사례를 지원하도록 설계된 컴퓨터 비전 작업으로, 픽셀 단위의 정확도를 제공합니다. Ultralytics YOLO11과 같은 컴퓨터 비전 모델을 사용하면 이미지와 동영상에 인스턴스 세그멘테이션을 쉽게 적용할 수 있습니다.

그림 1. 인스턴스 세그멘테이션에 YOLO11을 사용하는 예시입니다.

이 가이드에서는 인스턴스 세그멘테이션의 작동 방식과 활용 분야, 그리고 특정 세그멘테이션 작업에 맞게 Ultralytics YOLO11을 커스텀 학습하는 방법을 살펴봅니다.

인스턴스 세그멘테이션이란 무엇인가요?#

사람들이 가까이 서 있는 단체 사진을 떠올려 보세요. 객체 탐지를 사용하면 각 사람 주위에 박스를 그릴 수 있지만, 각 사람의 정확한 형태까지 알 수는 없습니다.

반면 인스턴스 세그멘테이션은 각 사람의 전체 윤곽을 볼 수 있도록, 서로 겹치는 경우에도 한 사람씩 세심하게 따라 그리는 것과 비슷합니다. 박스로 물체의 위치만 표시하는 대신, 각 객체의 정확한 형태를 픽셀 단위로 식별하므로 복잡한 이미지를 더 쉽게 이해할 수 있습니다.

그 결과 객체의 형태를 채우는 상세한 마스크가 생성되어 어떤 픽셀이 해당 객체에 속하는지 정확하게 나타냅니다. 이러한 정밀도는 객체의 정확한 형태와 경계를 파악하는 것이 중요한 다양한 실제 애플리케이션에서 유용합니다.

그림 2. 인스턴스 세그멘테이션에 대한 Ultralytics YOLO11의 지원을 보여줍니다.

인스턴스 세그멘테이션과 시맨틱 세그멘테이션 비교#

인스턴스 세그멘테이션을 살펴보다 보면 시맨틱 세그멘테이션이라는 개념을 접할 수 있습니다.

두 기법 모두 컴퓨터가 픽셀 단위로 이미지를 이해하도록 돕지만, 목적은 서로 다릅니다. 시맨틱 세그멘테이션은 모든 픽셀에 카테고리를 기준으로 레이블을 지정하고 같은 유형의 객체를 하나로 묶습니다. 예를 들어 자동차가 여러 대 있는 이미지에서 시맨틱 세그멘테이션은 개별 차량을 구분하지 않고 모든 차량을 "자동차"로 표시합니다.

반면 인스턴스 세그멘테이션은 한 단계 더 나아가 객체를 각각 식별합니다. 개별 인스턴스에 고유한 레이블을 지정하고 각 객체의 형태에 맞는 정밀한 마스크를 생성합니다. 따라서 같은 이미지에서 인스턴스 세그멘테이션은 모든 대상을 단순히 "자동차"로 표시하는 데 그치지 않고 자동차 한 대 한 대를 인식하고 윤곽을 표시합니다.

두 기법의 주요 차이점은 시맨틱 세그멘테이션이 객체를 카테고리별로 묶는 반면, 인스턴스 세그멘테이션은 경계가 명확한 고유한 개체로 각 객체를 구분한다는 것입니다. 어떤 작업을 사용할지는 이미지에 무엇이 있는지 아는 것만으로 충분한지, 아니면 개별 객체를 구분하는 것이 중요한지 등 구체적인 애플리케이션에 따라 달라집니다.

프로젝트에 필요한 작업을 결정하는 데 도움이 필요하다면 시맨틱 세그멘테이션과 인스턴스 세그멘테이션: 선택 방법을 참고하세요.

그림 3. 인스턴스 세그멘테이션과 시맨틱 세그멘테이션 비교(각각 오른쪽과 왼쪽).

널리 사용되는 인스턴스 세그멘테이션 모델#

오늘날 비전 AI 커뮤니티에서는 다양한 인스턴스 세그멘테이션 모델을 사용할 수 있습니다. 일부 모델은 더 빠르고, 일부는 더 정확하며, 일부는 사용하기 더 쉽습니다.

이러한 옵션은 유용하지만, 특정 작업에 어떤 옵션이 적합한지 고민하게 됩니다. 여러 옵션 중 Ultralytics YOLO 모델은 속도와 정확도에 중점을 두기 때문에 인기가 높습니다.

또한 이러한 모델은 지난 수년간 크게 발전했습니다. 예를 들어, Ultralytics YOLOv5는 PyTorch와 같은 프레임워크를 활용해 배포를 간소화함으로써, 깊은 기술 전문 지식이 없어도 더 많은 사람이 고급 비전 AI를 활용할 수 있도록 했습니다.

이러한 성공을 바탕으로 Ultralytics YOLOv8은 인스턴스 세그멘테이션, 포즈 추정, 이미지 분류와 같은 컴퓨터 비전 작업에 대한 지원을 강화했습니다.

Ultralytics YOLO11은 Ultralytics YOLO26에 이어 성능을 한층 높였습니다. YOLOv8m보다 파라미터가 22% 적으면서도 COCO 데이터셋에서 더 높은 평균 정밀도(mAP)를 달성하므로, 더 적은 리소스를 사용해 객체를 더 정확하게 인식할 수 있습니다.

그림 4. YOLO11 벤치마킹.

간단히 말해, Ultralytics YOLO11은 효율성을 유지하면서 최첨단 정확도를 제공합니다.

인스턴스 세그멘테이션의 작동 방식 이해하기#

다음으로 인스턴스 분할이 일반적으로 작동하는 방식을 살펴보겠습니다. 기존 컴퓨터 비전 모델은 2단계 접근 방식을 사용합니다.

먼저 객체 주위에 바운딩 박스를 그려 객체를 탐지합니다. 그런 다음 픽셀 단위 마스크를 생성해 각 객체의 정확한 모양을 표시합니다. 잘 알려진 예로 Mask R-CNN이 있습니다. Mask R-CNN은 객체 탐지 모델에 마스크 예측 단계를 추가합니다. 이 방법은 효과적이지만 이미지를 여러 단계로 처리하므로 속도가 느려 실시간 애플리케이션에 적용하기가 더 어렵습니다.

반면 Ultralytics YOLO11과 같은 모델은 이미지를 한 번에 처리하면서 객체 바운딩 박스와 인스턴스 세그멘테이션 마스크를 동시에 예측합니다. 이러한 간소화된 접근 방식은 높은 정확도를 유지하면서 처리 속도를 크게 높입니다. 따라서 속도와 정밀도가 모두 중요한 자율 주행, 동영상 분석, 로봇 공학과 같은 실시간 애플리케이션에 특히 유용합니다.

인스턴스 세그멘테이션을 위한 Ultralytics YOLO11 커스텀 학습#

YOLO11은 기본적으로 사전 학습된 모델로 제공됩니다. 일상적인 객체를 포함하는 COCO-Seg 데이터셋으로 학습되었으며, 인스턴스 분할 작업에 사용할 수 있습니다. 하지만 Ultralytics Python 패키지는 사용자 지정 학습을 지원하며, 고유한 객체를 분할해야 하는 특수 애플리케이션에서는 사용자 지정 학습이 필수적입니다.

모델의 커스텀 학습 또는 파인튜닝이 중요한 이유는 무엇인가요? 커스텀 학습은 사전 학습된 모델에 이미 내재된 지식을 바탕으로 전이 학습을 활용합니다. 처음부터 시작하는 대신 기존 모델을 더 작은 데이터셋과 더 적은 컴퓨팅 리소스로 새로운 작업에 맞게 조정하면서 높은 정확도를 유지합니다.

Ultralytics YOLO11 커스텀 학습 방법#

다음은 인스턴스 분할을 위한 Ultralytics YOLO11 미세 조정 단계에 대한 자세한 설명입니다.

• 데이터 준비: 특정 애플리케이션에 맞는 이미지를 수집하고 어노테이션을 작성합니다. Ultralytics는 다양한 이미지 데이터셋을 지원하지만, 이미지와 어노테이션을 필수 YOLO 형식으로 준비해 자체 데이터셋으로 학습할 수도 있습니다.
• 사전 학습된 모델 사용: 처음부터 시작하는 대신 사전 학습된 Ultralytics YOLO11 모델을 사용합니다.
• 모델 학습: 배치 크기(반복당 처리할 이미지 수), 이미지 크기(목표 입력 해상도), 에포크(전체 학습 주기 수)와 같은 주요 학습 설정을 조정한 다음 모델을 학습합니다.
• 성능 평가: 모델 학습이 완료되면 mAP와 같은 성능 지표를 사용해 모델의 정확도를 테스트할 수 있습니다. Ultralytics Python 패키지는 모델 평가를 위한 내장 함수도 제공합니다.

Ultralytics YOLO11을 활용한 인스턴스 세그멘테이션 애플리케이션#

인스턴스 세그멘테이션은 기계가 객체를 더 정확하게 보고 이해하도록 지원해 실제 문제를 해결하는 데 활용할 수 있습니다. 자동화 개선부터 환경 보호까지 다양한 분야에서 중요한 역할을 합니다. 실제로 효과를 발휘하는 몇 가지 사례를 살펴보겠습니다.

Ultralytics YOLO11을 활용한 건설 현장 안전 및 모니터링#

인스턴스 세그멘테이션은 건설 현장의 안전과 효율성을 보장하는 데 핵심적인 역할을 할 수 있습니다. 예를 들어, 중장비 모니터링에 활용할 수 있습니다.

Ultralytics YOLO11을 파인튜닝하면 크레인, 굴착기, 불도저와 같은 다양한 장비를 정확하게 세그멘테이션하고 식별하며 위치를 실시간으로 추적할 수 있습니다. 이를 통해 현장 관리자는 장비가 지정된 구역 안에서만 작동하고 작업자가 있거나 위험 요소가 있는 구역에 들어가지 않도록 확인할 수 있습니다.

또한 이러한 솔루션을 실시간 경보 시스템과 통합하면 신속한 시정 조치를 취할 수 있습니다. 더 나아가 수집된 인사이트를 바탕으로 현장 배치와 작업 흐름을 최적화하여 위험을 더욱 줄이고 생산성을 높일 수 있습니다.

그림 5. Ultralytics YOLO11을 사용한 중장비 모니터링.

세그멘테이션과 Ultralytics YOLO11을 활용한 동물 모니터링#

동물 행동 모니터링은 연구자, 농부, 환경 보호 활동가가 다양한 환경에서 동물을 더 잘 돌볼 수 있도록 지원합니다. 인스턴스 세그멘테이션은 농장, 동물원, 자연 서식지에서 개별 동물을 식별하고 세그멘테이션하여 이러한 시스템에서 유용한 역할을 합니다. 바운딩 박스를 사용하는 기존 객체 탐지와 달리, 인스턴스 세그멘테이션은 동물 한 마리 한 마리를 픽셀 단위로 구분하므로 동물들이 가까이 있을 때 특히 유용합니다.

세밀한 분할은 움직임과 행동을 더 정확하게 추적하는 데 도움이 됩니다. 겹쳐 있거나 서로 가까이 모여 있는 동물을 구별할 수 있어 상호작용, 건강 상태, 활동 패턴을 더 정밀하게 분석할 수 있습니다. 전반적으로 동물 행동에 대한 심층적인 인사이트는 동물 관리와 돌봄을 개선합니다.

그림 6. 인스턴스 세그멘테이션을 사용한 소 모니터링.

스포츠 분석 및 선수 추적에 활용하는 Ultralytics YOLO11#

정확한 선수 및 이벤트 추적은 스포츠 분석에서 매우 중요한 부분입니다. 기존 추적 방식은 수동 태깅에 의존하므로 세부적인 상호작용을 포착하지 못할 수 있습니다. 컴퓨터 비전을 사용하면 선수 한 명 한 명, 공, 주요 이벤트와 같은 세부 정보를 픽셀 단위로 세그멘테이션하여 상세한 인사이트를 얻을 수 있습니다.

예를 들어, 인스턴스 세그멘테이션은 선수와 객체를 명확하게 분리하여 파울이나 공과 무관한 상황과 같은 이벤트를 탐지하는 데 도움이 됩니다. Ultralytics YOLO11과 같은 모델을 활용한 세밀한 모니터링은 분석가가 움직임 패턴, 공간적 위치, 상호작용을 높은 정확도로 연구하는 데 필요한 더 명확한 정보를 제공합니다. 이러한 인사이트의 주요 이점은 팀이 전략을 개선하고 전반적인 성과를 높이는 데 도움이 된다는 점입니다.

인스턴스 세그멘테이션의 장단점#

인스턴스 세그멘테이션이 다양한 산업에 제공하는 주요 이점은 다음과 같습니다.

• 자동화 개선: 품질 관리와 안전 모니터링 같은 작업을 자동화하여 수동 개입의 필요성을 줄이고 인적 오류를 최소화합니다.
• 장면 이해도 향상: 각 객체의 윤곽을 정확하게 표시하여 복잡한 장면을 더 깊이 이해하도록 돕고, 더 충분한 정보에 기반한 의사결정을 지원합니다.
• 효율적인 후처리: 픽셀 단위 출력으로 배경 제거, 객체 계수, 공간 분석과 같은 작업이 간소화되어 추가 처리 단계가 줄어듭니다.

이러한 이점은 인스턴스 세그멘테이션이 다양한 사용 사례에 미치는 영향을 보여주지만, 구현 과정에서 발생하는 과제도 고려해야 합니다.

인스턴스 세그멘테이션의 주요 한계는 다음과 같습니다.

• 투명도 관련 문제: 유리나 물과 같이 투명하거나 반사되는 객체는 세그멘테이션하기 어려워 경계가 부정확해질 수 있습니다.
• 유지 관리 부담: 환경 조건과 데이터셋이 변함에 따라 모델의 정확성과 적합성을 유지하려면 지속적인 업데이트와 파인튜닝이 필요합니다.
• 높은 어노테이션 작업량: 인스턴스 세그멘테이션 모델을 학습하려면 픽셀 단위의 상세한 어노테이션이 필요하므로 데이터 준비에 드는 시간과 비용이 크게 증가합니다.

핵심 요점#

인스턴스 세그멘테이션을 사용하면 객체가 서로 겹치는 경우에도 개별 객체를 정밀하게 구분할 수 있습니다. 객체 경계를 픽셀 단위로 포착하므로 객체 탐지와 같은 기존 컴퓨터 비전 작업보다 시각 데이터에 대한 깊이 있는 이해를 제공합니다.

최근 컴퓨터 비전의 발전으로 인스턴스 세그멘테이션은 더 빠르고 사용하기 쉬워졌습니다. 특히 Ultralytics YOLO11과 같은 컴퓨터 비전 모델은 프로세스를 간소화하고 설정을 최소화해 실시간 세그멘테이션을 가능하게 하므로, 다양한 산업과 애플리케이션에서 더 쉽게 활용할 수 있습니다.

AI가 궁금하신가요? GitHub 저장소를 방문하고 커뮤니티에 참여해 계속 알아보세요. 솔루션 페이지에서 자율 주행 차량의 AI와 농업 분야의 비전 AI와 같은 혁신 사례를 알아보세요. 라이선스 옵션을 확인하고 컴퓨터 비전 프로젝트를 시작해 보세요!