Mask R-CNN이란 무엇이며 어떻게 작동하나요?

창고에서 작업하는 로봇, 혼잡한 도로를 안전하게 주행하는 자율 주행 차량, 작물을 살피는 드론, 공장에서 제품을 검사하는 AI 시스템과 같은 혁신 사례는 AI 도입이 증가하면서 더욱 보편화되고 있습니다. 이러한 혁신을 이끄는 핵심 기술은 기계가 시각 데이터를 이해하고 해석할 수 있도록 하는 AI 분야인 컴퓨터 비전입니다.

예를 들어, 객체 탐지는 바운딩 박스를 사용해 이미지의 객체를 식별하고 위치를 찾는 컴퓨터 비전 작업입니다. 바운딩 박스는 유용한 정보를 제공하지만 객체의 위치를 대략적으로 나타낼 뿐, 정확한 형태나 경계를 포착할 수 없습니다. 따라서 정밀한 식별이 필요한 애플리케이션에서는 효과가 떨어집니다.

이 문제를 해결하기 위해 연구자들은 객체의 정확한 윤곽을 포착하여 더욱 정확한 탐지와 분석을 위한 픽셀 단위의 세부 정보를 제공하는 세그멘테이션 모델을 개발했습니다.

Mask R-CNN은 이러한 모델 중 하나입니다. 2017년 Facebook AI Research(FAIR)가 발표했으며, R-CNN, Fast R-CNN, Faster R-CNN과 같은 이전 모델을 기반으로 합니다. 컴퓨터 비전 역사에서 중요한 이정표인 Mask R-CNN은 Ultralytics YOLO11과 같은 더욱 발전된 모델이 등장할 수 있는 토대를 마련했습니다.

이 글에서는 Mask R-CNN의 개념과 작동 방식, 활용 분야, 그리고 Ultralytics YOLO11로 이어진 후속 개선 사항을 살펴보겠습니다.

Mask R-CNN 개요#

Mask R-CNN은 Mask Region-based Convolutional Neural Network의 약자로, 객체 탐지와 인스턴스 세그멘테이션과 같은 컴퓨터 비전 작업을 위해 설계된 딥러닝 모델입니다.

인스턴스 세그멘테이션은 이미지에서 객체를 식별할 뿐 아니라 각 객체의 윤곽을 정확하게 표시하여 기존 객체 탐지의 범위를 확장합니다. 탐지된 객체마다 고유한 레이블을 지정하고 정확한 형태를 픽셀 단위로 포착합니다. 이러한 상세한 접근 방식은 서로 겹치는 객체를 명확히 구분하고 복잡한 형태를 정확하게 처리할 수 있도록 합니다.

Mask R-CNN은 객체를 탐지하고 레이블을 지정하지만 정확한 형태를 정의하지는 않는 Faster R-CNN을 기반으로 합니다. Mask R-CNN은 각 객체를 구성하는 정확한 픽셀을 식별하여 이를 개선함으로써 훨씬 더 상세하고 정확한 이미지 분석을 가능하게 합니다.

그림 1. 객체 탐지와 인스턴스 세그멘테이션 비교.

Mask R-CNN의 아키텍처와 작동 방식 살펴보기#

Mask R-CNN은 객체를 정확하게 탐지하고 세그멘테이션하기 위해 단계별 접근 방식을 사용합니다. 먼저 심층 신경망(데이터에서 학습하는 다층 모델)을 사용해 주요 특징을 추출한 다음, 영역 제안 네트워크(객체일 가능성이 높은 영역을 제안하는 구성 요소)로 잠재적인 객체 영역을 식별합니다. 마지막으로 객체의 정확한 형태를 포착하는 상세한 세그멘테이션 마스크(객체의 정밀한 윤곽)를 생성해 해당 영역을 정교화합니다.

이제 Mask R-CNN의 작동 방식을 더 잘 이해할 수 있도록 각 단계를 살펴보겠습니다.

그림 2. Mask R-CNN 아키텍처 개요(출처: researchgate.net).

특징 추출부터 살펴보기#

Mask R-CNN 아키텍처의 첫 단계는 모델이 이미지 내용을 이해할 수 있도록 이미지를 주요 부분으로 나누는 것입니다. 사진을 볼 때 모양, 색상, 가장자리 같은 세부 사항을 자연스럽게 알아차리는 것과 비슷합니다. 모델은 심층 신경망인 '백본'(일반적으로 ResNet-50 또는 ResNet-101)을 사용해 비슷한 작업을 수행합니다. 백본은 눈처럼 이미지 전체를 살펴보고 핵심 세부 사항을 포착합니다.

이미지 속 객체는 크기가 매우 작거나 클 수 있으므로 Mask R-CNN은 특징 피라미드 네트워크를 사용합니다. 이는 모델이 세밀한 부분과 전체적인 맥락을 모두 볼 수 있도록 여러 배율의 돋보기를 사용하는 것과 같으며, 모든 크기의 객체를 놓치지 않도록 합니다.

이러한 중요한 특징을 추출한 다음 모델은 이미지에서 잠재적인 객체의 위치를 찾는 단계로 넘어가 후속 분석의 기반을 마련합니다.

객체가 있는 이미지 영역 제안하기#

주요 특징을 추출하도록 이미지가 처리된 뒤에는 영역 제안 네트워크가 이어서 작업합니다. 모델의 이 부분은 이미지를 살펴보고 객체가 있을 가능성이 높은 영역을 제안합니다.

이 네트워크는 앵커라고 하는 여러 후보 객체 위치를 생성해 이를 수행합니다. 그런 다음 이러한 앵커를 평가하고 추가 분석에 가장 적합한 앵커를 선택합니다. 이렇게 하면 이미지의 모든 위치를 하나씩 확인하는 대신 관심 대상일 가능성이 가장 높은 영역에만 집중할 수 있습니다.

그림 3. 영역 제안 네트워크의 예시.

추출된 특징 개선하기#

주요 영역을 식별한 다음 단계는 이러한 영역에서 추출한 세부 정보를 정교화하는 것입니다. 이전 모델은 각 영역에서 특징을 추출하기 위해 관심 영역 풀링(ROI Pooling)이라는 방법을 사용했습니다. 그러나 영역 크기를 조정할 때 위치가 약간 어긋나는 경우가 있어, 특히 작거나 서로 겹치는 객체를 처리할 때 효과가 떨어질 수 있습니다.

Mask R-CNN은 ROI Align(관심 영역 정렬)이라는 기법을 사용해 이 문제를 개선합니다. ROI Pooling처럼 좌표를 반올림하는 대신 ROI Align은 쌍선형 보간을 사용해 픽셀 값을 더 정밀하게 추정합니다. 쌍선형 보간은 가장 가까운 네 이웃 픽셀 값의 가중 평균을 계산해 새로운 픽셀 값을 구하는 방법이며, 이를 통해 더 부드러운 전환이 만들어집니다. 이 방식은 특징이 원본 이미지와 올바르게 정렬되도록 유지해 객체 감지와 분할의 정확도를 높입니다.

예를 들어, 축구 경기에서 가까이 서 있는 두 선수의 바운딩 박스가 겹치면 한 선수를 다른 선수로 잘못 인식할 수 있습니다. ROI Align은 두 선수의 형태를 뚜렷하게 유지해 구분하는 데 도움이 됩니다.

그림 4. Mask R-CNN은 ROI Align을 사용합니다.

객체 분류 및 마스크 예측#

ROI Align이 이미지를 처리하면 다음 단계에서는 객체를 분류하고 위치를 미세 조정합니다. 모델은 추출된 각 영역을 살펴보고 어떤 객체가 포함되어 있는지 판단합니다. 다양한 범주에 확률 점수를 할당한 뒤 가장 일치하는 범주를 선택합니다.

동시에 바운딩 박스를 조정해 객체에 더 잘 맞도록 합니다. 처음 설정된 박스의 위치가 이상적이지 않을 수 있으므로, 각 박스가 감지된 객체를 정확히 둘러싸도록 하여 정확도를 높입니다.

마지막으로 Mask R-CNN은 한 단계 더 나아가 각 객체에 대한 상세한 세그멘테이션 마스크를 병렬로 생성합니다.

Mask R-CNN과 실제 애플리케이션#

이 모델이 처음 공개되었을 때 AI 커뮤니티에서는 큰 관심을 보였고, 곧 다양한 애플리케이션에 사용되기 시작했습니다. 픽셀 단위의 정밀도로 객체를 탐지하고 분할하는 기능 덕분에 여러 산업 분야에서 인기를 얻었습니다.

예를 들어, 야생에서 멸종 위기 동물을 추적하는 일은 어려운 과제입니다. 많은 종이 울창한 숲을 이동하기 때문에 보호 활동가들이 동물의 위치를 추적하기가 쉽지 않습니다. 기존 방식에서는 카메라 트랩, 드론, 위성 이미지를 사용하지만, 이러한 데이터를 수작업으로 분류하는 데 시간이 많이 걸립니다. 오인식과 관찰 누락은 보호 활동을 지연시킬 수 있습니다.

호랑이의 줄무늬, 기린의 반점, 코끼리 귀의 모양과 같은 고유한 특징을 인식함으로써 Mask R-CNN은 이미지와 동영상에서 동물을 더 정확하게 감지하고 세그멘테이션할 수 있습니다. 동물이 나무에 일부 가려져 있거나 서로 가까이 서 있는 경우에도 모델은 동물들을 구분하고 각각 식별할 수 있어 야생 동물 모니터링의 속도와 신뢰성을 높입니다.

그림 5. Mask R-CNN을 사용한 동물 감지 및 세그멘테이션.

Mask R-CNN의 한계#

객체 감지 및 세그멘테이션 분야에서 역사적으로 중요한 역할을 했지만, Mask R-CNN에는 몇 가지 주요 단점도 있습니다. Mask R-CNN과 관련된 과제는 다음과 같습니다.

• 높은 컴퓨팅 요구량: 강력한 GPU에 의존하므로 실행 비용이 높고 대량의 데이터를 처리할 때 속도가 느려질 수 있습니다.
• 느린 처리 속도: 다단계 처리 방식으로 인해 YOLO와 같은 빠른 실시간 모델보다 속도가 느리므로, 시간에 민감한 작업에는 적합하지 않을 수 있습니다.
• 고품질 데이터 의존성: 모델은 선명하고 라벨이 잘 지정된 이미지에서 가장 좋은 성능을 발휘합니다. 흐릿하거나 조명이 좋지 않은 이미지는 정확도를 크게 떨어뜨릴 수 있습니다.
• 복잡한 구현: 다단계 아키텍처는 설정과 최적화가 까다로울 수 있으며, 특히 대규모 데이터셋이나 제한된 리소스를 다룰 때 더욱 그렇습니다.

Mask R-CNN에서 Ultralytics YOLO11까지#

Mask R-CNN은 세그멘테이션 작업에 뛰어났지만, 많은 산업 분야에서는 속도와 실시간 성능을 우선시하면서 컴퓨터 비전을 도입하고자 했습니다. 이러한 요구에 따라 연구자들은 한 번의 추론으로 객체를 감지하는 원스테이지 모델을 개발했고, 이를 통해 효율성을 크게 높였습니다.

Mask R-CNN의 여러 단계로 구성된 프로세스와 달리, YOLO(한 번만 보면 됩니다)와 같은 단일 단계 컴퓨터 비전 모델은 실시간 컴퓨터 비전 작업에 집중합니다. 탐지와 분할을 별도로 처리하는 대신 YOLO 모델은 한 번의 처리 과정으로 객체를 탐지하고 분할할 수 있습니다. 따라서 신속한 의사 결정이 중요한 자율주행, 의료, 제조, 로보틱스와 같은 애플리케이션에 적합합니다.

특히 Ultralytics YOLO11은 Ultralytics YOLO26에 이어 한층 더 발전해 빠르면서도 정확한 성능을 제공합니다. YOLOv8m보다 파라미터 수가 22% 적으면서도 COCO 데이터셋에서 더 높은 평균 정밀도(mAP)를 달성하므로 객체를 더 정확하게 탐지합니다. 처리 속도도 향상되어 매 밀리초가 중요한 실시간 애플리케이션에 적합합니다.

그림 6. 다른 모델과 비교한 YOLO11의 성능.

핵심 요점#

컴퓨터 비전의 역사를 돌아보면 Mask R-CNN은 객체 감지 및 세그멘테이션 분야의 주요 혁신으로 인정받고 있습니다. 상세한 다단계 처리 방식 덕분에 복잡한 환경에서도 매우 정밀한 결과를 제공합니다.

그러나 이 프로세스는 YOLO와 같은 실시간 모델에 비해 속도가 느립니다. 속도와 효율성에 대한 요구가 커지면서 많은 애플리케이션은 이제 빠르고 정확한 객체 탐지 기능을 제공하는 Ultralytics YOLO11과 같은 단일 단계 모델을 사용합니다. Mask R-CNN은 컴퓨터 비전의 발전 과정을 이해하는 데 여전히 중요하지만, 실시간 모델로의 전환은 더 빠르고 효율적인 솔루션에 대한 수요가 커지고 있음을 보여줍니다.

성장 중인 커뮤니티에 참여하세요! AI에 대해 자세히 알아보려면 GitHub 리포지토리를 살펴보세요. 컴퓨터 비전 프로젝트를 시작할 준비가 되셨나요? 라이선스 옵션을 확인하세요. 솔루션 페이지를 방문하여 농업 분야의 AI와 의료 분야의 비전 AI를 알아보세요!