Meta AI의 세그먼트 애니씽 모델 2 (SAM 2) 애플리케이션

2024년 7월 29일, Meta AI는 Segment Anything Model의 두 번째 버전인 SAM 2를 출시했습니다. 새 모델은 이미지와 동영상 모두에서 대상 객체에 속하는 픽셀을 정확히 식별할 수 있습니다. 또한 실시간으로 동영상의 모든 프레임에서 객체를 일관되게 추적할 수도 있습니다. SAM 2는 동영상 편집, 혼합 현실 경험, 그리고 시각 데이터의 더 빠른 어노테이션을 통해 컴퓨터 비전 시스템의 학습을 지원하는 데 흥미로운 가능성을 열어 줍니다.

해양 과학, 위성 영상, 의학 등의 분야에서 활용된 기존 SAM의 성공을 바탕으로, SAM 2는 빠르게 움직이는 객체와 외형 변화 같은 과제를 해결합니다. 향상된 정확도와 효율성 덕분에 다양한 애플리케이션에 활용할 수 있는 다목적 도구가 되었습니다. 이 글에서는 SAM 2를 적용할 수 있는 분야와 AI 커뮤니티에서 SAM 2가 중요한 이유를 중점적으로 살펴보겠습니다.

SAM 2란 무엇인가요?#

Segment Anything Model 2는 이미지와 동영상에서 프롬프트 기반 시각 분할, 즉 PVS를 지원하는 고급 파운데이션 모델입니다. PVS는 사용자가 제공하는 특정 프롬프트나 입력을 기반으로 모델이 이미지나 동영상의 여러 부분을 분할하거나 식별하는 기법입니다. 프롬프트는 관심 영역을 강조하는 클릭, 박스, 마스크 형태일 수 있습니다. 그러면 모델은 지정된 영역의 윤곽을 나타내는 분할 마스크를 생성합니다.

SAM 2 아키텍처는 이미지 분할에 비디오 분할을 추가하여 원조 SAM을 확장했습니다. 이미지 데이터와 프롬프트를 사용해 분할 마스크를 생성하는 경량 마스크 디코더가 특징입니다. 비디오의 경우 SAM 2는 이전 프레임의 정보를 기억하는 메모리 시스템을 도입하여 시간의 흐름에 따라 정확하게 추적할 수 있도록 합니다. 메모리 시스템에는 분할 대상 객체에 관한 세부 정보를 저장하고 불러오는 구성 요소가 포함됩니다. SAM 2는 가림 현상도 처리하고, 여러 프레임에 걸쳐 객체를 추적하며, 모호한 프롬프트에 대해 여러 가능한 마스크를 생성할 수 있습니다. SAM 2의 고급 아키텍처는 정적 및 동적 시각 환경 모두에서 높은 역량을 발휘합니다.

특히 비디오 분할에서 SAM 2는 이전 방법보다 사용자 상호작용 횟수를 3분의 1로 줄이면서 더 높은 정확도를 달성합니다. 이미지 분할에서는 원조 Segment Anything Model (SAM)보다 뛰어난 성능을 보이며, 6배 더 빠르고 정확합니다. 이 개선 사항은 SAM 2 연구 논문에서 서로 다른 37개 데이터셋을 대상으로 입증되었으며, 그중 23개는 이전에 SAM을 평가하는 데 사용된 데이터셋입니다.

그림 1. SAM과 SAM 2 비교.

흥미롭게도 Meta AI는 현재까지 가장 큰 동영상 분할 데이터셋인 SA-V 데이터셋을 구축해 SAM 2를 개발했습니다. 방대한 데이터셋에는 5만 개가 넘는 동영상과 3,550만 개의 분할 마스크가 포함되어 있으며, 대화형 사용자 기여를 통해 수집되었습니다. 어노테이터는 모델이 다양한 시나리오와 객체 유형을 학습하도록 프롬프트와 수정 사항을 제공했습니다.

Segment Anything Model 2의 애플리케이션#

이미지와 비디오 분할에서 발휘하는 고급 기능 덕분에 SAM 2는 다양한 산업 분야에서 사용할 수 있습니다. 몇 가지 애플리케이션을 살펴보겠습니다.

SAM 2는 증강 현실(AR) 및 가상 현실(VR)을 지원합니다#

Meta AI의 새로운 분할 모델은 증강 현실(AR) 및 가상 현실(VR) 애플리케이션에 사용할 수 있습니다. 예를 들어 SAM 2는 실제 객체를 정확히 식별하고 분할하여 가상 객체와의 상호작용을 더 현실적으로 만들 수 있습니다. 게임, 교육, 훈련 등 가상 요소와 실제 요소 간의 현실적인 상호작용이 필수적인 다양한 분야에서 유용할 수 있습니다.

AR 안경과 같은 기기가 더욱 발전함에 따라 SAM 2의 기능도 곧 이러한 기기에 통합될 수 있습니다. 안경을 쓰고 거실을 둘러보는 상황을 상상해 보세요. 안경이 반려견의 물그릇을 분할하고 인식하면 아래 이미지처럼 물을 채우라고 알려 줄 수 있습니다. 또는 새로운 레시피로 요리할 때 안경이 조리대 위의 재료를 식별하고 단계별 지침과 팁을 제공하여 요리 경험을 개선하고 필요한 재료를 모두 갖추도록 도울 수 있습니다.

그림 2. 곧 AR 안경에서 사용할 수 있는 SAM 2.

Segment Anything Model 2를 활용한 소나 영상 촬영#

SAM 모델을 활용한 연구에 따르면 소나 영상 촬영과 같은 특수 분야에 모델을 적용할 수 있는 것으로 나타났습니다. 소나 영상은 낮은 해상도, 높은 노이즈 수준, 영상 속 객체의 복잡한 형태로 인해 고유한 어려움이 따릅니다. 연구자들은 SAM을 소나 이미지에 맞게 파인튜닝하여 해양 쓰레기, 지질 구조, 기타 관심 대상 등 다양한 수중 객체를 정확하게 분할할 수 있음을 입증했습니다. 정밀하고 신뢰할 수 있는 수중 영상은 서식지 매핑, 유물 발견, 위협 탐지와 같은 작업을 위한 해양 연구, 수중 고고학, 수산 관리 및 감시에 활용될 수 있습니다.

그림 3. 파인튜닝된 SAM을 사용한 소나 이미지 분할 예시입니다.

SAM 2는 SAM이 직면한 여러 과제를 기반으로 이를 개선하므로, 소나 영상 분석을 더욱 발전시킬 가능성이 있습니다. 정밀한 분할 기능은 과학 연구와 어업을 비롯한 다양한 수중 애플리케이션에 도움이 될 수 있습니다. 예를 들어 SAM 2는 수중 구조물의 윤곽을 효과적으로 표시하고, 해양 쓰레기를 탐지하며, 전방 주시 소나 영상의 객체를 식별해 더욱 정확하고 효율적인 수중 탐사와 모니터링에 기여할 수 있습니다.

소나 영상 분석에 SAM 2를 사용할 때 기대할 수 있는 이점은 다음과 같습니다.

• 효율성: 수동 분할에 필요한 시간과 노력을 줄여 전문가가 분석과 의사 결정에 더 집중할 수 있도록 합니다.
• 일관성: 일관되고 재현 가능한 분할 결과를 제공하며, 이는 대규모 해양 연구와 모니터링에 필수적입니다.
• 다용성: 다양한 소나 이미지를 처리할 수 있어 해양 과학 및 산업의 여러 분야에 유용합니다.

소나 영상 처리 과정에 SAM 2를 통합하면 해양 산업은 수중 탐사와 분석의 효율성, 정확성, 신뢰성을 높일 수 있으며, 궁극적으로 해양 연구의 성과를 향상할 수 있습니다.

자율 주행 차량에 SAM 2 활용하기#

SAM 2의 또 다른 활용 분야는 자율주행차입니다. SAM 2는 보행자, 다른 차량, 도로 표지판, 장애물과 같은 객체를 실시간으로 정확하게 식별할 수 있습니다. SAM 2가 제공하는 세부 정보는 안전한 경로 탐색과 충돌 방지 결정을 내리는 데 필수적입니다. 시각 데이터를 정밀하게 처리하는 SAM 2는 환경에 대한 상세하고 신뢰할 수 있는 지도를 만드는 데 도움을 주며, 더 나은 의사결정으로 이어집니다.

그림 4. 분할을 활용한 교통 상황 이해.

다양한 조명 조건과 날씨 변화, 동적인 환경에서도 효과적으로 작동하는 SAM 2의 능력은 자율 주행 차량의 신뢰성을 높입니다. 혼잡한 도심 도로든 안개가 낀 고속도로든 SAM 2는 객체를 일관되고 정확하게 식별 및 분할하여 차량이 다양한 상황에 적절하게 대응하도록 합니다.

하지만 몇 가지 한계도 고려해야 합니다. 복잡하고 빠르게 움직이는 객체의 경우 SAM 2가 세부 정보를 놓칠 수 있으며, 프레임 간 예측이 불안정해질 수 있습니다. 또한 혼잡한 장면에서는 외형이 비슷한 여러 객체를 혼동할 때도 있습니다. 이러한 문제 때문에 자율 주행 분야에서는 추가 센서와 기술을 통합하는 것이 매우 중요합니다.

SAM 2를 활용한 환경 모니터링#

컴퓨터 비전을 활용한 환경 모니터링은 까다로울 수 있습니다. 특히 주석 처리된 데이터가 부족한 경우 더욱 그렇지만, 이 점이 SAM 2의 흥미로운 활용 분야가 되기도 합니다. SAM 2는 위성이나 드론 이미지에서 산림, 수역, 도시 지역, 농경지와 같은 다양한 환경 특성을 정확하게 분할하고 식별하여 자연 경관의 변화를 추적하고 분석하는 데 사용할 수 있습니다. 특히 정밀한 분할은 시간에 따른 삼림 벌채, 도시화, 토지 이용 변화의 모니터링을 지원하여 환경 보전과 계획 수립에 유용한 데이터를 제공합니다.

그림 5. 환경 모니터링에 SAM 2 사용.

SAM 2와 같은 모델을 사용해 시간에 따른 환경 변화를 분석하면 다음과 같은 이점을 얻을 수 있습니다.

• 조기 탐지: 환경 악화의 초기 징후를 식별해 추가 피해를 예방하기 위한 적시 개입이 가능하도록 합니다.
• 자원 관리: 다양한 환경 특성의 상태에 대한 상세한 정보를 제공하여 천연자원을 효율적으로 관리하도록 지원합니다.
• 생물 다양성 보전: 야생 동물을 추적하고 생물 다양성을 모니터링하여 보전 활동과 멸종 위기종 보호에 기여합니다.
• 재난 대응: 홍수, 산불, 허리케인과 같은 자연재해의 영향을 평가하고, 신속하고 효과적인 재난 대응 및 복구 계획 수립을 지원합니다.

SAM 2를 활용한 동영상 편집: 직접 사용해 보세요#

Segment Anything 2 데모는 동영상에서 모델을 직접 사용해 볼 수 있는 훌륭한 방법입니다. SAM 2의 PVS 기능을 활용해 오래된 Ultralytics YouTube 동영상에서 세 개의 객체 또는 사람을 분할하고 픽셀화했습니다. 기존 방식으로 동영상에서 세 사람을 편집해 제외하려면 시간이 오래 걸리고 번거로우며, 프레임마다 수동으로 마스킹해야 합니다. 하지만 SAM 2를 사용하면 이 과정이 간소화됩니다. 데모에서 몇 번만 클릭하면 몇 초 만에 관심 대상 세 개의 신원을 보호할 수 있습니다.

그림 6. SAM 2 데모 사용해 보기.

데모에서는 추적 대상으로 선택한 객체에 스포트라이트를 비추거나 추적 중인 객체를 지우는 등 몇 가지 시각 효과도 시험해 볼 수 있습니다. 데모가 마음에 들고 SAM 2로 혁신을 시작할 준비가 되었다면, 모델을 직접 사용해 보는 자세한 안내가 담긴 Ultralytics SAM 2 모델 문서 페이지를 확인해 보세요. 기능, 설치 단계, 예제를 살펴보고 프로젝트에서 SAM 2의 잠재력을 최대한 활용해 보세요. 이후 Meta는 텍스트 프롬프트 기반 개념 분할 기능을 추가한 SAM 3를 출시했습니다.

마무리#

Meta AI의 Segment Anything Model 2(SAM 2)는 동영상과 이미지 분할을 변화시키고 있습니다. 객체 추적과 같은 작업이 개선되면서 동영상 편집, 혼합 현실, 과학 연구, 의료 영상 분야에서 새로운 기회를 발견하고 있습니다. 복잡한 작업을 더 쉽게 만들고 어노테이션 속도를 높이는 SAM 2는 AI 커뮤니티의 중요한 도구가 될 전망입니다. SAM 2와 같은 모델을 계속 탐구하고 발전시켜 나가면 다양한 분야에서 더 많은 애플리케이션과 발전을 기대할 수 있습니다.

GitHub 저장소를 살펴보고 커뮤니티에 참여해 AI에 대해 더 알아보세요. 제조 및 의료 분야의 AI에 관한 상세한 정보를 확인하려면 솔루션 페이지를 살펴보세요.