컴퓨터 비전의 지도 학습과 비지도 학습 살펴보기

인공지능(AI)은 기계가 인간의 지능과 유사한 방식으로 학습하고 추론하도록 가르친다는 핵심 개념을 기반으로 합니다. 사람이 직접적인 지시를 받거나 패턴과 경험을 관찰하는 등 다양한 방법으로 배우듯, AI와 머신러닝 시스템도 같은 접근 방식을 따르도록 설계됩니다.

구체적으로, 머신러닝 알고리즘은 모든 작업에 대해 명시적으로 프로그래밍되는 대신 데이터에서 학습하도록 훈련됩니다. 머신러닝 모델은 고정된 규칙에 의존하는 대신 데이터에서 패턴을 식별하고, 이러한 패턴을 활용해 예측하거나 의사결정을 내립니다.

예를 들어, 컴퓨터 비전은 시스템이 이미지와 동영상 같은 시각 정보를 해석하고 이해하도록 하는 데 초점을 둔 AI 및 머신러닝 분야입니다. 객체 인식부터 대규모 데이터셋 전반의 숨겨진 패턴 식별까지, 이러한 시스템은 학습을 위해 어떻게 훈련되는지에 크게 좌우됩니다.

사용 가능한 데이터 유형과 해결하려는 문제에 따라 다양한 AI 학습 기법을 사용해 시스템을 훈련합니다.

일부 컴퓨터 비전 모델은 각 입력에 정답이 연결된 레이블 데이터로 학습합니다. 즉, 모든 이미지나 데이터 포인트에는 해당 데이터가 무엇을 나타내는지 알려주는 사전 정의된 레이블이 있습니다. 이를 통해 모델은 입력과 예상 출력 간의 관계를 학습하고, 새롭게 접하는 데이터에 대해 정확한 예측을 수행하는 능력을 높입니다.

다른 비전 모델은 사전 정의된 정답이 없는 레이블 미지정 데이터로 학습하며, 대신 데이터 자체의 패턴과 관계를 식별하는 데 집중합니다. 이러한 접근 방식은 각각 지도 학습과 비지도 학습이라고 하며, 최첨단 컴퓨터 비전 시스템 다수의 기반이 됩니다.

이 글에서는 지도 학습과 비지도 학습, 컴퓨터 비전에서의 활용 방법, 그리고 비전 AI 프로젝트에 가장 적합한 접근 방식을 선택하는 방법을 살펴보겠습니다. 시작해 보겠습니다!

AI 학습 접근 방식이 컴퓨터 비전을 구동하는 방법#

인공지능은 일반적으로 인간의 지능이 필요한 작업을 기계가 수행하도록 하는 다양한 기술을 포괄하는 우산과 같다고 생각할 수 있습니다. 이 우산 아래에서 머신러닝은 고정된 규칙에만 의존하지 않고 시스템이 데이터로부터 학습할 수 있게 하는 핵심 분야입니다.

머신러닝에서는 다양한 학습 기법이 모델의 학습 방식과 시간에 따른 성능 향상 방식을 결정합니다. 지도 학습(정답이 포함된 레이블 데이터로 학습), 비지도 학습(레이블이 없는 데이터에서 패턴 식별), 강화 학습(피드백이나 보상을 이용한 시행착오 학습), 준지도 학습(소량의 레이블 데이터와 다량의 레이블 미지정 데이터 결합) 등의 접근 방식은 시스템이 입력 데이터를 처리하고 출력 데이터를 생성하는 방식을 정의합니다.

그림 1. AI 학습 방법 개요 (출처)

특히 컴퓨터 비전 시스템은 이러한 학습 접근 방식을 활용해 시각 데이터를 해석하고 이해하도록 구축됩니다. 지도 학습은 모델이 명확하게 레이블링된 예시로부터 학습하고 정확하고 신뢰할 수 있는 결과를 낼 수 있어 가장 널리 사용되는 방법입니다.

예를 들어, “고양이”와 “개”로 레이블링된 이미지로 모델을 훈련하면 형태, 귀, 얼굴 구조 등의 특징을 학습하여 분류 알고리즘을 사용해 새로운 이미지를 정확하게 분류할 수 있습니다. 한편, 비지도 학습과 준지도 학습도 컴퓨터 비전에서 활용되며, 데이터의 패턴을 탐색하거나 레이블 데이터가 제한적일 때 성능을 향상하는 데 자주 사용됩니다.

컴퓨터 비전에서 지도 학습 모델을 사용하는 방법 살펴보기#

지도 학습 알고리즘은 교사가 학생에게 예시와 정답을 제공해 옳고 그른 것을 배울 수 있도록 돕는 교실 수업에 비유할 수 있습니다. 머신러닝 모델도 레이블 데이터에서 각 입력에 알려진 출력이 연결된 유사한 방식으로 학습합니다.

야구 경기 분석을 자동화하는 컴퓨터 비전 시스템을 구축한다고 가정해 보겠습니다. 공, 방망이, 선수 등의 객체에 레이블이 지정된 이미지나 비디오 프레임으로 Ultralytics YOLO26과 같은 모델을 훈련할 수 있습니다.

각 객체에는 위치와 범주가 표시되어 모델이 무엇을 찾아야 하는지 학습할 수 있습니다. 시간이 지나면 모델이 새로운 영상에서 이러한 객체를 탐지하고 위치를 파악하여 프레임 전반의 공 추적 및 선수 탐지와 같은 활용 사례를 지원할 수 있습니다.

그림 2. 지도 학습으로 구현한 객체 탐지 예시 (출처)

객체 탐지 외에도 지도 학습은 이미지 분류, 인스턴스 분할, 자세 추정 등 정확성과 일관성이 중요한 다양한 컴퓨터 비전 작업에서 널리 사용됩니다. 이러한 각 작업에서 모델은 레이블 데이터로 학습하여 특정 패턴을 식별하고 새로운 입력에 대해 신뢰할 수 있는 예측을 수행합니다.

이러한 모델은 일반적으로 데이터에서 직접 패턴을 학습하는 신경망을 사용하는 머신러닝 유형인 딥러닝으로 구축됩니다. 신경망은 인간의 뇌 작동 방식에서 대략적인 영감을 얻어 정보를 처리하도록 설계되었으며, 이를 통해 모델은 대규모 데이터셋에서 복잡한 시각적 특징을 학습할 수 있습니다.

초기 컴퓨터 비전 접근 방식은 흔히 수작업으로 설계한 특징과 서포트 벡터 머신(SVM, 범주 간 최적의 경계를 찾아 데이터를 분류하는 모델)이나 결정 트리(데이터를 여러 가지로 나누어 분기하면서 의사결정을 내리는 모델) 같은 알고리즘을 함께 사용했습니다.

반면 오늘날의 컴퓨터 비전 모델은 딥러닝을 사용해 데이터에서 이러한 특징을 자동으로 학습하므로, 대규모의 세밀한 시각 작업을 더 효과적으로 처리할 수 있습니다.

비전 AI에서 비지도 학습 모델이 필요한 이유 이해하기#

지도 학습은 컴퓨터 비전에서 가장 널리 선택되는 접근 방식이지만, 레이블 데이터가 없거나 데이터를 만드는 데 비용과 시간이 지나치게 많이 드는 비전 애플리케이션도 있습니다.

이러한 경우 비지도 학습 알고리즘이 유용한 대안이 될 수 있습니다. 야생동물 카메라로 촬영한 레이블 미지정 사진이 많이 있다고 가정해 보겠습니다.

각 이미지에 무엇이 담겨 있는지 나타내는 레이블은 없지만 데이터를 정리하거나 이해하고 싶을 수 있습니다. 비지도 모델은 이러한 이미지를 분석하고 비슷한 이미지끼리 그룹화하여, 정확한 레이블을 몰라도 서로 닮은 동물들을 군집으로 구분할 수 있습니다.

컴퓨터 비전에서 비지도 학습이 작동하는 방식#

그렇다면 비지도 머신러닝은 어떻게 작동할까요? 모델은 정답으로 학습하는 대신 데이터 자체의 패턴과 구조를 독립적으로 식별하며 학습합니다. 레이블이 지정된 예시에 의존하지 않고 데이터 전반의 유사점과 차이점을 찾습니다.

일반적인 활용 사례는 이상 탐지입니다. 모델이 정상 데이터의 특성을 학습한 다음 그 특성에서 벗어나는 항목을 식별합니다. 이상 및 이상치 탐지는 영향력이 큰 산업 응용 분야 중 하나입니다. 제조 라인의 결함 제품 탐지, 방사선 전문의의 검토가 필요한 비정상 의료 영상 표시, 감시 영상에서 의심스러운 활동 탐지 등이 그 예입니다. 결함과 이상 현상은 드물고 다양하게 나타나는 경우가 많으므로 가능한 모든 사례에 레이블을 지정하는 것은 현실적이지 않습니다. 따라서 비지도 접근 방식이 자연스러운 선택이 됩니다.

이를 위해 원본 이미지 자체보다는 이미지에서 추출한 특징에 클러스터링 및 차원 축소 같은 기법을 적용하는 경우가 많습니다. k-means 클러스터링과 같은 클러스터링 방법은 공통 패턴을 바탕으로 비슷한 이미지를 그룹화하고, 주성분 분석(PCA)과 같은 차원 축소 기법은 가장 중요한 특징에 집중해 데이터를 단순화합니다.

이를 통해 모델은 크고 복잡한 데이터셋에서 의미 있는 패턴과 구조를 더 쉽게 식별할 수 있습니다. 비지도 학습의 주요 장점은 레이블 미지정 데이터에서도 잘 작동하고 즉시 드러나지 않는 패턴을 찾아낼 수 있다는 것입니다. 그러나 지도 학습에 비해 평가하기 어렵고 최종 출력에 대한 제어력이 낮습니다.

컴퓨터 비전의 자기 지도 학습과 준지도 학습#

지도 학습과 비지도 학습을 살펴보다 보면 두 방식의 중간 지점이 있는지 궁금할 수 있습니다. 흥미롭게도 자기 지도 학습과 준지도 학습은 지도 학습과 비지도 학습 사이의 간극을 메워 줍니다.

이러한 접근 방식은 모델이 레이블 미지정 데이터로 더 효과적으로 학습할 수 있게 합니다. 레이블이 있는 예시에만 의존하는 대신 데이터에서 자체 학습 작업을 생성하거나, 소규모 레이블 데이터셋과 더 큰 레이블 미지정 데이터셋을 결합합니다.

자기 지도 학습에서는 데이터 자체에서 만든 작업을 해결하며 모델이 학습합니다. 예를 들어, 일부가 빠진 이미지를 입력받아 그 공간에 무엇이 들어가야 하는지 예측하거나 동일한 객체의 서로 다른 시점을 인식하도록 학습할 수 있습니다. 이를 통해 모델은 수동으로 레이블을 지정하지 않아도 유용한 특징을 학습할 수 있습니다.

반면 준지도 학습에서는 소량의 레이블 데이터를 더 많은 레이블 미지정 데이터와 함께 사용해 성능을 향상합니다. 경우에 따라 모델이 레이블 미지정 데이터에 레이블을 생성하고 이를 이용해 학습을 이어갈 수 있습니다.

이러한 접근 방식의 주요 이점은 만드는 데 비용과 시간이 많이 드는 대규모 레이블 데이터셋의 필요성을 줄인다는 것입니다. 그러나 완전 지도 방식에 비해 설계와 평가가 더 복잡할 수 있습니다.

지도 학습과 비지도 학습의 주요 차이점#

지도 학습과 비지도 학습의 차이는 모델이 학습하는 방식과 달성하려는 목표에 있습니다. 지도 학습은 특정 작업을 학습하기 위해 레이블 데이터와 명확한 지침에 의존하지만, 비지도 학습은 사전 정의된 정답 없이 데이터 내 패턴과 구조를 발견하는 데 집중합니다.

예를 들어 교통 모니터링 시스템에서는 레이블이 지정된 이미지로 지도 학습 모델을 훈련해 차량, 보행자 또는 교통 신호를 탐지할 수 있습니다. 반면 비지도 모델은 대량의 영상 데이터를 분석해 비슷한 교통 패턴을 그룹화하거나, 예상치 못한 혼잡이나 비정상적인 움직임 같은 특이 사례를 탐지할 수 있으며 무엇을 찾아야 하는지 명시적으로 지정할 필요가 없습니다.

컴퓨터 비전에서 지도 학습을 사용하는 경우#

지도 학습은 목표가 명확하고 모델이 입력 데이터를 정확한 출력으로 매핑해야 하는 컴퓨터 비전 작업에 적합합니다. 신뢰할 수 있는 레이블 데이터셋이 있고 일관되고 예측 가능한 결과가 필요할 때 특히 효과적입니다.

그림 3. 지도 학습을 기반으로 하는 컴퓨터 비전 작업 (출처)

모델이 알려진 범주를 구분하거나 특정 결과를 예측해야 하는 문제에 흔히 사용됩니다. 패턴 탐색보다는 레이블 데이터에서 정밀한 관계를 학습하는 데 중점을 두므로, 모델이 원하는 결과를 내도록 유도하기 쉽습니다.

또 다른 주요 장점은 제어력입니다. 지도 학습을 사용하면 명확한 지표로 성능을 측정하고, 모델을 미세 조정하며, 배포 중 안정적인 동작을 보장하기가 더 쉽습니다. 따라서 시간이 지나도 일관성과 신뢰성이 필요한 시스템에 적합합니다.

그러나 여기에는 상충 관계가 따릅니다. 모델은 레이블 데이터의 품질과 규모에 크게 좌우되며, 이러한 데이터를 수집하고 어노테이션하는 데 시간이 많이 걸릴 수 있습니다.

실제 환경에서의 지도 학습 컴퓨터 비전 사례#

Ultralytics YOLO 모델과 같은 비전 AI 모델은 특히 실시간 애플리케이션에서 높은 정확도로 객체 탐지 등의 작업을 수행하기 위해 지도 학습을 사용합니다. 지도 학습이 중요한 역할을 하는 실제 비전 활용 사례는 다음과 같습니다.

• 의료 및 의료 영상: 의사는 X선이나 MRI처럼 레이블이 지정된 스캔으로 훈련된 컴퓨터 비전 시스템을 사용할 수 있습니다. 분류기는 종양이나 골절과 같은 질환을 식별해 더 빠르고 정확한 진단을 지원합니다.
• 산업 품질 검사: 제조 환경에서 레이블 데이터로 훈련된 비전 시스템은 형태, 표면 결함, 질감, 크기 등 품질과 관련된 여러 특징을 분석해 제품을 검사할 수 있습니다. 양품과 불량품의 사례로 학습하면 이러한 시스템은 결함을 일관되게 식별하고 생산 기준을 유지할 수 있습니다.
• 자율주행: 자율주행 시스템은 레이블이 지정된 주행 데이터로 훈련된 모델을 사용해 차선, 차량, 보행자, 교통 표지판을 인식하며, 이를 통해 차량이 실시간으로 안전하게 주행할 수 있도록 지원합니다.
• 소매 및 계산 시스템: 매장에서는 레이블이 지정된 제품 이미지로 훈련된 모델을 사용해 진열대나 계산대의 상품을 식별함으로써 자동 결제와 효율적인 재고 관리를 실현합니다. 이러한 시스템은 추가 데이터와 결합하면 고객 세분화 등의 작업도 지원하여 기업이 쇼핑 패턴을 더 잘 파악할 수 있도록 돕습니다.
• 농업 및 작물 모니터링: 농부는 레이블이 지정된 이미지로 훈련된 모델을 사용해 작물을 탐지하고 분류할 수 있습니다. 예를 들어 건강한 감자와 손상된 감자를 식별하고 개수를 세어 품질 관리를 개선하고 손실을 줄일 수 있습니다.

그림 4. YOLO를 사용한 건강한 감자와 불량 감자의 탐지 및 개수 계산

컴퓨터 비전의 어떤 문제를 비지도 학습으로 해결할 수 있을까요?#

레이블 데이터가 충분하지 않거나 데이터에 명확한 정답이 없는 경우 비지도 학습이 유용합니다. 이러한 상황의 목표는 정확한 예측을 하는 것이 아니라 데이터의 패턴과 구조를 이해하는 것입니다.

레이블 미지정 데이터셋을 처음 탐색할 때 자주 사용됩니다. 모델에 무엇을 찾아야 하는지 알려주는 대신 유사성을 식별하고 관련 이미지를 그룹화하거나 특이한 패턴을 스스로 강조 표시하도록 합니다.

대규모 이미지 컬렉션에서는 비지도 접근 방식으로 유사한 이미지를 함께 정리하거나 추가 검토가 필요한 이상치를 표시할 수 있습니다. 따라서 데이터 과학 프로젝트의 유용한 출발점이 됩니다.

GAN, 변분 오토인코더, 디퓨전 모델을 비롯한 생성 모델은 이미지의 기본 분포를 학습해 완전히 새로운 이미지를 생성합니다. 이러한 모델은 이미지 합성, 인페인팅, 초해상도, 스타일 전이와 같은 애플리케이션을 지원하며 오늘날 생성형 AI 시스템의 기반이 됩니다.

비지도 분할에서는 일부 방법이 레이블이 지정된 마스크에 의존하지 않고 픽셀이나 영역을 일관된 세그먼트로 그룹화합니다. 이러한 방법은 어노테이션 비용이 지나치게 많이 들거나 사전 정의된 범주에 맞추기보다 구조를 발견하는 것이 목표일 때 유용합니다.

비지도 학습은 레이블 지정에 시간이 많이 들거나 현실적으로 불가능한 대규모 데이터셋을 다룰 때도 큰 효과를 발휘합니다. 이러한 경우 레이블이 지정된 훈련 데이터에 의존하지 않고 데이터에서 인사이트를 얻을 수 있습니다.

또한 이미지, 텍스트, 오디오와 같은 새로운 데이터를 생성하는 모델인 생성형 AI와 원시 데이터에서 유용한 특징이나 패턴을 학습하는 표현 학습 등의 분야에서도 흔히 사용됩니다. 이러한 분야에서는 모델이 대량의 데이터에서 일반적인 특징을 학습합니다. 전반적으로 문제에 탐색, 패턴 발견 또는 레이블 미지정 데이터 활용이 포함된다면 비지도 학습은 유연하고 실용적인 접근 방식입니다.

컴퓨터 비전에서 비지도 학습을 적용하는 실제 사례#

컴퓨터 비전에 비지도 학습을 적용하는 활용 사례는 다음과 같습니다.

• 제조 분야의 이상 탐지: 모델은 정상 제품의 모습을 학습하고 가능한 모든 결함 사례에 대한 레이블이 없어도 결함이나 이상을 표시할 수 있습니다.
• 이미지 정리 및 검색: 사진 라이브러리나 전자상거래 카탈로그와 같은 대규모 이미지 컬렉션을 시각적 유사성에 따라 자동으로 그룹화할 수 있어 데이터 과학자가 대규모 데이터셋을 정리하고 탐색하며 검색하기가 쉬워집니다.
• 감시 및 보안: 시스템은 레이블이 지정된 이벤트로 명시적으로 훈련하지 않아도 영상 데이터를 분석해 예상치 못한 움직임이나 군중 변화처럼 비정상적인 패턴이나 행동을 식별할 수 있습니다.
• 전처리 및 데이터 탐색: 지도 학습 모델을 훈련하기 전에 원시 이미지 데이터를 탐색하고 구조화하는 데 비지도 방법을 자주 사용하여 데이터 품질을 개선하고 수작업을 줄입니다.

지도 학습과 비지도 학습의 실질적인 한계#

두 학습 접근 방식 모두 장점이 있지만 고려해야 할 한계도 있습니다. 컴퓨터 비전 모델을 구축할 때 염두에 둘 실질적인 요소는 다음과 같습니다.

• 지도 학습 모델의 과적합: 지도 학습에서는 모델이 일반적인 패턴을 학습하는 대신 훈련 데이터에 지나치게 맞춰 학습할 수 있습니다. 데이터셋이 작거나 충분히 다양하지 않을 때 흔히 발생합니다. 예를 들어 한 종류의 제품에서 결함을 탐지하도록 훈련된 모델은 제품이나 조명 조건이 약간 다른 새 데이터를 대상으로 테스트할 때 제대로 작동하지 않을 수 있습니다.
• 클러스터링 알고리즘의 문제: 비지도 학습에서 모델은 비슷한 데이터 포인트를 함께 그룹화할 수 있습니다. 하지만 데이터에 노이즈가 있거나 일관성이 없거나 명확한 구조가 없으면 성능이 저하될 수 있습니다. 예를 들어 이미지 그룹화 작업에서 색상은 비슷하지만 객체가 서로 다른 이미지가 잘못 묶일 수 있습니다.
• 적절한 전처리의 중요성: 훈련 전에 데이터를 정리하고 준비해야 합니다. 일반적으로 이미지 처리와 데이터 변환을 담당하는 Python 라이브러리를 사용합니다. 이미지의 크기, 품질, 조명이 서로 다를 수 있는 컴퓨터 비전에서는 특히 중요합니다. 적절한 전처리가 없으면 모델이 의미 있는 패턴 대신 노이즈로부터 학습하여 성능이 저하될 수 있습니다.

핵심 요점#

컴퓨터 비전에서 지도 학습과 비지도 학습은 모두 중요한 역할을 합니다. 적합한 접근 방식은 데이터가 레이블 지정되었는지 여부와 같은 데이터 유형뿐 아니라 해결하려는 문제와 배포 요구 사항에 따라 달라집니다.

목표가 높은 정확도와 명확하게 정의된 출력이라면 지도 머신러닝이 더 나은 선택인 경우가 많습니다. 데이터를 탐색하거나 레이블 없이 작업한다면 비지도 학습이 더 적합할 수 있습니다.

AI에 대해 더 알고 싶으신가요? 커뮤니티와 GitHub 리포지토리를 살펴보세요. 솔루션 페이지에서 로보틱스 분야의 AI와 농업 분야의 컴퓨터 비전에 대해 알아보세요. 라이선스 옵션을 확인하고 지금 바로 컴퓨터 비전 구축을 시작하세요!