Capsule Networks (CapsNet)

캡슐 네트워크(Capsule Networks, 보통 CapsNets로 줄여 부름)는 전통적인 신경망의 특정 한계를 극복하도록 설계된 딥러닝 분야의 고급 아키텍처를 나타냅니다. 제프리 힌턴(Geoffrey Hinton)과 그의 팀이 도입한 CapsNets는 인간 뇌의 생물학적 신경 조직을 표준 모델보다 더 가깝게 모방하려고 시도합니다. 특징 감지에는 뛰어나지만 다운샘플링으로 인해 공간적 관계를 종종 잃어버리는 전형적인 합성곱 신경망(CNN)과 달리, 캡슐 네트워크는 뉴런을 "캡슐"이라는 그룹으로 구성합니다. 이 캡슐은 객체 존재의 확률뿐만 아니라 방향, 크기, 질감 같은 특정 속성도 인코딩하여 시각적 데이터 내의 계층적 공간 관계를 효과적으로 보존합니다.

기존 CNN의 한계#

CapsNets의 혁신을 이해하려면 표준 컴퓨터 비전 모델이 작동하는 방식을 살펴보는 것이 도움이 됩니다. 기존 CNN은 계산 부하를 줄이고 이동 불변성을 달성하기 위해 특징 추출 레이어와 풀링 레이어(특히 최대 풀링(max pooling))를 사용합니다. 이는 CNN이 이미지 내 어디에 있든 상관없이 "고양이"를 식별할 수 있음을 의미합니다.

그러나 이 과정은 종종 정확한 위치 데이터를 폐기하여 "피카소 문제"로 이어집니다. 필요한 모든 특징이 존재하기 때문에 CNN은 입이 이마에 있더라도 얼굴을 올바르게 분류할 수 있습니다. CapsNets는 풀링 레이어를 제거하고 객체의 공간 계층 구조를 존중하는 프로세스로 대체함으로써 이 문제를 해결합니다.

캡슐 네트워크의 작동 방식#

이 아키텍처의 핵심 구성 요소는 스칼라 값 대신 벡터를 출력하는 중첩된 뉴런 세트인 캡슐입니다. 벡터 수학에서 벡터는 크기와 방향을 모두 가집니다. CapsNet에서:

• 크기(길이): 현재 입력에 특정 엔티티가 존재할 확률을 나타냅니다.
• 방향(Orientation): 객체의 자세 추정(pose estimation), 스케일 및 회전과 같은 인스턴스화 매개변수를 인코딩합니다.

하위 레이어의 캡슐(가장자리 같은 단순한 모양 감지)은 상위 레이어의 캡슐(눈이나 타이어 같은 복잡한 객체 감지)의 출력을 예측합니다. 이 통신은 "동적 라우팅(dynamic routing)" 또는 "일치에 의한 라우팅(routing by agreement)"이라는 알고리즘으로 관리됩니다. 하위 레벨 캡슐의 예측이 상위 레벨 캡슐의 상태와 일치하면 둘 사이의 연결이 강화됩니다. 이를 통해 네트워크는 CNN에 회전과 스케일에 대해 가르치는 데 보통 필요한 대규모 데이터 증강(data augmentation) 없이도 다양한 3D 시점에서 객체를 인식할 수 있습니다.

주요 차이점: CapsNet vs CNN#

두 아키텍처 모두 컴퓨터 비전(CV)의 기초가 되지만, 시각적 데이터를 처리하고 표현하는 방식에서 차이가 있습니다:

• 스칼라 vs. 벡터: CNN 뉴런은 스칼라 출력을 사용하여 특징 존재 여부를 나타냅니다. CapsNet은 벡터를 사용하여 존재 여부(길이)와 자세 매개변수(방향)를 인코딩합니다.
• 라우팅 대 풀링: CNN은 데이터를 다운샘플링하기 위해 풀링을 사용하여 위치 세부 정보를 잃어버리는 경우가 많습니다. CapsNets는 동적 라우팅을 사용하여 공간 데이터를 보존하므로 정밀한 객체 추적(object tracking)이 필요한 작업에 매우 효과적입니다.
• 데이터 효율성: 캡슐은 3D 시점과 아핀 변환(affine transformations)을 암시적으로 이해하기 때문에 객체의 모든 가능한 회전을 학습하기 위해 광범위한 예제가 필요할 수 있는 CNN에 비해 더 적은 훈련 데이터로부터 일반화할 수 있는 경우가 많습니다.

실제 애플리케이션 사례#

CapsNets는 YOLO26과 같은 최적화된 모델보다 계산 비용이 더 많이 드는 경우가 많지만, 특화된 영역에서 뚜렷한 장점을 제공합니다:

1. 의료 이미지 분석: 헬스케어에서는 이상의 정확한 방향과 모양이 매우 중요합니다. 연구원들은 표준 CNN이 평탄화할 수 있는 미묘한 공간 계층 구조를 기반으로 모델이 주변 조직과 종양을 구별해야 하는 뇌 종양 분할(brain tumor segmentation)에 CapsNets를 적용했습니다. 의료 영상의 캡슐 네트워크(Capsule Networks in Medical Imaging)에 대한 관련 연구를 살펴볼 수 있습니다.

2. 겹치는 숫자 인식: CapsNets는 숫자가 겹치는 시나리오에서 특히 MNIST 데이터셋에 대해 최첨단 결과를 달성했습니다. 네트워크가 각 숫자의 "포즈"를 추적하기 때문에, 두 개의 겹치는 숫자(예: '5' 위에 있는 '3')를 단일한 혼란스러운 특징 맵으로 병합하는 대신 별개의 객체로 분리할 수 있습니다.

실제 컨텍스트 및 구현#

캡슐 네트워크는 주로 분류 아키텍처입니다. 이론적인 견고함을 제공하지만, 현대 산업 애플리케이션은 실시간 성능을 위해 고속 CNN이나 Transformer를 선호하는 경우가 많습니다. 그러나 CapsNet에 사용되는 MNIST와 같은 분류 벤치마크를 이해하는 것은 유용합니다.

다음 예제는 ultralytics 패키지를 사용하여 MNIST 데이터셋에서 현대적인 YOLO 분류 모델을 훈련하는 방법을 보여줍니다. 이는 캡슐 네트워크를 검증하는 데 사용되는 기본 벤치마크 작업과 유사합니다.

from ultralytics import YOLO

# Load a YOLO26 classification model (optimized for speed and accuracy)
model = YOLO("yolo26n-cls.pt")

# Train the model on the MNIST dataset
# This dataset helps evaluate how well a model learns handwritten digit features
results = model.train(data="mnist", epochs=5, imgsz=32)

# Run inference on a sample image
# The model predicts the digit class (0-9)
predict = model("https://docs.ultralytics.com/datasets/classify/mnist/")

캡슐과 비전 AI의 미래#

캡슐 네트워크의 이면에 있는 원리는 AI 안전성 및 해석 가능성 연구에 계속해서 영향을 미치고 있습니다. 부분-전체 관계를 명시적으로 모델링함으로써 캡슐은 심층 신경망의 "블랙박스" 본질에 대한 "유리 상자" 대안을 제공하여 결정을 더 설명 가능하게 만듭니다. 향후 개발에서는 캡슐의 공간적 강건함과 YOLO11 또는 최신 YOLO26과 같은 아키텍처의 추론 속도를 결합하여 3D 객체 검출(3D object detection) 및 로보틱스 성능을 향상시키는 것을 목표로 합니다. 연구원들은 또한 합의 알고리즘의 계산 비용을 더욱 줄이기 위해 EM 라우팅을 사용하는 매트릭스 캡슐(Matrix Capsules with EM Routing)을 탐구하고 있습니다.

데이터셋을 관리하고 모델을 효율적으로 훈련하려는 개발자를 위해 Ultralytics Platform은 데이터를 주석 처리하고, 클라우드에서 훈련하며, CNN의 속도와 복잡한 비전 작업에 필요한 정확도의 균형을 맞추는 모델을 배포할 수 있는 통합 환경을 제공합니다.