Residual Networks (ResNet)

ResNet으로 널리 알려진 Residual Network는 극도로 깊은 네트워크의 학습을 가능하게 하도록 설계된 인공 신경망(ANN) 아키텍처의 한 종류입니다. 2015년 Microsoft 연구원들이 도입한 ResNet은 소실 기울기 문제(vanishing gradient problem)로 알려진 딥러닝의 중대한 병목 현상을 해결했습니다. 전통적인 네트워크에서는 레이어를 더 많이 쌓을 경우 레이어를 거쳐 역방향으로 전파되는 모델 가중치(model weights) 업데이트 신호가 사라지기 때문에 성능 포화나 저하로 이어지는 경우가 많았습니다. ResNet은 데이터가 하나 이상의 레이어를 우회하여 후속 처리 단계로 직접 흐를 수 있도록 하는 "스킵 연결(skip connection)"(또는 잔차 연결)을 도입했습니다. 이 혁신은 더 깊은 네트워크를 효과적으로 학습할 수 있음을 증명했으며, 컴퓨터 비전(CV) 분야에서 중요한 돌파구를 마련하고 현대 아키텍처의 근본적인 개념이 되었습니다.

핵심 개념: 잔차 학습(Residual Learning)#

ResNet의 가장 큰 특징은 "잔차 블록(residual block)"입니다. 표준 합성곱 신경망(CNN)에서 각 레이어는 입력에서 출력으로의 직접 매핑을 학습하려고 시도합니다. 네트워크가 깊어질수록 이 직접 매핑을 학습하는 것은 점점 더 어려워집니다.

ResNet은 학습 목표를 다르게 공식화하여 이 접근 방식을 변경합니다. 각 레이어 스택이 전체 기본 매핑을 학습하기를 바라는 대신, 잔차 블록은 레이어가 입력과 원하는 출력 사이의 "잔차(residual)"(즉, 차이)를 학습하도록 강제합니다. 그런 다음 원래 입력은 스킵 연결을 통해 학습된 잔차에 다시 더해집니다. 이 구조적 변경은 항등 매핑(입력을 변경하지 않고 전달)이 최적일 경우 네트워크가 잔차를 0으로 푸는 것을 쉽게 학습할 수 있음을 의미합니다. 이를 통해 딥学习(DL) 모델을 훨씬 더 쉽게 최적화할 수 있으며, 수십 개에서 수백 개 또는 수천 개의 레이어로 확장할 수 있습니다.

주요 아키텍처 변형#

출시 이후, 여러 ResNet 변형이 AI 커뮤니티의 표준 벤치마크가 되었습니다.

• ResNet-50: "병목(bottleneck)" 디자인을 활용하는 50개 레이어 버전입니다. 이 디자인은 1x1 합성곱을 사용하여 차원을 줄였다가 복원함으로써 높은 정확도(accuracy)를 유지하면서 네트워크를 계산상 효율적으로 만듭니다.
• ResNet-101 및 ResNet-152: 각각 101개와 152개의 레이어를 가진 더 깊은 변형입니다. 이들은 더 복잡한 피처 맵(feature maps)을 캡처하기 위해 컴퓨팅 리소스가 더 높은 복잡성을 허용할 때 자주 사용됩니다.
• ResNeXt: 잔차 블록을 여러 병렬 경로로 분할하여 "카디널리티(cardinality)" 차원을 도입함으로써 효율성과 성능을 향상시킨 ResNet의 발전된 형태입니다.

실제 애플리케이션 사례#

ResNet 아키텍처의 견고함 덕분에 다양한 시각적 작업에서 가장 선호되는 선택지가 되었습니다.

• 의료 영상 분석(Medical Image Analysis): 의료 분야에서는 고해상도 스캔에서 미세한 이상을 식별하는 것이 중요합니다. ResNet 기반 모델은 의료 영상의 종양 검출과 같은 상태를 감지하는 데 자주 채택되며, 여기서 네트워크의 깊이는 MRI 또는 CT 데이터의 미세한 패턴을 구별하는 데 도움이 됩니다.
• 자율주행차(Autonomous Vehicles): 자율주행차는 보행자, 표지판, 장애물을 식별하기 위해 카메라 피드에서 신뢰할 수 있는 피처 추출이 필요합니다. ResNet은 종종 자동차 분야의 AI 애플리케이션에서 객체 감지 시스템의 백본(backbone) 역할을 하여 안전한 주행에 필요한 풍부한 시각적 기능을 제공합니다.

ResNet과 다른 아키텍처 비교#

ResNet의 구체적인 용도를 이해하기 위해 다른 인기 있는 아키텍처와 구별하는 것이 도움이 됩니다.

• ResNet 대 VGG: VGG(Visual Geometry Group) 네트워크 역시 깊은 CNN이지만 잔차 연결이 없습니다. 결과적으로 ResNet과 비슷한 깊이에서 학습하기가 훨씬 어렵고, 큰 완전 연결 레이어로 인해 일반적으로 계산 비용이 더 많이 듭니다.
• ResNet 대 Inception: Inception 네트워크는 너비에 초점을 맞추며, 동일한 레이어 내에서 다양한 크기의 필터를 사용하여 다양한 스케일의 피처를 캡처합니다. ResNet은 깊이에 초점을 맞춥니다. Inception-ResNet과 같은 현대 아키텍처는 두 개념을 모두 결합합니다.
• ResNet 대 비전 트랜스포머(ViT): ViT는 셀프 어텐션 메커니즘을 사용하여 이미지를 전역적으로 처리하는 반면, ResNet은 로컬 합성곱에 의존합니다. 그러나 ResNet은 여전히 강력한 기준선으로 남아 있으며 더 작은 데이터셋이나 실시간 추론(inference)에 종종 더 빠릅니다.

구현 예시#

PyTorch와 같은 현대 딥러닝 라이브러리를 사용하면 사전 학습된 ResNet 모델에 쉽게 접근할 수 있습니다. 이러한 모델은 ImageNet과 같은 대규모 데이터셋에서 학습된 모델을 특정 작업에 맞게 미세 조정하는 전이 학습(transfer learning)에 매우 유용합니다.

다음 Python 스니펫은 torchvision(PyTorch 생태계의 일부)을 사용하여 사전 학습된 ResNet-50 모델을 로드하고 간단한 순방향 패스를 수행하는 방법을 보여줍니다. Ultralytics Platform 사용자는 감지를 위해 YOLO26을 자주 사용할 수 있지만, 고급 사용자 정의를 위해서는 ResNet과 같은 기본 백본 개념을 이해하는 것이 중요합니다.

import torch
import torchvision.models as models

# Load a pre-trained ResNet-50 model
resnet50 = models.resnet50(weights=models.ResNet50_Weights.DEFAULT)
resnet50.eval()  # Set model to evaluation mode

# Create a dummy input tensor (batch_size, channels, height, width)
input_tensor = torch.randn(1, 3, 224, 224)

# Perform a forward pass to get predictions
with torch.no_grad():
    output = resnet50(input_tensor)

print(f"Output shape: {output.shape}")  # Expect [1, 1000] for ImageNet classes

현대 AI에서의 중요성#

YOLO26과 같은 최신 아키텍처가 최고 속도와 정확도를 위해 고도로 최적화된 구조를 채택하고 있지만, 잔차 학습의 원리는 여전히 어디에나 존재합니다. 스킵 연결 개념은 이제 자연어 처리(NLP)에 사용되는 트랜스포머와 최신 객체 감지 모델을 포함한 많은 고급 네트워크의 표준 구성 요소입니다. 정보가 네트워크를 통해 더 자유롭게 흐르도록 함으로써 ResNet은 오늘날의 인공 지능을 구동하는 깊고 복잡한 모델의 기반을 마련했습니다.