EfficientNet이란 무엇인가요? 빠른 개요

2019년 Google AI의 연구자들은 이미지에서 객체와 패턴을 인식하도록 설계된 최첨단 컴퓨터 비전 모델인 EfficientNet을 소개했습니다. EfficientNet은 주로 이미지 분류를 위해 설계되었으며, 이미지 분류는 이미지를 사전에 정의된 여러 카테고리 중 하나로 할당하는 작업입니다. 그러나 오늘날 EfficientNet은 객체 감지, 세그멘테이션, 전이 학습과 같은 더 복잡한 작업의 백본으로도 사용됩니다.

EfficientNet 이전에는 이러한 머신 러닝 및 비전 AI 모델이 레이어를 더 추가하거나 레이어의 크기를 키워 정확도를 향상하려고 했습니다. 레이어는 데이터를 처리하여 패턴을 학습하고 정확도를 높이는 신경망 모델(인간의 뇌에서 영감을 얻은 딥 러닝 모델의 한 유형)의 단계입니다.

이러한 변경은 상충 관계를 만들어 기존 AI 모델을 더 크고 느리게 했지만, 필요한 컴퓨팅 성능이 크게 증가한 것에 비해 추가된 정확도는 미미한 경우가 많았습니다.

EfficientNet은 다른 접근 방식을 취했습니다. 깊이(레이어 수), 너비(각 레이어의 유닛 수), 이미지 해상도(입력 이미지의 세부 수준)를 균형 있게 함께 증가시켰습니다. 컴파운드 스케일링이라고 하는 이 방법은 사용 가능한 모든 처리 성능을 안정적으로 활용합니다. 그 결과 ResNet이나 DenseNet과 같은 이전 모델보다 성능이 우수하면서도 더 작고 빠른 모델이 만들어졌습니다.

오늘날에는 Ultralytics YOLO11과 같은 최신 컴퓨터 비전 모델이 더 높은 정확도, 속도, 효율성을 제공합니다. 그럼에도 EfficientNet은 많은 고급 아키텍처의 설계에 영향을 준 중요한 이정표로 남아 있습니다.

이 글에서는 EfficientNet이 어떻게 작동하는지, 무엇이 독특한지, 그리고 컴퓨터 비전에서 여전히 중요한 이유를 다루며 5분 만에 EfficientNet을 살펴보겠습니다. 시작해 보겠습니다!

EfficientNet이란 무엇인가요?#

EfficientNet이 설계되기 전에는 대부분의 이미지 인식 모델이 레이어를 조정하거나 입력 이미지 크기를 키워 더 많은 세부 정보를 포착하는 방식으로 정확도를 높였습니다. 이러한 전략은 결과를 개선했지만 모델을 더 무겁고 많은 리소스를 요구하도록 만들기도 했습니다. 따라서 더 많은 메모리와 더 나은 하드웨어가 필요했습니다.

EfficientNet은 개별 레이어를 변경하는 대신 컴파운드 스케일링이라는 방법을 사용하여 깊이, 너비, 이미지 해상도를 함께 확장합니다. 이 접근 방식은 특정 한 측면에 과도한 부담을 주지 않고 모델을 효율적으로 확장할 수 있게 합니다.

EfficientNet 아키텍처는 일련의 블록을 통해 이미지를 처리하며, 각 블록은 더 작은 모듈로 구성됩니다. 각 블록의 모듈 수는 모델 크기에 따라 달라집니다.

그림 1. EfficientNet의 구성 블록입니다. (출처)

더 작은 버전은 더 적은 수의 모듈을 사용하는 반면, 더 큰 버전은 모듈을 더 자주 반복합니다. 이러한 유연한 설계를 통해 EfficientNet은 모바일 디바이스부터 대규모 시스템까지 광범위한 애플리케이션에서 높은 정확도와 효율성을 제공합니다.

컴파운드 스케일링의 작동 방식#

컴파운드 스케일링 방법은 모델의 깊이, 너비, 이미지 해상도를 확장하면서도 이들의 균형을 유지합니다. 이를 통해 컴퓨팅 성능을 효율적으로 사용할 수 있습니다. 이 시리즈는 모든 다른 버전의 기반이 되는 EfficientNet-B0이라는 더 작은 기준 모델에서 시작합니다.

B0부터 모델은 EfficientNet-B1부터 EfficientNet-B7까지 더 큰 변형으로 확장됩니다. 각 단계에서 네트워크에는 레이어가 추가되고, 채널 수(처리에 사용되는 유닛)가 증가하며, 더 높은 해상도의 입력 이미지를 처리합니다. 각 단계의 성장 규모는 컴파운드 계수라는 파라미터로 결정되며, 이를 통해 깊이, 너비, 해상도가 독립적으로 증가하는 대신 일정한 비율로 증가하도록 합니다.

그림 2. 컴파운드 스케일링은 모델의 너비, 깊이, 이미지 해상도를 증가시킵니다. (출처)

EfficientNet 아키텍처#

이제 EfficientNet의 아키텍처를 살펴보겠습니다.

EfficientNet은 모바일 및 임베디드 디바이스에 최적화된 경량 컴퓨터 비전 모델인 MobileNetV2를 기반으로 합니다. 핵심 구성 요소는 Mobile Inverted Bottleneck Convolution (MBConv) 블록으로, 표준 컨볼루션과 유사하게 이미지 데이터를 처리하면서도 계산량은 더 적은 특수 레이어입니다. 이 블록은 모델을 빠르고 메모리 효율적으로 만듭니다.

각 MBConv 블록 내부에는 squeeze-and-excitation (SE) 모듈이 있습니다. 이 모듈은 네트워크에서 서로 다른 채널의 강도를 조정합니다. 중요한 채널의 강도는 높이고 다른 채널의 강도는 낮춥니다. 이를 통해 네트워크가 이미지에서 가장 중요한 특징에 집중하고 나머지는 무시할 수 있습니다. EfficientNet 모델은 Swish 활성화 함수(네트워크가 패턴을 학습하는 데 도움을 주는 수학 함수)도 사용하며, 이를 통해 이전 방법보다 이미지의 패턴을 더 잘 포착할 수 있습니다.

이외에도 DropConnect를 사용하여 학습 중 네트워크 내부의 일부 연결을 무작위로 끕니다. 이 확률적 정규화 방법(모델이 일반화하는 대신 학습 데이터를 암기하는 것을 방지하는 무작위화 기법)은 네트워크가 보지 못한 데이터로 더 잘 전이되는 견고한 특징 표현(데이터의 더 강력하고 일반적인 패턴)을 학습하도록 하여 과적합을 줄입니다.

그림 3. EfficientNet-B0의 아키텍처 (출처)

EfficientNet 모델 변형 간단히 살펴보기#

이제 EfficientNet 모델의 작동 방식을 더 잘 이해했으므로 다양한 모델 변형을 살펴보겠습니다.

EfficientNet 모델은 B0을 속도와 정확도의 균형을 맞춘 기준 모델로 하여 B0부터 B7까지 확장됩니다. 각 버전은 깊이, 너비, 이미지 해상도를 높여 정확도를 향상합니다. 그러나 B1과 B2부터 고성능 B6 및 B7에 이르기까지 더 많은 컴퓨팅 성능도 요구합니다.

EfficientNet-B3 및 EfficientNet-B4 모델은 더 큰 이미지에서 균형을 이루는 반면, B5는 정밀도가 필요한 복잡한 데이터셋에 자주 사용됩니다. 이러한 모델을 넘어 최신 모델인 EfficientNet V2는 학습 속도를 높이고 소규모 데이터셋을 더 잘 처리하며 최신 하드웨어에 최적화되어 있습니다.

EfficientNet의 애플리케이션#

EfficientNet은 다른 많은 모델보다 적은 메모리와 처리 성능을 사용하면서도 정확한 결과를 생성할 수 있습니다. 따라서 과학 연구부터 사람들이 매일 사용하는 제품까지 다양한 분야에서 유용합니다.

의료 이미지 분석#

폐 CT 스캔과 같은 의료 이미지에는 정확한 진단에 중요한 미묘한 세부 정보가 포함된 경우가 많습니다. AI 모델은 이러한 이미지를 분석하여 사람이 감지하기 어려운 패턴을 찾아내는 데 도움을 줄 수 있습니다. 이러한 목적에 맞게 EfficientNet을 적용한 사례로 의료 이미지 분석을 위해 특별히 설계된 MONAI (의료용 AI 오픈 네트워크) EfficientNet이 있습니다.

연구자들은 EfficientNet의 아키텍처를 기반으로 종양을 감지하기 위해 폐 CT 스캔을 분류하는 모델인 Lung-EffNet도 개발했습니다. 이 모델은 종양을 양성, 악성 또는 정상으로 분류할 수 있으며, 실험 환경에서 보고된 정확도가 99%를 초과했습니다.

그림 4. Lung-EffNet을 사용한 종양 이미지 분류입니다. (출처)

실시간 객체 감지#

객체 감지는 이미지에서 객체를 찾고 그 위치를 파악하는 과정입니다. 이는 보안 시스템, 자율주행 자동차, 드론과 같은 애플리케이션의 핵심 요소입니다.

EfficientNet은 이미지에서 특징을 매우 효율적으로 추출하는 방법을 제공했기 때문에 이 분야에서 중요해졌습니다. 깊이, 너비, 해상도를 확장하는 방식은 모델이 지나치게 무겁거나 느려지지 않으면서도 정확할 수 있음을 보여주었습니다. 이것이 EfficientDet과 같은 많은 감지 시스템이 EfficientNet을 백본으로 사용하는 이유입니다.

Ultralytics YOLO11과 같은 최신 모델도 속도와 정확도를 결합한다는 동일한 목표를 공유합니다. 효율적인 모델을 지향하는 이러한 흐름에는 EfficientNet과 같은 아키텍처의 아이디어가 큰 영향을 주었습니다.

EfficientNet의 장단점#

컴퓨터 비전 프로젝트에서 EfficientNet을 사용할 때의 몇 가지 이점은 다음과 같습니다.

• 더 적은 파라미터로 높은 정확도: EfficientNet은 ResNet이나 DenseNet과 같은 이전 모델과 비슷하거나 더 높은 정확도를 제공할 수 있습니다. 하지만 파라미터 수가 더 적어 학습이 빠르고 배포가 쉽습니다.
• 확장 가능한 모델 제품군: B0부터 B7까지 다양한 버전이 있으므로 기준 네트워크를 변경하지 않고도 하드웨어 및 정밀도 요구 사항에 맞는 버전을 선택할 수 있습니다.
• 전이 학습에 적합: EfficientNet은 전이 학습에서 안정적인 모델 성능을 제공할 수 있습니다. 전이 학습은 사전 학습된 모델을 사용자 지정 작업에 맞게 재학습하는 과정입니다. 또한 다양한 컴퓨터 비전 작업의 백본으로 사용할 수 있습니다. 파인 튜닝을 적용했을 때도 우수한 결과를 보였습니다. 예를 들어 널리 사용되는 이미지 분류 데이터셋인 CIFAR-100에서 이전 모델보다 훨씬 적은 파라미터로 최첨단 정확도를 달성했습니다.

EfficientNet을 사용하면 많은 이점이 있지만, 다음과 같은 제한 사항도 고려해야 합니다.

• 더 많은 메모리 필요: EfficientNet-B6 및 EfficientNet-B7과 같은 버전은 많은 GPU 메모리를 필요로 합니다.
• ImageNet에 맞춰 조정된 스케일링: 스케일링 설정은 ImageNet 데이터셋을 위해 설계되었으므로, 파인 튜닝 없이는 매우 다른 데이터셋에서 성능이 저하될 수 있습니다. 이는 특히 소규모 데이터셋에서 두드러집니다. EfficientNet의 아키텍처와 스케일링은 충분한 데이터를 제공하여 깊이와 너비를 정당화하는 ImageNet과 같은 대규모의 다양한 데이터셋을 위해 설계되었기 때문입니다.
• 일부 하드웨어에서 더 느림: EfficientNet은 최신 하드웨어에서 효율적으로 작동하도록 설계된 MBConv라는 레이어를 사용합니다. 구형 GPU 또는 CPU에서는 이러한 레이어가 더 느리게 실행될 수 있습니다.

핵심 요점#

EfficientNet은 깊이, 너비, 이미지 해상도의 균형을 유지함으로써 컴퓨터 비전 모델의 확장 방식에 변화를 가져왔습니다. 여전히 중요한 모델이며 최신 아키텍처에도 영향을 주고 있습니다. 특히 컴퓨터 비전의 역사에서 의미 있는 위치를 차지하고 있습니다.

커뮤니티와 GitHub 리포지토리에 참여하여 AI에 대해 더 자세히 알아보세요. 솔루션 페이지에서 헬스케어 분야의 AI와 자동차 분야의 컴퓨터 비전에 관한 내용을 확인해 보세요. 라이선스 옵션을 살펴보고 지금 바로 컴퓨터 비전 개발을 시작해 보세요!