Edge AI

엣지 AI는 중앙 집중식 클라우드 컴퓨팅 센터에 의존하는 대신 스마트폰, IoT 센서, 드론, 커넥티드 차량과 같은 로컬 하드웨어 디바이스에서 인공지능 (AI) 알고리즘과 모델을 직접 배포하는 것을 의미합니다. 이러한 분산형 접근 방식은 데이터가 생성된 소스에서 바로 처리되도록 하여, 원격 서버로 정보를 주고받는 데 따른 지연 시간을 크게 줄입니다. 디바이스에서 머신 러닝 (ML) 작업을 로컬로 실행하면 인터넷 연결 없이도 즉각적인 의사 결정을 내리고 안정적으로 작동할 수 있으며, 민감한 정보를 디바이스 자체에 보관하여 데이터 프라이버시를 강화할 수 있습니다.

엣지 AI 작동 방식#

엣지 AI의 핵심은 임베디드 시스템에서 추론 엔진을 실행하는 것입니다. 엣지 디바이스는 일반적으로 클라우드 서버에 비해 배터리 수명과 컴퓨팅 성능이 제한적이므로 AI 모델은 매우 효율적이어야 합니다. 개발자는 상당한 정확도 저하 없이 대규모 신경망을 압축하기 위해 모델 양자화나 모델 가지치기와 같은 기법을 자주 사용합니다.

이러한 워크로드를 효율적으로 처리하기 위해 특수 하드웨어 가속기를 자주 사용합니다. 예를 들어 로보틱스에는 NVIDIA Jetson 플랫폼을, 저전력 추론에는 Google Coral Edge TPU를 사용할 수 있습니다. 소프트웨어 프레임워크도 중요한 역할을 합니다. TensorRT와 TFLite 같은 도구는 이러한 제약된 환경에 맞게 모델을 최적화하여 빠른 실시간 추론을 보장합니다.

엣지 AI와 엣지 컴퓨팅 비교#

두 용어는 흔히 서로 바꿔 사용되지만, 다음과 같이 구분하는 것이 유용합니다.

• 엣지 컴퓨팅: 데이터 소스 가까이에서 데이터 처리가 이루어지는 더 광범위한 물리적 인프라와 네트워크 토폴로지를 의미합니다. 이는 방정식에서 "어디서"에 해당합니다.
• 엣지 AI: 해당 인프라에서 실행되는 지능형 애플리케이션을 구체적으로 의미합니다. 이는 "무엇을"에 해당합니다. 예를 들어 보안 카메라는 엣지 컴퓨팅 디바이스로 작동하지만, 컴퓨터 비전 (CV)을 사용하여 특정 인물을 인식하면 엣지 AI를 수행하는 것입니다.

실제 적용 사례#

엣지 AI는 중요한 상황에서 자율적인 의사 결정을 가능하게 하여 다양한 산업을 혁신하고 있습니다.

• 자율주행 차량: 자율주행 자동차는 매일 테라바이트 단위의 데이터를 생성합니다. 신호 지연으로 인해 보행자나 장애물을 식별하는 작업을 클라우드에 의존할 수 없습니다. 대신 탑재된 엣지 AI를 사용하여 즉각적인 객체 감지를 수행하고 탑승자의 안전을 보장합니다.
• 스마트 제조: 산업용 IoT (IIoT) 환경에서 공장 현장의 센서는 예측 유지보수를 위해 엣지 AI를 사용합니다. 시스템은 진동 및 온도 데이터를 로컬에서 분석하여 이상을 감지하고 장비 고장을 실시간으로 예측함으로써 비용이 많이 드는 가동 중단을 방지할 수 있습니다.
• 헬스케어: Vision AI를 탑재한 휴대용 의료 디바이스는 의료 영상이나 환자의 활력 징후를 진료 현장에서 직접 분석하여, 연결성이 낮은 원격 지역에서도 즉각적인 진단 지원을 제공할 수 있습니다.

엣지에 모델 배포하기#

일반적으로 모델을 엣지에 배포하려면 고성능 컴퓨팅 환경에서 모델을 학습한 다음 ONNX 또는 OpenVINO와 같이 엣지 디바이스와 호환되는 형식으로 내보내야 합니다. Ultralytics Platform은 이 워크플로를 간소화하여 사용자가 다양한 엣지 대상에 맞게 모델을 학습하고 자동으로 내보낼 수 있도록 합니다.

다음 예제에서는 효율성을 위해 특별히 설계된 경량 YOLO26 모델을 모바일 및 엣지 배포에 적합한 형식으로 내보내는 방법을 보여줍니다.

from ultralytics import YOLO

# Load the YOLO26 Nano model, which is optimized for speed on edge devices
model = YOLO("yolo26n.pt")

# Export the model to TFLite format for deployment on Android or Raspberry Pi
# This creates a 'yolo26n.tflite' file ready for edge inference
model.export(format="tflite")

고급 엣지 배포에서는 애플리케이션을 패키징하기 위해 Docker와 같은 컨테이너화 기술을 자주 사용하며, 이를 통해 Raspberry Pi 장치부터 산업용 게이트웨이에 이르기까지 다양한 디바이스 아키텍처에서 애플리케이션이 일관되게 실행되도록 합니다.