Edge Computing

Edge computing은 데이터 처리에 필요한 위치에 더 가깝게 데이터 처리와 스토리지를 분산시키는 IT 아키텍처로, 보통 수천 마일 떨어진 중앙 집중식 위치에 의존하지 않고 데이터를 처리합니다. 로컬 서버, IoT 게이트웨이 또는 기기 자체 등 소스 근처에서 데이터를 처리함으로써 이 접근 방식은 지연 시간을 크게 줄이고 데이터 전송에 필요한 대역폭을 최소화합니다. 인공지능과 머신러닝의 맥락에서 edge computing은 Edge AI를 배포하는 데 필요한 핵심 인프라를 제공하며, 정교한 모델이 스마트 카메라, 드론, 산업용 센서에서 즉각적인 응답성과 함께 직접 실행될 수 있도록 지원합니다.

Edge Computing의 핵심 이점#

중앙 집중식 클라우드 처리에서 로컬화된 edge processing으로의 전환은 특히 computer vision과 실시간 분석 영역에서 몇 가지 혁신적인 이점을 제공합니다.

• 지연 시간 단축: 기존 클라우드 아키텍처에서는 데이터가 처리를 위해 데이터 센터로 이동했다가 다시 기기로 돌아와야 합니다. Edge computing은 이러한 왕복 과정을 없애 밀리초가 중요한 real-time inference를 가능하게 합니다. 이는 찰나의 순간에 제동 결정을 내려야 하는 autonomous vehicles 같은 안전 중요 시스템에 필수적입니다.
• 대역폭 효율성: object detection을 위해 고화질 비디오 스트림을 전송하는 것은 막대한 대역폭을 소모합니다. 원시 데이터를 로컬에서 처리하고 관련 메타데이터나 경고만 클라우드로 전송함으로써 조직은 데이터 전송 비용을 대폭 절감할 수 있습니다.
• 향상된 데이터 프라이버시: 의료 영상이나 얼굴 인식 데이터 같은 민감한 정보는 로컬 환경 내에서 완전히 처리될 수 있습니다. 이러한 로컬 격리는 개인 데이터가 기기를 절대 벗어나지 않도록 보장함으로써 GDPR과 같은 엄격한 규정 준수를 지원합니다.
• 오프라인 기능: Edge device는 인터넷 연결이 간헐적이거나 끊긴 경우에도 자율적으로 계속 작동할 수 있습니다. 이러한 신뢰성은 네트워크 수신율이 좋지 않은 원격 농장에서 드론이 작물을 모니터링하는 AI in agriculture 같은 애플리케이션에 매우 중요합니다.

Edge Computing 대 Cloud Computing#

cloud computing이 대규모 데이터셋 저장과 대규모 모델 훈련에 탁월한 반면, edge computing은 실행 단계에 초점을 맞춥니다. 이들을 경쟁 기술이 아니라 상호 보완적인 기술로 보는 것이 유용합니다. 클라우드는 주로 과거 데이터를 처리하는 데 막대한 연산 능력이 필요한 model training에 사용됩니다. 훈련이 완료된 최적화된 모델은 추론을 위해 edge에 배포됩니다. 이 하이브리드 접근 방식은 클라우드의 무한한 확장성과 edge의 속도라는 양쪽의 장점을 모두 활용합니다.

실제 애플리케이션 사례#

Edge computing은 물리적 운영에 지능을 직접 내재화함으로써 산업을 재편하고 있습니다.

• 스마트 제조: industrial automation에서 공장은 edge gateway를 사용하여 기계의 센서 데이터를 분석합니다. 진동 이상이 감지되면 시스템은 predictive maintenance 프로토콜을 즉시 실행하여 비용이 많이 드는 가동 중단을 방지할 수 있습니다.
• 지능형 소매: 오프라인 매장은 edge 기반 카메라를 활용하여 inventory management를 수행합니다. 시스템은 선반의 재고 수준을 자율적으로 추적하고 직원에게 재고 보충을 경고하여 외부 서버로 고객 비디오 스트림을 전송하지 않고도 운영 효율성을 향상시킵니다.
• 교통 관리: 스마트 도시는 교차로에 edge node를 배치하여 traffic signals를 제어합니다. 로컬에서 실시간으로 교통 흐름을 분석함으로써 이러한 시스템은 중앙 제어 센터와 독립적으로 작동하여 신호 타이밍을 최적화하고 혼잡을 줄일 수 있습니다.

모델을 Edge로 배포하기#

자원이 제한된 edge device에서 복잡한 모델을 실행하기 위해 개발자들은 종종 model quantization 같은 최적화 기법을 사용하거나 TensorRT 또는 ONNX 같은 특화된 형식으로 내보냅니다. Ultralytics Platform은 이 과정을 간소화하여 사용자가 클라우드에서 모델을 훈련하고 다양한 edge 타겟에 원활하게 배포할 수 있도록 지원합니다.

다음 예제는 모바일 및 임베디드 edge device에 최적화된 YOLO26 모델을 NCNN 형식으로 내보내는 방법을 보여줍니다.

from ultralytics import YOLO

# Load a pre-trained YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to NCNN format for mobile edge deployment
# This creates a lightweight, optimized version of the model
model.export(format="ncnn")

관련 개념#

• Edge AI: Edge computing이 분산 인프라를 의미하는 반면, Edge AI는 해당 인프라에서 실행되는 인공지능 알고리즘의 적용을 구체적으로 가리킵니다.
• Internet of Things (IoT): 센서와 소프트웨어가 내장된 물리적 객체('사물')들의 네트워크입니다. Edge computing은 이러한 IoT 기기를 '스마트'하게 만드는 연산 능력을 제공합니다.
• Fog Computing: 데이터, 연산, 스토리지, 애플리케이션이 데이터 소스와 클라우드 사이의 어딘가에 위치하는 탈중앙화된 컴퓨팅 인프라로, 종종 cloud computing의 edge로의 확견된 개념으로 여겨집니다.