Edge Computing

Edge computing은 데이터 처리와 스토리지를 수천 마일 떨어진 중앙 위치에 의존하는 대신 필요한 위치와 더 가깝게 가져오는 분산형 정보 기술 아키텍처입니다. 로컬 서버, IoT 게이트웨이 또는 장치 자체와 같이 소스 근처에서 데이터를 처리함으로써 이 접근 방식은 대기 시간을 크게 줄이고 데이터 전송에 필요한 대역폭을 최소화합니다. 인공 지능 및 머신 러닝의 맥락에서 edge computing은 Edge AI를 배포하는 데 필요한 중요한 인프라를 제공하여 스마트 카메라, 드론 및 산업용 센서에서 즉각적인 응답성으로 정교한 모델을 직접 실행할 수 있게 합니다.

Link to this sectionEdge Computing의 핵심 이점#

중앙 집중식 클라우드 처리에서 로컬 edge 처리로의 전환은 특히 computer vision 및 실시간 분석을 위해 몇 가지 혁신적인 이점을 제공합니다.

• 대기 시간 감소: 기존 클라우드 아키텍처에서는 처리를 위해 데이터를 데이터 센터로 전송한 후 다시 장치로 가져와야 합니다. Edge computing은 이러한 왕복 과정을 제거하여 밀리초 단위가 중요한 real-time inference를 가능하게 합니다. 이는 찰나의 제동 결정을 내려야 하는 autonomous vehicles와 같은 안전 필수 시스템에 필수적입니다.
• 대역폭 효율성: object detection을 위한 고화질 비디오 스트림 전송은 엄청난 대역폭을 소비합니다. 원시 데이터를 로컬에서 처리하고 관련 메타데이터나 경고만 클라우드로 전송함으로써 조직은 데이터 전송 비용을 대폭 절감할 수 있습니다.
• 향상된 데이터 개인정보 보호: 의료 이미지나 안면 인식 데이터와 같은 민감한 정보는 로컬 환경 내에서 완전히 처리될 수 있습니다. 이러한 로컬 격리는 개인 데이터가 장치를 절대 떠나지 않도록 보장하여 GDPR과 같은 엄격한 규정 준수를 지원합니다.
• 오프라인 기능: Edge 장치는 인터넷 연결이 간헐적이거나 끊긴 경우에도 자율적으로 계속 작동할 수 있습니다. 이러한 신뢰성은 네트워크 커버리지가 좋지 않은 외딴 들판에서 드론이 작물을 모니터링하는 AI in agriculture와 같은 애플리케이션에 필수적입니다.

Link to this sectionEdge Computing 대 Cloud Computing#

cloud computing은 방대한 데이터 세트를 저장하고 대규모 모델을 학습시키는 데 탁월한 반면, edge computing은 실행 단계에 중점을 둡니다. 이들을 경쟁자가 아닌 상호 보완적인 기술로 보는 것이 도움이 됩니다. 클라우드는 과거 데이터를 처리하기 위해 막대한 컴퓨팅 파워가 필요한 model training에 주로 사용됩니다. 학습이 완료되면 최적화된 모델이 추론을 위해 edge로 배포됩니다. 이 하이브리드 접근 방식은 클라우드의 무한한 확장성과 edge의 속도라는 양쪽의 강점을 모두 활용합니다.

Link to this section실제 애플리케이션 사례#

Edge computing은 물리적 운영에 지능을 직접 내재화함으로써 산업을 재편하고 있습니다.

• 스마트 제조: industrial automation에서 공장은 edge 게이트웨이를 사용하여 기계의 센서 데이터를 분석합니다. 진동 이상이 감지되면 시스템이 즉시 predictive maintenance 프로토콜을 트리거하여 비용이 많이 드는 가동 중단을 방지할 수 있습니다.
• 지능형 리테일: 오프라인 매장은 inventory management를 위해 edge 기반 카메라를 활용합니다. 시스템은 선반의 재고 수준을 자율적으로 추적하고 직원에게 재입고를 알릴 수 있으며, 고객 비디오 피드를 외부 서버로 스트리밍하지 않고도 운영 효율성을 향상합니다.
• 교통 관리: 스마트 시티는 교차로에 edge 노드를 배치하여 traffic signals를 제어합니다. 로컬에서 실시간으로 교통 흐름을 분석함으로써 이러한 시스템은 중앙 제어 센터와 독립적으로 기능하며 신호 타이밍을 최적화하여 혼잡을 줄일 수 있습니다.

Link to this section모델을 Edge로 배포하기#

리소스가 제한된 edge 장치에서 복잡한 모델을 실행하기 위해 개발자는 종종 model quantization과 같은 최적화 기술을 사용하거나 TensorRT 또는 ONNX와 같은 특수 형식으로 내보냅니다. Ultralytics Platform은 이 프로세스를 간소화하여 사용자가 클라우드에서 모델을 학습시키고 다양한 edge 타겟으로 원활하게 배포할 수 있도록 합니다.

다음 예제는 모바일 및 임베디드 edge 장치에 고도로 최적화된 NCNN 형식으로 YOLO26 모델을 내보내는 방법을 보여줍니다.

from ultralytics import YOLO

# Load a pre-trained YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to NCNN format for mobile edge deployment
# This creates a lightweight, optimized version of the model
model.export(format="ncnn")

Link to this section관련 개념#

• Edge AI: edge computing이 분산형 인프라를 의미하는 반면, Edge AI는 특히 해당 인프라에서 실행되는 인공 지능 알고리즘의 적용을 의미합니다.
• Internet of Things (IoT): 센서와 소프트웨어가 내장된 물리적 객체인 "사물"의 네트워크입니다. Edge computing은 이러한 IoT 장치를 "스마트"하게 만드는 처리 능력을 제공합니다.
• Fog Computing: 데이터, 컴퓨팅, 스토리지 및 애플리케이션이 데이터 소스와 클라우드 사이 어딘가에 위치하는 분산형 컴퓨팅 인프라로, 종종 클라우드 컴퓨팅을 edge로 확장한 것으로 간주됩니다.