Scaleout은 엣지 디바이스에서 Ultralytics YOLO 모델을 파인튜닝해 데이터를 현장에 보관하고 오프라인으로 작동하며, 몇 주가 아니라 몇 시간 만에 새로운 감지 모델을 배포합니다.
머신러닝 모델 학습은 일반적으로 데이터를 한곳에 모아 클라우드로 전송한 뒤 완성된 모델을 배포할 수 있다고 가정합니다. 실제 환경에서는 이러한 가정이 성립하지 않는 경우가 많습니다. 국방, 산업 및 규제 대상 환경에서는 개인정보 보호법, 보안 등급 또는 막대한 대역폭 비용 때문에 데이터를 해당 위치에 보관해야 하며, 여러 위치를 연결하는 네트워크를 항상 신뢰할 수 있는 것도 아닙니다.
Scaleout은 바로 이러한 환경을 위한 인프라를 구축합니다. Scaleout Edge 플랫폼은 데이터가 모델로 이동하는 대신 모델 학습을 데이터가 있는 곳으로 가져오는 연합 학습을 사용합니다. 컴퓨터 비전 프로젝트의 경우 Scaleout은 각 현장에 배치된 GPU 가속 엣지 스테이션인 Vision Ground Nodes에서 Ultralytics YOLO 모델을 맞춤 학습하고 파인튜닝합니다. 따라서 민감한 이미지가 기기 밖으로 나가지 않고도 현장에서 감지 성능을 계속 개선할 수 있습니다.
데이터가 있는 곳에서 머신러닝 구현#
대규모 분산 시스템을 연구하던 웁살라 대학교 연구진이 2018년에 설립한 Scaleout은 데이터를 중앙 집중화할 수 없는 환경에서도 머신러닝을 구현하는 것을 목표로 삼았습니다. 데이터를 한곳에 모으기 어렵거나 불가능한 환경에 주력하며, 연합 학습을 핵심 메커니즘으로 활용합니다.
연합 학습은 여러 기기에서 학습을 분산 수행한 다음, 각 기기의 모델 업데이트를 중앙 제어 플레인으로 모아 통합하고 새로운 글로벌 모델을 생성합니다. 각 기기는 자체 로컬 환경을 파악하고, 전체 기기군은 집단 지성을 활용합니다. 데이터는 있어야 할 곳에 그대로 남고 모델이 학습한 내용만 이동합니다.
Scaleout은 국방, 산업, 운송 및 기타 규제 대상 분야에서 활동하며 NATO DIANA 액셀러레이터 프로그램과 BAE Systems와의 협업도 진행했습니다. 모든 분야에서 데이터는 이동할 수 없지만 모델은 계속 개선되어야 한다는 공통적인 상황에 직면합니다.
엣지 머신러닝의 복잡성#
Scaleout이 현장에서 모델을 학습할 때 직면한 제약을 자세히 살펴보겠습니다.
- 제한된 하드웨어: 현장에는 데이터센터 서버가 없고 드론에 탑재된 컴퓨터와 같은 소형 저전력 기기만 있습니다. 완성된 모델을 실행하는 것은 가능하지만, 모델을 재학습하려면 훨씬 더 많은 컴퓨팅 성능이 필요합니다.
- 기기에 묶인 데이터: 재학습에 필요한 영상은 독점 데이터인 경우가 많아 중앙 서버로 전송할 수 없습니다. 따라서 모델은 엣지를 벗어나지 않는 데이터로 학습해야 합니다.
- 현장에 전문가 부재: 현장에서 데이터를 수집하는 운영자는 대개 머신러닝 엔지니어가 아니므로, 재학습은 데이터 과학 전문가가 현장에 있어야만 가능한 방식이어서는 안 됩니다.
- 끊임없이 변하는 환경: 현장 환경은 빠르게 변하므로 느리고 주기적인 재학습 주기에 의존하지 않고 모델을 지속적으로 업데이트해야 합니다.
엣지에서 Ultralytics YOLO 모델 파인튜닝#
이러한 제약에 대응하기 위해 Scaleout은 Ultralytics YOLO 모델을 핵심으로 삼아 현장에서 모든 과정이 실행되는 학습 루프를 구축했습니다.
각 현장에는 자체 컴퓨팅 및 스토리지를 갖춘 GPU 가속 엣지 스테이션인 Vision Ground Node가 드론 기기군과 함께 배치됩니다. 드론이 영상을 촬영하면 노드가 가장 유용한 프레임을 선택하고, 운영자가 해당 프레임에 라벨을 지정한 뒤 YOLO 모델을 로컬 하드웨어에서 파인튜닝합니다.
몇 차례의 학습 에포크를 거친 후 원본 영상은 전송하지 않고 업데이트된 모델만 제어 플레인으로 보냅니다. 이 루프는 컴퓨터 비전 프로젝트에 필요한 도구를 단일 패키지로 묶은 Scaleout Edge 플랫폼의 확장 기능인 Scaleout 비전 모듈을 통해 제공됩니다.
이 모듈은 프레임 선택, 어노테이션, 학습 및 배포를 통합하고 감지에는 Ultralytics YOLO를 사용하므로, 팀은 각 요소를 직접 조립하는 대신 작동하는 기반 위에서 작업을 시작할 수 있습니다.
Scaleout은 NATO DIANA 액셀러레이터 프로그램에서 YOLOv8을 사용해 현장에서 수집한 데이터로 감지 모델을 파인튜닝하며 이 접근 방식을 처음 적용했습니다. 해당 데이터는 독점 정보 보호를 위해 현장 네트워크를 통해 전송하거나 중앙 집중화할 수 없었으므로, 팀은 파인튜닝을 분산화해 모델이 새로운 사례를 로컬에서 학습하도록 했습니다.
이 학습 루프는 데이터 과학자가 아니라 운영자를 위해 설계되었습니다. 시스템은 비전문가도 중요한 프레임을 검토하고 라벨링할 수 있도록 안내하므로, 현장 인력이 직접 모델을 계속 개선할 수 있습니다.
이를 지원하는 도구로는 어노테이션용 Label Studio 오픈소스 버전, 드론 영상 스트림을 가져오는 스트리밍 서버, 파인튜닝용 Ultralytics Python 패키지가 있습니다. 배포 환경에 따라 NVIDIA Jetson 모듈부터 견고한 현장 장치 또는 노트북까지 다양한 하드웨어에서 모두 실행됩니다.
Ultralytics YOLO 모델을 선택한 이유#
Scaleout이 꼽는 Ultralytics YOLO의 가장 큰 장점은 모델이 매우 경량이어서 연결 상태가 좋지 않은 환경에서도 연합 학습을 실용적으로 수행할 수 있다는 점입니다. 원시 데이터를 전송하는 대신 Scaleout은 모델 업데이트만 전달합니다. 가장 많이 사용하는 Ultralytics YOLOv8 nano는 약 10.7MB에 불과하므로 대역폭이 부족할 때도 전체 업데이트를 작은 패키지로 전송할 수 있습니다.
Ultralytics Python 패키지는 Scaleout 엔지니어가 다양한 하드웨어에서 학습과 배포를 수행할 수 있는 유연성도 제공합니다. 소형 YOLOv8 nano 모델은 리소스가 제한된 엣지 디바이스에서도 원활하게 실행되며, 패키지의 내보내기 옵션은 Scaleout이 사용하는 다양한 환경에 배포할 수 있도록 지원합니다. 모델을 간편하게 파인튜닝할 수 있어 현장 조건이 바뀌어도 팀은 빠르게 반복 개발할 수 있습니다.
Ultralytics YOLO로 Scaleout의 모델 업데이트 속도 향상#
Ultralytics YOLO를 사용하면 작업 중 가장 많은 연산이 필요한 부분이 기기에서 처리됩니다. 학습은 수백 기가바이트에 달하는 현장 영상으로 수행하지만, 실제로 전송되는 것은 약 10MB 크기의 모델입니다. 이를 통해 전송해야 하는 데이터가 크게 줄어들어, 이러한 배포 환경에서 사용하는 제한된 네트워크를 통해서도 연합 학습을 실현할 수 있습니다.
이 접근 방식은 개선된 모델을 현장에 다시 배포하는 속도도 높입니다. 데이터를 수집하고 중앙으로 보내 재학습한 뒤 다시 배포하는 데 몇 주 또는 몇 달이 걸릴 수 있지만, 엣지에서 학습 루프를 실행하면 며칠 또는 몇 시간으로 단축됩니다.
이러한 효과는 Scaleout의 드론 작업에서 가장 뚜렷하게 나타납니다. 국방 정찰에서는 드론이 탐색 경로를 비행하며 탑재된 Ultralytics YOLO 모델로 관심 객체를 실시간 감지하고 식별한 뒤 위치를 파악합니다. 모든 처리는 분석을 위해 외부로 전송되지 않고 드론 자체 컴퓨터에서 수행됩니다.
드론이 새로운 영상을 수집하면 해당 데이터는 Vision Ground Node로 전달되어 새로운 프레임으로 YOLO를 파인튜닝하고, 업데이트된 모델을 다시 배포합니다. 이 과정에서 영상은 현장 밖으로 전혀 나가지 않습니다. 감지 모델은 급변하는 환경에 대응해야 하며 데이터를 이동할 수 없는 상황에서도 작동해야 합니다. 로컬에서 재학습한 모델은 고정된 중앙 학습 모델이 뒤처지는 환경에서도 유용성을 유지합니다.
그림 1. Scaleout과 Ultralytics YOLO가 AI 드론을 구동하는 방식의 예(출처).
같은 패턴은 드론을 훨씬 넘어 다양한 분야로 확장됩니다. 에너지 시설 및 원격 시설과 같은 산업 환경에서는 각 위치의 데이터가 민감하더라도 원시 데이터가 시설 경계를 넘어가지 않은 상태로 여러 현장의 감지 모델을 개선할 수 있습니다. 데이터가 드론에 저장되든 고정 설치 장비에 저장되든 Scaleout은 영상을 현장에 보관하고 모델이 학습한 내용만 전송합니다.
데이터를 이동할 수 없는 환경을 위한 적응형 AI 구축#
Scaleout은 성장에 따라 연합 학습 기반 엣지 컴퓨터 비전을 더 많은 환경과 하드웨어로 계속 확장하고 있습니다. 사전 구축된 모듈은 수개월이 걸릴 통합 작업을 며칠로 단축하도록 설계되어 고객이 자체 하드웨어를 가져와 기반 머신러닝 코드를 다시 구축하지 않고도 적응형 학습 루프를 도입할 수 있습니다.
감지 파이프라인의 핵심에 Ultralytics YOLO를 둔 Scaleout은 기존 방식이 한계를 보이는 바로 그 환경에서 AI를 학습하고 개선할 수 있도록 합니다. 데이터를 현장에 보관하고 네트워크 장애 중에도 운영을 유지하며, 엣지 디바이스 기기군을 전체적으로 계속 학습하는 시스템으로 전환합니다.
비전 AI가 어떤 가능성을 제공하는지 알아보고 싶으신가요? GitHub 저장소를 방문해 YOLO 모델이 제조 분야의 AI 및 로보틱스 분야의 컴퓨터 비전과 같은 분야를 어떻게 혁신하는지 알아보세요. 라이선스 옵션을 확인하고 더욱 스마트한 자동화를 향한 여정을 시작하세요.
