Bằng cách fine-tune model Ultralytics YOLO trên thiết bị edge, Scaleout giữ dữ liệu tại chỗ, hoạt động ngoại tuyến và triển khai model phát hiện mới trong vài giờ thay vì vài tuần.
Việc huấn luyện model machine learning thường giả định rằng bạn có thể tập hợp toàn bộ dữ liệu ở một nơi, gửi dữ liệu lên cloud và triển khai model đã hoàn thiện. Trong nhiều bối cảnh thực tế, giả định đó không đúng. Trong các môi trường quốc phòng, công nghiệp và chịu sự quản lý, dữ liệu phải được giữ tại địa điểm của nó do luật bảo mật, phân loại an ninh hoặc chi phí băng thông quá cao; hơn nữa, không phải lúc nào cũng có thể tin cậy mạng kết nối các địa điểm đó.
Scaleout xây dựng hạ tầng dành riêng cho những điều kiện này. Nền tảng Scaleout Edge sử dụng federated learning để đưa quá trình huấn luyện model đến nơi dữ liệu được lưu trữ, thay vì chuyển dữ liệu đến model. Đối với các dự án thị giác máy tính, Scaleout huấn luyện tùy chỉnh và fine-tune các model Ultralytics YOLO trên Vision Ground Nodes — các trạm edge tăng tốc bằng GPU được triển khai tại từng địa điểm — nhờ đó khả năng phát hiện tiếp tục được cải thiện ngay tại hiện trường mà hình ảnh nhạy cảm không bao giờ rời khỏi thiết bị.
Đưa machine learning đến nơi dữ liệu được lưu trữ#
Được thành lập vào năm 2018 bởi các nhà nghiên cứu từ Đại học Uppsala chuyên về hệ thống phân tán quy mô lớn, Scaleout hướng đến việc triển khai machine learning ở những nơi không thể tập trung dữ liệu. Công ty tập trung vào các bối cảnh khó hoặc không thể tập hợp dữ liệu về một nơi; federated learning là cơ chế cốt lõi giúp thực hiện điều đó.
Federated learning phân tán quá trình huấn luyện trên nhiều thiết bị, sau đó tập hợp các bản cập nhật model về mặt phẳng điều khiển trung tâm, nơi chúng được tổng hợp thành một model toàn cục mới. Mỗi thiết bị tận dụng hiểu biết về môi trường cục bộ của mình, trong khi toàn bộ hệ thống hưởng lợi từ trí tuệ tập thể. Dữ liệu vẫn ở đúng nơi cần thiết; chỉ những gì model đã học được mới được truyền đi.
Scaleout hoạt động trong các lĩnh vực quốc phòng, công nghiệp, vận tải và các ngành chịu sự quản lý khác; các dự án của công ty bao gồm chương trình tăng tốc NATO DIANA và hợp tác với BAE Systems. Điểm chung trong tất cả các lĩnh vực này là dữ liệu không thể di chuyển nhưng model vẫn cần được cải thiện.
Những phức tạp của machine learning trên edge#
Dưới đây là cái nhìn cụ thể hơn về những hạn chế Scaleout gặp phải khi huấn luyện model tại hiện trường:
- Phần cứng hạn chế: Các hệ thống triển khai tại hiện trường không có máy chủ trung tâm dữ liệu, mà chỉ có những thiết bị nhỏ, công suất thấp như máy tính trên drone. Chạy model đã hoàn thiện trên các thiết bị này là khả thi, nhưng huấn luyện lại đòi hỏi năng lực tính toán lớn hơn nhiều.
- Dữ liệu bị khóa trên thiết bị: Video cần thiết để huấn luyện lại thường là dữ liệu độc quyền và không thể gửi đến máy chủ trung tâm, vì vậy model phải học từ dữ liệu không bao giờ rời khỏi edge.
- Không có chuyên gia tại chỗ: Những người vận hành thu thập dữ liệu tại hiện trường hiếm khi là kỹ sư machine learning, vì vậy việc huấn luyện lại không thể phụ thuộc vào sự hiện diện của chuyên gia khoa học dữ liệu.
- Điều kiện thay đổi liên tục: Môi trường tại hiện trường thay đổi nhanh chóng, vì vậy model phải được cập nhật liên tục thay vì theo các chu kỳ huấn luyện lại định kỳ, kéo dài.
Fine-tune model Ultralytics YOLO trên edge#
Để đáp ứng những hạn chế này, Scaleout xây dựng một vòng lặp huấn luyện chạy hoàn toàn tại hiện trường, với model Ultralytics YOLO làm trọng tâm.
Tại mỗi địa điểm, một Vision Ground Node — trạm edge tăng tốc bằng GPU, có năng lực tính toán và bộ nhớ riêng — được bố trí cùng đội drone. Khi drone ghi hình, node chọn ra những khung hình hữu ích nhất, nhân viên vận hành gắn nhãn cho chúng và model YOLO được fine-tune trên phần cứng tại chỗ.
Sau vài epoch huấn luyện, chỉ model đã cập nhật được gửi về mặt phẳng điều khiển, tuyệt đối không gửi video thô. Vòng lặp này được triển khai thông qua module thị giác của Scaleout, một phần mở rộng của nền tảng Scaleout Edge, tích hợp các công cụ cần thiết cho dự án computer vision vào một gói duy nhất.
Giải pháp kết hợp chọn khung hình, gắn nhãn, huấn luyện và triển khai, trong đó Ultralytics YOLO đảm nhiệm việc phát hiện; nhờ vậy, các nhóm có thể xây dựng dựa trên một nền tảng hoạt động sẵn thay vì tự lắp ghép các thành phần này.
Scaleout lần đầu áp dụng cách tiếp cận này trong chương trình tăng tốc NATO DIANA, sử dụng YOLOv8 để fine-tune khả năng phát hiện trên dữ liệu thu thập tại hiện trường. Vì lý do độc quyền, dữ liệu không thể được truyền qua mạng hiện trường hoặc tập trung về một nơi, nên nhóm đã phân tán việc fine-tune, cho phép model học từ các ví dụ mới ngay tại địa phương.
Vòng lặp này cũng được thiết kế cho nhân viên vận hành chứ không phải nhà khoa học dữ liệu. Hệ thống hướng dẫn người không chuyên xem xét và gắn nhãn những khung hình quan trọng, để nhân viên tại hiện trường có thể tự cải thiện model.
Các công cụ hỗ trợ phản ánh cách tiếp cận này: phiên bản mã nguồn mở của Label Studio để gắn nhãn, máy chủ streaming để tiếp nhận luồng video từ drone và gói Python của Ultralytics để fine-tune. Toàn bộ hệ thống chạy trên phần cứng từ module NVIDIA Jetson đến thiết bị hiện trường bền chắc hoặc laptop, tùy theo cách triển khai.
Vì sao chọn các model Ultralytics YOLO?#
Đối với Scaleout, ưu điểm lớn nhất của Ultralytics YOLO là các model rất gọn nhẹ, nhờ đó việc huấn luyện liên kết qua kết nối kém trở nên khả thi. Thay vì chuyển dữ liệu thô, Scaleout chỉ chuyển bản cập nhật model. Model được sử dụng nhiều nhất, Ultralytics YOLOv8 nano, có dung lượng khoảng 10,7 MB, vì vậy mỗi bản cập nhật là một gói nhỏ dễ gửi ngay cả khi băng thông hạn chế.
Gói Python của Ultralytics cũng giúp các kỹ sư của Scaleout linh hoạt huấn luyện và triển khai trên nhiều loại phần cứng. Model YOLOv8 nano nhỏ gọn chạy dễ dàng trên các thiết bị edge hạn chế tài nguyên, trong khi các tùy chọn export của gói hỗ trợ triển khai trên những môi trường khác nhau mà Scaleout sử dụng. Vì các model dễ fine-tune, nhóm có thể lặp lại quy trình nhanh chóng khi điều kiện hiện trường thay đổi.
Ultralytics YOLO giúp Scaleout cập nhật model nhanh hơn#
Với Ultralytics YOLO, phần công việc nặng nhất được xử lý ngay trên thiết bị. Quá trình huấn luyện chạy trên hàng trăm gigabyte video thực địa, nhưng thứ thực sự được truyền đi chỉ là một model có dung lượng khoảng 10 MB. Điều này giúp giảm đáng kể lượng dữ liệu cần truyền, nhờ đó khả thi hóa việc huấn luyện liên kết trên các mạng hạn chế mà những hệ thống triển khai này phụ thuộc vào.
Cách tiếp cận này cũng rút ngắn thời gian đưa model cải tiến trở lại hiện trường. Quy trình vốn có thể mất hàng tuần hoặc hàng tháng — thu thập dữ liệu, gửi đến một địa điểm trung tâm, huấn luyện lại và triển khai lại — được rút xuống còn vài ngày hoặc vài giờ khi vòng lặp chạy trên edge.
Điều này thể hiện rõ nhất trong các dự án drone của Scaleout. Trong hoạt động trinh sát quốc phòng, drone bay theo lộ trình tìm kiếm và sử dụng model Ultralytics YOLO trên thiết bị để phát hiện, nhận diện và xác định vị trí địa lý của các đối tượng cần quan tâm theo thời gian thực; toàn bộ quá trình xử lý diễn ra trên máy tính của chính drone thay vì gửi dữ liệu đi phân tích.
Khi drone thu thập video mới, dữ liệu được chuyển đến Vision Ground Node để fine-tune YOLO trên các khung hình mới, sau đó model đã cập nhật được gửi trở lại mà video không hề rời khỏi địa điểm. Model phát hiện phải theo kịp các điều kiện thay đổi nhanh chóng và dữ liệu không thể di chuyển; model được huấn luyện lại tại chỗ vẫn hữu ích, trong khi model tĩnh được huấn luyện tập trung sẽ dần tụt hậu.
Hình 1. Ví dụ về cách Scaleout và Ultralytics YOLO hỗ trợ drone AI (Nguồn).
Mô hình tương tự còn được áp dụng rộng rãi ngoài lĩnh vực drone. Trong môi trường công nghiệp như cơ sở năng lượng và địa điểm hẻo lánh, nơi dữ liệu tại mỗi địa điểm đều nhạy cảm, nền tảng cải thiện model phát hiện trên nhiều địa điểm mà không để dữ liệu thô vượt qua ranh giới cơ sở. Dù dữ liệu nằm trên drone hay tại một hệ thống cố định, Scaleout vẫn giữ video tại chỗ và chỉ truyền đi những gì model đã học được.
Xây dựng AI thích ứng cho môi trường không thể di chuyển dữ liệu#
Khi Scaleout phát triển, công ty tiếp tục mở rộng computer vision liên kết trên edge sang nhiều môi trường và phần cứng hơn. Các module dựng sẵn được thiết kế để rút ngắn nhiều tháng tích hợp xuống còn vài ngày, giúp khách hàng sử dụng phần cứng của riêng mình và áp dụng vòng lặp học tập thích ứng mà không phải xây dựng lại mã machine learning nền tảng.
Với Ultralytics YOLO làm cốt lõi trong pipeline phát hiện, Scaleout giúp việc huấn luyện và cải thiện AI trở nên khả thi ngay trong những môi trường mà các phương pháp thông thường không đáp ứng được: dữ liệu luôn ở tại chỗ, hệ thống vẫn hoạt động khi mạng gặp sự cố và các đội thiết bị edge trở thành một hệ thống liên tục học hỏi trên quy mô tổng thể.
Sẵn sàng khám phá những gì Vision AI có thể làm cho bạn? Truy cập repository GitHub để tìm hiểu cách model YOLO đang chuyển đổi các lĩnh vực như AI trong sản xuất và computer vision trong robot học. Xem các tùy chọn cấp phép và bắt đầu hành trình hướng tới tự động hóa thông minh hơn.
Được viết bởi
Quản lý Nội dung Số · Ultralytics
