Edge Computing

Edge computing là một kiến trúc công nghệ thông tin phân tán, đưa quá trình xử lý và lưu trữ dữ liệu đến gần hơn với vị trí cần thiết, thay vì phụ thuộc vào một địa điểm tập trung thường cách xa hàng ngàn dặm. Bằng cách xử lý dữ liệu gần nguồn—ví dụ như trên các máy chủ cục bộ, cổng kết nối IoT hoặc chính các thiết bị—phương pháp này giúp giảm đáng kể độ trễ và tối ưu hóa băng thông cần thiết cho việc truyền tải dữ liệu. Trong bối cảnh của trí tuệ nhân tạo và học máy, edge computing cung cấp hạ tầng quan trọng cần thiết để triển khai Edge AI, cho phép các model tinh vi chạy trực tiếp trên các camera thông minh, drone và cảm biến công nghiệp với khả năng phản hồi tức thì.

Link to this sectionNhững Lợi ích Cốt lõi của Edge Computing#

Sự chuyển dịch từ xử lý cloud tập trung sang xử lý edge cục bộ mang lại nhiều ưu điểm mang tính chuyển đổi, đặc biệt là đối với computer vision và phân tích thời gian thực.

• Giảm Độ Trễ: Các kiến trúc cloud truyền thống yêu cầu dữ liệu phải truyền đến trung tâm dữ liệu để xử lý rồi mới quay ngược lại thiết bị. Edge computing loại bỏ quá trình truyền tải khứ hồi này, cho phép thực hiện real-time inference trong những trường hợp mà đơn vị mili giây rất quan trọng. Điều này là thiết yếu đối với các hệ thống an toàn quan trọng như autonomous vehicles, vốn cần đưa ra quyết định phanh trong tích tắc.
• Hiệu Quả Băng Thông: Việc truyền phát các luồng video độ phân giải cao cho object detection tiêu tốn rất nhiều băng thông. Bằng cách xử lý dữ liệu thô cục bộ và chỉ gửi siêu dữ liệu hoặc cảnh báo cần thiết lên cloud, các tổ chức có thể cắt giảm đáng kể chi phí truyền tải dữ liệu.
• Tăng Cường Quyền Riêng Tư Dữ Liệu: Thông tin nhạy cảm, chẳng hạn như hình ảnh y tế hoặc dữ liệu nhận diện khuôn mặt, có thể được xử lý hoàn toàn trong môi trường cục bộ. Việc giữ dữ liệu tại chỗ này hỗ trợ tuân thủ các quy định nghiêm ngặt như GDPR bằng cách đảm bảo dữ liệu cá nhân không bao giờ rời khỏi thiết bị.
• Chức Năng Ngoại Tuyến: Các thiết bị edge có thể tiếp tục hoạt động tự chủ ngay cả khi kết nối internet bị gián đoạn hoặc mất kết nối. Độ tin cậy này rất quan trọng đối với các ứng dụng như AI in agriculture, nơi các drone giám sát cây trồng tại các cánh đồng xa xôi có vùng phủ sóng mạng kém.

Link to this sectionEdge Computing so với Cloud Computing#

Trong khi cloud computing vượt trội trong việc lưu trữ các tập dữ liệu khổng lồ và huấn luyện các model quy mô lớn, thì edge computing tập trung vào giai đoạn thực thi. Rất hữu ích khi coi chúng là các công nghệ bổ trợ thay vì đối thủ cạnh tranh. Cloud thường được sử dụng cho model training, nơi cần sức mạnh tính toán lớn để xử lý dữ liệu lịch sử. Sau khi đã huấn luyện xong, model được tối ưu hóa sẽ được triển khai tới edge để thực hiện inference. Phương pháp kết hợp này tận dụng thế mạnh của cả hai: khả năng mở rộng vô hạn của cloud và tốc độ của edge.

Link to this sectionCác ứng dụng trong thực tế#

Edge computing đang định hình lại các ngành công nghiệp bằng cách nhúng trí tuệ trực tiếp vào các hoạt động vật lý.

• Sản Xuất Thông Minh: Trong industrial automation, các nhà máy sử dụng cổng edge gateway để phân tích dữ liệu cảm biến từ máy móc. Nếu phát hiện bất thường về độ rung, hệ thống có thể kích hoạt các giao thức predictive maintenance ngay lập tức, ngăn chặn tình trạng ngừng hoạt động tốn kém.
• Bán Lẻ Thông Minh: Các cửa hàng truyền thống sử dụng camera tích hợp edge để inventory management. Các hệ thống có thể tự động theo dõi mức tồn kho trên kệ và cảnh báo nhân viên bổ sung hàng hóa, giúp nâng cao hiệu quả vận hành mà không cần truyền các luồng video khách hàng lên máy chủ bên ngoài.
• Quản Lý Giao Thông: Các thành phố thông minh triển khai các nút edge tại các giao lộ để điều khiển traffic signals. Bằng cách phân tích lưu lượng giao thông theo thời gian thực tại chỗ, các hệ thống này có thể tối ưu hóa thời gian đèn tín hiệu để giảm ùn tắc, hoạt động độc lập với các trung tâm điều khiển tập trung.

Link to this sectionTriển khai Model lên Edge#

Để chạy các model phức tạp trên các thiết bị edge bị hạn chế về tài nguyên, các nhà phát triển thường sử dụng các kỹ thuật tối ưu hóa như model quantization hoặc xuất sang các định dạng chuyên biệt như TensorRT hoặc ONNX. Ultralytics Platform đơn giản hóa quy trình này, cho phép người dùng huấn luyện model trên cloud và triển khai chúng tới nhiều mục tiêu edge khác nhau một cách liền mạch.

Ví dụ sau đây minh họa cách xuất một model YOLO26 sang định dạng NCNN, vốn được tối ưu hóa cao cho các thiết bị di động và edge nhúng.

from ultralytics import YOLO

# Load a pre-trained YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to NCNN format for mobile edge deployment
# This creates a lightweight, optimized version of the model
model.export(format="ncnn")

Link to this sectionCác khái niệm liên quan#

• Edge AI: Trong khi edge computing đề cập đến hạ tầng phân tán, thì Edge AI cụ thể đề cập đến việc ứng dụng các thuật toán trí tuệ nhân tạo chạy trên hạ tầng đó.
• Internet of Things (IoT): Mạng lưới các vật thể vật lý—
• Fog Computing: Một hạ tầng điện toán phi tập trung nơi dữ liệu, khả năng tính toán, lưu trữ và ứng dụng được đặt ở đâu đó giữa nguồn dữ liệu và cloud, thường được coi là sự mở rộng của cloud computing đến vùng edge.