Sử dụng tích hợp ONNX để xuất các mô hình Ultralytics YOLO

Khi các AI solutions lần đầu thu hút sự chú ý, hầu hết các model đều được triển khai trên các server mạnh mẽ trong môi trường được kiểm soát. Tuy nhiên, khi công nghệ phát triển, việc triển khai đã vươn xa hơn nhiều khỏi trung tâm dữ liệu.

Ngày nay, các mô hình AI chạy trên mọi thứ, từ máy chủ đám mây và máy tính để bàn đến điện thoại thông minh và thiết bị biên. Sự thay đổi này hỗ trợ quá trình xử lý nhanh hơn, chức năng ngoại tuyến và các hệ thống thông minh hơn hoạt động gần nơi dữ liệu được tạo ra.

Một lĩnh vực thể hiện rõ điều này là computer vision - một nhánh của AI cho phép máy tính diễn giải dữ liệu trực quan. Công nghệ này đang được ứng dụng để thúc đẩy các giải pháp như nhận diện khuôn mặt, xe tự lái và phân tích video thời gian thực. Khi các trường hợp sử dụng này tăng lên, nhu cầu về các model có thể chạy mượt mà trên nhiều phần cứng và nền tảng khác nhau cũng tăng theo.

Tuy nhiên, việc triển khai các mô hình computer vision trên nhiều mục tiêu triển khai khác nhau không phải lúc nào cũng đơn giản. Các thiết bị khác nhau về phần cứng, hệ điều hành và các framework được hỗ trợ, khiến tính linh hoạt và khả năng tương thích trở nên thiết yếu.

Đó là lý do tại sao việc có tùy chọn xuất các model computer vision như Ultralytics YOLO11 sang các định dạng khác nhau là rất quan trọng. Ví dụ, tích hợp ONNX (Open Neural Network Exchange) được hỗ trợ bởi Ultralytics cung cấp một cách thực tế để thu hẹp khoảng cách giữa quá trình huấn luyện và triển khai. ONNX là một định dạng mở giúp các model độc lập với framework và sẵn sàng triển khai trên mọi nền tảng.

Fig 1. ONNX giúp bạn dễ dàng đưa một model được huấn luyện trong một framework này sang chạy ở một framework khác.

Trong bài viết này, chúng ta sẽ xem xét kỹ hơn về ONNX integration được hỗ trợ bởi Ultralytics và khám phá cách bạn có thể xuất model YOLO11 của mình để triển khai linh hoạt trên đa nền tảng.

ONNX và ONNX Runtime là gì?#

Open Neural Network Exchange là một dự án nguồn mở xác định định dạng tiêu chuẩn cho các mô hình học máy. Ban đầu được Microsoft và Facebook phát triển, nó cho phép các nhà phát triển huấn luyện một mô hình trong một framework, như PyTorch, và chạy nó trong một framework khác, như TensorFlow. Điều này làm cho việc phát triển AI trở nên linh hoạt, cộng tác và dễ tiếp cận hơn, đặc biệt là trong các lĩnh vực như computer vision.

ONNX cung cấp một tập hợp các toán tử chung và định dạng tệp thống nhất, giúp việc di chuyển model giữa các công cụ, framework, runtime và trình biên dịch khác nhau trở nên dễ dàng hơn. Thông thường, một model được huấn luyện bằng một framework sẽ không dễ dàng tương thích với framework khác - nhưng với ONNX, bạn có thể xuất model của mình một lần và triển khai nó hầu như ở mọi nơi: trên CPU (Central Processing Units), GPUs (Graphics Processing Units), thiết bị di động hoặc phần cứng biên.

Ngoài ra, ONNX Runtime là một công cụ suy luận hiệu suất cao được phát triển đặc biệt để chạy các mô hình ở định dạng ONNX. Nó được thiết kế để làm cho các mô hình ONNX chạy nhanh hơn và hiệu quả hơn trên nhiều nền tảng - bao gồm máy chủ, thiết bị di động và phần cứng biên. ONNX Runtime tương thích với các framework phổ biến như PyTorch, TensorFlow, TensorFlow Lite và scikit-learn, giúp dễ dàng tích hợp vào các quy trình làm việc khác nhau và triển khai các mô hình ở bất cứ nơi nào cần thiết.

Fig 2. ONNX và ONNX Runtime cho phép triển khai model đa nền tảng một cách linh hoạt.

Các tính năng chính của ONNX#

Trước khi thảo luận cách export Ultralytics YOLO11 sang định dạng ONNX, hãy cùng xem qua một số tính năng chính của định dạng model ONNX.

Cho dù bạn đang chuyển đổi giữa các công cụ, triển khai trên các thiết bị khác nhau hay nâng cấp hệ thống, ONNX giúp mọi thứ hoạt động trơn tru. Dưới đây là những điểm làm cho định dạng mô hình ONNX trở nên độc đáo:

• Một định dạng tiêu chuẩn: ONNX sử dụng một cách chung để mô tả cách xây dựng các mô hình, như các lớp và phép toán (hãy coi chúng là các khối xây dựng). Khi một mô hình được chuyển đổi sang ONNX, nó tuân theo tiêu chuẩn này để bất kỳ hệ thống nào hỗ trợ ONNX đều có thể hiểu và chạy nó.

• Khả năng tương thích ngược: Ngay cả khi ONNX tiếp tục cải tiến, nó đảm bảo rằng các mô hình cũ vẫn hoạt động với các phiên bản mới hơn. Điều này có nghĩa là bạn không cần phải huấn luyện lại hoặc xây dựng lại các mô hình của mình mỗi khi ONNX cập nhật.

• Thiết kế mô hình dựa trên đồ thị: Các mô hình ONNX được cấu trúc dưới dạng đồ thị tính toán, nơi mỗi nút đại diện cho một phép toán (như một lớp hoặc hàm toán học) và các cạnh biểu thị luồng dữ liệu. Thiết kế dựa trên đồ thị này tạo điều kiện tích hợp với nhiều hệ thống sử dụng các cấu trúc đồ thị tính toán tương tự.

• Công cụ thân thiện với nhà phát triển: Nó đi kèm với nhiều công cụ giúp bạn chuyển đổi, xác thực và tối ưu hóa các mô hình. Các công cụ này đơn giản hóa quy trình di chuyển mô hình giữa các framework khác nhau và có thể đẩy nhanh quá trình triển khai - đặc biệt là cho các ứng dụng computer vision.

Tổng quan về tích hợp ONNX#

Việc xuất các Ultralytics YOLO models như Ultralytics YOLO11 sang định dạng ONNX rất đơn giản và có thể được thực hiện chỉ trong vài bước.

Để bắt đầu, hãy cài đặt Ultralytics Python package bằng trình quản lý gói như ‘pip’. Bạn có thể thực hiện việc này bằng cách chạy lệnh “pip install ultralytics” trong dấu nhắc lệnh hoặc terminal của bạn để bắt đầu.

Với gói Ultralytics, bạn có thể dễ dàng huấn luyện, kiểm tra, tinh chỉnh, xuất và triển khai các model cho nhiều tác vụ computer vision khác nhau - giúp toàn bộ quá trình nhanh chóng và hiệu quả hơn. Trong quá trình cài đặt, nếu gặp bất kỳ khó khăn nào, bạn có thể tham khảo Common Issues guide để tìm giải pháp và mẹo hữu ích.

Sau khi gói Ultralytics đã được cài đặt, bạn có thể tải và xuất mô hình YOLO11 sang định dạng ONNX bằng đoạn mã dưới đây. Ví dụ này tải một mô hình YOLO11 đã được huấn luyện trước (yolo11n.pt) và xuất nó thành tệp ONNX (yolo11n.onnx), giúp nó sẵn sàng để triển khai trên các nền tảng và thiết bị khác nhau.

Sau khi chuyển đổi mô hình sang định dạng ONNX, bạn có thể triển khai nó trên nhiều nền tảng khác nhau.

Ví dụ dưới đây cho thấy cách tải mô hình YOLO11 đã xuất (yolo11n.onnx) và chạy suy luận với nó. Suy luận đơn giản là sử dụng mô hình đã huấn luyện để đưa ra dự đoán trên dữ liệu mới. Trong trường hợp này, chúng ta sẽ sử dụng URL của một hình ảnh xe buýt để kiểm tra mô hình.

Khi bạn chạy đoạn mã này, hình ảnh đầu ra sau đây sẽ được lưu trong thư mục runs/detect/predict.

Hình 3. Đang chạy inference bằng model YOLO11 của Ultralytics đã xuất trên một hình ảnh.

Khi nào bạn nên chọn tích hợp ONNX?#

Gói Python của Ultralytics hỗ trợ xuất model sang nhiều định dạng, bao gồm TorchScript, CoreML, TensorRT và ONNX. Vậy, tại sao lại chọn ONNX?

Điều làm cho ONNX trở nên nổi bật là nó là một định dạng độc lập với framework. Trong khi nhiều định dạng xuất khác bị gắn liền với các công cụ hoặc môi trường cụ thể, ONNX sử dụng định dạng tiêu chuẩn và bộ toán tử chia sẻ. Điều này làm cho nó có tính di động cao, thân thiện với phần cứng và lý tưởng cho việc triển khai đa nền tảng - cho dù bạn đang làm việc với máy chủ đám mây, ứng dụng di động hay thiết bị biên.

Dưới đây là một số lý do tại sao tích hợp ONNX có thể là lựa chọn lý tưởng cho các dự án Ultralytics YOLO11 của bạn:

• Triển khai di động: Sau khi xuất sang ONNX, model Ultralytics YOLO11 của bạn có thể được triển khai trên nhiều nền tảng khác nhau mà không cần thay đổi code hay huấn luyện lại.

• Hỗ trợ toàn ngành: ONNX được hỗ trợ bởi các công ty AI và framework lớn, biến nó thành một định dạng đáng tin cậy và được chấp nhận rộng rãi. Nó đảm bảo khả năng tương thích lâu dài, giống như cách tệp PDF hoạt động trên các thiết bị khác nhau.

• Phát triển sẵn sàng cho tương lai: Sử dụng ONNX giúp bảo vệ khoản đầu tư vào mô hình của bạn. Khi các công cụ phát triển, ONNX giữ cho các mô hình của bạn luôn phù hợp và có thể sử dụng được, ngay cả trong các môi trường mới hoặc khác biệt.

• Không bị ràng buộc bởi nhà cung cấp: Một số công cụ buộc bạn chỉ sử dụng hệ thống của họ, điều này có thể giới hạn khả năng của mô hình. ONNX tránh điều đó bằng cách cho phép bạn chọn nền tảng hoạt động tốt nhất cho nhu cầu của mình mà không bị mắc kẹt với một thiết lập duy nhất.

Các ứng dụng của YOLO11 của Ultralytics và định dạng model ONNX#

Tiếp theo, hãy khám phá một số ứng dụng thực tế nơi Ultralytics YOLO11 có thể được triển khai với sự hỗ trợ của tích hợp ONNX.

Theo dõi hàng tồn kho tại các kho hàng bằng YOLO11 của Ultralytics#

Trong các kho hàng bận rộn, rất khó để để mắt đến mọi sản phẩm và gói hàng mọi lúc. Các hệ thống computer vision có thể giúp nhân viên tìm sản phẩm trên kệ và thu thập thông tin chi tiết như số lượng sản phẩm, loại, v.v. Các hệ thống như vậy có thể hỗ trợ doanh nghiệp tự động quản lý lượng hàng tồn kho khổng lồ và tiết kiệm cho nhân viên kho rất nhiều thời gian.

Cụ thể, trong các smart warehouses, các model Ultralytics YOLO11 được xuất sang ONNX có thể được sử dụng để nhận diện và đếm số lượng mặt hàng theo thời gian thực bằng camera và edge devices. Model sau khi xuất có thể giúp quét các kệ hàng hoặc pallet để phát hiện mức tồn kho, các mặt hàng bị thiếu hoặc chỗ trống. Vì việc xuất sang ONNX giúp model trở nên gọn nhẹ và hiệu quả, nó có thể chạy trực tiếp trên các edge devices nhỏ, chẳng hạn như camera thông minh, loại bỏ nhu cầu sử dụng các server đắt tiền hoặc kết nối đám mây liên tục.

Fig 4. Ví dụ về việc sử dụng YOLO11 để phát hiện và đếm các gói hàng.

Quản lý chất thải bệnh viện với YOLO11 của Ultralytics#

Các bệnh viện trên khắp thế giới tạo ra lượng lớn rác thải mỗi ngày, từ găng tay và ống tiêm đã qua sử dụng đến các thiết bị dùng trong phẫu thuật (như dụng cụ phẫu thuật dùng một lần hoặc bị nhiễm bẩn như kéo và dao mổ). Trên thực tế, nghiên cứu cho thấy các bệnh viện tạo ra khoảng 5 triệu tấn rác thải mỗi năm, tương đương 29 pound waste per bed mỗi ngày.

Việc phân loại đúng các loại rác thải này là rất cần thiết cho vấn đề vệ sinh, an toàn và tuân thủ các quy định. Với các model Ultralytics YOLO11 được xuất ở định dạng ONNX, hospitals can automate và giám sát việc xử lý rác thải theo thời gian thực.

Ví dụ, các camera đặt gần thùng rác ở những khu vực như phòng mổ hoặc hành lang có thể giám sát các vật dụng khi chúng được bỏ đi. Một model Ultralytics YOLO11 tùy chỉnh, được huấn luyện để nhận diện các loại rác thải y tế khác nhau, có thể phân tích đoạn phim và xác định những gì đang bị vứt bỏ. Nếu một vật dụng lọt vào nhầm thùng rác, chẳng hạn như kim tiêm đã qua sử dụng trong thùng rác thông thường, hệ thống có thể được thiết lập để ngay lập tức cảnh báo nhân viên bằng đèn hoặc âm thanh, giúp ngăn ngừa ô nhiễm và đảm bảo sự tuân thủ.

Hình 5. Sử dụng Ultralytics YOLO11 để phát hiện các dụng cụ y tế.

Giám sát cây trồng được kích hoạt bởi Ultralytics YOLO11#

Biết thời điểm thích hợp để thu hoạch cây trồng có thể có tác động lớn đến cả chất lượng nông sản và năng suất tổng thể của một trang trại. Theo truyền thống, nông dân dựa vào kinh nghiệm và kiểm tra thủ công - nhưng với những tiến bộ gần đây về công nghệ, điều đó đang bắt đầu thay đổi.

Giờ đây, với các cải tiến về computer vision như YOLO11 được xuất sang định dạng ONNX, nông dân có thể mang tính tự động hóa và độ chính xác vào đồng ruộng. Bằng cách sử dụng drone hoặc camera gắn trên máy kéo hoặc cột, nông dân có thể chụp ảnh cây trồng của họ (chẳng hạn như cà chua, táo hoặc lúa mì). YOLO11 sau đó có thể được sử dụng để phát hiện các chỉ số chính như màu sắc, kích thước và distribution of crops. Dựa trên thông tin này, nông dân có thể xác định xem cây trồng đã sẵn sàng thu hoạch, đang trong giai đoạn phát triển hay đã qua thời kỳ đỉnh cao.

Fig 6. YOLO11 có thể được sử dụng để phát hiện cây trồng trong cảnh quay từ drone trên không.

Các hạn chế của ONNX cần xem xét#

Mặc dù ONNX mang lại nhiều lợi ích, chẳng hạn như tính di động, khả năng tương thích đa nền tảng và khả năng tương tác giữa các framework, nhưng có một số hạn chế cần ghi nhớ:

• Model size: Việc chuyển đổi model sang định dạng ONNX đôi khi có thể dẫn đến kích thước tệp lớn hơn so với định dạng ban đầu. Các kỹ thuật như quantization and pruning có thể giúp giảm thiểu vấn đề này bằng cách giảm kích thước model mà không ảnh hưởng đáng kể đến hiệuem.

• Khả năng tương thích Runtime: Mặc dù ONNX Runtime được thiết kế để tương thích đa nền tảng, hiệu suất và khả năng hỗ trợ có thể khác nhau tùy thuộc vào phần cứng và hệ điều hành khác nhau.

• Thử thách gỡ lỗi: Gỡ lỗi các mô hình ONNX có thể phức tạp hơn so với các framework gốc như PyTorch hoặc TensorFlow. Thông báo lỗi có thể ít mô tả hơn, khiến việc xác định sự cố trở nên khó khăn hơn. Tuy nhiên, các công cụ như Netron để hình ảnh hóa mô hình và các khả năng ghi nhật ký của ONNX Runtime có thể hỗ trợ trong việc khắc phục sự cố.

Các điểm chính cần lưu ý#

Việc xuất Ultralytics YOLO11 sang ONNX giúp dễ dàng lấy một mô hình computer vision đã được huấn luyện và triển khai nó ở hầu hết mọi nơi - cho dù đó là trên máy tính xách tay, thiết bị di động hay thậm chí là một camera thông minh nhỏ gọn. Với tích hợp ONNX, bạn không bị ràng buộc vào một framework hoặc nền tảng duy nhất, mang lại cho bạn sự linh hoạt để chạy mô hình của mình trong môi trường phù hợp nhất với ứng dụng của bạn.

Điều này làm cho quá trình chuyển đổi từ huấn luyện sang triển khai thực tế nhanh hơn và hiệu quả hơn. Cho dù bạn đang theo dõi hàng tồn kho trong kho hàng hay đảm bảo rác thải bệnh viện được xử lý chính xác, thiết lập này giúp các hệ thống chạy mượt mà hơn, giảm thiểu lỗi và tiết kiệm thời gian quý báu.

Bạn muốn tìm hiểu thêm về computer vision và AI? Hãy khám phá GitHub repository của chúng tôi, kết nối với our community và xem qua our licensing options để bắt đầu dự án computer vision của bạn. Nếu bạn đang khám phá các đổi mới như AI in manufacturing và computer vision in the automotive industry, hãy truy cập các trang giải pháp của chúng tôi để khám phá thêm.