Sử dụng tích hợp ONNX để xuất các mô hình Ultralytics YOLO

Khi các giải pháp AI bắt đầu thu hút sự chú ý, hầu hết các mô hình đều được triển khai trên các máy chủ mạnh mẽ trong môi trường được kiểm soát. Tuy nhiên, khi công nghệ phát triển, việc triển khai đã mở rộng vượt xa khỏi trung tâm dữ liệu.

Ngày nay, các mô hình AI chạy trên mọi thứ, từ máy chủ đám mây và máy tính để bàn đến điện thoại thông minh và thiết bị biên. Sự thay đổi này hỗ trợ quá trình xử lý nhanh hơn, chức năng ngoại tuyến và các hệ thống thông minh hơn hoạt động gần nơi dữ liệu được tạo ra.

Một lĩnh vực thể hiện rõ điều này là computer vision - một nhánh của AI cho phép máy móc diễn giải dữ liệu thị giác. Nó đang được sử dụng để thúc đẩy các ứng dụng như nhận diện khuôn mặt, lái xe tự động và phân tích video thời gian thực. Khi các trường hợp sử dụng này phát triển, nhu cầu về các mô hình có thể chạy mượt mà trên nhiều phần cứng và nền tảng khác nhau cũng tăng lên.

Tuy nhiên, việc triển khai các mô hình computer vision trên nhiều mục tiêu triển khai khác nhau không phải lúc nào cũng đơn giản. Các thiết bị khác nhau về phần cứng, hệ điều hành và các framework được hỗ trợ, khiến tính linh hoạt và khả năng tương thích trở nên thiết yếu.

Đó là lý do tại sao việc có tùy chọn xuất các mô hình computer vision như Ultralytics YOLO11 sang các định dạng khác nhau là rất quan trọng. Ví dụ, tích hợp ONNX (Open Neural Network Exchange) được Ultralytics hỗ trợ cung cấp một cách thiết thực để thu hẹp khoảng cách giữa huấn luyện và triển khai. ONNX là một định dạng mở giúp các mô hình độc lập với framework và sẵn sàng triển khai trên nhiều nền tảng.

Hình 1. ONNX giúp bạn dễ dàng lấy một mô hình được huấn luyện trong một framework và chạy nó trong một framework khác.

Trong bài viết này, chúng ta sẽ tìm hiểu sâu hơn về tích hợp ONNX được Ultralytics hỗ trợ và khám phá cách bạn có thể xuất mô hình YOLO11 của mình để triển khai linh hoạt, đa nền tảng.

Link to this sectionONNX và ONNX Runtime là gì?#

Open Neural Network Exchange là một dự án nguồn mở xác định định dạng tiêu chuẩn cho các mô hình học máy. Ban đầu được Microsoft và Facebook phát triển, nó cho phép các nhà phát triển huấn luyện một mô hình trong một framework, như PyTorch, và chạy nó trong một framework khác, như TensorFlow. Điều này làm cho việc phát triển AI trở nên linh hoạt, cộng tác và dễ tiếp cận hơn, đặc biệt là trong các lĩnh vực như computer vision.

ONNX cung cấp một bộ toán tử chung và định dạng tệp thống nhất, giúp việc di chuyển các mô hình giữa các công cụ, framework, runtime và trình biên dịch khác nhau trở nên dễ dàng hơn. Thông thường, một mô hình được huấn luyện trong một framework không dễ dàng tương thích với framework khác - nhưng với ONNX, bạn có thể xuất mô hình của mình một lần và triển khai ở hầu hết mọi nơi: trên CPU, GPU, thiết bị di động hoặc phần cứng biên.

Ngoài ra, ONNX Runtime là một công cụ suy luận hiệu suất cao được phát triển đặc biệt để chạy các mô hình ở định dạng ONNX. Nó được thiết kế để làm cho các mô hình ONNX chạy nhanh hơn và hiệu quả hơn trên nhiều nền tảng - bao gồm máy chủ, thiết bị di động và phần cứng biên. ONNX Runtime tương thích với các framework phổ biến như PyTorch, TensorFlow, TensorFlow Lite và scikit-learn, giúp dễ dàng tích hợp vào các quy trình làm việc khác nhau và triển khai các mô hình ở bất cứ nơi nào cần thiết.

Hình 2. ONNX và ONNX Runtime cho phép triển khai mô hình đa nền tảng linh hoạt.

Link to this sectionCác tính năng chính của ONNX#

Trước khi thảo luận về cách xuất YOLO11 sang định dạng ONNX, hãy cùng xem qua một số tính năng chính của định dạng mô hình ONNX.

Cho dù bạn đang chuyển đổi giữa các công cụ, triển khai trên các thiết bị khác nhau hay nâng cấp hệ thống, ONNX giúp mọi thứ hoạt động trơn tru. Dưới đây là những điểm làm cho định dạng mô hình ONNX trở nên độc đáo:

• Một định dạng tiêu chuẩn: ONNX sử dụng một cách chung để mô tả cách xây dựng các mô hình, như các lớp và phép toán (hãy coi chúng là các khối xây dựng). Khi một mô hình được chuyển đổi sang ONNX, nó tuân theo tiêu chuẩn này để bất kỳ hệ thống nào hỗ trợ ONNX đều có thể hiểu và chạy nó.

• Khả năng tương thích ngược: Ngay cả khi ONNX tiếp tục cải tiến, nó đảm bảo rằng các mô hình cũ vẫn hoạt động với các phiên bản mới hơn. Điều này có nghĩa là bạn không cần phải huấn luyện lại hoặc xây dựng lại các mô hình của mình mỗi khi ONNX cập nhật.

• Thiết kế mô hình dựa trên đồ thị: Các mô hình ONNX được cấu trúc dưới dạng đồ thị tính toán, nơi mỗi nút đại diện cho một phép toán (như một lớp hoặc hàm toán học) và các cạnh biểu thị luồng dữ liệu. Thiết kế dựa trên đồ thị này tạo điều kiện tích hợp với nhiều hệ thống sử dụng các cấu trúc đồ thị tính toán tương tự.

• Công cụ thân thiện với nhà phát triển: Nó đi kèm với nhiều công cụ giúp bạn chuyển đổi, xác thực và tối ưu hóa các mô hình. Các công cụ này đơn giản hóa quy trình di chuyển mô hình giữa các framework khác nhau và có thể đẩy nhanh quá trình triển khai - đặc biệt là cho các ứng dụng computer vision.

Link to this sectionTổng quan về tích hợp ONNX#

Việc xuất các mô hình Ultralytics YOLO như Ultralytics YOLO11 sang định dạng ONNX rất đơn giản và có thể thực hiện chỉ trong vài bước.

Để bắt đầu, hãy cài đặt gói Ultralytics Python bằng trình quản lý gói như ‘pip’. Bạn có thể thực hiện việc này bằng cách chạy lệnh “pip install ultralytics” trong dấu nhắc lệnh hoặc terminal để bắt đầu.

Với gói Ultralytics, bạn có thể dễ dàng huấn luyện, kiểm thử, tinh chỉnh, xuất và triển khai các mô hình cho nhiều tác vụ computer vision khác nhau - giúp toàn bộ quy trình nhanh hơn và hiệu quả hơn. Trong khi cài đặt, nếu gặp bất kỳ khó khăn nào, bạn có thể tham khảo hướng dẫn về các vấn đề thường gặp để biết giải pháp và mẹo.

Sau khi gói Ultralytics đã được cài đặt, bạn có thể tải và xuất mô hình YOLO11 sang định dạng ONNX bằng đoạn mã dưới đây. Ví dụ này tải một mô hình YOLO11 đã được huấn luyện trước (yolo11n.pt) và xuất nó thành tệp ONNX (yolo11n.onnx), giúp nó sẵn sàng để triển khai trên các nền tảng và thiết bị khác nhau.

Sau khi chuyển đổi mô hình sang định dạng ONNX, bạn có thể triển khai nó trên nhiều nền tảng khác nhau.

Ví dụ dưới đây cho thấy cách tải mô hình YOLO11 đã xuất (yolo11n.onnx) và chạy suy luận với nó. Suy luận đơn giản là sử dụng mô hình đã huấn luyện để đưa ra dự đoán trên dữ liệu mới. Trong trường hợp này, chúng ta sẽ sử dụng URL của một hình ảnh xe buýt để kiểm tra mô hình.

Khi bạn chạy đoạn mã này, hình ảnh đầu ra sau đây sẽ được lưu trong thư mục runs/detect/predict.

Hình 3. Chạy suy luận sử dụng mô hình YOLO11 đã xuất trên một hình ảnh.

Link to this sectionKhi nào bạn nên chọn tích hợp ONNX?#

Gói Ultralytics Python hỗ trợ xuất các mô hình sang một số định dạng, bao gồm TorchScript, CoreML, TensorRT và ONNX. Vậy, tại sao lại chọn ONNX?

Điều làm cho ONNX trở nên nổi bật là nó là một định dạng độc lập với framework. Trong khi nhiều định dạng xuất khác bị gắn liền với các công cụ hoặc môi trường cụ thể, ONNX sử dụng định dạng tiêu chuẩn và bộ toán tử chia sẻ. Điều này làm cho nó có tính di động cao, thân thiện với phần cứng và lý tưởng cho việc triển khai đa nền tảng - cho dù bạn đang làm việc với máy chủ đám mây, ứng dụng di động hay thiết bị biên.

Dưới đây là một số lý do tại sao tích hợp ONNX có thể là lựa chọn lý tưởng cho các dự án YOLO11 của bạn:

• Triển khai di động: Sau khi xuất sang ONNX, mô hình YOLO11 của bạn có thể được triển khai trên nhiều nền tảng khác nhau mà không cần thay đổi mã hoặc huấn luyện lại.

• Hỗ trợ toàn ngành: ONNX được hỗ trợ bởi các công ty AI và framework lớn, biến nó thành một định dạng đáng tin cậy và được chấp nhận rộng rãi. Nó đảm bảo khả năng tương thích lâu dài, giống như cách tệp PDF hoạt động trên các thiết bị khác nhau.

• Phát triển sẵn sàng cho tương lai: Sử dụng ONNX giúp bảo vệ khoản đầu tư vào mô hình của bạn. Khi các công cụ phát triển, ONNX giữ cho các mô hình của bạn luôn phù hợp và có thể sử dụng được, ngay cả trong các môi trường mới hoặc khác biệt.

• Không bị ràng buộc bởi nhà cung cấp: Một số công cụ buộc bạn chỉ sử dụng hệ thống của họ, điều này có thể giới hạn khả năng của mô hình. ONNX tránh điều đó bằng cách cho phép bạn chọn nền tảng hoạt động tốt nhất cho nhu cầu của mình mà không bị mắc kẹt với một thiết lập duy nhất.

Link to this sectionCác ứng dụng của YOLO11 và định dạng mô hình ONNX#

Tiếp theo, hãy cùng khám phá một số ứng dụng thực tế nơi YOLO11 có thể được triển khai với sự trợ giúp của tích hợp ONNX.

Link to this sectionTheo dõi hàng tồn kho tại các kho hàng bằng YOLO11#

Trong các kho hàng bận rộn, rất khó để để mắt đến mọi sản phẩm và gói hàng mọi lúc. Các hệ thống computer vision có thể giúp nhân viên tìm sản phẩm trên kệ và thu thập thông tin chi tiết như số lượng sản phẩm, loại, v.v. Các hệ thống như vậy có thể hỗ trợ doanh nghiệp tự động quản lý lượng hàng tồn kho khổng lồ và tiết kiệm cho nhân viên kho rất nhiều thời gian.

Cụ thể, trong kho hàng thông minh, các mô hình YOLO11 được xuất sang ONNX có thể được sử dụng để nhận diện và đếm hàng hóa theo thời gian thực bằng camera và thiết bị biên. Mô hình đã xuất có thể giúp quét kệ hoặc pallet để phát hiện mức tồn kho, các mặt hàng bị thiếu hoặc vị trí trống. Vì việc xuất sang ONNX làm cho mô hình trở nên nhẹ và hiệu quả, nó có thể chạy trực tiếp trên các thiết bị biên nhỏ, chẳng hạn như camera thông minh, loại bỏ nhu cầu về máy chủ đắt tiền hoặc kết nối đám mây liên tục.

Hình 4. Ví dụ về việc sử dụng YOLO11 để nhận diện và đếm gói hàng.

Link to this sectionQuản lý rác thải bệnh viện với YOLO11#

Các bệnh viện trên khắp thế giới tạo ra một lượng lớn rác thải mỗi ngày, từ găng tay và ống tiêm đã qua sử dụng đến thiết bị được sử dụng trong phẫu thuật (như các công cụ phẫu thuật dùng một lần hoặc bị nhiễm bẩn như kéo và dao mổ). Trên thực tế, nghiên cứu cho thấy các bệnh viện tạo ra khoảng 5 triệu tấn rác thải mỗi năm, tương đương với 29 pound rác thải trên mỗi giường mỗi ngày.

Phân loại rác thải như vậy đúng cách là điều cần thiết để đảm bảo vệ sinh, an toàn và tuân thủ các quy định. Với các mô hình YOLO11 được xuất ở định dạng ONNX, các bệnh viện có thể tự động hóa và giám sát việc xử lý rác thải theo thời gian thực.

Ví dụ, các camera đặt gần thùng rác trong các khu vực như phòng mổ hoặc hành lang có thể giám sát các vật phẩm khi chúng bị vứt bỏ. Một mô hình YOLO11 tùy chỉnh, được huấn luyện để nhận diện các loại rác thải y tế khác nhau, có thể phân tích cảnh quay và xác định những gì đang bị vứt bỏ. Nếu một vật phẩm bị để sai thùng, chẳng hạn như ống tiêm đã qua sử dụng trong thùng rác thông thường, hệ thống có thể được thiết lập để thông báo ngay lập tức cho nhân viên bằng đèn hoặc âm thanh, giúp ngăn ngừa nhiễm bẩn và đảm bảo tuân thủ quy định.

Hình 5. Sử dụng YOLO11 để nhận diện dụng cụ y tế.

Link to this sectionGiám sát cây trồng với YOLO11#

Biết thời điểm thích hợp để thu hoạch cây trồng có thể có tác động lớn đến cả chất lượng nông sản và năng suất tổng thể của một trang trại. Theo truyền thống, nông dân dựa vào kinh nghiệm và kiểm tra thủ công - nhưng với những tiến bộ gần đây về công nghệ, điều đó đang bắt đầu thay đổi.

Hiện nay, với các đổi mới về computer vision như YOLO11, được xuất sang định dạng ONNX, nông dân có thể mang sự tự động hóa và độ chính xác đến tận cánh đồng. Bằng cách sử dụng máy bay không người lái hoặc camera gắn trên máy kéo hoặc cột, nông dân có thể chụp ảnh cây trồng của họ (như cà chua, táo hoặc lúa mì). Sau đó, YOLO11 có thể được sử dụng để phát hiện các chỉ số chính như màu sắc, kích thước và sự phân bổ của cây trồng. Dựa trên thông tin này, nông dân có thể xác định xem cây trồng đã sẵn sàng để thu hoạch, vẫn đang trong quá trình phát triển hay đã qua thời điểm chín muồi nhất.

Hình 6. YOLO11 có thể được sử dụng để nhận diện cây trồng trong cảnh quay từ máy bay không người lái.

Link to this sectionCác hạn chế của ONNX cần xem xét#

Mặc dù ONNX mang lại nhiều lợi ích, chẳng hạn như tính di động, khả năng tương thích đa nền tảng và khả năng tương tác giữa các framework, nhưng có một số hạn chế cần ghi nhớ:

• Kích thước mô hình: Chuyển đổi mô hình sang định dạng ONNX đôi khi có thể dẫn đến kích thước tệp lớn hơn so với định dạng gốc của chúng. Các kỹ thuật như lượng tử hóa và cắt tỉa (quantization and pruning) có thể giúp giảm thiểu vấn đề này bằng cách giảm kích thước mô hình mà không ảnh hưởng đáng kể đến hiệu suất.

• Khả năng tương thích Runtime: Mặc dù ONNX Runtime được thiết kế để tương thích đa nền tảng, hiệu suất và khả năng hỗ trợ có thể khác nhau tùy thuộc vào phần cứng và hệ điều hành khác nhau.

• Thử thách gỡ lỗi: Gỡ lỗi các mô hình ONNX có thể phức tạp hơn so với các framework gốc như PyTorch hoặc TensorFlow. Thông báo lỗi có thể ít mô tả hơn, khiến việc xác định sự cố trở nên khó khăn hơn. Tuy nhiên, các công cụ như Netron để hình ảnh hóa mô hình và các khả năng ghi nhật ký của ONNX Runtime có thể hỗ trợ trong việc khắc phục sự cố.

Link to this sectionCác điểm chính cần lưu ý#

Việc xuất Ultralytics YOLO11 sang ONNX giúp dễ dàng lấy một mô hình computer vision đã được huấn luyện và triển khai nó ở hầu hết mọi nơi - cho dù đó là trên máy tính xách tay, thiết bị di động hay thậm chí là một camera thông minh nhỏ gọn. Với tích hợp ONNX, bạn không bị ràng buộc vào một framework hoặc nền tảng duy nhất, mang lại cho bạn sự linh hoạt để chạy mô hình của mình trong môi trường phù hợp nhất với ứng dụng của bạn.

Điều này làm cho quá trình chuyển đổi từ huấn luyện sang triển khai thực tế nhanh hơn và hiệu quả hơn. Cho dù bạn đang theo dõi hàng tồn kho trong kho hàng hay đảm bảo rác thải bệnh viện được xử lý chính xác, thiết lập này giúp các hệ thống chạy mượt mà hơn, giảm thiểu lỗi và tiết kiệm thời gian quý báu.

Bạn muốn tìm hiểu thêm về computer vision và AI? Hãy khám phá kho lưu trữ GitHub của chúng tôi, kết nối với cộng đồng của chúng tôi và xem qua các tùy chọn cấp phép của chúng tôi để khởi động dự án computer vision của bạn. Nếu bạn đang khám phá các đổi mới như AI trong sản xuất và computer vision trong ngành công nghiệp ô tô, hãy truy cập các trang giải pháp của chúng tôi để khám phá thêm.