Sử dụng tích hợp ONNX để export các model Ultralytics YOLO

Khi các giải pháp AI bắt đầu thu hút sự chú ý, hầu hết model được triển khai trên các server mạnh trong những môi trường được kiểm soát. Tuy nhiên, khi công nghệ phát triển, việc triển khai đã mở rộng vượt xa trung tâm dữ liệu.

Ngày nay, các model AI chạy trên mọi thứ, từ server đám mây và máy tính để bàn đến smartphone và thiết bị edge. Sự chuyển dịch này hỗ trợ xử lý nhanh hơn, chức năng ngoại tuyến và các hệ thống thông minh hoạt động gần hơn với nơi dữ liệu được tạo ra.

Một lĩnh vực thể hiện rõ điều này là thị giác máy tính - một nhánh của AI cho phép máy móc diễn giải dữ liệu hình ảnh. Công nghệ này đang được sử dụng cho các ứng dụng như nhận diện khuôn mặt, lái xe tự hành và phân tích video theo thời gian thực. Khi các trường hợp sử dụng này phát triển, nhu cầu về những model có thể chạy mượt mà trên nhiều phần cứng và nền tảng khác nhau cũng tăng theo.

Tuy nhiên, việc triển khai các model thị giác máy tính trên nhiều mục tiêu triển khai không phải lúc nào cũng đơn giản. Các thiết bị khác nhau về phần cứng, hệ điều hành và framework được hỗ trợ, khiến tính linh hoạt và khả năng tương thích trở nên thiết yếu.

Đó là lý do khả năng xuất các model thị giác máy tính như Ultralytics YOLO11 sang nhiều định dạng khác nhau rất quan trọng. Chẳng hạn, tích hợp ONNX (Trao đổi Mạng Nơ-ron Mở) được Ultralytics hỗ trợ cung cấp một cách thiết thực để thu hẹp khoảng cách giữa quá trình training và triển khai. ONNX là một định dạng mở giúp model không phụ thuộc framework và sẵn sàng triển khai trên nhiều nền tảng.

Hình 1. ONNX giúp bạn dễ dàng đưa một model được training trong một framework sang chạy trong framework khác.

Trong bài viết này, chúng ta sẽ tìm hiểu kỹ hơn về tích hợp ONNX được Ultralytics hỗ trợ và khám phá cách xuất model YOLO11 để triển khai linh hoạt trên nhiều nền tảng.

ONNX và ONNX Runtime là gì?#

Trao đổi Mạng Nơ-ron Mở là một dự án mã nguồn mở định nghĩa định dạng tiêu chuẩn cho các model machine learning. Ban đầu được Microsoft và Facebook phát triển, dự án này cho phép developer training một model trong một framework như PyTorch và chạy model đó trong framework khác như TensorFlow. Điều này giúp quá trình phát triển AI trở nên linh hoạt, cộng tác và dễ tiếp cận hơn, đặc biệt trong các lĩnh vực như thị giác máy tính.

ONNX cung cấp một tập operator chung và định dạng file thống nhất, giúp việc di chuyển model giữa các tool, framework, runtime và compiler khác nhau trở nên dễ dàng hơn. Thông thường, một model được training trong một framework không dễ tương thích với framework khác - nhưng với ONNX, bạn có thể xuất model một lần và triển khai model đó ở hầu hết mọi nơi: trên CPUs (bộ xử lý trung tâm), GPUs (bộ xử lý đồ họa), thiết bị di động hoặc phần cứng edge.

Ngoài ra, ONNX Runtime là một inference engine hiệu năng cao được phát triển riêng để chạy các model ở định dạng ONNX. Công cụ này được thiết kế để giúp model ONNX chạy nhanh hơn và hiệu quả hơn trên nhiều nền tảng, bao gồm server, thiết bị di động và phần cứng edge. ONNX Runtime tương thích với các framework phổ biến như PyTorch, TensorFlow, TensorFlow Lite và scikit-learn, giúp dễ dàng tích hợp vào nhiều workflow khác nhau và triển khai model ở bất cứ nơi nào cần thiết.

Hình 2. ONNX và ONNX Runtime cho phép triển khai model linh hoạt trên nhiều nền tảng.

Các tính năng chính của ONNX#

Trước khi thảo luận cách xuất Ultralytics YOLO11 sang định dạng ONNX, hãy cùng xem một số tính năng chính của định dạng model ONNX.

Dù bạn chuyển đổi giữa các tool, triển khai trên những thiết bị khác nhau hay nâng cấp hệ thống, ONNX giúp mọi thứ vận hành trơn tru. Dưới đây là những điểm làm nên sự độc đáo của định dạng model ONNX:

• Một định dạng tiêu chuẩn: ONNX sử dụng một cách thức chung để mô tả cách xây dựng model, chẳng hạn như các layer và operation (hãy hình dung chúng như những khối xây dựng). Khi một model được chuyển đổi sang ONNX, model tuân theo tiêu chuẩn này để mọi hệ thống hỗ trợ ONNX đều có thể hiểu và chạy được model đó.

• Tương thích ngược: Dù ONNX tiếp tục được cải thiện, định dạng này vẫn đảm bảo các model cũ hoạt động với những phiên bản mới hơn. Điều đó có nghĩa là bạn không phải training lại hoặc xây dựng lại model mỗi khi ONNX được cập nhật.

• Thiết kế model dựa trên graph: Các model ONNX được cấu trúc dưới dạng computation graph, trong đó mỗi node đại diện cho một operation (chẳng hạn như một layer hoặc hàm toán học), còn edge biểu thị luồng dữ liệu. Thiết kế dựa trên graph này tạo thuận lợi cho việc tích hợp với nhiều hệ thống sử dụng các cấu trúc computation graph tương tự.

• Tool thân thiện với developer: ONNX đi kèm nhiều tool hỗ trợ chuyển đổi, xác thực và tối ưu model. Các tool này đơn giản hóa quá trình di chuyển model giữa những framework khác nhau và có thể đẩy nhanh việc triển khai, đặc biệt đối với các ứng dụng thị giác máy tính.

Tổng quan về tích hợp ONNX#

Việc xuất các model YOLO của Ultralytics như Ultralytics YOLO11 sang định dạng ONNX rất đơn giản và có thể thực hiện chỉ với vài bước.

Để bắt đầu, hãy cài đặt package Python của Ultralytics bằng một package manager như ‘pip’. Bạn có thể bắt đầu bằng cách chạy lệnh “pip install ultralytics” trong command prompt hoặc terminal.

Với package Ultralytics, bạn có thể dễ dàng training, kiểm thử, fine-tune, xuất và triển khai model cho nhiều tác vụ thị giác máy tính khác nhau, giúp toàn bộ quy trình nhanh hơn và hiệu quả hơn. Nếu gặp khó khăn trong quá trình cài đặt, bạn có thể tham khảo hướng dẫn Các vấn đề thường gặp để tìm giải pháp và mẹo xử lý.

Sau khi cài đặt package Ultralytics, bạn có thể load và xuất model YOLO11 sang định dạng ONNX bằng đoạn code dưới đây. Ví dụ này load một model YOLO11 đã được pre-trained (yolo11n.pt) và xuất model thành file ONNX (yolo11n.onnx), giúp model sẵn sàng triển khai trên nhiều nền tảng và thiết bị khác nhau.

Sau khi chuyển đổi model sang định dạng ONNX, bạn có thể triển khai model trên nhiều nền tảng.

Ví dụ dưới đây cho thấy cách load model YOLO11 đã xuất (yolo11n.onnx) và chạy inference với model đó. Inference đơn giản là sử dụng model đã training để đưa ra dự đoán trên dữ liệu mới. Trong trường hợp này, chúng ta sẽ sử dụng URL của một ảnh xe buýt để kiểm thử model.

Khi chạy đoạn code này, ảnh output sau đây sẽ được lưu trong thư mục runs/detect/predict.

Hình 3. Chạy inference bằng model Ultralytics YOLO11 đã xuất trên một ảnh.

Khi nào nên chọn tích hợp ONNX?#

Package Python của Ultralytics hỗ trợ xuất model sang nhiều định dạng, bao gồm TorchScript, CoreML, TensorRT và ONNX. Vậy tại sao nên chọn ONNX?

Điểm nổi bật của ONNX là đây là một định dạng không phụ thuộc framework. Trong khi nhiều định dạng xuất khác gắn liền với các tool hoặc môi trường cụ thể, ONNX sử dụng định dạng tiêu chuẩn hóa và một tập operator dùng chung. Điều này khiến ONNX có tính portable cao, thân thiện với phần cứng và lý tưởng cho việc triển khai đa nền tảng, dù bạn đang làm việc với server đám mây, ứng dụng di động hay thiết bị edge.

Dưới đây là một số lý do khiến tích hợp ONNX có thể là lựa chọn lý tưởng cho các dự án Ultralytics YOLO11 của bạn:

• Triển khai portable: Sau khi được xuất sang ONNX, model Ultralytics YOLO11 của bạn có thể được triển khai trên nhiều nền tảng khác nhau mà không cần thay đổi code hoặc training lại.

• Được hỗ trợ rộng rãi trong ngành: ONNX được các công ty AI và framework lớn hỗ trợ, khiến đây trở thành một định dạng đáng tin cậy và được chấp nhận rộng rãi. ONNX đảm bảo khả năng tương thích lâu dài, tương tự như cách PDF hoạt động trên nhiều thiết bị.

• Phát triển hướng tới tương lai: Sử dụng ONNX giúp bảo vệ khoản đầu tư vào model của bạn. Khi các tool phát triển, ONNX giữ cho model luôn phù hợp và có thể sử dụng, ngay cả trong những môi trường mới hoặc khác biệt.

• Không bị khóa bởi vendor: Một số tool buộc bạn chỉ sử dụng hệ thống của họ, điều này có thể hạn chế khả năng của model. ONNX loại bỏ vấn đề đó bằng cách cho phép bạn chọn nền tảng phù hợp nhất với nhu cầu mà không bị phụ thuộc vào một cấu hình duy nhất.

Các ứng dụng của Ultralytics YOLO11 và định dạng model ONNX#

Tiếp theo, hãy cùng khám phá một số ứng dụng thực tế mà Ultralytics YOLO11 có thể được triển khai với sự hỗ trợ của tích hợp ONNX.

Theo dõi hàng tồn kho trong kho bằng Ultralytics YOLO11#

Trong những nhà kho bận rộn, rất khó theo dõi mọi sản phẩm và kiện hàng mọi lúc. Các hệ thống thị giác máy tính có thể giúp nhân viên tìm sản phẩm trên kệ và thu thập thông tin như số lượng, loại sản phẩm, v.v. Những hệ thống này có thể hỗ trợ doanh nghiệp tự động quản lý lượng hàng tồn kho lớn và tiết kiệm nhiều thời gian cho nhân viên kho.

Cụ thể, trong các kho thông minh, các model Ultralytics YOLO11 được xuất sang ONNX có thể được sử dụng để nhận diện và đếm vật phẩm theo thời gian thực bằng camera và thiết bị edge. Model đã xuất có thể quét kệ hoặc pallet để phát hiện mức tồn kho, vật phẩm bị thiếu hoặc vị trí trống. Vì việc xuất sang ONNX giúp model nhẹ và hiệu quả, model có thể chạy trực tiếp trên các thiết bị edge nhỏ như camera thông minh, loại bỏ nhu cầu sử dụng server đắt tiền hoặc liên tục truy cập đám mây.

Hình 4. Ví dụ sử dụng YOLO11 để phát hiện và đếm kiện hàng.

Quản lý chất thải bệnh viện với Ultralytics YOLO11#

Các bệnh viện trên toàn thế giới tạo ra một lượng lớn chất thải mỗi ngày, từ găng tay và ống tiêm đã qua sử dụng đến các thiết bị dùng trong phẫu thuật (như dụng cụ phẫu thuật dùng một lần hoặc bị nhiễm bẩn như kéo và dao mổ). Trên thực tế, nghiên cứu cho thấy các bệnh viện tạo ra khoảng 5 triệu tấn chất thải mỗi năm, tương đương 29 pound chất thải trên mỗi giường bệnh mỗi ngày.

Việc phân loại đúng loại chất thải là điều cần thiết để đảm bảo vệ sinh, an toàn và tuân thủ quy định. Với các model Ultralytics YOLO11 được xuất ở định dạng ONNX, bệnh viện có thể tự động hóa và giám sát việc xử lý chất thải theo thời gian thực.

Chẳng hạn, camera được đặt gần các thùng rác tại những khu vực như phòng phẫu thuật hoặc hành lang có thể giám sát các vật phẩm khi chúng bị vứt bỏ. Một model Ultralytics YOLO11 tùy chỉnh, được training để nhận diện nhiều loại chất thải y tế, có thể phân tích video và xác định vật phẩm đang bị vứt đi. Nếu một vật phẩm bị bỏ nhầm thùng, chẳng hạn ống tiêm đã qua sử dụng bị bỏ vào rác thông thường, hệ thống có thể được thiết lập để ngay lập tức cảnh báo nhân viên bằng đèn hoặc âm thanh, giúp ngăn ngừa nhiễm bẩn và đảm bảo tuân thủ.

Hình 5. Sử dụng Ultralytics YOLO11 để phát hiện dụng cụ y tế.

Giám sát cây trồng với Ultralytics YOLO11#

Việc biết đúng thời điểm thu hoạch có thể ảnh hưởng lớn đến cả chất lượng nông sản và năng suất tổng thể của trang trại. Theo cách truyền thống, nông dân dựa vào kinh nghiệm và kiểm tra thủ công - nhưng với những tiến bộ công nghệ gần đây, điều đó đang bắt đầu thay đổi.

Hiện nay, với những đổi mới trong thị giác máy tính như YOLO11 được xuất ở định dạng ONNX, nông dân có thể đưa tự động hóa và độ chính xác vào đồng ruộng. Bằng cách sử dụng drone hoặc camera gắn trên máy kéo hay cột, nông dân có thể ghi lại hình ảnh cây trồng như cà chua, táo hoặc lúa mì. Sau đó, YOLO11 có thể được sử dụng để phát hiện các chỉ dấu quan trọng như màu sắc, kích thước và sự phân bố của cây trồng. Dựa trên thông tin này, nông dân có thể xác định cây trồng đã sẵn sàng thu hoạch, vẫn đang chín hay đã qua giai đoạn đạt chất lượng tốt nhất.

Hình 6. YOLO11 có thể được sử dụng để phát hiện cây trồng trong video trên không từ drone.

Những hạn chế của ONNX cần cân nhắc#

Mặc dù ONNX mang lại nhiều lợi ích như tính portable, khả năng tương thích đa nền tảng và khả năng tương tác giữa các framework, vẫn có một số hạn chế cần lưu ý:

• Kích thước model: Việc chuyển đổi model sang định dạng ONNX đôi khi có thể làm kích thước file lớn hơn so với định dạng gốc. Các kỹ thuật như quantization và pruning có thể giúp giảm tác động của vấn đề này bằng cách giảm kích thước model mà không ảnh hưởng đáng kể đến hiệu năng.

• Khả năng tương thích runtime: Mặc dù ONNX Runtime được thiết kế để tương thích đa nền tảng, hiệu năng và mức độ hỗ trợ có thể khác nhau tùy phần cứng và hệ điều hành.

• Thách thức khi debug: Việc debug model ONNX có thể phức tạp hơn so với các framework native như PyTorch hoặc TensorFlow. Thông báo lỗi có thể kém mô tả hơn, khiến việc xác định chính xác vấn đề trở nên khó khăn. Tuy nhiên, các tool như Netron để trực quan hóa model và khả năng logging của ONNX Runtime có thể hỗ trợ khắc phục sự cố.

Những điểm chính#

Xuất Ultralytics YOLO11 sang ONNX giúp dễ dàng đưa một model thị giác máy tính đã training vào triển khai gần như ở bất cứ đâu - dù là trên laptop, thiết bị di động hay thậm chí camera thông minh nhỏ gọn. Với tích hợp ONNX, bạn không bị ràng buộc vào một framework hoặc nền tảng duy nhất, mang lại sự linh hoạt để chạy model trong môi trường phù hợp nhất với ứng dụng của mình.

Điều này giúp quá trình chuyển đổi từ training sang triển khai thực tế nhanh hơn và hiệu quả hơn. Dù bạn đang theo dõi hàng tồn kho trong kho hay đảm bảo chất thải bệnh viện được xử lý đúng cách, thiết lập này giúp hệ thống vận hành mượt mà hơn, giảm lỗi và tiết kiệm thời gian quý báu.

Bạn muốn tìm hiểu thêm về thị giác máy tính và AI? Hãy khám phá repository GitHub của chúng tôi, kết nối với cộng đồng của chúng tôi và xem các tùy chọn cấp phép của chúng tôi để bắt đầu dự án thị giác máy tính. Nếu bạn đang tìm hiểu những đổi mới như AI trong sản xuất và thị giác máy tính trong ngành ô tô, hãy truy cập các trang giải pháp của chúng tôi để khám phá thêm.