Xuất Ultralytics YOLO11 bằng tích hợp PaddlePaddle
Tìm hiểu cách xuất các model Ultralytics YOLO như Ultralytics YOLO11 với PaddlePaddle để triển khai hiệu quả trên các nền tảng biên, di động và đám mây.
Khi trí tuệ nhân tạo (AI) phát triển, máy móc ngày càng giỏi hơn trong việc hiểu thế giới xung quanh. Một lĩnh vực quan trọng thúc đẩy tiến bộ này là computer vision, một nhánh của AI cho phép máy móc diễn giải và đưa ra quyết định dựa trên dữ liệu trực quan.
Từ việc giúp ô tô nhận diện biển báo giao thông đến kiểm tra kệ hàng trong cửa hàng bán lẻ, computer vision hiện đã trở thành một phần của nhiều công cụ hàng ngày. Các tác vụ này dựa trên các model vision AI có khả năng quét ảnh hoặc video nhanh chóng và xác định những gì quan trọng.
Theo thời gian, các model này đã trở nên nhanh hơn và chính xác hơn, hữu ích trong các lĩnh vực như nông nghiệp, y tế, bảo mật và bán lẻ. Ví dụ, Ultralytics YOLO11 là một model được xây dựng để xử lý nhiều tác vụ computer vision khác nhau với tốc độ và độ chính xác cao. Model này có thể phát hiện và phân loại đối tượng, theo dõi chuyển động và ước tính tư thế cơ thể.
Một phần quan trọng của việc chuyển từ nghiên cứu sang ứng dụng thực tế của computer vision là triển khai (deployment). Sau khi một model được huấn luyện, bước tiếp theo là chạy nó trên các thiết bị như điện thoại, phần cứng edge hoặc máy chủ đám mây.
Hình 1. Triển khai model là một phần quan trọng của bất kỳ dự án computer vision nào.
Để hỗ trợ điều này, các Ultralytics YOLO models như YOLO11 có thể được export sang nhiều định dạng khác nhau tùy thuộc vào nền tảng đích. Một trong số đó là PaddlePaddle, một framework AI mã nguồn mở cho phép deploy model và inference hiệu quả trên nhiều loại thiết bị và hệ thống.
Trong bài viết này, chúng ta sẽ khám phá cách Ultralytics YOLO11 có thể được export thông qua PaddlePaddle integration được hỗ trợ bởi Ultralytics để cho phép deploy hiệu quả trên các nền tảng khác nhau.
PaddlePaddle là gì?#
Deploy các AI model bên ngoài môi trường nghiên cứu, như trên thiết bị di động hoặc phần cứng biên, đôi khi có thể phức tạp, đặc biệt là khi bạn cần chúng chạy hiệu quả và sử dụng tối thiểu tài nguyên. PaddlePaddle là một deep learning framework được thiết kế chính xác để giải quyết vấn đề đó.
Đây là một nền tảng mã nguồn mở của Trung Quốc, với tên gọi viết tắt của Parallel Distributed Deep Learning. Được phát triển bởi Baidu, một công ty nổi tiếng về AI và cơ sở hạ tầng phần mềm, PaddlePaddle được tạo ra đặc biệt cho các ứng dụng thực tế, không chỉ là nghiên cứu.
Các lập trình viên có thể chạy các model ở định dạng PaddlePaddle trên máy chủ, thiết bị edge và cả phần cứng di động. Nó cũng hỗ trợ các công cụ giúp đơn giản hóa phát triển AI, bao gồm cả các tùy chọn low-code và no-code. Nền tảng này có một cộng đồng phát triển lớn mạnh với hơn 4,7 triệu người dùng và được sử dụng trên nhiều ngành công nghiệp, bao gồm y tế, nông nghiệp, sản xuất và tài chính.
Các tính năng chính của PaddlePaddle#
Dưới đây là một số tính năng chính giúp PaddlePaddle chạy các model hiệu quả hơn trên các thiết bị thực tế:
- Chuyển đổi đồ thị động sang tĩnh (Dynamic-to-static graph conversion): Tính năng này biến một model linh hoạt thành phiên bản cố định chạy mượt mà và dễ dự đoán hơn. Một model cố định sẽ dễ tối ưu hóa hơn và nhanh hơn khi thực hiện dự đoán.
- Hợp nhất toán tử (Operator fusion): PaddlePaddle có thể kết hợp nhiều bước trong model thành một. Điều này làm giảm lượng bộ nhớ model sử dụng và giúp nó chạy nhanh hơn. Hãy tưởng tượng nó giống như việc kết hợp nhiều tác vụ thành một hành động duy nhất để tiết kiệm thời gian.
- Quantization: Giúp model nhỏ hơn bằng cách sử dụng các con số đơn giản hơn (như làm tròn thành ít chữ số thập phân hơn). Điều này giúp model chạy trên các thiết bị bị hạn chế về nguồn điện, như điện thoại hoặc camera thông minh, mà không làm mất đi nhiều độ chính xác.
Hình 2. Các ưu điểm của việc sử dụng PaddlePaddle. Hình ảnh từ tác giả.
Tổng quan về việc triển khai Ultralytics YOLO11 với PaddlePaddle#
Tích hợp PaddlePaddle được Ultralytics hỗ trợ giúp việc chuyển từ huấn luyện sang triển khai trở nên dễ dàng hơn. Các lập trình viên đã sử dụng các công cụ PaddlePaddle có thể đưa YOLO11 vào quy trình làm việc của họ một cách thuận tiện hơn.
Gói Python của Ultralytics hỗ trợ export trực tiếp các model YOLO11 sang định dạng PaddlePaddle, cho phép các developer deploy các trained models mà không cần các công cụ bổ sung hoặc các bước chuyển đổi thủ công.
Quá trình export có thể được thực hiện bằng cách sử dụng giao diện dòng lệnh hoặc mã Python, do đó các developer có thể chọn phương pháp phù hợp nhất với quy trình làm việc của mình. Điều này giúp mọi thứ đơn giản và giảm thiểu khả năng xảy ra sự cố thiết lập. Sau khi được export, model có thể được sử dụng cho các computer vision tasks như phát hiện đối tượng, phân loại hình ảnh, ước tính tư thế và phân đoạn thực thể.
Đây là một lựa chọn tuyệt vời cho các tình huống triển khai nơi thiết bị có bộ nhớ hạn chế hoặc yêu cầu xử lý nhanh. Các model được xuất đã được tối ưu hóa để chạy hiệu quả, ngay cả trên các hệ thống hạn chế về tài nguyên.
Cách xuất model Ultralytics YOLO11 sang định dạng PaddlePaddle#
Chỉ mất vài bước để xuất Ultralytics YOLO11 sang định dạng model PaddlePaddle.
Bước đầu tiên là cài đặt Ultralytics Python package bằng trình quản lý gói như ‘pip’. Bạn có thể thực hiện việc này bằng cách chạy lệnh “pip install ultralytics” trong dấu nhắc lệnh hoặc terminal của bạn để bắt đầu.
Gói Ultralytics cung cấp các công cụ để training, evaluating, fine-tuning, exporting và deploying các model cho một loạt các tác vụ computer vision. Nếu bạn gặp bất kỳ vấn đề nào trong quá trình cài đặt, hãy kiểm tra Common Issues guide để biết các mẹo khắc phục sự cố.
Sau khi môi trường của bạn đã được thiết lập, bạn có thể tải và xuất một model YOLO11 đã được huấn luyện sẵn như “yolo11n.pt” như dưới đây. Bạn cũng có thể xuất model YOLO11 tự huấn luyện tùy chỉnh của riêng mình.
from ultralytics import YOLO
model = YOLO("yolo11n.pt")
model.export(format="paddle")Sau khi model của bạn đã được chuyển đổi sang định dạng PaddlePaddle, nó có thể được triển khai trong nhiều tình huống trên các loại phần cứng khác nhau.
Chẳng hạn, trong ví dụ bên dưới, chúng tôi đang tải một model Ultralytics YOLO11 đã được export sang định dạng PaddlePaddle và sử dụng nó để thực hiện một dự đoán. Quá trình này, được gọi là chạy inference, đơn giản có nghĩa là sử dụng model để phân tích dữ liệu mới. Ở đây, chúng tôi đang thử nghiệm nó với một hình ảnh của hai chú chó.
paddle_model = YOLO("./yolo11n_paddle_model")
paddle_model("https://images.pexels.com/photos/33287/dog-viszla-close.jpg", save=True)Sau khi chạy mã, hình ảnh đầu ra với các dự đoán của model sẽ được lưu tự động trong thư mục “runs/detect/predict”.
Hình 3. Sử dụng model Ultralytics YOLO11 đã xuất để phát hiện đối tượng trong một hình ảnh. Ảnh của tác giả.
Triển khai Ultralytics YOLO11 sử dụng framework PaddlePaddle#
PaddlePaddle cung cấp một số công cụ deployment, mỗi công cụ phù hợp với các thiết bị và trường hợp sử dụng khác nhau như môi trường đám mây, hệ thống nhúng và ứng dụng web. Dưới đây là một số deployment options chính:
- Paddle Serving: Giúp triển khai các model dưới dạng REST API, trở thành lựa chọn tốt cho môi trường đám mây hoặc máy chủ cần các tính năng như quản lý phiên bản và kiểm thử trực tuyến.
- Paddle Inference API: Cung cấp quyền kiểm soát lớn hơn đối với cách các model chạy, hữu ích khi bạn cần tinh chỉnh hiệu suất hoặc xây dựng logic ứng dụng tùy chỉnh.
- Paddle Lite: Được thiết kế để triển khai nhẹ nhàng trên thiết bị di động, máy tính bảng và hệ thống nhúng. Nó được tối ưu hóa cho các model nhỏ hơn và inference nhanh hơn trên phần cứng có tài nguyên hạn chế.
- Paddle.js: Cho phép bạn chạy các model AI trong trình duyệt web sử dụng các công nghệ như WebGL và WebAssembly, hữu ích cho các bản demo tương tác và các công cụ dựa trên trình duyệt.
Hình 4. Các tùy chọn triển khai được hỗ trợ bởi PaddlePaddle. Hình ảnh từ tác giả.
Khi bạn đã chọn công cụ phù hợp cho thiết lập của mình, bạn có thể tải model đã xuất. Engine PaddlePaddle sẽ xử lý các bước tiếp theo. Nó tải model, xử lý hình ảnh đầu vào và trả về kết quả.
Khi nào bạn nên chọn tích hợp PaddlePaddle?#
Gói Python của Ultralytics cũng hỗ trợ các export formats khác nhau, vì vậy bạn có thể tự hỏi: Khi nào PaddlePaddle là sự lựa chọn phù hợp?
PaddlePaddle là một lựa chọn đáng tin cậy khi bạn muốn triển khai các model trên thiết bị có tài nguyên hạn chế, chẳng hạn như điện thoại thông minh, hệ thống nhúng hoặc phần cứng edge. Nó cũng rất tuyệt vời cho các ứng dụng thời gian thực cần hiệu suất nhanh, hiệu quả như phát hiện đối tượng trong ứng dụng di động, giám sát dựa trên thị giác trong camera thông minh hoặc ước tính dáng người chạy trực tiếp trên thiết bị mà không cần hỗ trợ đám mây.
Ngoài ra, nếu dự án cần chạy offline hoặc trong môi trường kết nối kém, bạn có thể cân nhắc sử dụng tích hợp PaddlePaddle. Các ứng dụng như công cụ kiểm tra trực quan trong sản xuất, thiết bị cầm tay để khảo sát thực địa hoặc máy quét bán lẻ tích hợp AI đều có thể hưởng lợi từ runtime nhẹ và các tùy chọn triển khai linh hoạt của PaddlePaddle.
Các hạn chế của PaddlePaddle cần cân nhắc#
Mặc dù PaddlePaddle cung cấp các khả năng triển khai thú vị, dưới đây là một số yếu tố hạn chế cần lưu ý:
- Cộng đồng toàn cầu nhỏ hơn: Bên ngoài Trung Quốc, cơ sở người dùng và người đóng góp tương đối nhỏ. Điều này có thể khiến việc tìm kiếm hỗ trợ từ cộng đồng, các vấn đề đã giải quyết trên GitHub hoặc câu trả lời trên Stack Overflow trở nên khó khăn hơn.
- Đường cong học tập dốc hơn đối với các công cụ không thuộc Baidu: PaddlePaddle tích hợp mượt mà với hệ sinh thái của Baidu, nhưng sử dụng nó ngoài bối cảnh đó có thể liên quan đến các bước cấu hình và thiết lập bổ sung.
- Ít tích hợp hơn với các công cụ ML phổ biến: PaddlePaddle có khả năng tương thích hạn chế với các công cụ phổ biến như Hugging Face Transformers, MLflow hoặc các dịch vụ AI gốc Kubernetes.
Các điểm chính cần lưu ý#
Tích hợp PaddlePaddle được Ultralytics hỗ trợ giúp việc xuất và triển khai các model YOLO11 trên nhiều loại thiết bị trở nên dễ dàng. Nó đặc biệt hữu ích cho các dự án yêu cầu hiệu suất hiệu quả trên thiết bị - như ứng dụng di động, camera thông minh hoặc hệ thống nhúng.
Chỉ với vài bước, bạn có thể đưa các model thị giác mạnh mẽ vào các ứng dụng thực tế. Khi computer vision tiếp tục phát triển, các công cụ như YOLO và PaddlePaddle đang làm cho việc xây dựng các hệ thống nhanh, thông minh trở nên dễ dàng hơn bao giờ hết, từ các thiết bị tiêu dùng đến các công cụ công nghiệp.
Hãy tham gia community đang phát triển của chúng tôi ngay hôm nay! Tìm hiểu sâu hơn về AI bằng cách khám phá GitHub repository của chúng tôi. Bạn đang tìm cách xây dựng các dự án computer vision của riêng mình? Khám phá các licensing options của chúng tôi. Tìm hiểu cách computer vision in healthcare đang cải thiện hiệu quả và khám phá tác động của AI in retail bằng cách truy cập các trang giải pháp của chúng tôi!
