Yolo Tầm nhìn Thâm Quyến
Thâm Quyến
Tham gia ngay

5 mẹo hàng đầu để triển khai YOLO26 hiệu quả trên thiết bị biên và đám mây

Tìm hiểu 5 mẹo thực tế hàng đầu để triển khai Ultralytics YOLO26 hoạt động hiệu quả trên cả thiết bị đầu cuối và đám mây, từ việc lựa chọn quy trình làm việc và định dạng xuất phù hợp đến lượng tử hóa.

Tháng trước, Ultralytics Ultralytics YOLO26 chính thức ra mắt, thiết lập một tiêu chuẩn mới cho Trí tuệ Nhân tạo Thị giác (Vision AI) , một nhánh của trí tuệ nhân tạo cho phép máy móc diễn giải và hiểu thông tin hình ảnh từ hình ảnh và video. Thay vì chỉ đơn thuần thu thập cảnh quay, các mô hình thị giác máy tính như... Ultralytics YOLO Các mô hình hỗ trợ các tác vụ thị giác như phát hiện đối tượng, phân đoạn đối tượng, ước lượng tư thế và phân loại hình ảnh.

Được thiết kế cho môi trường thực tế ứng dụng thị giác máy tính, trên các thiết bị, máy ảnh, robot và hệ thống sản xuất, YOLO26 là một mẫu chip tiên tiến mang lại hiệu năng xử lý trung tâm nhanh hơn ( CPU (Suy luận, triển khai đơn giản và hiệu suất đầu cuối hiệu quả trong môi trường thực tế.) Các mô hình YOLO26 cũng được thiết kế để dễ dàng chuyển các giải pháp thị giác máy tính từ giai đoạn thử nghiệm sang sản xuất.

Hình 1. Mẫu YOLO26 nano mang lại tốc độ nhanh hơn tới 43% CPU suy luận hơn YOLO11 . ( Nguồn )

Việc triển khai mô hình thường bao gồm nhiều yếu tố cần xem xét, chẳng hạn như lựa chọn phần cứng phù hợp, chọn định dạng xuất thích hợp, tối ưu hóa hiệu năng và xác thực kết quả trong điều kiện thực tế. Việc thực hiện các bước này khi triển khai YOLO26 rất đơn giản nhờ gói Python Ultralytics , giúp đơn giản hóa quá trình huấn luyện, suy luận và xuất mô hình trên nhiều mục tiêu triển khai khác nhau.

Tuy nhiên, ngay cả với quy trình làm việc được đơn giản hóa, việc đưa ra quyết định triển khai đúng đắn vẫn là chìa khóa. Trong bài viết này, chúng ta sẽ cùng tìm hiểu năm mẹo thực tế giúp bạn triển khai YOLO26 hiệu quả trên môi trường biên và đám mây, đảm bảo hiệu suất Vision AI đáng tin cậy và có khả năng mở rộng trong môi trường sản xuất. Bắt đầu nào!

Trong thị giác máy tính, triển khai mô hình là gì?

Trước khi đi sâu vào các chiến lược triển khai cho YOLO26, chúng ta hãy cùng nhìn lại và hiểu ý nghĩa của việc triển khai mô hình trong lĩnh vực thị giác máy tính.

Triển khai mô hình là quá trình chuyển một mô hình học sâu đã được huấn luyện từ môi trường phát triển sang một ứng dụng thực tế, nơi nó có thể xử lý các hình ảnh hoặc luồng video mới và liên tục tạo ra các dự đoán. Thay vì chạy thử nghiệm trên các tập dữ liệu tĩnh, mô hình trở thành một phần của hệ thống hoạt động thực tế.

Trong lĩnh vực thị giác máy tính, điều này thường có nghĩa là tích hợp mô hình với camera, thiết bị AI biên, API hoặc cơ sở hạ tầng đám mây. Mô hình phải hoạt động trong giới hạn phần cứng, đáp ứng yêu cầu về độ trễ và duy trì hiệu suất ổn định trong điều kiện thực tế thay đổi.

Hiểu rõ sự chuyển đổi từ giai đoạn thử nghiệm sang giai đoạn sản xuất là điều thiết yếu vì các quyết định triển khai ảnh hưởng trực tiếp đến hiệu suất của mô hình khi sử dụng ngoài phòng thí nghiệm hoặc môi trường thử nghiệm.

Hiểu biết Ultralytics Quy trình triển khai YOLO26

Tiếp theo, chúng ta hãy xem quy trình triển khai YOLO26 thực sự bao gồm những gì. Nói một cách đơn giản, đó là chuỗi các bước đưa một hình ảnh từ khi được chụp đến khi được phân tích và chuyển thành dự đoán.

Trong một thiết lập điển hình, máy ảnh sẽ chụp một hình ảnh hoặc khung hình video. Dữ liệu đó sau đó được xử lý sơ bộ, chẳng hạn như thay đổi kích thước hoặc định dạng lại cho đúng, trước khi được chuyển đến máy chủ. Ultralytics YOLO26 dùng để suy luận. 

Mô hình phân tích dữ liệu đầu vào và tạo ra các kết quả đầu ra như khung bao, mặt nạ phân đoạn hoặc điểm mấu chốt. Sau đó, các kết quả này có thể được sử dụng để kích hoạt các hành động, chẳng hạn như gửi cảnh báo, cập nhật bảng điều khiển hoặc hướng dẫn hệ thống robot.

Vị trí thực thi quy trình này phụ thuộc vào chiến lược triển khai của bạn. Ví dụ, trong triển khai tại biên, quá trình suy luận diễn ra trực tiếp trên thiết bị hoặc gần camera, giúp giảm độ trễ và cải thiện quyền riêng tư dữ liệu. 

Trong khi đó, với triển khai trên nền tảng đám mây, hình ảnh hoặc khung hình video được gửi đến các máy chủ từ xa để xử lý, cho phép khả năng mở rộng cao hơn và quản lý tập trung. Một số hệ thống sử dụng phương pháp lai, thực hiện xử lý nhẹ ở biên mạng và các tác vụ nặng hơn trên đám mây.

Khám phá các biến thể mô hình YOLO26 

Để đưa ra quyết định triển khai sáng suốt, điều quan trọng là phải hiểu rằng có nhiều biến thể mô hình YOLO26 khác nhau để lựa chọn.

Ngay từ khi xuất xưởng, các mẫu Ultralytics YOLO có nhiều kích cỡ khác nhau, giúp bạn dễ dàng chọn phiên bản phù hợp với phần cứng và nhu cầu hiệu năng của mình. YOLO26 có năm phiên bản: Nano (n), Nhỏ (s), Trung bình (m), Lớn (l) và Cực lớn (x). 

Các mẫu nhỏ hơn, chẳng hạn như YOLO26n, được tối ưu hóa về hiệu suất và rất phù hợp cho các thiết bị biên, thiết bị Internet vạn vật (IoT), hệ thống nhúng và các hệ thống được cung cấp năng lượng bởi... CPU Trong đó độ trễ thấp và mức tiêu thụ điện năng thấp là yếu tố quan trọng. Chúng mang lại hiệu năng mạnh mẽ trong khi vẫn giữ mức sử dụng tài nguyên ở mức tối thiểu.

Các mẫu lớn hơn, chẳng hạn như YOLO26l và YOLO26x, được thiết kế để mang lại độ chính xác cao hơn và xử lý các cảnh phức tạp hơn. Các phiên bản này thường hoạt động tốt nhất trên các hệ thống được trang bị bộ xử lý đồ họa (GPU) hoặc trong môi trường điện toán đám mây nơi có nhiều tài nguyên tính toán hơn. 

Việc lựa chọn kích thước mô hình phù hợp phụ thuộc vào mục tiêu triển khai của bạn. Nếu tốc độ và hiệu quả trên phần cứng hạn chế là ưu tiên hàng đầu, một phiên bản nhỏ hơn có thể là lý tưởng. Nếu ứng dụng của bạn yêu cầu độ chính xác tối đa và bạn có quyền truy cập vào phần cứng mạnh mẽ hơn, một mô hình lớn hơn có thể là lựa chọn tốt hơn.

Mẹo để triển khai YOLO26 hiệu quả

Giờ đây, khi chúng ta đã hiểu rõ hơn về các biến thể mô hình YOLO26 và quy trình triển khai, hãy cùng khám phá một số mẹo thực tế để triển khai YOLO26 hiệu quả trên môi trường biên và đám mây.

Mẹo 1: Hãy xem xét các tùy chọn triển khai mô hình của bạn

Một trong những quyết định đầu tiên bạn cần đưa ra khi triển khai Ultralytics YOLO26 là nơi mô hình sẽ chạy. Môi trường triển khai của bạn ảnh hưởng trực tiếp đến hiệu năng, độ trễ, quyền riêng tư và khả năng mở rộng.

Hãy bắt đầu bằng cách đánh giá quy trình làm việc của bạn. Ứng dụng của bạn có yêu cầu độ trễ thấp không, nghĩa là các dự đoán phải được tạo ra gần như ngay lập tức sau khi hình ảnh được chụp? 

Ví dụ, trong lĩnh vực robot hoặc hệ thống an toàn, ngay cả những độ trễ nhỏ cũng có thể ảnh hưởng đến hiệu suất. Trong những trường hợp này, triển khai tại biên thường là lựa chọn tốt nhất. Việc chạy suy luận trực tiếp trên thiết bị hoặc gần camera giúp giảm thời gian xử lý dữ liệu và tránh gửi hình ảnh qua internet, từ đó cũng cải thiện quyền riêng tư.

Mặt khác, triển khai trên nền tảng đám mây cung cấp khả năng mở rộng và sức mạnh tính toán lớn hơn. Máy chủ đám mây có thể xử lý khối lượng lớn hình ảnh, xử lý nhiều luồng video và hỗ trợ thông lượng cao hơn. 

Ví dụ, trong nông nghiệp, một người nông dân có thể thu thập hàng ngàn hình ảnh lá cây và phân tích chúng theo từng lô để xác định xem cây trồng có dấu hiệu bệnh tật hay không. Trong trường hợp này, hiệu năng thời gian thực tức thì có thể không cần thiết, khiến việc xử lý trên đám mây trở thành một lựa chọn thiết thực và có khả năng mở rộng.

Hình 2. Ví dụ về việc sử dụng YOLO26 để phân tích hình ảnh lá cây.

Tuy nhiên, việc gửi dữ liệu đến máy chủ từ xa sẽ gây ra độ trễ mạng, tức là độ trễ do việc truyền hình ảnh qua internet và nhận lại dự đoán. Đối với các ứng dụng không yêu cầu tốc độ phản hồi nhanh, sự đánh đổi này có thể chấp nhận được.

Ngoài ra còn có các lựa chọn giữa điện toán biên thuần túy và điện toán đám mây thuần túy. Một số công ty sử dụng cơ sở hạ tầng tại chỗ đặt gần nơi dữ liệu được tạo ra. Những công ty khác xây dựng các đường dẫn dữ liệu lai, thực hiện lọc dữ liệu đơn giản ở biên và gửi dữ liệu được chọn lên đám mây để phân tích sâu hơn.

Việc lựa chọn phương án triển khai phù hợp phụ thuộc vào yêu cầu của ứng dụng. Bằng cách xác định rõ nhu cầu về tốc độ, quyền riêng tư và khả năng mở rộng, bạn có thể chọn chiến lược đảm bảo YOLO26 hoạt động đáng tin cậy trong điều kiện thực tế.

Mẹo 2: Chọn định dạng xuất phù hợp với phần cứng của bạn

Sau khi đã quyết định nơi mô hình của bạn sẽ được chạy, bước tiếp theo là chọn định dạng xuất phù hợp. Xuất mô hình có nghĩa là chuyển đổi nó từ định dạng được sử dụng trong quá trình huấn luyện sang định dạng được tối ưu hóa cho việc triển khai. 

Các mô hình YOLO26 được xây dựng và huấn luyện nguyên bản trong PyTorch Tuy nhiên, môi trường sản xuất thường dựa vào các môi trường chạy chuyên dụng phù hợp hơn với phần cứng cụ thể. Các môi trường chạy này được thiết kế để cải thiện tốc độ suy luận, giảm mức sử dụng bộ nhớ và đảm bảo khả năng tương thích với thiết bị mục tiêu. 

Việc chuyển đổi YOLO26 sang định dạng phù hợp cho phép nó chạy hiệu quả bên ngoài môi trường huấn luyện. Ultralytics Python Gói phần mềm này giúp quá trình đó trở nên đơn giản. Nó hỗ trợ nhiều tích hợp để xây dựng và triển khai các dự án thị giác máy tính. 

Nếu bạn muốn tìm hiểu chi tiết hơn về các tích hợp này, bạn có thể tham khảo tài liệu chính thức Ultralytics . Tài liệu này bao gồm hướng dẫn từng bước, hướng dẫn cụ thể cho từng phần cứng và các ví dụ thực tế để giúp bạn tự tin chuyển từ giai đoạn phát triển sang sản xuất.

Hình 3. Ultralytics Hỗ trợ nhiều tích hợp khác nhau ( Nguồn )

Cụ thể, Ultralytics Python gói phần mềm hỗ trợ xuất khẩu Ultralytics YOLO26 được chia thành nhiều định dạng khác nhau, phù hợp với các nền tảng phần cứng khác nhau. Ví dụ, ONNX Định dạng xuất cho phép khả năng tương thích đa nền tảng. TensorRT Định dạng xuất khẩu được tối ưu hóa cho NVIDIA GPU và NVIDIA Các thiết bị biên Jetson và OpenVINO Định dạng xuất được thiết kế cho Intel phần cứng.

Một số thiết bị hỗ trợ nhiều định dạng xuất, nhưng hiệu suất có thể khác nhau tùy thuộc vào định dạng bạn chọn. Thay vì chọn định dạng mặc định, hãy tự hỏi: tùy chọn nào hiệu quả nhất cho thiết bị của bạn?

Một định dạng có thể cho phép suy luận nhanh hơn, trong khi định dạng khác có thể mang lại hiệu quả bộ nhớ tốt hơn hoặc khả năng tích hợp dễ dàng hơn vào quy trình hiện có của bạn. Đó là lý do tại sao việc lựa chọn định dạng xuất phù hợp với phần cứng và môi trường triển khai cụ thể của bạn là rất quan trọng.

Việc dành thời gian thử nghiệm các tùy chọn xuất khác nhau trên thiết bị mục tiêu có thể tạo ra sự khác biệt đáng kể về hiệu năng thực tế. Định dạng xuất phù hợp giúp đảm bảo YOLO26 hoạt động hiệu quả, đáng tin cậy và với tốc độ mà ứng dụng của bạn yêu cầu.

Mẹo 3: Hãy tự hỏi xem mô hình của bạn có cần lượng tử hóa hay không.

Sau khi chọn định dạng xuất, bạn cũng nên xác định xem mô hình của mình có cần được lượng tử hóa hay không. 

Lượng tử hóa mô hình làm giảm độ chính xác số học của trọng số và các phép tính của mô hình, thường chuyển đổi chúng từ số thực dấu phẩy động 32 bit sang các định dạng có độ chính xác thấp hơn như 16 bit hoặc 8 bit. Điều này giúp giảm kích thước mô hình, giảm mức sử dụng bộ nhớ và cải thiện tốc độ suy luận, đặc biệt là trên các thiết bị biên hoặc hệ thống được hỗ trợ bởi... CPU .

Tùy thuộc vào phần cứng, định dạng xuất và các phụ thuộc thời gian chạy, lượng tử hóa có thể cải thiện hiệu suất đáng kể. Một số môi trường chạy được tối ưu hóa cho các mô hình có độ chính xác thấp hơn, cho phép chúng chạy nhanh hơn và hiệu quả hơn.

Tuy nhiên, lượng tử hóa có thể ảnh hưởng nhẹ đến độ chính xác nếu không được áp dụng cẩn thận. Khi thực hiện lượng tử hóa sau huấn luyện, hãy đảm bảo bạn sử dụng ảnh kiểm định. Những ảnh này được sử dụng trong quá trình hiệu chỉnh để giúp mô hình điều chỉnh độ chính xác thấp hơn và duy trì dự đoán ổn định.

Mẹo 4: Tính đến sự thay đổi dữ liệu

Ngay cả mô hình được huấn luyện tốt nhất cũng có thể giảm hiệu suất theo thời gian do sự thay đổi dữ liệu . Sự thay đổi dữ liệu xảy ra khi dữ liệu mà mô hình của bạn thấy trong môi trường sản xuất khác với dữ liệu mà nó được dùng để huấn luyện. 

Nói cách khác, thế giới thực thay đổi, nhưng mô hình của bạn thì không. Kết quả là, độ chính xác có thể giảm dần.

Ví dụ, bạn có thể huấn luyện mô hình YOLO26 bằng hình ảnh được chụp vào ban ngày. Nếu sau đó mô hình đó được sử dụng vào ban đêm, dưới điều kiện ánh sáng khác nhau, hiệu suất có thể giảm. Vấn đề tương tự cũng có thể xảy ra với sự thay đổi về góc máy ảnh, điều kiện thời tiết, phông nền hoặc hình dạng đối tượng. 

Hiện tượng sai lệch dữ liệu thường gặp trong các hệ thống AI thị giác thực tế. Môi trường hiếm khi tĩnh, và những thay đổi nhỏ có thể ảnh hưởng đến độ chính xác phát hiện. Để giảm thiểu tác động của hiện tượng sai lệch, bạn có thể đảm bảo tập dữ liệu huấn luyện phản ánh điều kiện thực tế càng sát càng tốt. 

Bao gồm các hình ảnh được chụp vào các thời điểm khác nhau trong ngày, dưới các điều kiện ánh sáng khác nhau và trong nhiều môi trường khác nhau. Sau khi triển khai, bạn có thể tiếp tục theo dõi hiệu suất và cập nhật hoặc tinh chỉnh mô hình khi cần thiết.

Mẹo 5: So sánh hiệu năng trong điều kiện thực tế

Trước khi triển khai mô hình một cách đầy đủ, bạn có thể đánh giá hiệu năng của nó trong điều kiện thực tế.

Hình 4. So sánh hiệu năng của YOLO26 với các mô hình khác ( Nguồn )

Việc kiểm tra hiệu năng trong môi trường được kiểm soát bằng cách sử dụng ảnh mẫu hoặc tập dữ liệu nhỏ là khá phổ biến. Tuy nhiên, các hệ thống thực tế thường hoạt động khác nhau. Giới hạn phần cứng, độ trễ mạng, nhiều luồng video và đầu vào liên tục đều có thể ảnh hưởng đến hiệu năng.

Kiểm tra hiệu năng (benchmarking) là việc đo lường hiệu suất của mô hình trên thiết bị và cấu hình thực tế nơi nó sẽ chạy. Điều này bao gồm kiểm tra tốc độ suy luận, độ trễ tổng thể, mức sử dụng bộ nhớ và độ ổn định của hệ thống. Điều quan trọng là phải kiểm tra không chỉ bản thân mô hình mà còn toàn bộ quy trình, bao gồm cả các bước tiền xử lý và hậu xử lý.

Một mô hình có thể hoạt động tốt trên một hình ảnh duy nhất trong quá trình kiểm tra, nhưng lại gặp khó khăn khi xử lý video trực tiếp liên tục. Tương tự, hiệu năng trên một máy tính phát triển mạnh mẽ có thể không phản ánh cách mô hình hoạt động trên một thiết bị biên có công suất thấp.

Bằng cách thực hiện kiểm tra hiệu năng trong điều kiện thực tế, bạn có thể xác định sớm các điểm nghẽn và điều chỉnh trước khi đưa vào sử dụng chính thức. Việc kiểm tra trong cùng môi trường mà YOLO26 sẽ hoạt động giúp đảm bảo hiệu năng đáng tin cậy, ổn định và nhất quán trong môi trường sản xuất.

Các yếu tố quan trọng khác cần xem xét khi triển khai mô hình

Dưới đây là một số yếu tố bổ sung cần lưu ý khi triển khai YOLO26:

  • Giám sát và ghi nhật ký : Thiết lập các công cụ giám sát để track Các chỉ số như độ trễ, độ chính xác và tình trạng hệ thống sau khi triển khai.
  • Bảo mật và quyền riêng tư : Triển khai các biện pháp bảo vệ dữ liệu hình ảnh nhạy cảm, đặc biệt khi sử dụng cơ sở hạ tầng đám mây hoặc từ xa.
  • Tối ưu hóa các điểm nghẽn trong quy trình : Đánh giá toàn bộ quy trình, bao gồm các mô-đun như tiền xử lý, suy luận, hậu xử lý và truyền dữ liệu, vì sự chậm trễ có thể xảy ra bên ngoài chính mô hình.
  • Lập kế hoạch khả năng mở rộng : Hãy lên kế hoạch trước cho sự phát triển bằng cách đảm bảo hệ thống của bạn có thể xử lý lưu lượng truy cập tăng lên, số lượng camera bổ sung hoặc khối lượng công việc mở rộng.

Những điều cần nhớ

Việc triển khai YOLO26 hiệu quả bắt đầu bằng việc hiểu rõ mô hình của bạn sẽ chạy ở đâu và ứng dụng của bạn thực sự cần gì. Bằng cách chọn phương pháp triển khai phù hợp, khớp định dạng xuất với phần cứng của bạn và kiểm tra hiệu năng trong điều kiện thực tế, bạn có thể xây dựng các hệ thống AI thị giác đáng tin cậy và phản hồi nhanh. Với thiết lập phù hợp, Ultralytics YOLO26 giúp dễ dàng đưa khả năng xử lý hình ảnh máy tính nhanh chóng, sẵn sàng cho sản xuất lên thiết bị đầu cuối và đám mây.

Hãy tham gia cộng đồng của chúng tôi và khám phá kho lưu trữ GitHub của chúng tôi. Xem các trang giải pháp của chúng tôi để khám phá nhiều ứng dụng khác nhau như trí tuệ nhân tạo trong nông nghiệpthị giác máy tính trong chăm sóc sức khỏe . Khám phá các tùy chọn cấp phép của chúng tôi và bắt đầu sử dụng Vision AI ngay hôm nay!

Hãy cùng nhau xây dựng tương lai
của AI!

Bắt đầu hành trình của bạn với tương lai của học máy

Bắt đầu miễn phí