Tác động của thiết kế nhanh hơn, ưu tiên edge của Ultralytics YOLO26

Đầu tuần này, Ultralytics chính thức ra mắt Ultralytics YOLO26, một model YOLO nhanh hơn, nhẹ hơn và nhỏ gọn hơn, hướng đến việc định nghĩa lại hiệu năng của các hệ thống thị giác máy tính tại edge. YOLO26 hỗ trợ các tác vụ thị giác cốt lõi tương tự những model YOLO trước đây, bao gồm phát hiện đối tượng và phân đoạn instance.

Hình 1. Ví dụ sử dụng Ultralytics YOLO26 để phân đoạn một đối tượng.

Khác biệt mang tính định hình giữa Ultralytics YOLO26 và các model trước đây nằm ở môi trường mà model được thiết kế để vận hành. Thay vì chủ yếu tối ưu cho GPU xử lý đồ họa trên cloud hoặc hiệu năng dựa trên benchmark, YOLO26 được thiết kế từ đầu để triển khai trong thực tế trên các thiết bị edge và phần cứng nhúng.

Khi thị giác máy tính chuyển từ nghiên cứu sang sản xuất, thực tế về các giới hạn hiệu năng ngày càng rõ ràng. Môi trường edge chịu ảnh hưởng của ngân sách độ trễ nghiêm ngặt, giới hạn về bộ nhớ, điện năng và nhiệt độ, cùng yêu cầu về hành vi có thể dự đoán trên nhiều nền tảng khác nhau.

Trong những môi trường này, hiệu năng tổng thể của hệ thống không chỉ phụ thuộc vào tốc độ suy luận thuần túy mà còn vào hiệu quả vận hành của toàn bộ pipeline. Chi phí xử lý hậu kỳ, áp lực bộ nhớ và các đường thực thi riêng cho từng nền tảng thường là những nút thắt cổ chai.

Ultralytics YOLO26 giải quyết những thách thức này bằng cách áp dụng phương pháp nhanh hơn, ưu tiên edge và xem xét toàn bộ pipeline suy luận thay vì các chỉ số riêng lẻ của model. Bằng cách tập trung vào tối ưu hóa cho edge, đơn giản hóa pipeline suy luận và loại bỏ các bước hậu xử lý không cần thiết, YOLO26 cải thiện tốc độ, giúp giảm độ trễ và mang lại hành vi đáng tin cậy hơn trong môi trường production.

Trong bài viết này, chúng ta sẽ tìm hiểu cách các lựa chọn kiến trúc của Ultralytics YOLO26 chuyển thành những cải thiện hiệu năng trong thực tế, cũng như lý do tốc độ cao hơn tại edge làm thay đổi căn bản những gì có thể thực hiện với các ứng dụng thị giác máy tính thế hệ tiếp theo.

Thực tế của việc triển khai tại edge#

Việc chạy model thị giác máy tính tại edge rất khác với việc chạy model trên cloud. Trong môi trường cloud, hệ thống thường có thể sử dụng GPU mạnh, dung lượng bộ nhớ lớn và phần cứng ổn định. Tại edge, những giả định tương tự không còn đúng.

Hầu hết các triển khai edge chạy trên nhiều kiến trúc phần cứng khác nhau, chứ không phải GPU. Thiết bị thường sử dụng nhiều bộ xử lý chuyên dụng cho các tác vụ khác nhau; các bộ xử lý này được tối ưu về hiệu quả và mức tiêu thụ điện năng thấp, thay vì năng lực tính toán thuần túy như GPU trên cloud.

Độ trễ là một giới hạn lớn khác. Hệ thống edge thường hoạt động trong giới hạn thời gian thực nghiêm ngặt, nơi ngay cả độ trễ nhỏ cũng có thể ảnh hưởng đến khả năng phản hồi hoặc an toàn. Trong những trường hợp này, độ trễ end-to-end quan trọng hơn tốc độ suy luận thuần túy. Model có thể nhanh trên lý thuyết nhưng vẫn không đáp ứng yêu cầu khi tính thêm hậu xử lý và di chuyển dữ liệu.

Bộ nhớ cũng đóng vai trò quan trọng. Nhiều thiết bị edge có bộ nhớ và cache dùng chung với dung lượng hạn chế. Tensor trung gian lớn và việc sử dụng bộ nhớ kém hiệu quả có thể làm chậm hệ thống, ngay cả khi bản thân model hoạt động hiệu quả.

Giới hạn điện năng và nhiệt độ tạo thêm nhiều ràng buộc. Thiết bị edge thường hoạt động mà không có hệ thống làm mát chủ động và phải tuân theo ngân sách điện năng cố định. Hiệu năng cần hiệu quả và bền vững, chứ không chỉ nhanh trong những khoảng thời gian ngắn.

Ngoài tất cả những điều này, triển khai edge còn đòi hỏi tính nhất quán. Model phải hoạt động giống nhau trên nhiều thiết bị và runtime. Code riêng cho từng nền tảng hoặc các bước hậu xử lý phức tạp có thể gây ra khác biệt khó nhận thấy, khiến việc triển khai và bảo trì hệ thống trở nên khó khăn hơn.

Hình 2. Tổng quan về các giới hạn khi triển khai tại edge. Hình ảnh do tác giả thực hiện.

Những giới hạn này quyết định ý nghĩa thực sự của hiệu năng tại edge. Nói cách khác, hiệu năng được xác định bởi toàn bộ pipeline, chứ không phải một chỉ số đơn lẻ.

Vì sao thị giác edge đòi hỏi một mô hình hiệu năng khác#

Vậy các giới hạn khi triển khai tại edge liên quan thế nào đến yêu cầu của một model thị giác máy tính được xây dựng cho edge? Mối liên hệ trở nên rõ ràng khi model chuyển từ môi trường nghiên cứu sang hệ thống thực tế.

Trong môi trường cloud, hiệu năng thường được đo bằng các benchmark như tốc độ suy luận và độ chính xác. Tại edge, các chỉ số đó chỉ phản ánh một phần câu chuyện. Hệ thống thị giác thường chạy trên phần cứng không đồng nhất, trong đó quá trình suy luận mạng nơ-ron được chuyển sang các bộ tăng tốc chuyên dụng, còn những phần khác của pipeline chạy trên bộ xử lý đa dụng.

Trong bối cảnh này, tốc độ của model là chưa đủ. Điều then chốt là hiệu năng của toàn bộ hệ thống sau khi triển khai model. Bản thân model có thể trông nhanh, nhưng vẫn không đáp ứng yêu cầu nếu hậu xử lý, di chuyển dữ liệu hoặc các bước riêng cho nền tảng làm phát sinh chi phí.

Đó là lý do thị giác edge đòi hỏi một mô hình hiệu năng tập trung vào hiệu quả ở cấp hệ thống thay vì các benchmark riêng lẻ. Ultralytics YOLO26 phản ánh sự chuyển dịch này bằng cách tập trung vào tối ưu hóa ưu tiên edge, suy luận tinh gọn và thực thi end-to-end được xây dựng cho triển khai trong thực tế.

Nền tảng của tốc độ: Thiết kế ưu tiên edge#

Tại edge, hiệu năng được quyết định bởi mức độ phù hợp giữa model và kiến trúc phần cứng thực tế của thiết bị. Thiết kế ưu tiên edge ngay từ đầu đảm bảo các hệ thống thị giác hoạt động đáng tin cậy trên những nền tảng thực tế, bất kể tổ hợp bộ xử lý cụ thể nào được sử dụng.

Phương pháp ưu tiên edge đặt trọng tâm vào khả năng thực thi hiệu quả và có thể dự đoán trên phần cứng không đồng nhất, thay vì điều chỉnh sau đó các model vốn được tối ưu cho GPU trên cloud. Nói đơn giản, điều này có nghĩa là ưu tiên các phép toán dễ triển khai trên bộ tăng tốc mạng nơ-ron, giảm thiểu công việc không thuộc mạng nơ-ron bên ngoài model và cắt giảm độ phức tạp không cần thiết có thể làm chậm quá trình thực thi end-to-end.

Ultralytics YOLO26 được thiết kế để đáp ứng những giới hạn này. Kiến trúc của model tập trung vào hiệu năng nhất quán thay vì thông lượng đỉnh trong điều kiện lý tưởng. Bằng cách đơn giản hóa các đường thực thi và loại bỏ tính toán không cần thiết, YOLO26 giảm chi phí trên toàn bộ pipeline suy luận và tận dụng tốt hơn khả năng tăng tốc cùng phân cấp bộ nhớ sẵn có của thiết bị.

Phương pháp này cũng cải thiện độ tin cậy. Tối ưu hóa ưu tiên edge giúp thời gian thực thi dễ dự đoán hơn và giảm các đợt tăng đột biến về hiệu năng, điều rất quan trọng đối với các hệ thống thời gian thực. Thay vì dựa vào phần cứng chuyên dụng hoặc hậu xử lý nặng để đạt tốc độ cao, Ultralytics YOLO26 chú trọng hiệu quả trong toàn bộ pipeline suy luận.

Suy luận end-to-end và chi phí của quá trình hậu xử lý#

Có thể bạn đang tự hỏi việc loại bỏ các bước hậu xử lý không cần thiết có ý nghĩa gì. Để hiểu điều này, hãy lùi lại một bước và xem cách các hệ thống phát hiện đối tượng truyền thống hoạt động.

Trong nhiều pipeline phát hiện đối tượng, quá trình suy luận không kết thúc khi model tạo ra các dự đoán. Thay vào đó, model xuất ra một lượng lớn bounding box chồng lấn lên nhau, cần được lọc và tinh chỉnh trước khi sử dụng. Việc làm sạch này được thực hiện bằng các bước hậu xử lý chạy bên ngoài bản thân model.

Một trong những bước hậu xử lý phổ biến nhất là ức chế phi cực đại, hay NMS. NMS so sánh các bounding box chồng lấn và chỉ giữ lại những kết quả phát hiện có độ tin cậy cao nhất, đồng thời loại bỏ các kết quả trùng lặp cùng chỉ một đối tượng. Dù hiệu quả, phương pháp này làm phát sinh thêm tính toán sau khi quá trình suy luận hoàn tất.

Hình 3. Tìm hiểu về NMS. Hình ảnh do tác giả thực hiện.

Tại edge, công việc bổ sung này đi kèm chi phí. Các bước hậu xử lý như NMS không phù hợp với những bộ tăng tốc chuyên dụng dùng cho suy luận mạng nơ-ron; các bộ tăng tốc này được tối ưu cho tính toán mạng nơ-ron dày đặc, thay vì các phép toán thiên về điều khiển hoặc tiêu tốn nhiều bộ nhớ.

Do đó, NMS làm tăng độ trễ và chi phí bộ nhớ, đồng thời chi phí này tăng theo số lượng kết quả phát hiện. Ngay cả khi bản thân model hoạt động nhanh, NMS vẫn có thể chiếm phần đáng kể trong tổng thời gian chạy.

Hậu xử lý cũng làm tăng độ phức tạp của hệ thống. Vì nằm bên ngoài model, hậu xử lý phải được triển khai riêng cho từng runtime và mục tiêu phần cứng. Điều này thường dẫn đến các đường code riêng cho từng nền tảng, hành vi không nhất quán giữa các thiết bị và pipeline triển khai kém ổn định hơn.

Quan trọng nhất, hậu xử lý phá vỡ khái niệm hiệu năng end-to-end thực sự. Việc đo tốc độ suy luận của model không phản ánh hành vi của hệ thống trong môi trường production. Điều thực sự quan trọng là tổng thời gian từ đầu vào đến đầu ra cuối cùng, bao gồm mọi bước trong pipeline.

Trong những tình huống này, hậu xử lý trở thành nút thắt cổ chai tiềm ẩn tại edge. Hậu xử lý làm tăng độ trễ, tiêu tốn tài nguyên CPU và khiến việc triển khai phức tạp hơn, trong khi vẫn nằm bên ngoài bản thân model.

Ultralytics YOLO26 loại bỏ NMS như thế nào và vì sao điều đó giúp model nhanh hơn#

YOLO26 loại bỏ NMS bằng cách xử lý nguyên nhân gốc rễ của các kết quả phát hiện trùng lặp thay vì loại bỏ chúng sau khi suy luận. Thay vì tạo ra nhiều dự đoán chồng lấn cần được lọc, model được huấn luyện để trực tiếp tạo ra một tập hợp nhỏ hơn gồm các kết quả phát hiện cuối cùng có độ tin cậy cao.

Điều này đạt được bằng cách thay đổi cách học phát hiện trong quá trình huấn luyện. Ultralytics YOLO26 thúc đẩy mối quan hệ one-to-one rõ ràng hơn giữa đối tượng và dự đoán, giảm sự dư thừa ngay từ nguồn. Nhờ đó, các kết quả phát hiện trùng lặp được xử lý ngay bên trong mạng thay vì thông qua hậu xử lý bên ngoài.

Việc loại bỏ NMS tác động ngay đến hiệu năng tại edge. Vì NMS không phù hợp với bộ tăng tốc mạng nơ-ron, loại bỏ NMS giúp giảm việc di chuyển dữ liệu trong bộ nhớ và tránh các bước xử lý tốn kém không thuộc mạng nơ-ron. Điều này giảm độ trễ end-to-end và giúp hiệu năng dễ dự đoán hơn, đặc biệt trên các thiết bị edge, nơi hậu xử lý có thể chiếm phần đáng kể trong tổng thời gian chạy.

Điều này cũng giúp đơn giản hóa pipeline suy luận. Khi có ít bước hơn bên ngoài model, lượng dữ liệu phải di chuyển và số lần chuyển giao giữa các thành phần cũng giảm. Đầu ra của model đã là kết quả cuối cùng, giúp quá trình thực thi dễ dự đoán hơn.

Loại bỏ DFL để đạt hiệu năng end-to-end thực sự#

Một cải tiến khác trong Ultralytics YOLO26 là loại bỏ Distribution Focal Loss, hay DFL, vốn được sử dụng trong các model YOLO trước đây cho hồi quy bounding box. Thay vì dự đoán trực tiếp một tọa độ duy nhất, các model sử dụng DFL học một phân phối các giá trị có thể có, rồi suy ra bounding box cuối cùng từ phân phối đó. Phương pháp này giúp cải thiện độ chính xác định vị và là một bước tiến quan trọng trong các thế hệ trước.

Tuy nhiên, theo thời gian, DFL cũng bộc lộ những đánh đổi. Việc dự đoán phân phối làm tăng tính toán và độ phức tạp của kiến trúc model, có thể làm chậm suy luận trên CPU và khiến việc xuất model sang các định dạng triển khai trở nên khó khăn hơn. DFL cũng áp đặt các phạm vi hồi quy cố định, có thể hạn chế tính linh hoạt khi phát hiện những đối tượng rất lớn.

Ultralytics YOLO26 loại bỏ DFL trong quá trình chuyển sang thiết kế đơn giản hơn, theo hướng end-to-end. Hồi quy bounding box được thiết kế lại theo cách trực tiếp hơn, giảm tính toán không cần thiết mà vẫn duy trì độ chính xác. Thay đổi này phù hợp với phương pháp không cần NMS của YOLO26.

Tốc độ suy luận trên CPU tăng 43% nhờ đâu#

Trong các benchmark dựa trên CPU, YOLO26 cho thấy hiệu năng cải thiện rõ rệt so với các model YOLO trước đây. So với Ultralytics YOLO11, model nano của YOLO26 giúp suy luận trên CPU nhanh hơn tới 43%, một khác biệt có tác động đáng kể trong các triển khai edge thực tế.

Hình 4. Đo benchmark tốc độ CPU của Ultralytics YOLO26.

Mức cải thiện này đến từ việc đơn giản hóa toàn bộ pipeline suy luận, thay vì chỉ tối ưu một thành phần. Thực thi end-to-end loại bỏ chi phí hậu xử lý, phương pháp hồi quy bounding box trực tiếp hơn giúp giảm tính toán, còn các lựa chọn thiết kế ưu tiên CPU cải thiện hiệu quả thực thi trên bộ xử lý đa dụng.

Kết hợp lại, những thay đổi này giảm độ trễ, giảm tải cho CPU và mang lại hiệu năng nhanh hơn, nhất quán hơn trên phần cứng edge thực tế.

Tác động của Ultralytics YOLO26 đến triển khai edge và quá trình export#

Những cải thiện hiệu năng của Ultralytics YOLO26 không chỉ giới hạn ở tốc độ suy luận. Bằng cách đơn giản hóa model và giảm chi phí bộ nhớ, việc triển khai model trở nên dễ dàng hơn và vận hành model đáng tin cậy hơn trên các môi trường edge.

Thiết kế end-to-end của Ultralytics YOLO26 cũng đơn giản hóa quá trình export. Với ít thành phần phụ trợ hơn và không cần các bước hậu xử lý bên ngoài, model sau khi export được đóng gói đầy đủ, độc lập. Điều này giảm các phần phụ thuộc riêng cho từng nền tảng và giúp đảm bảo hành vi nhất quán trên nhiều runtime và mục tiêu phần cứng.

Trên thực tế, điều này có nghĩa Ultralytics YOLO26 có thể được triển khai dễ dàng hơn lên các thiết bị edge như camera, robot và hệ thống nhúng bằng nhiều định dạng export khác nhau. Model được export cũng chính là model được chạy, với ít bước tích hợp hơn và giảm nguy cơ sai lệch trong quá trình triển khai.

Suy luận edge nhanh hơn thúc đẩy AI thị giác trong robot và công nghiệp#

Đến đây, chúng ta đã tìm hiểu cách thiết kế ưu tiên edge của Ultralytics YOLO26 cải thiện hiệu năng ở cấp hệ thống. Tuy nhiên, tác động thực sự nằm ở việc thiết kế này giúp tích hợp AI thị giác vào các ứng dụng thực tế dễ dàng hơn.

Ví dụ, trong các môi trường robot và công nghiệp, hệ thống thị giác thường hoạt động với các ràng buộc thời gian thực nghiêm ngặt. Hệ thống cần đưa ra quyết định nhanh chóng và nhất quán, sử dụng tài nguyên tính toán hạn chế và không phụ thuộc vào kết nối cloud. Với Ultralytics YOLO26, việc đáp ứng những yêu cầu này trở nên khả thi.

Các ứng dụng như điều hướng robot và thao tác với vật thể được hưởng lợi từ độ trễ thấp hơn và suy luận dễ dự đoán hơn, giúp robot phản ứng trơn tru trước những thay đổi trong môi trường. Tương tự, trong môi trường công nghiệp, các model thị giác có thể chạy trực tiếp trên dây chuyền sản xuất để phát hiện lỗi, theo dõi linh kiện và giám sát quy trình mà không gây thêm độ trễ hay độ phức tạp.

Bằng cách hỗ trợ suy luận nhanh và đáng tin cậy trên phần cứng edge, Ultralytics YOLO26 giúp AI thị giác trở thành một phần tự nhiên của hệ thống robot và công nghiệp, thay vì là một thách thức khi triển khai và bảo trì.

Điểm chính cần ghi nhớ#

Ultralytics YOLO26 được xây dựng cho edge, nơi các giới hạn thực tế như độ trễ, bộ nhớ và độ tin cậy quyết định những gì khả thi. Bằng cách thiết kế model xoay quanh khả năng thực thi ưu tiên CPU, suy luận end-to-end và triển khai đơn giản hơn, YOLO26 giúp việc tích hợp AI thị giác vào các hệ thống thực tế trở nên thiết thực. Cách tiếp cận ưu tiên edge này hỗ trợ nhiều ứng dụng, từ robot và thị giác công nghiệp đến AI nhúng và AI trên thiết bị, nơi hiệu năng và tính dễ dự đoán là quan trọng nhất.

Tham gia cộng đồng đang phát triển của chúng tôi và khám phá kho GitHub để tìm tài nguyên AI thực hành. Để xây dựng ứng dụng với AI thị giác ngay hôm nay, hãy xem các tùy chọn cấp phép của chúng tôi. Tìm hiểu cách AI trong nông nghiệp đang chuyển đổi ngành trồng trọt và cách AI thị giác trong chăm sóc sức khỏe đang định hình tương lai bằng cách truy cập các trang giải pháp của chúng tôi.