Tác động của thiết kế nhanh hơn, ưu tiên biên của Ultralytics YOLO26

Đầu tuần này, Ultralytics đã chính thức ra mắt Ultralytics YOLO26, một mô hình YOLO nhanh hơn, nhẹ hơn và nhỏ hơn nhằm định nghĩa lại hiệu suất hoạt động của các hệ thống computer vision ở biên. YOLO26 hỗ trợ các tác vụ thị giác cốt lõi tương tự như các mô hình YOLO trước đây, bao gồm phát hiện đối tượng (object detection) và phân đoạn thực thể (instance segmentation).

Hình 1. Ví dụ sử dụng Ultralytics YOLO26 để phân đoạn một đối tượng.

Sự khác biệt mang tính quyết định giữa Ultralytics YOLO26 và các model trước đây nằm ở môi trường mà nó được thiết kế để vận hành. Thay vì tối ưu hóa chủ yếu cho các đơn vị xử lý đồ họa (GPU) trên đám mây hay hiệu năng hướng tới benchmark, YOLO26 được thiết kế từ gốc để triển khai thực tế trên các thiết bị edge và phần cứng nhúng.

Khi computer vision chuyển từ giai đoạn nghiên cứu sang môi trường production, thực tế về các giới hạn hiệu năng ngày càng trở nên rõ ràng. Môi trường biên (edge) chịu sự chi phối của các giới hạn nghiêm ngặt về độ trễ, bộ nhớ, năng lượng, nhiệt lượng, cũng như yêu cầu về tính ổn định trên nhiều nền tảng khác nhau.

Trong những môi trường này, hiệu năng hệ thống tổng thể không chỉ phụ thuộc vào tốc độ inference thô, mà còn vào mức độ vận hành hiệu quả của toàn bộ pipeline. Overhead hậu xử lý (post-processing), áp lực bộ nhớ và các đường dẫn thực thi dành riêng cho từng nền tảng thường là những điểm nghẽn.

Ultralytics YOLO26 giải quyết các thách thức này bằng cách áp dụng phương pháp tiếp cận nhanh hơn, ưu tiên edge (edge-first), xem xét toàn bộ pipeline inference thay vì chỉ các metric của từng model riêng lẻ. Bằng cách tập trung vào việc tối ưu hóa edge, đơn giản hóa pipeline inference và loại bỏ các bước hậu xử lý không cần thiết, YOLO26 mang lại những cải thiện về tốc độ, giúp giảm độ trễ và hoạt động ổn định hơn trong môi trường production.

Trong bài viết này, chúng ta sẽ khám phá cách các lựa chọn kiến trúc của Ultralytics YOLO26 chuyển hóa thành các cải thiện hiệu năng trong thế giới thực, và tại sao việc chạy nhanh hơn ở biên (edge) lại thay đổi căn bản những gì khả thi cho các ứng dụng computer vision thế hệ tiếp theo.

Thực tế của triển khai tại biên#

Việc chạy các computer vision models ở biên khác biệt rất nhiều so với việc chạy chúng trên đám mây. Trong môi trường đám mây, các hệ thống thường có quyền truy cập vào các GPU mạnh mẽ, dung lượng bộ nhớ lớn và phần cứng ổn định. Ở biên, những giả định tương tự không còn đúng nữa.

Hầu hết các triển khai tại biên chạy trên các kiến trúc phần cứng đa dạng, không phải GPU. Các thiết bị thường sử dụng nhiều bộ xử lý chuyên dụng cho các tác vụ khác nhau, được tối ưu hóa cho hiệu quả và công suất thấp thay vì khả năng tính toán thô của GPU đám mây.

Độ trễ là một hạn chế lớn khác. Các hệ thống biên thường hoạt động dưới các giới hạn thời gian thực chặt chẽ, nơi ngay cả những độ trễ nhỏ cũng có thể ảnh hưởng đến khả năng phản hồi hoặc tính an toàn. Trong những trường hợp này, độ trễ end-to-end quan trọng hơn tốc độ inference thô. Một model có thể nhanh trên giấy nhưng vẫn thất bại khi cộng thêm thời gian hậu xử lý và di chuyển dữ liệu.

Bộ nhớ cũng đóng vai trò quan trọng. Nhiều thiết bị biên có bộ nhớ hạn chế và cache chia sẻ. Các tensor trung gian lớn và việc sử dụng bộ nhớ không hiệu quả có thể làm chậm hệ thống, ngay cả khi bản thân model rất hiệu quả.

Các giới hạn về điện năng và nhiệt độ tạo ra thêm các ràng buộc. Các thiết bị biên thường chạy mà không có hệ thống làm mát chủ động và trong phạm vi ngân sách năng lượng cố định. Hiệu năng cần phải hiệu quả và bền vững, không chỉ nhanh trong các đợt ngắn hạn.

Trên tất cả những điều này, triển khai tại biên yêu cầu tính nhất quán. Các model phải hoạt động giống nhau trên các thiết bị và môi trường runtime khác nhau. Mã code dành riêng cho nền tảng hoặc các bước hậu xử lý phức tạp có thể tạo ra những khác biệt tinh vi khiến các hệ thống trở nên khó triển khai và bảo trì hơn.

Hình 2. Cái nhìn về những hạn chế của việc triển khai tại biên. Hình ảnh bởi tác giả.

Những hạn chế này định nghĩa ý nghĩa thực sự của hiệu năng tại biên. Nói cách khác, hiệu năng được định nghĩa bởi toàn bộ pipeline, không phải một chỉ số duy nhất.

Tại sao thị giác tại biên đòi hỏi một mô hình hiệu năng khác#

Vậy, các hạn chế của triển khai tại biên liên quan như thế nào đến các yêu cầu của một model thị giác máy tính được xây dựng cho biên? Kết nối này trở nên rõ ràng một khi các model di chuyển từ môi trường nghiên cứu sang các hệ thống thực tế.

Trong môi trường đám mây, hiệu năng thường được đo lường bằng các benchmark như tốc độ inference và độ chính xác. Tại biên, những chỉ số đó chỉ kể một phần câu chuyện. Các hệ thống thị giác thường chạy trên phần cứng không đồng nhất, nơi việc inference mạng thần kinh được chuyển sang các bộ tăng tốc chuyên dụng trong khi các phần khác của pipeline chạy trên các bộ xử lý đa năng.

Trong bối cảnh này, tốc độ model là chưa đủ. Cách toàn bộ hệ thống vận hành sau khi model được triển khai mới là chìa khóa. Một model có thể trông có vẻ nhanh khi đứng riêng lẻ, nhưng vẫn sẽ thất bại nếu việc hậu xử lý, di chuyển dữ liệu hoặc các bước dành riêng cho nền tảng gây thêm overhead.

Đó là lý do tại sao thị giác máy tính ở biên yêu cầu một mô hình hiệu năng tập trung vào hiệu quả cấp hệ thống thay vì các benchmark đơn lẻ. Ultralytics YOLO26 phản ánh sự chuyển dịch này bằng cách tập trung vào tối ưu hóa hướng-đến-biên (edge-first), suy luận được tinh gọn và quá trình thực thi đầu-cuối được xây dựng cho việc triển khai trong thế giới thực.

Nền tảng cho tốc độ: Thiết kế edge-first#

Tại biên, hiệu năng được định nghĩa bởi mức độ tương thích của model với kiến trúc phần cứng thực tế của thiết bị. Thiết kế edge-first đảm bảo các hệ thống thị giác vận hành ổn định trên các nền tảng thực tế, bất kể sự kết hợp cụ thể của các bộ xử lý có sẵn là gì.

Phương pháp tiếp cận edge-first ưu tiên thực thi dự đoán được và hiệu quả trên phần cứng không đồng nhất, thay vì điều chỉnh các model đã được tối ưu hóa cho GPU đám mây sau khi đã hoàn thiện. Nói một cách đơn giản, điều này có nghĩa là ưu tiên các thao tác chuyển đổi tốt sang các bộ tăng tốc mạng thần kinh, giảm thiểu công việc phi mạng thần kinh bên ngoài model và giảm bớt sự phức tạp không cần thiết có thể làm chậm quá trình thực thi end-to-end.

Ultralytics YOLO26 được thiết kế với những ràng buộc này. Kiến trúc của nó tập trung vào hiệu năng ổn định thay vì thông lượng đỉnh trong các điều kiện lý tưởng. Bằng cách đơn giản hóa các đường dẫn thực thi và loại bỏ các phép tính toán không cần thiết, YOLO26 giảm thiểu chi phí chung trên toàn bộ pipeline inference và tận dụng tốt hơn khả năng tăng tốc cũng như hệ thống phân cấp bộ nhớ của thiết bị.

Cách tiếp cận này cũng cải thiện độ tin cậy. Tối ưu hóa hướng-đến-biên dẫn đến thời gian phản hồi dễ dự đoán hơn và ít đột biến hiệu năng hơn, điều cực kỳ quan trọng đối với các hệ thống thời gian thực. Thay vì dựa vào phần cứng chuyên dụng hoặc quá trình hậu xử lý nặng nề để đạt tốc độ, Ultralytics YOLO26 nhấn mạnh hiệu quả xuyên suốt pipeline suy luận.

Inference end-to-end và chi phí của hậu xử lý#

Bạn có thể tự hỏi ý nghĩa của việc loại bỏ các bước hậu xử lý không cần thiết là gì. Để hiểu điều này, hãy lùi lại một bước và xem cách các hệ thống phát hiện đối tượng truyền thống vận hành.

Trong nhiều pipeline phát hiện đối tượng, inference không kết thúc khi model đưa ra các dự đoán. Thay vào đó, model xuất ra một số lượng lớn các bounding box chồng chéo, sau đó cần được lọc và tinh chỉnh trước khi chúng có thể được sử dụng. Việc dọn dẹp này xảy ra thông qua các bước hậu xử lý chạy bên ngoài chính model đó.

Một trong những bước hậu xử lý phổ biến nhất là Non-Maximum Suppression, hay NMS. NMS so sánh các bounding box chồng chéo và chỉ giữ lại các kết quả phát hiện có độ tự tin cao nhất, đồng thời loại bỏ các mục trùng lặp đề cập đến cùng một đối tượng. Mặc dù phương pháp này mang lại hiệu quả, nó lại tạo ra thêm khối lượng tính toán sau khi quá trình inference hoàn tất.

Hình 3. Hiểu về NMS. Hình ảnh bởi tác giả.

Tại biên, công việc bổ sung này đi kèm với một cái giá. Các bước hậu xử lý như NMS không phù hợp với các bộ tăng tốc chuyên dụng được sử dụng cho inference mạng thần kinh, vốn được tối ưu hóa cho tính toán mạng thần kinh dày đặc thay vì các thao tác nặng về điều khiển hoặc thâm dụng bộ nhớ.

Kết quả là, NMS tạo ra thêm độ trễ và overhead bộ nhớ, và chi phí của nó tăng lên khi số lượng phát hiện tăng lên. Ngay cả khi bản thân model rất nhanh, NMS vẫn có thể tiêu tốn một phần đáng kể tổng thời gian chạy.

Hậu xử lý cũng làm tăng độ phức tạp của hệ thống. Vì nó tồn tại bên ngoài model, nó phải được triển khai riêng biệt cho các runtime và mục tiêu phần cứng khác nhau. Điều này thường dẫn đến các đường dẫn mã code dành riêng cho nền tảng, hành vi không nhất quán trên các thiết bị và các pipeline triển khai mong manh hơn.

Quan trọng nhất, hậu xử lý phá vỡ ý tưởng về hiệu năng end-to-end thực sự. Việc đo lường tốc độ inference model không phản ánh cách hệ thống vận hành trong sản xuất. Điều cuối cùng quan trọng là tổng thời gian từ đầu vào đến đầu ra cuối cùng, bao gồm mọi bước trong pipeline.

Trong những tình huống này, hậu xử lý trở thành một điểm nghẽn ẩn tại biên. Nó gây thêm độ trễ, tiêu tốn tài nguyên CPU và làm phức tạp quá trình triển khai, tất cả trong khi nằm bên ngoài chính model đó.

Cách Ultralytics YOLO26 loại bỏ NMS và lý do điều đó giúp mô hình nhanh hơn#

YOLO26 removes NMS bằng cách giải quyết tận gốc nguyên nhân gây ra các kết quả phát hiện trùng lặp thay vì xử lý làm sạch chúng sau khi inference. Thay vì tạo ra nhiều dự đoán chồng chéo cần phải được lọc bớt, mô hình được huấn luyện để tạo trực tiếp một tập hợp nhỏ hơn các kết quả phát hiện cuối cùng có độ tự tin cao.

Điều này có được là nhờ việc thay đổi cách các phát hiện được học trong quá trình huấn luyện. Ultralytics YOLO26 thúc đẩy mối quan hệ một-đối-một rõ ràng hơn giữa các đối tượng và các dự đoán, giúp giảm thiểu sự dư thừa ngay từ gốc. Nhờ đó, các phát hiện trùng lặp được xử lý ngay bên trong mạng lưới thay vì thông qua các bước hậu xử lý bên ngoài.

Việc loại bỏ NMS có tác động tức thì đến hiệu năng tại biên. Vì NMS không tương thích tốt với các bộ tăng tốc mạng thần kinh, việc loại bỏ nó giúp giảm di chuyển bộ nhớ và tránh các bước xử lý phi mạng thần kinh tốn kém. Điều này làm giảm độ trễ end-to-end và làm cho hiệu năng có thể dự đoán được hơn, đặc biệt là trên các thiết bị biên, nơi mà hậu xử lý có thể tiêu tốn một phần đáng kể tổng thời gian chạy.

Nó cũng đơn giản hóa pipeline inference. Với ít bước bên ngoài model hơn, có ít dữ liệu di chuyển hơn và ít sự chuyển giao giữa các thành phần hơn. Đầu ra của model đã là kết quả cuối cùng, giúp việc thực thi trở nên dự đoán được hơn.

Loại bỏ DFL để đạt được hiệu năng end-to-end thực sự#

Một cải tiến khác trong Ultralytics YOLO26 là việc loại bỏ Distribution Focal Loss, hay DFL, từng được sử dụng trong các mô hình YOLO trước đây cho việc hồi quy BBox. Thay vì dự đoán trực tiếp một tọa độ đơn lẻ, các mô hình sử dụng DFL học một phân phối các giá trị khả dĩ và sau đó suy ra một BBox cuối cùng từ phân phối đó. Cách tiếp cận này đã giúp cải thiện độ chính xác định vị và là một bước tiến quan trọng trong các thế hệ trước.

Tuy nhiên, theo thời gian, DFL cũng mang lại những sự đánh đổi. Việc dự đoán phân phối làm gia tăng khối lượng tính toán và thêm độ phức tạp vào kiến trúc mô hình, điều này có thể làm chậm quá trình inference trên các CPU và khiến việc xuất mô hình sang các deployment formats trở nên khó khăn hơn. DFL cũng áp đặt các khoảng hồi quy cố định, có thể làm hạn chế tính linh hoạt khi phát hiện các đối tượng rất lớn.

Ultralytics YOLO26 loại bỏ DFL như một phần trong nỗ lực hướng tới thiết kế end-to-end đơn giản hơn. Việc hồi quy bounding box được thiết kế lại để trực quan hơn, giảm bớt các tính toán không cần thiết trong khi vẫn duy trì độ chính xác. Thay đổi này phù hợp với phương pháp tiếp cận không cần NMS của YOLO26.

Tốc độ inference CPU nhanh hơn 43% đến từ đâu#

Trong các benchmark dựa trên CPU, YOLO26 cho thấy sự cải thiện hiệu năng rõ rệt so với các mô hình YOLO trước đây. So với Ultralytics YOLO11, mô hình YOLO26 nano mang lại tốc độ inference trên CPU nhanh hơn tới 43%, một khoảng cách có tác động ý nghĩa trong các ứng dụng triển khai thực tế tại biên.

Hình 4. Đánh giá benchmark tốc độ CPU của Ultralytics YOLO26.

Mức tăng này đến từ việc đơn giản hóa toàn bộ pipeline inference thay vì tối ưu hóa một thành phần đơn lẻ. Việc thực thi end-to-end loại bỏ overhead hậu xử lý, phương pháp hồi quy bounding box trực tiếp hơn giúp giảm tính toán, và các lựa chọn thiết kế CPU-first cải thiện hiệu quả thực thi trên các bộ xử lý đa năng.

Cùng với nhau, những thay đổi này giúp giảm độ trễ, giảm khối lượng công việc cho CPU và dẫn đến hiệu năng nhanh hơn, nhất quán hơn trên phần cứng biên thực tế.

Tác động của Ultralytics YOLO26 đối với việc triển khai ở edge và các định dạng xuất#

Các cải thiện hiệu năng của Ultralytics YOLO26 vượt ra ngoài việc suy luận nhanh hơn. Bằng cách đơn giản hóa mô hình và giảm thiểu chi phí bộ nhớ, nó trở nên dễ triển khai hơn và đáng tin cậy hơn khi chạy trên các môi trường biên.

Thiết kế đầu-cuối của Ultralytics YOLO26 cũng đơn giản hóa việc export. Với ít thành phần phụ trợ hơn và không có các bước hậu xử lý bên ngoài, các mô hình được xuất ra hoàn toàn tự chứa (self-contained). Điều này làm giảm các phụ thuộc theo nền tảng và giúp đảm bảo hành vi nhất quán trên các runtime và mục tiêu phần cứng.

Trên thực tế, điều này có nghĩa là Ultralytics YOLO26 có thể được triển khai dễ dàng hơn tới các thiết bị biên như camera, robot và hệ thống nhúng, sử dụng nhiều định dạng export khác nhau. Những gì bạn export chính là những gì bạn chạy, với ít bước tích hợp hơn và ít rủi ro lệch lạc khi triển khai (deployment drift).

Inference tại biên nhanh hơn hỗ trợ robot và AI thị giác công nghiệp#

Cho đến nay, chúng ta đã xem xét cách thiết kế hướng-đến-biên của Ultralytics YOLO26 cải thiện hiệu năng ở cấp độ hệ thống. Tuy nhiên, tác động thực sự nằm ở việc nó giúp việc tích hợp AI thị giác vào các ứng dụng trong thế giới thực trở nên dễ dàng hơn thế nào.

Ví dụ, trong các môi trường robotics và công nghiệp, các hệ thống thị giác thường vận hành dưới các giới hạn thời gian thực nghiêm ngặt. Các quyết định cần phải được đưa ra một cách nhanh chóng và nhất quán, sử dụng tài nguyên tính toán hạn chế và không phụ thuộc vào kết nối đám mây. Với Ultralytics YOLO26, việc đáp ứng các yêu cầu này trở nên khả thi.

Các ứng dụng như điều hướng robot và thao tác đối tượng được hưởng lợi từ độ trễ thấp hơn và inference có thể dự đoán được hơn, cho phép robot phản hồi mượt mà với những thay đổi trong môi trường của chúng. Tương tự, trong các thiết lập công nghiệp, các model thị giác có thể chạy trực tiếp trên dây chuyền sản xuất để phát hiện lỗi, theo dõi các linh kiện và giám sát quy trình mà không gây ra độ trễ hoặc thêm sự phức tạp.

Bằng cách cho phép suy luận nhanh chóng và đáng tin cậy trên phần cứng biên, Ultralytics YOLO26 giúp biến AI thị giác trở thành một phần tự nhiên của robot và các hệ thống công nghiệp, thay vì là một thử thách khó khăn trong việc triển khai và duy trì.

Các điểm chính cần lưu ý#

Ultralytics YOLO26 được xây dựng cho edge, nơi các ràng buộc thực tế như độ trễ, bộ nhớ và độ tin cậy quyết định những gì có thể đạt được. Bằng cách thiết kế model xoay quanh việc thực thi ưu tiên CPU, inference end-to-end và quy trình triển khai đơn giản hơn, YOLO26 giúp việc tích hợp vision AI vào các hệ thống thực tế trở nên khả thi. Phương pháp tiếp cận ưu tiên edge này hỗ trợ hàng loạt ứng dụng, từ robotics và thị giác máy tính công nghiệp đến AI nhúng và trên thiết bị, nơi hiệu năng và tính dự đoán là quan trọng nhất.

Hãy tham gia cộng đồng đang phát triển của chúng tôi và khám phá GitHub repository của chúng tôi để có các tài nguyên AI thực tế. Để xây dựng giải pháp với vision AI ngay hôm nay, hãy khám phá các licensing options của chúng tôi. Tìm hiểu cách AI in agriculture đang biến đổi ngành nông nghiệp và cách vision AI in healthcare đang định hình tương lai bằng cách truy cập các trang giải pháp của chúng tôi.