Tác động của thiết kế nhanh hơn, ưu tiên biên của Ultralytics YOLO26

Đầu tuần này, Ultralytics đã chính thức ra mắt Ultralytics YOLO26, một model YOLO nhanh hơn, nhẹ hơn và nhỏ gọn hơn, hướng tới việc định nghĩa lại cách các hệ thống thị giác máy tính vận hành tại biên (edge). YOLO26 hỗ trợ các tác vụ thị giác cốt lõi tương tự như các model YOLO trước đây, bao gồm phát hiện đối tượng và phân đoạn cá thể.

Hình 1. Một ví dụ về việc sử dụng YOLO26 để phân đoạn một đối tượng.

Sự khác biệt mang tính quyết định giữa YOLO26 và các model trước đó nằm ở môi trường mà nó được thiết kế để vận hành. Thay vì tối ưu hóa chủ yếu cho các GPU đám mây hoặc hiệu năng dựa trên benchmark, YOLO26 được thiết kế ngay từ đầu để triển khai trong thực tế trên các thiết bị biên và phần cứng nhúng.

Khi thị giác máy tính chuyển dịch từ nghiên cứu sang sản xuất, thực tế về các hạn chế hiệu năng đang trở nên rõ ràng hơn. Các môi trường biên bị định hình bởi ngân sách độ trễ chặt chẽ, bộ nhớ hạn chế, giới hạn về năng lượng và nhiệt độ, cùng nhu cầu về hành vi có thể dự đoán được trên nhiều nền tảng đa dạng.

Trong những môi trường này, hiệu năng hệ thống tổng thể không chỉ phụ thuộc vào tốc độ inference thô, mà còn vào mức độ vận hành hiệu quả của toàn bộ pipeline. Overhead hậu xử lý (post-processing), áp lực bộ nhớ và các đường dẫn thực thi dành riêng cho từng nền tảng thường là những điểm nghẽn.

YOLO26 giải quyết những thách thức này bằng cách áp dụng phương pháp edge-first nhanh hơn, nhìn nhận toàn bộ pipeline inference thay vì các chỉ số model đơn lẻ. Bằng cách tập trung vào tối ưu hóa biên, đơn giản hóa pipeline inference và loại bỏ các bước hậu xử lý không cần thiết, YOLO26 mang lại những cải tiến về tốc độ giúp giảm độ trễ và tăng độ ổn định của hành vi trong sản xuất.

Trong bài viết này, chúng ta sẽ khám phá cách các lựa chọn kiến trúc của YOLO26 chuyển đổi thành những cải tiến hiệu năng trong thế giới thực, và tại sao việc đạt tốc độ nhanh hơn tại biên lại thay đổi căn bản những gì có thể thực hiện cho các ứng dụng thị giác máy tính thế hệ tiếp theo.

Link to this sectionThực tế của triển khai tại biên#

Chạy các model thị giác máy tính tại biên rất khác so với việc chạy chúng trên đám mây. Trong môi trường đám mây, các hệ thống thường có quyền truy cập vào các GPU mạnh mẽ, bộ nhớ lớn và phần cứng ổn định. Tại biên, những giả định tương tự không còn áp dụng được.

Hầu hết các triển khai tại biên chạy trên các kiến trúc phần cứng đa dạng, không phải GPU. Các thiết bị thường sử dụng nhiều bộ xử lý chuyên dụng cho các tác vụ khác nhau, được tối ưu hóa cho hiệu quả và công suất thấp thay vì khả năng tính toán thô của GPU đám mây.

Độ trễ là một hạn chế lớn khác. Các hệ thống biên thường hoạt động dưới các giới hạn thời gian thực chặt chẽ, nơi ngay cả những độ trễ nhỏ cũng có thể ảnh hưởng đến khả năng phản hồi hoặc tính an toàn. Trong những trường hợp này, độ trễ end-to-end quan trọng hơn tốc độ inference thô. Một model có thể nhanh trên giấy nhưng vẫn thất bại khi cộng thêm thời gian hậu xử lý và di chuyển dữ liệu.

Bộ nhớ cũng đóng vai trò quan trọng. Nhiều thiết bị biên có bộ nhớ hạn chế và cache chia sẻ. Các tensor trung gian lớn và việc sử dụng bộ nhớ không hiệu quả có thể làm chậm hệ thống, ngay cả khi bản thân model rất hiệu quả.

Các giới hạn về điện năng và nhiệt độ tạo ra thêm các ràng buộc. Các thiết bị biên thường chạy mà không có hệ thống làm mát chủ động và trong phạm vi ngân sách năng lượng cố định. Hiệu năng cần phải hiệu quả và bền vững, không chỉ nhanh trong các đợt ngắn hạn.

Trên tất cả những điều này, triển khai tại biên yêu cầu tính nhất quán. Các model phải hoạt động giống nhau trên các thiết bị và môi trường runtime khác nhau. Mã code dành riêng cho nền tảng hoặc các bước hậu xử lý phức tạp có thể tạo ra những khác biệt tinh vi khiến các hệ thống trở nên khó triển khai và bảo trì hơn.

Hình 2. Cái nhìn về những hạn chế của việc triển khai tại biên. Hình ảnh bởi tác giả.

Những hạn chế này định nghĩa ý nghĩa thực sự của hiệu năng tại biên. Nói cách khác, hiệu năng được định nghĩa bởi toàn bộ pipeline, không phải một chỉ số duy nhất.

Link to this sectionTại sao thị giác tại biên đòi hỏi một mô hình hiệu năng khác#

Vậy, các hạn chế của triển khai tại biên liên quan như thế nào đến các yêu cầu của một model thị giác máy tính được xây dựng cho biên? Kết nối này trở nên rõ ràng một khi các model di chuyển từ môi trường nghiên cứu sang các hệ thống thực tế.

Trong môi trường đám mây, hiệu năng thường được đo lường bằng các benchmark như tốc độ inference và độ chính xác. Tại biên, những chỉ số đó chỉ kể một phần câu chuyện. Các hệ thống thị giác thường chạy trên phần cứng không đồng nhất, nơi việc inference mạng thần kinh được chuyển sang các bộ tăng tốc chuyên dụng trong khi các phần khác của pipeline chạy trên các bộ xử lý đa năng.

Trong bối cảnh này, tốc độ model là chưa đủ. Cách toàn bộ hệ thống vận hành sau khi model được triển khai mới là chìa khóa. Một model có thể trông có vẻ nhanh khi đứng riêng lẻ, nhưng vẫn sẽ thất bại nếu việc hậu xử lý, di chuyển dữ liệu hoặc các bước dành riêng cho nền tảng gây thêm overhead.

Đó là lý do tại sao thị giác tại biên đòi hỏi một mô hình hiệu năng tập trung vào hiệu quả cấp hệ thống thay vì các benchmark cô lập. YOLO26 phản ánh sự thay đổi này bằng cách tập trung vào tối ưu hóa edge-first, inference được tinh gọn và thực thi end-to-end được xây dựng cho triển khai thực tế.

Link to this sectionNền tảng cho tốc độ: Thiết kế edge-first#

Tại biên, hiệu năng được định nghĩa bởi mức độ tương thích của model với kiến trúc phần cứng thực tế của thiết bị. Thiết kế edge-first đảm bảo các hệ thống thị giác vận hành ổn định trên các nền tảng thực tế, bất kể sự kết hợp cụ thể của các bộ xử lý có sẵn là gì.

Phương pháp tiếp cận edge-first ưu tiên thực thi dự đoán được và hiệu quả trên phần cứng không đồng nhất, thay vì điều chỉnh các model đã được tối ưu hóa cho GPU đám mây sau khi đã hoàn thiện. Nói một cách đơn giản, điều này có nghĩa là ưu tiên các thao tác chuyển đổi tốt sang các bộ tăng tốc mạng thần kinh, giảm thiểu công việc phi mạng thần kinh bên ngoài model và giảm bớt sự phức tạp không cần thiết có thể làm chậm quá trình thực thi end-to-end.

YOLO26 được thiết kế với những hạn chế này trong tâm trí. Kiến trúc của nó tập trung vào hiệu năng nhất quán thay vì thông lượng đỉnh cao trong điều kiện lý tưởng. Bằng cách đơn giản hóa các đường dẫn thực thi và loại bỏ các tính toán không cần thiết, YOLO26 giảm overhead trên pipeline inference và tận dụng tốt hơn khả năng tăng tốc cũng như phân cấp bộ nhớ của thiết bị.

Cách tiếp cận này cũng cải thiện độ tin cậy. Tối ưu hóa edge-first dẫn đến thời gian thực thi có thể dự đoán hơn và ít biến động hiệu năng hơn, điều này rất quan trọng đối với các hệ thống thời gian thực. Thay vì dựa vào phần cứng chuyên dụng hoặc hậu xử lý nặng nề để đạt tốc độ, YOLO26 nhấn mạnh vào hiệu quả trong toàn bộ pipeline inference.

Link to this sectionInference end-to-end và chi phí của hậu xử lý#

Bạn có thể tự hỏi ý nghĩa của việc loại bỏ các bước hậu xử lý không cần thiết là gì. Để hiểu điều này, hãy lùi lại một bước và xem cách các hệ thống phát hiện đối tượng truyền thống vận hành.

Trong nhiều pipeline phát hiện đối tượng, inference không kết thúc khi model đưa ra các dự đoán. Thay vào đó, model xuất ra một số lượng lớn các bounding box chồng chéo, sau đó cần được lọc và tinh chỉnh trước khi chúng có thể được sử dụng. Việc dọn dẹp này xảy ra thông qua các bước hậu xử lý chạy bên ngoài chính model đó.

Một trong những bước hậu xử lý phổ biến nhất là Non-Maximum Suppression, hay NMS. NMS so sánh các bounding box chồng chéo và chỉ giữ lại những phát hiện có độ tin cậy cao nhất, loại bỏ các bản sao tham chiếu đến cùng một đối tượng. Mặc dù phương pháp này hiệu quả, nó lại gây ra thêm tính toán sau khi inference hoàn tất.

Hình 3. Hiểu về NMS. Hình ảnh bởi tác giả.

Tại biên, công việc bổ sung này đi kèm với một cái giá. Các bước hậu xử lý như NMS không phù hợp với các bộ tăng tốc chuyên dụng được sử dụng cho inference mạng thần kinh, vốn được tối ưu hóa cho tính toán mạng thần kinh dày đặc thay vì các thao tác nặng về điều khiển hoặc thâm dụng bộ nhớ.

Kết quả là, NMS tạo ra thêm độ trễ và overhead bộ nhớ, và chi phí của nó tăng lên khi số lượng phát hiện tăng lên. Ngay cả khi bản thân model rất nhanh, NMS vẫn có thể tiêu tốn một phần đáng kể tổng thời gian chạy.

Hậu xử lý cũng làm tăng độ phức tạp của hệ thống. Vì nó tồn tại bên ngoài model, nó phải được triển khai riêng biệt cho các runtime và mục tiêu phần cứng khác nhau. Điều này thường dẫn đến các đường dẫn mã code dành riêng cho nền tảng, hành vi không nhất quán trên các thiết bị và các pipeline triển khai mong manh hơn.

Quan trọng nhất, hậu xử lý phá vỡ ý tưởng về hiệu năng end-to-end thực sự. Việc đo lường tốc độ inference model không phản ánh cách hệ thống vận hành trong sản xuất. Điều cuối cùng quan trọng là tổng thời gian từ đầu vào đến đầu ra cuối cùng, bao gồm mọi bước trong pipeline.

Trong những tình huống này, hậu xử lý trở thành một điểm nghẽn ẩn tại biên. Nó gây thêm độ trễ, tiêu tốn tài nguyên CPU và làm phức tạp quá trình triển khai, tất cả trong khi nằm bên ngoài chính model đó.

Link to this sectionLàm thế nào YOLO26 loại bỏ NMS và tại sao điều đó giúp nó nhanh hơn#

YOLO26 loại bỏ NMS bằng cách giải quyết nguyên nhân gốc rễ của các phát hiện trùng lặp thay vì dọn dẹp chúng sau khi inference. Thay vì tạo ra nhiều dự đoán chồng chéo cần được lọc, model được huấn luyện để tạo ra một tập hợp nhỏ hơn các phát hiện cuối cùng có độ tin cậy cao một cách trực tiếp.

Điều này có thể thực hiện được bằng cách thay đổi cách các phát hiện được học trong quá trình huấn luyện. YOLO26 khuyến khích mối quan hệ một-một rõ ràng hơn giữa các đối tượng và các dự đoán, giảm thiểu sự dư thừa ngay tại nguồn. Kết quả là, các phát hiện trùng lặp được giải quyết bên trong chính mạng thần kinh thay vì thông qua hậu xử lý bên ngoài.

Việc loại bỏ NMS có tác động tức thì đến hiệu năng tại biên. Vì NMS không tương thích tốt với các bộ tăng tốc mạng thần kinh, việc loại bỏ nó giúp giảm di chuyển bộ nhớ và tránh các bước xử lý phi mạng thần kinh tốn kém. Điều này làm giảm độ trễ end-to-end và làm cho hiệu năng có thể dự đoán được hơn, đặc biệt là trên các thiết bị biên, nơi mà hậu xử lý có thể tiêu tốn một phần đáng kể tổng thời gian chạy.

Nó cũng đơn giản hóa pipeline inference. Với ít bước bên ngoài model hơn, có ít dữ liệu di chuyển hơn và ít sự chuyển giao giữa các thành phần hơn. Đầu ra của model đã là kết quả cuối cùng, giúp việc thực thi trở nên dự đoán được hơn.

Link to this sectionLoại bỏ DFL để đạt được hiệu năng end-to-end thực sự#

Một cải tiến khác trong YOLO26 là việc loại bỏ Distribution Focal Loss, hay DFL, vốn được sử dụng trong các model YOLO trước đây cho hồi quy bounding box. Thay vì dự đoán trực tiếp một tọa độ duy nhất, các model sử dụng DFL học một phân phối của các giá trị có thể và sau đó suy ra một bounding box cuối cùng từ phân phối đó. Phương pháp này đã giúp cải thiện độ chính xác định vị và là một bước tiến quan trọng trong các thế hệ trước.

Tuy nhiên, theo thời gian, DFL cũng đưa ra những sự đánh đổi. Việc dự đoán các phân phối làm tăng tính toán và thêm độ phức tạp vào kiến trúc model, điều này có thể làm chậm inference trên CPU và khiến các model khó xuất ra các định dạng triển khai khác nhau. DFL cũng áp đặt các phạm vi hồi quy cố định, điều này có thể hạn chế tính linh hoạt khi phát hiện các đối tượng rất lớn.

YOLO26 loại bỏ DFL như một phần của quá trình chuyển dịch hướng tới một thiết kế đơn giản, end-to-end. Hồi quy bounding box được thiết kế lại để trực tiếp hơn, giảm thiểu tính toán không cần thiết trong khi vẫn duy trì độ chính xác. Thay đổi này phù hợp với phương pháp tiếp cận không dùng NMS của YOLO26.

Link to this sectionTốc độ inference CPU nhanh hơn 43% đến từ đâu#

Trong các benchmark dựa trên CPU, YOLO26 cho thấy sự cải thiện hiệu năng rõ rệt so với các model YOLO trước đó. So với Ultralytics YOLO11, model YOLO26 nano mang lại tốc độ inference CPU nhanh hơn tới 43%, một sự khác biệt có tác động ý nghĩa trong các triển khai tại biên trong thế giới thực.

Hình 4. Benchmarking tốc độ CPU của YOLO26.

Mức tăng này đến từ việc đơn giản hóa toàn bộ pipeline inference thay vì tối ưu hóa một thành phần đơn lẻ. Việc thực thi end-to-end loại bỏ overhead hậu xử lý, phương pháp hồi quy bounding box trực tiếp hơn giúp giảm tính toán, và các lựa chọn thiết kế CPU-first cải thiện hiệu quả thực thi trên các bộ xử lý đa năng.

Cùng với nhau, những thay đổi này giúp giảm độ trễ, giảm khối lượng công việc cho CPU và dẫn đến hiệu năng nhanh hơn, nhất quán hơn trên phần cứng biên thực tế.

Link to this sectionTác động của YOLO26 đến triển khai tại biên và xuất model#

Những cải thiện về hiệu năng của YOLO26 còn vượt xa hơn cả việc inference nhanh hơn. Bằng cách đơn giản hóa model và giảm overhead bộ nhớ, nó trở nên dễ dàng để triển khai và ổn định hơn khi chạy trên các môi trường biên.

Thiết kế end-to-end của YOLO26 cũng đơn giản hóa quá trình xuất. Với ít thành phần phụ trợ hơn và không có các bước hậu xử lý bên ngoài, các model đã xuất là hoàn toàn độc lập. Điều này giảm bớt sự phụ thuộc vào nền tảng và giúp đảm bảo hành vi nhất quán trên các runtime và mục tiêu phần cứng.

Trong thực tế, điều này có nghĩa là YOLO26 có thể được triển khai dễ dàng hơn đến các thiết bị biên như camera, robot và hệ thống nhúng, sử dụng nhiều định dạng xuất khác nhau. Những gì bạn xuất ra chính là những gì bạn chạy, với ít bước tích hợp hơn và ít nguy cơ trôi dạt triển khai hơn.

Link to this sectionInference tại biên nhanh hơn hỗ trợ robot và AI thị giác công nghiệp#

Cho đến nay, chúng ta đã xem xét cách thiết kế edge-first của YOLO26 cải thiện hiệu năng ở cấp độ hệ thống. Tuy nhiên, tác động thực sự nằm ở việc nó giúp tích hợp AI thị giác vào các ứng dụng thực tế dễ dàng hơn như thế nào.

Ví dụ, trong robotics và môi trường công nghiệp, các hệ thống thị giác thường vận hành dưới những ràng buộc thời gian thực nghiêm ngặt. Các quyết định cần được đưa ra nhanh chóng và nhất quán, sử dụng tài nguyên tính toán hạn chế và không dựa vào kết nối đám mây. Với Ultralytics YOLO26, việc đáp ứng các yêu cầu này trở nên khả thi.

Các ứng dụng như điều hướng robot và thao tác đối tượng được hưởng lợi từ độ trễ thấp hơn và inference có thể dự đoán được hơn, cho phép robot phản hồi mượt mà với những thay đổi trong môi trường của chúng. Tương tự, trong các thiết lập công nghiệp, các model thị giác có thể chạy trực tiếp trên dây chuyền sản xuất để phát hiện lỗi, theo dõi các linh kiện và giám sát quy trình mà không gây ra độ trễ hoặc thêm sự phức tạp.

Bằng cách cho phép inference nhanh, ổn định trên phần cứng biên, YOLO26 giúp biến AI thị giác trở thành một phần tự nhiên của robot và các hệ thống công nghiệp, thay vì là một thách thức để triển khai và bảo trì.

Link to this sectionCác điểm chính cần lưu ý#

YOLO26 được xây dựng cho biên, nơi các ràng buộc thực tế như độ trễ, bộ nhớ và độ tin cậy định nghĩa những gì có thể thực hiện được. Bằng cách thiết kế model xung quanh việc thực thi CPU-first, inference end-to-end và triển khai đơn giản hơn, YOLO26 làm cho việc tích hợp AI thị giác vào các hệ thống thực tế trở nên thực tế. Phương pháp edge-first này kích hoạt một loạt các ứng dụng, từ robot và thị giác công nghiệp đến AI nhúng và trên thiết bị, nơi mà hiệu năng và tính dự đoán là quan trọng nhất.

Hãy tham gia cộng đồng đang phát triển của chúng tôi và khám phá kho lưu trữ GitHub để có các tài nguyên AI thực hành. Để xây dựng với AI thị giác ngay hôm nay, hãy khám phá các tùy chọn cấp phép của chúng tôi. Tìm hiểu cách AI trong nông nghiệp đang chuyển đổi canh tác và cách AI thị giác trong chăm sóc sức khỏe đang định hình tương lai bằng cách truy cập các trang giải pháp của chúng tôi.