Ultralytics YOLO hợp tác với DEEPX: Suy luận Edge AI cho Physical AI

Tại Ultralytics, chúng tôi nhận thấy xu hướng ngày càng tăng trong việc chạy các computer vision models trực tiếp trên các thiết bị biên (edge devices) khi AI dần trở nên gắn kết chặt chẽ hơn với thế giới vật lý. Từ robot và máy móc công nghiệp cho đến camera thông minh và phương tiện tự hành, ngày càng nhiều hệ thống thông minh được yêu cầu phải có khả năng quan sát, hiểu và hành động theo thời gian thực mà không phụ thuộc vào đám mây.

Làn sóng hệ thống thông minh mới này được gọi là Physical AI, đòi hỏi khả năng tính toán hiệu năng cao, siêu tiết kiệm năng lượng, có thể vận hành tự chủ trong thế giới thực. Các hệ thống thực tế cần vision AI chạy cục bộ, ổn định và hiệu quả trên phần cứng được xây dựng chuyên biệt cho thiết bị biên.

Các model Ultralytics YOLO như Ultralytics YOLO26 được thiết kế cho thị giác máy tính thời gian thực, nhưng để phát huy tối đa tiềm năng tại biên đòi hỏi sự kết hợp đúng đắn giữa phần mềm và phần cứng. Vì lý do này, chúng tôi rất vui mừng thông báo về sự hợp tác mới với DEEPX.

Chúng tôi đã hợp tác với DEEPX để giới thiệu một tích hợp xuất (export integration) mới, cho phép triển khai hiệu quả, hiệu năng cao các model Ultralytics YOLO trên phần cứng NPU của DEEPX. Cùng nhau, chúng tôi đang thiết lập một tiêu chuẩn toàn cầu thống nhất cho cách thức Physical AI được xây dựng, triển khai và mở rộng.

Link to this sectionTầm nhìn chung cho tương lai của Physical AI#

Là framework thị giác máy tính được áp dụng rộng rãi nhất trên thế giới, Ultralytics cung cấp "đôi mắt" cho các hệ thống này. Là một trong những nhà sản xuất NPU hiệu quả nhất, DEEPX cung cấp "bộ não" để vận hành chúng ở quy mô lớn.

Tại Ultralytics và DEEPX, chúng tôi tin tưởng và được thúc đẩy bởi sự tiếp cận, hiệu năng và thiết kế ưu tiên nhà phát triển (developer-first). Bằng cách kết hợp các hệ sinh thái Ultralytics và DEEPX, chúng tôi cung cấp một con đường duy nhất, đáng tin cậy để triển khai vision AI cho mục đích thương mại, dù đó là một công ty robot giai đoạn đầu đang xuất xưởng sản phẩm đầu tiên hay một nhà sản xuất Fortune 500 đang triển khai vision AI trên hàng nghìn cơ sở.

Điều này có nghĩa là:

• Rút ngắn thời gian đưa sản phẩm ra thị trường: Từ gắn nhãn đến triển khai chỉ trong vài ngày, thay vì hàng tháng.
• Giảm chi phí triển khai: Hiệu năng tương đương GPU với mức tiêu thụ điện năng và chi phí silicon thấp hơn, cho phép đạt hơn 250 FPS với mức tiêu thụ năng lượng từ 2-4 W.
• Cơ hội doanh thu mới: Xây dựng và xuất xưởng các sản phẩm edge AI vốn trước đây không khả thi về mặt kinh tế.
• Khả năng mở rộng bền vững: Pipeline CI/CD chuyên biệt đảm bảo mọi bản phát hành mới của Ultralytics đều hoạt động ngay lập tức (out-of-the-box) với phần cứng DEEPX, được hỗ trợ bởi cam kết cung ứng dài hạn của DEEPX.

Link to this sectionKhám phá công nghệ NPU của DEEPX#

Trước khi đi sâu vào tích hợp xuất mới, hãy cùng tìm hiểu thêm về DEEPX và vai trò của các NPU trong việc hiện thực hóa Physical AI hiệu quả.

DEEPX là đơn vị đổi mới bán dẫn AI cung cấp phần cứng edge AI hiệu quả, được xây dựng chuyên biệt cho các model thị giác như Ultralytics YOLO với tỷ lệ khung hình trên giây trên mỗi watt (FPS/W) vượt trội.

Các chip của DEEPX định nghĩa lại hiệu năng bằng cách tập trung vào hiệu quả thực tế thay vì các thông số lý thuyết, giúp các nhà phát triển đạt được kết quả ở cấp độ GPU với ngân sách năng lượng thấp hơn đáng kể.

Điểm khiến cách tiếp cận của DEEPX đặc biệt sáng tạo là thiết kế full-stack. NPU DX-M1 được thiết kế chuyên biệt để tăng tốc các mẫu tính toán của các model thị giác máy tính, với hệ thống làm mát thụ động và tiêu thụ điện năng thấp, khiến nó trở nên lý tưởng cho các triển khai quy mô sản xuất nơi hiệu năng trên mỗi watt và độ tin cậy lâu dài là quan trọng. DX-M1 đang được sản xuất hàng loạt trên quy trình Samsung Foundry 5nm, với DX-M2 đã có sẵn trong lộ trình trên công nghệ Samsung 2nm GAA để mở rộng khả năng hiệu quả này vào kỷ nguyên Agentic AI.

Link to this sectionBắt đầu xuất các model Ultralytics YOLO sang DEEPX#

Ultralytics Python package và Ultralytics Platform cung cấp một môi trường hoàn chỉnh, thống nhất để huấn luyện, đánh giá và triển khai các model YOLO cho tất cả năm tác vụ thị giác máy tính. Cho dù bạn thích làm việc trực tiếp bằng code hay thông qua luồng công việc hình ảnh không ma sát, cả hai phương thức đều mang đến cách thức nhất quán và có thể mở rộng để đưa model từ dữ liệu đến khâu triển khai.

Thông qua quan hệ đối tác này, Ultralytics đã giới thiệu một export integration mới với DEEPX, cho phép xuất các model YOLO để triển khai trên phần cứng NPU DEEPX bằng một lệnh duy nhất: format=deepx. Tích hợp này được hỗ trợ đầy đủ trên toàn bộ hệ sinh thái Ultralytics, nghĩa là các nhà phát triển có thể xuất sang DEEPX từ Python package hoặc trực tiếp từ Ultralytics Platform sau khi gắn nhãn và huấn luyện model. Trong quá trình xuất, model được biên dịch và lượng tử hóa INT8 thành tệp nhị phân .dxnn tối ưu, với hiệu chuẩn dựa trên EMA đảm bảo hiệu năng NPU tối đa mà không làm giảm chất lượng model.

Trên thực tế, điều này có nghĩa là các đội ngũ thương mại có thể đi từ dữ liệu đã gắn nhãn đến model sẵn sàng cho sản xuất chạy trên NPU DEEPX chỉ với ba lệnh:

# Step 1: Install Ultralytics
pip install ultralytics

# Step 2: Export your YOLO model to DEEPX format
yolo export model=yolo26n.pt format=deepx

# Step 3: Run inference on DEEPX hardware
yolo detect predict model=yolo26n_deepx_model

Để biết chi tiết thiết lập đầy đủ, bao gồm cài đặt runtime và trực quan hóa với trình xem đồ thị dxtron của DEEPX, hãy xem tài liệu tích hợp DEEPX.

Link to this sectionLợi ích chính khi chạy các model Ultralytics YOLO trên NPU DEEPX#

Dưới đây là một số ưu điểm chính của việc triển khai các model Ultralytics YOLO trên phần cứng DEEPX sử dụng tích hợp mới:

• Tích hợp liền mạch với quy trình làm việc Ultralytics: Việc xuất model YOLO để triển khai trên DEEPX khớp hoàn toàn với Ultralytics Python package, với một lệnh format=deepx duy nhất giúp chuẩn hóa quy trình triển khai tại biên.
• Hỗ trợ nhiều tác vụ thị giác máy tính: Bạn có thể triển khai các model cho tác vụ phát hiện vật thể, phân đoạn, ước tính tư thế, phát hiện hộp bao xoay (OBB) và phân loại trên YOLOv8, YOLO11 và YOLO26.
• Suy luận tại biên siêu hiệu quả: NPU DEEPX mang lại hiệu năng cấp độ GPU với mức tiêu thụ điện năng thấp, làm mát thụ động và mức tiêu thụ điện năng cực thấp, lý tưởng cho các triển khai quy mô sản xuất.
• Nền tảng bền vững: Pipeline CI/CD chuyên biệt đảm bảo tính tương thích out-of-the-box với mọi bản phát hành mới của Ultralytics, trong khi lộ trình từ DX-M1 đến DX-M2 mở rộng cùng một stack phần mềm vào kỷ nguyên Agentic AI.
• Khả năng mở rộng trên các ứng dụng Physical AI: Từ giám sát thông minh và kiểm tra công nghiệp đến robot và hệ thống tự hành, tích hợp hỗ trợ nhiều trường hợp sử dụng trong thực tế.

Link to this sectionNơi Ultralytics YOLO và phần cứng DEEPX tạo ra tác động#

Vậy một số ứng dụng Physical AI phổ biến nơi các model Ultralytics YOLO có thể được triển khai trên phần cứng DEEPX trong các kịch bản thực tế là gì?

Link to this sectionGiám sát thông minh tại biên#

Các hệ thống giám sát hiện đại đòi hỏi khả năng phát hiện thời gian thực mà không ảnh hưởng đến quyền riêng tư hoặc kết nối. Các model Ultralytics YOLO chạy trên NPU DEEPX cho phép camera an ninh và hệ thống giám sát phân tích dữ liệu video cục bộ, nhận diện người, phương tiện và các hoạt động bất thường theo thời gian thực, với mức tiêu thụ điện năng thấp và không phụ thuộc vào đám mây. Khi việc thực thi GDPR trở nên thắt chặt hơn tại châu Âu và mua sắm công yêu cầu cư trú dữ liệu, suy luận trên thiết bị (on-device inference) trở thành lợi thế về mặt quy định cũng như kỹ thuật.

Link to this sectionTự động hóa công nghiệp và kiểm soát chất lượng#

Trong các nhà máy và cơ sở sản xuất, vision AI đang ngày càng được sử dụng để tự động hóa kiểm soát chất lượng, phát hiện lỗi và giám sát quy trình. Kết hợp các model Ultralytics YOLO với phần cứng DEEPX cho phép kiểm tra tại chỗ, vận hành ổn định 24/7 trong môi trường công nghiệp khắc nghiệt, giúp giảm lãng phí, cải thiện chất lượng sản phẩm và bảo vệ an toàn cho người lao động.

Link to this sectionRobot và hệ thống tự hành#

Đối với robot, tốc độ và khả năng phản hồi là yếu tố then chốt. Cho dù đang điều hướng trong kho hàng, vận hành trong môi trường công nghiệp năng động hay làm việc cùng con người, robot cần phải diễn giải môi trường xung quanh ngay lập tức. Các model Ultralytics YOLO chạy trên NPU DEEPX cho phép robot phát hiện chướng ngại vật, theo dõi người và nhận diện vật thể trong thời gian thực, hỗ trợ di chuyển an toàn hơn và tăng tính tự chủ mà không phụ thuộc vào kết nối đám mây liên tục.

Link to this sectionNhững điểm chính rút ra#

Các model Ultralytics YOLO và NPU DEEPX giúp việc mang Physical AI hiệu năng cao ra thiết bị biên trở nên dễ dàng hơn bao giờ hết. Bằng cách đơn giản hóa việc triển khai với tiêu chuẩn format=deepx mới và tối ưu hóa model cho phần cứng tiết kiệm năng lượng của DEEPX, mối quan hệ đối tác này giúp thu hẹp khoảng cách giữa phát triển và các ứng dụng thương mại thực tế. Khi Physical AI tiếp tục phát triển, sự hợp tác này là một bước tiến hướng tới việc làm cho vision AI cấp độ sản xuất trở nên dễ tiếp cận, giá cả phải chăng và có khả năng mở rộng cho các doanh nghiệp ở mọi quy mô.

Sẵn sàng đưa sản phẩm edge AI của bạn ra thị trường nhanh hơn?

• Yêu cầu giấy phép để truy cập hỗ trợ thương mại và các model YOLO Enterprise.
• Dùng thử Ultralytics Platform để gắn nhãn, huấn luyện và triển khai model sẵn sàng cho DEEPX đầu tiên của bạn.
• Trở thành đối tác của Ultralytics để khám phá các cơ hội triển khai chung.
• Đọc tài liệu để xem hướng dẫn kỹ thuật đầy đủ.

Tìm hiểu cách những đổi mới như AI trong robot và AI trong sản xuất đang định hình tương lai.