Ứng dụng suy luận AI trên thiết bị đầu cuối cho AI vật lý với Ultralytics DEEPX

Bạn đang tìm cách triển khai một dự án thị giác máy tính?

Tại Ultralytics, chúng tôi nhận thấy xu hướng ngày càng gia tăng trong việc chạy các mô hình thị giác máy tính trực tiếp trên các thiết bị biên, khi trí tuệ nhân tạo (AI) ngày càng được tích hợp sâu rộng vào thế giới vật lý. Từ robot và máy móc công nghiệp cho đến camera thông minh và phương tiện tự hành, ngày càng có nhiều hệ thống thông minh được yêu cầu phải quan sát, hiểu và hành động theo thời gian thực, mà không phụ thuộc vào đám mây.

Làn sóng mới của các hệ thống thông minh này được gọi là Trí tuệ nhân tạo vật lý (Physical AI), và nó đòi hỏi khả năng tính toán hiệu suất cao, siêu tiết kiệm năng lượng, có thể hoạt động tự chủ trong thế giới thực. Các hệ thống trong thế giới thực cần công nghệ AI thị giác có thể chạy tại chỗ, đáng tin cậy và hiệu quả trên phần cứng được thiết kế chuyên dụng cho môi trường biên.

YOLO Ultralytics YOLO như Ultralytics được thiết kế dành cho thị giác máy tính thời gian thực, nhưng để phát huy hết tiềm năng của chúng tại thiết bị đầu cuối, cần có sự kết hợp phù hợp giữa phần mềm và phần cứng. Vì vậy, chúng tôi rất vui mừng được công bố mối quan hệ hợp tác mới với DEEPX.

Chúng tôi đã hợp tác với DEEPX để giới thiệu một giải pháp tích hợp xuất dữ liệu mới, cho phép triển khaiYOLO Ultralytics YOLO một cách hiệu quả và có hiệu suất cao trên phần cứng NPU của DEEPX. Cùng nhau, chúng tôi đang thiết lập một tiêu chuẩn toàn cầu thống nhất về cách thức xây dựng, triển khai và mở rộng quy mô cho Trí tuệ nhân tạo vật lý (Physical AI).

Một tầm nhìn chung về tương lai của Trí tuệ nhân tạo vật lý

Với tư cách là khung công nghệ thị giác máy tính được áp dụng rộng rãi nhất trên thế giới, Ultralytics “đôi mắt” của các hệ thống này. Là một trong những nhà sản xuất NPU hiệu quả nhất, DEEPX cung cấp “bộ não” để vận hành các hệ thống này trên quy mô lớn.

Tại Ultralytics DEEPX, chúng tôi tin tưởng và luôn lấy tính dễ tiếp cận, hiệu suất và thiết kế ưu tiên nhà phát triển làm kim chỉ nam. Bằng việc kết hợp hệ sinh thái Ultralytics DEEPX, chúng tôi mang đến một giải pháp duy nhất và đáng tin cậy để triển khai trí tuệ nhân tạo (AI) thị giác vào ứng dụng thương mại, cho dù đó là một công ty robotics mới thành lập đang chuẩn bị ra mắt sản phẩm đầu tiên hay một nhà sản xuất thuộc danh sách Fortune 500 đang triển khai AI thị giác trên hàng nghìn cơ sở sản xuất.

Điều này có nghĩa là:

Thời gian đưa sản phẩm ra thị trường nhanh hơn: Từ giai đoạn chú thích đến triển khai chỉ trong vài ngày, chứ không phải vài tháng.
Giảm chi phí triển khai: Hiệu năng GPU nhưng chỉ tiêu tốn một phần nhỏ chi phí điện năng và chi phí sản xuất chip, mang lại cho bạn hơn 250 FPS với mức tiêu thụ điện năng chỉ 2–4 W.
Cơ hội doanh thu mới: Phát triển và tung ra thị trường các sản phẩm AI tại thiết bị đầu cuối mà trước đây không khả thi về mặt kinh tế.
Khả năng mở rộng bền vững: Một quy trình CI/CD chuyên dụng đảm bảo mọi Ultralytics mới Ultralytics đều hoạt động ngay lập tức với phần cứng DEEPX, được hỗ trợ bởi các cam kết cung cấp dài hạn của DEEPX.

Khám phá công nghệ NPU của DEEPX

Trước khi đi sâu vào tính năng tích hợp xuất dữ liệu mới, hãy cùng tìm hiểu thêm về DEEPX và vai trò của các NPU trong việc hỗ trợ AI vật lý hoạt động hiệu quả.

DEEPX là một công ty tiên phong trong lĩnh vực bán dẫn AI, chuyên cung cấp các giải pháp phần cứng AI tại thiết bị đầu cuối hiệu quả, được thiết kế chuyên biệt cho các mô hình thị giác như Ultralytics YOLO hiệu suất khung hình trên giây trên mỗi watt (FPS/W) vượt trội.

Các chip DEEPX định nghĩa lại khái niệm hiệu năng bằng cách tập trung vào hiệu quả thực tế thay vì các chỉ số lý thuyết, giúp các nhà phát triển đạt được kết quả GPU với mức tiêu thụ điện năng chỉ bằng một phần nhỏ.

Điều khiến phương pháp tiếp cận của DEEPX trở nên đặc biệt sáng tạo chính là thiết kế toàn diện (full-stack). NPU DX-M1 được thiết kế chuyên biệt để tăng tốc các mô hình tính toán của các mô hình thị giác máy tính, kết hợp với hệ thống làm mát thụ động và mức tiêu thụ điện năng thấp, khiến nó trở thành lựa chọn lý tưởng cho các triển khai quy mô sản xuất, nơi hiệu suất trên mỗi watt và độ tin cậy lâu dài là yếu tố then chốt. DX-M1 đang được sản xuất hàng loạt trên quy trình 5nm của Samsung Foundry, trong khi DX-M2 đã được lên kế hoạch trên quy trình 2nm GAA của Samsung để mở rộng giới hạn hiệu quả này vào kỷ nguyên Trí tuệ Nhân tạo Đại lý (Agentic AI).‍

Bắt đầu xuấtYOLO của Ultralytics sang DEEPX

Python Ultralytics và Ultralytics cung cấp một môi trường toàn diện và thống nhất để huấn luyện, đánh giá và triển khai YOLO trên cả năm tác vụ thị giác máy tính. Dù bạn thích làm việc trực tiếp với mã nguồn hay thông qua quy trình làm việc trực quan thuận tiện, cả hai phương pháp này đều mang đến cho bạn một cách tiếp cận nhất quán và có khả năng mở rộng để đưa mô hình từ giai đoạn xử lý dữ liệu đến triển khai.

Thông qua sự hợp tác này, Ultralytics giới thiệu tính năng tích hợp xuất mới với DEEPX, cho phép xuất YOLO để triển khai trên phần cứng NPU của DEEPX chỉ bằng một lệnh duy nhất: format=deepx. Tính năng tích hợp này được hỗ trợ đầy đủ trên toàn bộ Ultralytics , có nghĩa là các nhà phát triển có thể xuất sang DEEPX từ Python hoặc trực tiếp từ Ultralytics sau khi đã chú thích và huấn luyện mô hình của mình. Trong quá trình xuất, mô hình được biên dịch và lượng tử hóa INT8 thành tệp nhị phân .dxnn được tối ưu hóa, với hiệu chuẩn EMA đảm bảo hiệu suất NPU tối đa mà không làm giảm chất lượng mô hình.

Trên thực tế, điều này có nghĩa là các đội ngũ thương mại có thể chuyển từ dữ liệu đã được gắn nhãn sang một mô hình sẵn sàng đưa vào sản xuất, chạy trên các bộ xử lý DEEPX NPU, chỉ với ba lệnh:

# Step 1: Install Ultralytics
pip install ultralytics

# Step 2: Export your YOLO model to DEEPX format
yolo export model=yolo26n.pt format=deepx

# Step 3: Run inference on DEEPX hardware
yolo detect predict model=yolo26n_deepx_model

Để biết chi tiết đầy đủ về quá trình thiết lập, bao gồm cài đặt trong môi trường chạy và hiển thị đồ thị bằng trình xem đồ thị dxtron của DEEPX, vui lòng tham khảo tài liệu hướng dẫn tích hợp DEEPX.

Những lợi ích chính khi chạyYOLO Ultralytics YOLO trên bộ xử lý thần kinh DEEPX (NPU)

Dưới đây là một số lợi ích chính khi triển khaiYOLO Ultralytics YOLO trên phần cứng DEEPX thông qua giải pháp tích hợp mới:

Tích hợp liền mạch với Ultralytics : Việc xuất YOLO để triển khai trên DEEPX được tích hợp một cách tự nhiên vàoPython Ultralytics , với lệnh duy nhất `format=deepx` giúp chuẩn hóa quy trình triển khai tại thiết bị đầu cuối.
Hỗ trợ nhiều tác vụ thị giác máy tính: Bạn có thể triển khai các mô hình cho các tác vụ phát hiện đối tượng, phân đoạn, ước lượng tư thế, phát hiện khung giới hạn có định hướng (OBB) và phân loại trên các phiên bản YOLOv8, YOLO11 và YOLO26.
Xử lý suy luận tại thiết bị đầu cuối siêu hiệu quả: Các bộ xử lý DEEPX NPU mang lại hiệu năng GPU nhưng chỉ tiêu thụ một phần nhỏ năng lượng, kết hợp với hệ thống làm mát thụ động và mức tiêu thụ điện năng cực thấp, lý tưởng cho các triển khai quy mô sản xuất.
Nền tảng sẵn sàng cho tương lai: Một quy trình CI/CD chuyên dụng đảm bảo khả năng tương thích ngay lập tức với mọi Ultralytics mới Ultralytics , trong khi lộ trình chuyển đổi từ DX-M1 sang DX-M2 mở rộng cùng một bộ phần mềm sang kỷ nguyên Agentic AI.
Có khả năng mở rộng trên các ứng dụng AI thực tế: Từ giám sát thông minh và kiểm tra công nghiệp đến robot và hệ thống tự động, sự tích hợp này hỗ trợ một loạt các trường hợp ứng dụng trong thực tế.

Những lĩnh vực mà phần cứng Ultralytics YOLO DEEPX có thể phát huy tác dụng

Vậy, trong thực tế, có những ứng dụng AI vật lý phổ biến nào màYOLO Ultralytics có thể được triển khai trên phần cứng DEEPX?

Giám sát thông minh tại thiết bị đầu cuối

Các hệ thống giám sát hiện đại đòi hỏi khả năng phát hiện theo thời gian thực mà không làm ảnh hưởng đến quyền riêng tư hay khả năng kết nối.YOLO Ultralytics chạy trên bộ xử lý thần kinh chuyên dụng (NPU) DEEPX cho phép camera an ninh và hệ thống giám sát phân tích luồng video ngay tại thiết bị, nhận diện người, phương tiện và các hoạt động bất thường theo thời gian thực, với mức tiêu thụ điện năng thấp và không phụ thuộc vào đám mây. Khi việc thực thi Quy định Bảo vệ Dữ liệu Chung (GDPR) ngày càng được siết chặt tại châu Âu và các quy định mua sắm của chính quyền địa phương ngày càng yêu cầu dữ liệu phải được lưu trữ tại địa phương, việc xử lý suy luận trực tiếp trên thiết bị không chỉ mang lại lợi thế kỹ thuật mà còn là lợi thế về mặt tuân thủ quy định.

Tự động hóa công nghiệp và kiểm soát chất lượng

Tại các nhà máy và cơ sở sản xuất, công nghệ AI thị giác đang ngày càng được ứng dụng rộng rãi để tự động hóa quy trình kiểm soát chất lượng, phát hiện lỗi và giám sát quy trình sản xuất. Việc kết hợpYOLO Ultralytics với phần cứng DEEPX cho phép thực hiện kiểm tra trực tiếp trên thiết bị, hoạt động ổn định 24/7 ngay cả trong những môi trường công nghiệp khắc nghiệt, từ đó giúp giảm thiểu lãng phí, nâng cao chất lượng sản phẩm và đảm bảo an toàn cho người lao động.

Robot và hệ thống tự động

Trong lĩnh vực robot, tốc độ và khả năng phản ứng là những yếu tố then chốt. Dù là di chuyển trong kho hàng, hoạt động trong các môi trường công nghiệp thay đổi liên tục hay làm việc cùng con người, robot cần phải nhận diện môi trường xung quanh ngay lập tức.YOLO Ultralytics chạy trên bộ xử lý thần kinh DEEPX (NPU) giúp robot detect , track và nhận diện vật thể theo thời gian thực, từ đó hỗ trợ di chuyển an toàn hơn và tăng cường khả năng tự chủ mà không cần phụ thuộc vào kết nối đám mây liên tục.‍

Những điều cần nhớ

YOLO Ultralytics và bộ xử lý thần kinh trên thiết bị (NPU) DEEPX giúp việc triển khai Trí tuệ nhân tạo vật lý (Physical AI) hiệu suất cao tại các thiết bị biên trở nên dễ dàng hơn bao giờ hết. Bằng cách đơn giản hóa quá trình triển khai thông qua tiêu chuẩn định dạng mới `format=deepx` và tối ưu hóa các mô hình cho phần cứng tiết kiệm năng lượng của DEEPX, sự hợp tác này góp phần thu hẹp khoảng cách giữa giai đoạn phát triển và các ứng dụng thương mại thực tế. Trong bối cảnh Trí tuệ nhân tạo vật lý tiếp tục phát triển, sự hợp tác này là một bước tiến quan trọng nhằm mang lại giải pháp AI thị giác đạt tiêu chuẩn sản xuất, vừa dễ tiếp cận, vừa có chi phí hợp lý và có khả năng mở rộng cho các doanh nghiệp ở mọi quy mô.

Bạn đã sẵn sàng đưa các sản phẩm AI tiên tiến của mình ra thị trường nhanh hơn chưa?

Yêu cầu cấp giấy phép để truy cập hỗ trợ thương mại và YOLO dành cho doanh nghiệp.
Hãy thử Ultralytics để chú thích, huấn luyện và triển khai mô hình DEEPX đầu tiên của bạn.
Hãy trở thành Ultralytics của Ultralytics để khám phá các cơ hội triển khai chung.
Xem tài liệu để xem hướng dẫn kỹ thuật đầy đủ.

Hãy tìm hiểu cách những đột phá công nghệ như trí tuệ nhân tạo (AI) trong lĩnh vực robot và trí tuệ nhân tạo (AI) trong lĩnh vực sản xuất đang định hình tương lai.

Ultralytics YOLO với DEEPX: Xử lý suy luận AI tại thiết bị đầu cuối cho AI vật lý