Ultralytics tại sự kiện Arm Create 2026: AI thị giác thời gian thực tại biên

Vào ngày 11 tháng 9 năm 2026, Chuyên viên Tiếp thị của chúng tôi, Ziyue Wang, và Kỹ sư Học máy Cấp cao, Rick Hou, đã tham gia Arm Create, sự kiện dành for nhà phát triển của Arm về việc xây dựng, tối ưu hóa và triển khai AI trên đám mây, biên, thiết bị di động và AI vật lý. Trọng tâm của chúng tôi là việc triển khai biên Ultralytics YOLO: cách lấy một model thị giác máy tính đã được huấn luyện và chạy nó theo thời gian thực trên các thiết bị chạy trên nền tảng Arm.

Sự kiện tại Thâm Quyến nối tiếp chặng dừng trước đó ở Thượng Hải, và cả hai đều khám phá một câu hỏi mà mọi nhà phát triển AI đều sớm muộn gì cũng phải đối mặt: làm thế nào để biến một model có năng lực thành phần mềm hoạt động đáng tin cậy trong thế giới thực?

Dưới đây là tóm tắt về phiên thảo luận của chúng tôi, hội panel về model, và cách Arm cùng Ultralytics đang hợp tác để giúp Ultralytics YOLO dễ tiếp cận hơn đối với các nhà phát triển đang xây dựng trên Arm.

Triển khai Ultralytics YOLO cho AI biên thời gian thực#

Kỹ sư Học máy Cấp cao của chúng tôi, Rick Hou, đã trình bày “Deploying Ultralytics YOLO: Real-Time Vision AI at the Edge”, một phiên thực tế về việc tối ưu hóa và triển khai các model Ultralytics YOLO trên thiết bị biên. Bài thuyết trình đã đi qua toàn bộ lộ trình triển khai và chia sẻ các bài học từ Ultralytics YOLO trong các ứng dụng AI biên sản xuất.

Hình 1. Rick từ Ultralytics trình bày việc triển khai biên Ultralytics YOLO tại Arm Create.

Xuất các model Ultralytics YOLO cho runtime biên#

Bước đầu tiên trong việc triển khai biên là xuất một model đã được huấn luyện thành định dạng được runtime mục tiêu hỗ trợ. Rick đã trình bày cách định dạng xuất phù hợp phụ thuộc vào thiết bị, engine suy luận và các mục tiêu hiệu suất của ứng dụng.

Lượng tử hóa model để suy luận trên thiết bị nhanh hơn#

Lượng tử hóa làm giảm độ chính xác số của model, ví dụ từ FP32 xuống FP16 hoặc INT8, giúp thu nhỏ kích thước model và tăng tốc độ suy luận với mức suy giảm độ chính xác tối thiểu. Phiên thảo luận đã giải thích cách cân bằng giữa tốc độ và độ chính xác khi các ngân sách tính toán, bộ nhớ và năng lượng bị hạn chế.

Đạt được hiệu suất thị giác máy tính thời gian thực trên các thiết bị biên#

Thị giác máy tính thời gian thực tại biên phụ thuộc vào nhiều yếu tố hơn là chỉ model. Tiền xử lý, lựa chọn runtime và tăng tốc phần cứng đều ảnh hưởng đến độ trễ và thông lượng. Rick đã chia sẻ cách xác định các điểm nghẽn và tối ưu hóa toàn bộ pipeline suy luận.

Bài học từ các triển khai AI biên trong môi trường sản xuất#

Các benchmark chỉ là điểm khởi đầu, nhưng bài kiểm tra thực tế là cách một model hoạt động trên thiết bị mà nó sẽ được phát hành, trong các điều kiện vận hành thực tế. Việc xác thực trên phần cứng mục tiêu thực tế là một bài học quan trọng từ phiên thảo luận, và là chủ đề xuyên suốt Arm Create.

Hội panel về model với Arm, Alibaba Qwen, Tencent và ModelBest#

Rick cũng đã tham gia một buổi thảo luận hội panel về model cùng với Arm, Alibaba Qwen, Tencent và ModelBest. Thay vì so sánh các model trực tiếp với nhau, hội panel tập trung vào độ phù hợp của ứng dụng: khối lượng công việc cần gì, nó nên chạy ở đâu và nó hành xử như thế nào sau khi được triển khai.

Hình 2. Hội panel về model với Arm, Alibaba Qwen, Tencent, ModelBest và Ultralytics tại Arm Create.

Lựa chọn model phù hợp cho khối lượng công việc#

Tính năng trả lời nhanh trong ứng dụng di động, một agent đám mây suy luận trên các tập tài liệu lớn, và một pipeline thị giác ở biên đều đòi hỏi các model rất khác nhau. Với tư cách là đại diện tiếng nói AI thị giác trong hội panel, Rick mang đến góc nhìn về biên, nơi độ trễ, hiệu quả và độ tin cậy trên thiết bị thường quan trọng hơn kích thước model.

Cổng thông tin Arm AI: Giúp Ultralytics YOLO dễ tiếp cận hơn trên Arm#

Sự kiện Arm Create tại Thâm Quyến diễn ra chỉ vài ngày sau khi Arm ra mắt Cổng thông tin Arm AI, một trung tâm giúp các nhà phát triển và agent AI khám phá, tối ưu hóa và triển khai phần mềm AI trên nền tảng tính toán Arm. Các nhà phát triển có thể tìm thấy các model đã được tối ưu hóa trước, chuyên biệt theo tác vụ kèm theo dữ liệu hiệu suất và độ chính xác, so sánh độ trễ, bộ nhớ và kích thước model, đồng thời truy cập các ví dụ mã và quy trình triển khai.

Các model Ultralytics YOLO được tối ưu hóa trước tại thời điểm ra mắt#

Ultralytics YOLO nằm trong số các model được tối ưu hóa trước có sẵn khi ra mắt, bên cạnh Alibaba Qwen và Google Gemma, với việc Ultralytics hỗ trợ cổng thông tin này với tư cách là một đối tác hệ sinh thái.

Mức tăng hiệu suất của Ultralytics YOLO26n trên Arm#

Kết quả ban đầu rất khả quan. Ultralytics YOLO26n đạt được mức cải thiện hiệu suất hơn 40% với việc thực thi đơn luồng trong hai thiết lập:

• FP16 so với FP32 trên điện thoại thông minh vivo X300 với SME2
• Lượng tử hóa hỗn hợp FP16 và INT8 so với FP32 trên Raspberry Pi 5 với NEON

Ý nghĩa điều này đối với các nhà phát triển AI biên#

Cổng thông tin Arm AI giúp giảm thiểu thời gian các nhà phát triển dành ra để tìm kiếm, benchmark và tinh chỉnh thủ công các model, tạo ra con đường nhanh hơn từ việc lựa chọn model đến triển khai trên phần cứng chạy trên nền tảng Arm. Nó hỗ trợ sứ mệnh của chúng tôi là làm cho AI thị giác tiên tiến trở nên đơn giản và dễ tiếp cận cho mọi người. Khám phá Ultralytics YOLO trên Cổng thông tin Arm AI.

Những điểm chính#

Xin cảm ơn đội ngũ Arm vì đã đón tiếp chúng tôi, và cảm ơn tất cả những ai đã ghé qua để thảo luận về việc triển khai biên, lượng tử hóa và AI thị giác trong thế giới thực. Các cuộc trò chuyện tại Thâm Quyến đã cho thấy hệ sinh thái AI biên đang trưởng thành nhanh chóng như thế nào khi các model, công cụ và phần cứng được thiết kế để hoạt động cùng nhau.

Sự kiện Arm Create tiếp theo sẽ hướng tới Mỹ, và chúng tôi rất mong chờ được tiếp tục cuộc trò chuyện. Trong thời gian chờ đợi, hãy truy cập tài liệu Ultralytics để bắt đầu triển khai Ultralytics YOLO trên các thiết bị biên của riêng bạn.