Ultralytics và STMicroelectronics hợp tác để triển khai hiệu quả model YOLO trên vi điều khiển công suất thấp và đạt suy luận thời gian thực chính xác tại edge.
Khi mức độ ứng dụng AI trong các ngành công nghiệp tăng lên, nhu cầu về giải pháp hiệu năng cao, tiêu thụ ít điện năng và có thể suy luận theo thời gian thực ở biên cũng ngày càng lớn. Để đáp ứng nhu cầu công nghệ này, STMicroelectronics đã giới thiệu vi điều khiển STM32N6 với bộ xử lý thần kinh (NPU) tích hợp, được thiết kế cho các tác vụ AI nhúng.
Bằng cách chạy các model Ultralytics YOLO trên STM32N6, STMicroelectronics đã chứng minh rằng AI thị giác nhúng chính xác và hiệu quả có thể hoạt động trên vi điều khiển, mở ra cơ hội mới để triển khai trí tuệ trên thiết bị ở quy mô lớn trong các lĩnh vực như thành phố thông minh, chăm sóc sức khỏe và điện tử tiêu dùng.
Khám phá AI thị giác cho thiết bị công suất thấp tại edge#
STMicroelectronics là công ty dẫn đầu toàn cầu về công nghệ bán dẫn, với hơn 50.000 nhân viên và hơn 200.000 khách hàng trên toàn thế giới. Công ty thiết kế và chế tạo chip hỗ trợ các ứng dụng từ xe điện, thiết bị công nghiệp đến thiết bị nhà thông minh và điện tử tiêu dùng.
Khi ngày càng nhiều ngành ứng dụng AI để giúp thiết bị thông minh và phản hồi nhanh hơn, STMicroelectronics tập trung đưa các năng lực đó trực tiếp đến edge. Chẳng hạn, vi điều khiển STM32N6 của công ty là một chip mạnh mẽ, tiết kiệm năng lượng, có thể xử lý các tác vụ AI trên thiết bị như thị giác máy tính.
Để giúp nhà phát triển xây dựng ứng dụng thị giác nhúng trên STM32N6, STMicroelectronics tìm kiếm các model linh hoạt, hiệu năng cao có thể chạy hiệu quả trên vi điều khiển. Các model Ultralytics YOLO là lựa chọn phù hợp, mang lại sự kết hợp đáng tin cậy giữa tốc độ, độ chính xác và khả năng tích hợp dễ dàng.
Những hạn chế khi triển khai hệ thống nhúng ứng dụng AI#
Trước khi khái niệm edge AI được chấp nhận rộng rãi, các model thị giác máy tính thường được phát triển để chạy trên những hệ thống lớn, tập trung như máy chủ cloud hoặc GPU (bộ xử lý đồ họa). Các nền tảng này cung cấp năng lực tính toán cần thiết để huấn luyện và triển khai các model lớn, nhưng cũng kéo theo những hạn chế như tiêu thụ nhiều năng lượng, phụ thuộc vào mạng, độ trễ và chi phí vận hành tăng cao.
Khi sự quan tâm đến việc triển khai ứng dụng thời gian thực thông minh hơn trong các ngành như chăm sóc sức khỏe, điện tử tiêu dùng và thành phố thông minh tăng lên, việc đưa quá trình xử lý AI đến gần hơn với nơi dữ liệu được tạo ra — ngay trên thiết bị — đã trở thành nhu cầu kỹ thuật thiết yếu đồng thời là cơ hội chiến lược.
Tuy nhiên, chạy model AI trên vi điều khiển công suất thấp có thể là một thách thức. Các thiết bị này thường bị giới hạn về bộ nhớ, năng lực tính toán và dung lượng năng lượng, khiến việc triển khai model thị giác phức tạp mà không ảnh hưởng đến hiệu năng hoặc độ chính xác trở nên khó khăn.
STMicroelectronics cần xác định một bộ model đủ linh hoạt để mang năng lực thị giác máy tính thời gian thực đáng tin cậy đến vi điều khiển STM32N6 mà không buộc nhà phát triển phải đơn giản hóa đáng kể model hoặc workflow. Mục tiêu của công ty là cung cấp năng lực AI hữu ích ngay trên thiết bị, đồng thời tuân thủ các giới hạn nghiêm ngặt của hệ thống nhúng.
Đơn giản hóa việc triển khai model YOLO trên vi điều khiển#
Để triển khai AI tiên tiến trên các thiết bị nhúng công suất thấp, STMicroelectronics đã giới thiệu STM32N6, một vi điều khiển hiệu năng cao được trang bị Neural-ART Accelerator™. Đây là bộ xử lý thần kinh (NPU) do công ty tự phát triển, chuyên dùng cho các tác vụ edge AI. Công nghệ này cho phép nhà phát triển chạy suy luận AI trực tiếp trên thiết bị, giảm sự phụ thuộc vào điện toán cloud đồng thời cải thiện tốc độ, khả năng phản hồi và hiệu quả năng lượng.
STMicroelectronics đã hợp tác với Ultralytics để đánh giá và giới thiệu năng lực của STM32N6 bằng cách chạy các model Ultralytics YOLO trên vi điều khiển. Nổi bật với sự cân bằng giữa tốc độ và độ chính xác, các model Ultralytics YOLO rất phù hợp với môi trường hạn chế tài nguyên và triển khai nhúng.
Hình 1. Ví dụ chạy model Ultralytics YOLO trên STM32N6.
Bằng cách chạy trực tiếp nhiều biến thể model YOLO trên STM32N6, STMicroelectronics đã trình diễn nhiều trường hợp sử dụng AI thị giác như phát hiện đối tượng, phân loại và theo dõi, tất cả đều nằm trong giới hạn công suất và bộ nhớ của vi điều khiển. Sự hợp tác này mang đến cho nhà phát triển một lựa chọn đáng tin cậy để triển khai hệ thống nhúng ứng dụng AI thời gian thực bằng các model thị giác có khả năng mở rộng và sẵn sàng cho sản xuất.
Vì sao chọn các model Ultralytics YOLO?#
Các model Ultralytics YOLO mang đến cho STMicroelectronics sự kết hợp phù hợp giữa độ chính xác, hiệu quả và tính linh hoạt cần thiết cho hệ thống nhúng ứng dụng AI. Các model đủ gọn nhẹ để chạy trên vi điều khiển công suất thấp như STM32N6, nhưng vẫn đủ mạnh để mang lại hiệu năng phát hiện đối tượng và phân đoạn thực thể thời gian thực.
Ví dụ, khi chạy model Ultralytics YOLOv8n ở độ phân giải 256 × 256 trên STM32N6, hệ thống đạt 34 khung hình mỗi giây, với mỗi lần suy luận mất khoảng 29 mili giây. Các phép đo công suất cho thấy hệ thống chỉ tiêu thụ 9,4 milijoule cho mỗi lần suy luận, rất phù hợp với các tác vụ thị giác thời gian thực trên thiết bị công suất thấp.
Với hỗ trợ nhiều biến thể model YOLO, nhà phát triển có thể linh hoạt tinh chỉnh để tối ưu tốc độ, kích thước hoặc độ chính xác tùy theo giới hạn của ứng dụng. Kiến trúc dễ tích hợp, cùng với sự hỗ trợ mạnh mẽ từ cộng đồng và tài liệu, khiến Ultralytics YOLO trở thành lựa chọn tự nhiên cho mục tiêu thúc đẩy ứng dụng AI thị giác của STMicroelectronics trong nhiều trường hợp sử dụng nhúng.
Thông qua giấy phép Ultralytics Enterprise, STMicroelectronics cung cấp cho khách hàng quyền truy cập đầy đủ vào bộ model YOLO để kiểm thử nội bộ và phát triển. Tuy nhiên, đối với mọi hoạt động triển khai thương mại, khách hàng cần yêu cầu giấy phép thương mại riêng trực tiếp từ Ultralytics thông qua biểu mẫu cấp phép. Điều này bảo đảm tuân thủ và hỗ trợ lộ trình mở rộng quy mô hướng đến các giải pháp AI thị giác sẵn sàng cho sản xuất.
Từ thành phố thông minh đến chăm sóc sức khỏe: AI edge có khả năng mở rộng trong thực tế#
Khả năng chạy trực tiếp model Ultralytics YOLO trên vi điều khiển STM32N6 đã mở ra nhiều ứng dụng AI thị giác cho STMicroelectronics và hệ sinh thái nhà phát triển của công ty. Bằng cách cung cấp suy luận nhanh và chính xác ngay trên thiết bị mà không phụ thuộc vào xử lý bên ngoài hay kết nối cloud, giải pháp này cho phép triển khai các tính năng thông minh trên hệ thống nhỏ gọn, công suất thấp.
Khách hàng đang tìm hiểu các ứng dụng trong nhiều lĩnh vực, như phát hiện người đi bộ và phương tiện theo thời gian thực trong hạ tầng thành phố thông minh, kiểm tra an toàn và kiểm soát chất lượng ngay trên thiết bị trong tự động hóa công nghiệp, cũng như chẩn đoán có hỗ trợ AI trong các công cụ y tế di động. Tương tự, trong lĩnh vực điện tử tiêu dùng, các model YOLO hỗ trợ những tính năng phản hồi nhanh như phát hiện sự hiện diện, nhận dạng cử chỉ và theo dõi đối tượng, tất cả đều nằm trong giới hạn hiệu năng của thiết bị chạy bằng pin.
Xây dựng giải pháp AI thị giác cho ngày mai ngay hôm nay#
Khi AI tiếp tục phát triển, STMicroelectronics tập trung giúp việc đưa các giải pháp mạnh mẽ, hiệu quả đến thiết bị edge trở nên dễ dàng hơn. Bằng cách hợp tác chặt chẽ với các đối tác như Ultralytics, công ty đang giúp nhà phát triển bắt đầu nhanh hơn với model, công cụ và tài nguyên tương thích với STM32, sẵn sàng sử dụng.
Thực hiện bước tiếp theo trong đổi mới AI edge. Truy cập repository GitHub của chúng tôi để khám phá cách các model Ultralytics YOLO đang chuyển đổi thị giác nhúng. Tìm hiểu các ứng dụng của AI trong chăm sóc sức khỏe và thị giác máy tính trong bán lẻ, đồng thời xem các tùy chọn cấp phép ngay hôm nay!
Được viết bởi
Nhà sáng tạo nội dung · Ultralytics
