Ultralytics và STMicroelectronics đã hợp tác để triển khai hiệu quả các model YOLO trên các vi điều khiển công suất thấp và đạt khả năng suy luận thời gian thực chính xác ở biên.
Khi việc ứng dụng AI ngày càng gia tăng trong nhiều ngành, nhu cầu về các giải pháp hiệu năng cao, công suất thấp có khả năng thực hiện suy luận thời gian thực ở biên cũng tăng lên. Để đáp ứng nhu cầu công nghệ này, STMicroelectronics đã giới thiệu vi điều khiển STM32N6, tích hợp Bộ xử lý thần kinh (NPU) được thiết kế cho các workload AI nhúng.
Bằng cách chạy các model Ultralytics YOLO trên STM32N6, STMicroelectronics đã chứng minh rằng AI thị giác nhúng chính xác và hiệu quả là khả thi trên các vi điều khiển, mở ra những cơ hội mới cho trí tuệ có khả năng mở rộng ngay trên thiết bị trong các lĩnh vực như thành phố thông minh, chăm sóc sức khỏe và điện tử tiêu dùng.
Khám phá AI thị giác cho các thiết bị công suất thấp ở biên#
STMicroelectronics là công ty dẫn đầu toàn cầu về công nghệ bán dẫn, với hơn 50.000 nhân viên và hơn 200.000 khách hàng trên toàn thế giới. Công ty thiết kế và sản xuất các chip hỗ trợ nhiều ứng dụng, từ xe điện và thiết bị công nghiệp đến thiết bị nhà thông minh và điện tử tiêu dùng.
Khi ngày càng nhiều ngành ứng dụng AI để làm cho thiết bị trở nên thông minh và phản hồi nhanh hơn, STMicroelectronics tập trung đưa các khả năng đó trực tiếp đến biên. Chẳng hạn, vi điều khiển STM32N6 của họ là một chip mạnh mẽ, tiết kiệm năng lượng, có thể xử lý các tác vụ AI ngay trên thiết bị như thị giác máy tính.
Để hỗ trợ các nhà phát triển xây dựng ứng dụng thị giác nhúng trên STM32N6, STMicroelectronics đã tìm kiếm các model linh hoạt, hiệu năng cao có thể chạy hiệu quả trên vi điều khiển. Các model Ultralytics YOLO tỏ ra rất phù hợp, mang lại sự kết hợp đáng tin cậy giữa tốc độ, độ chính xác và khả năng tích hợp dễ dàng.
Những hạn chế khi hỗ trợ các hệ thống nhúng tích hợp AI#
Trước khi khái niệm Edge AI được chấp nhận rộng rãi, các model thị giác máy tính thường được phát triển để chạy trên những hệ thống lớn, tập trung như máy chủ đám mây hoặc GPU (Bộ xử lý đồ họa). Các nền tảng này cung cấp năng lực tính toán cần thiết để huấn luyện và triển khai các model lớn, nhưng cũng tạo ra những hạn chế như mức tiêu thụ năng lượng cao, phụ thuộc vào mạng, độ trễ và chi phí vận hành tăng.
Khi mối quan tâm đến việc triển khai các ứng dụng thời gian thực thông minh hơn trong những ngành như chăm sóc sức khỏe, điện tử tiêu dùng và thành phố thông minh ngày càng tăng, rõ ràng việc đưa quá trình xử lý AI đến gần hơn nơi dữ liệu được tạo ra, tức là ngay trên thiết bị, vừa là nhu cầu kỹ thuật vừa là cơ hội chiến lược.
Tuy nhiên, việc chạy các model AI trên các vi điều khiển công suất thấp có thể gặp nhiều thách thức. Những thiết bị này thường có bộ nhớ, năng lực tính toán và dung lượng năng lượng hạn chế, khiến việc triển khai các model thị giác phức tạp trở nên khó khăn nếu không muốn ảnh hưởng đến hiệu năng hoặc độ chính xác.
STMicroelectronics cần xác định một bộ model đủ linh hoạt để mang lại khả năng thị giác máy tính thời gian thực, đáng tin cậy cho vi điều khiển STM32N6, mà không yêu cầu các nhà phát triển phải đơn giản hóa đáng kể model hoặc workflow của họ. Mục tiêu của công ty là cung cấp AI hữu ích ngay trên thiết bị, đồng thời tuân thủ các giới hạn nghiêm ngặt của hệ thống nhúng.
Đơn giản hóa việc triển khai model YOLO trên vi điều khiển#
Để hỗ trợ AI tiên tiến trên các thiết bị nhúng công suất thấp, STMicroelectronics đã giới thiệu STM32N6, một vi điều khiển hiệu năng cao được trang bị Neural-ART Accelerator™. Đây là Bộ xử lý thần kinh (NPU) do công ty tự phát triển, được xây dựng riêng cho các workload Edge AI. Công nghệ này cho phép các nhà phát triển chạy suy luận AI trực tiếp trên thiết bị, giảm sự phụ thuộc vào điện toán đám mây đồng thời cải thiện tốc độ, khả năng phản hồi và hiệu quả năng lượng.
STMicroelectronics đã hợp tác với Ultralytics để đánh giá và trình diễn các khả năng của STM32N6 bằng cách chạy các model Ultralytics YOLO trên vi điều khiển. Nổi tiếng với sự cân bằng giữa tốc độ và độ chính xác, các model Ultralytics YOLO rất phù hợp với những môi trường hạn chế tài nguyên và các hoạt động triển khai nhúng.
Hình 1. Ví dụ về việc chạy một model Ultralytics YOLO trên STM32N6.
Bằng cách chạy trực tiếp nhiều biến thể model YOLO trên STM32N6, STMicroelectronics đã có thể trình diễn nhiều trường hợp sử dụng AI thị giác, chẳng hạn như phát hiện đối tượng, phân loại và tracking, tất cả đều nằm trong giới hạn về công suất và bộ nhớ của một vi điều khiển. Sự hợp tác này cung cấp cho các nhà phát triển một lựa chọn đáng tin cậy để triển khai các hệ thống nhúng tích hợp AI thời gian thực bằng những model thị giác có khả năng mở rộng và sẵn sàng cho production.
Tại sao chọn các model Ultralytics YOLO?#
Các model Ultralytics YOLO mang đến cho STMicroelectronics sự kết hợp phù hợp giữa độ chính xác, hiệu quả và tính linh hoạt cần thiết cho các hệ thống nhúng tích hợp AI. Các model này đủ nhẹ để chạy trên những vi điều khiển công suất thấp như STM32N6, nhưng vẫn đủ mạnh để mang lại hiệu năng phát hiện đối tượng và phân đoạn instance theo thời gian thực.
Ví dụ, khi chạy model Ultralytics YOLOv8n ở độ phân giải 256 x 256 trên STM32N6, hệ thống đạt 34 khung hình mỗi giây, với mỗi lần suy luận mất khoảng 29 mili giây. Các phép đo công suất cho thấy hệ thống chỉ sử dụng 9,4 milijoule cho mỗi lần suy luận, rất phù hợp cho các tác vụ thị giác thời gian thực trên thiết bị công suất thấp.
Với hỗ trợ cho nhiều biến thể model YOLO, các nhà phát triển có thể linh hoạt tinh chỉnh theo tốc độ, kích thước hoặc độ chính xác tùy thuộc vào các giới hạn của ứng dụng. Kiến trúc dễ tích hợp, kết hợp với sự hỗ trợ mạnh mẽ từ cộng đồng và tài liệu, khiến Ultralytics YOLO trở thành lựa chọn tự nhiên cho mục tiêu thúc đẩy việc ứng dụng AI thị giác của STMicroelectronics trong nhiều trường hợp sử dụng nhúng.
Thông qua giấy phép Ultralytics Enterprise, STMicroelectronics cung cấp cho khách hàng quyền truy cập vào toàn bộ bộ model YOLO để kiểm thử và phát triển nội bộ. Tuy nhiên, đối với mọi hoạt động triển khai thương mại, khách hàng phải yêu cầu giấy phép thương mại riêng trực tiếp từ Ultralytics thông qua biểu mẫu cấp phép. Điều này bảo đảm tính tuân thủ và hỗ trợ lộ trình có khả năng mở rộng đến các giải pháp AI thị giác sẵn sàng cho production.
Từ thành phố thông minh đến chăm sóc sức khỏe: AI ở biên có khả năng mở rộng trong thực tế#
Khả năng chạy trực tiếp các model Ultralytics YOLO trên vi điều khiển STM32N6 đã mở ra nhiều ứng dụng AI thị giác cho STMicroelectronics và hệ sinh thái nhà phát triển của công ty. Bằng cách cung cấp khả năng suy luận nhanh và chính xác ngay trên thiết bị mà không phụ thuộc vào xử lý bên ngoài hoặc kết nối đám mây, giải pháp này giúp triển khai các tính năng thông minh trong những hệ thống nhỏ gọn, công suất thấp.
Khách hàng đang khám phá các trường hợp sử dụng trong những lĩnh vực như phát hiện người đi bộ và phương tiện theo thời gian thực trong hạ tầng thành phố thông minh, kiểm tra an toàn và kiểm soát chất lượng ngay trên thiết bị trong tự động hóa công nghiệp, cũng như chẩn đoán có AI hỗ trợ trong các công cụ chăm sóc sức khỏe di động. Tương tự, trong lĩnh vực điện tử tiêu dùng, các model YOLO hỗ trợ những tính năng phản hồi nhanh như phát hiện sự hiện diện, nhận dạng cử chỉ và tracking đối tượng - tất cả đều nằm trong giới hạn hiệu năng của các thiết bị chạy bằng pin.
Xây dựng các giải pháp AI thị giác của tương lai ngay hôm nay#
Khi AI tiếp tục phát triển, STMicroelectronics tập trung giúp việc đưa các giải pháp mạnh mẽ, hiệu quả đến các thiết bị biên trở nên dễ dàng hơn. Bằng cách hợp tác chặt chẽ với các đối tác như Ultralytics, công ty đang giúp các nhà phát triển bắt đầu nhanh hơn với các model, công cụ và tài nguyên tương thích với STM32, sẵn sàng để sử dụng.
Hãy thực hiện bước tiếp theo trong đổi mới Edge AI. Truy cập repository GitHub của chúng tôi để khám phá cách các model Ultralytics YOLO đang chuyển đổi thị giác nhúng. Khám phá các ứng dụng của AI trong chăm sóc sức khỏe và thị giác máy tính trong bán lẻ, đồng thời xem các tùy chọn cấp phép của chúng tôi ngay hôm nay!
