Bằng cách bổ sung các model Ultralytics YOLO vào Voyager SDK, Axelera AI đã giúp khách hàng dễ dàng chạy các giải pháp thị giác máy tính theo thời gian thực trên các Bộ xử lý AI Metis (AIPUs) ngay sau khi cài đặt.
Axelera AI là một công ty bán dẫn châu Âu phát triển các chip AI mạnh mẽ, tiết kiệm năng lượng để chạy thị giác máy tính tại biên. Ví dụ, các Bộ xử lý AI Metis (AIPUs) của họ được sử dụng trong những ngành như bán lẻ, an ninh và sản xuất.
Để giúp khách hàng xây dựng và triển khai các ứng dụng AI dễ dàng hơn, Axelera đã tích hợp các model Ultralytics YOLO vào Voyager SDK, một nền tảng phần mềm giúp đơn giản hóa việc tối ưu hóa, triển khai và tăng tốc model trên các AIPU Metis, giúp Vision AI theo thời gian thực nhanh hơn, đơn giản hơn và có khả năng mở rộng tốt hơn.
Định nghĩa lại khả năng tăng tốc phần cứng cho Vision AI#
Được thành lập vào năm 2021 và đặt trụ sở tại Hà Lan, Axelera AI hướng đến việc giải quyết một vấn đề nền tảng: phần cứng AI truyền thống được xây dựng cho cloud, không phải biên. Để thu hẹp khoảng cách này, công ty đã phát triển AIPU Metis.
Đây là một chip hiệu năng cao, tiêu thụ điện năng thấp, được thiết kế riêng cho các workload tại biên — những tác vụ AI chạy cục bộ trên thiết bị, nơi tốc độ, quyền riêng tư và hiệu quả năng lượng là yếu tố then chốt.
Chip này được hỗ trợ bởi công nghệ độc quyền Tính toán trực tiếp trong bộ nhớ (D-IMC), cho phép xử lý dữ liệu trực tiếp tại nơi dữ liệu được lưu trữ, đồng thời giảm đáng kể độ trễ và mức tiêu thụ năng lượng. Với software stack được tích hợp đầy đủ và sứ mệnh dân chủ hóa AI, Axelera đang giúp AI hiệu năng cao trở nên dễ tiếp cận hơn.
Thách thức khi chạy model trên phần cứng AI biên#
Để mang lại trải nghiệm AI liền mạch tại biên, Axelera AI hướng đến việc cung cấp nhiều hơn phần cứng hiệu năng cao. Khách hàng cũng cần một phương thức đơn giản và đáng tin cậy để chạy các giải pháp thị giác máy tính theo thời gian thực mà không cần đến các công cụ phức tạp hoặc tùy chỉnh tốn nhiều thời gian. Nhiều model hiện có quá lớn, quá chậm hoặc không phù hợp với các môi trường bị giới hạn về tài nguyên.
Phân tích bán lẻ, tự động hóa nhà máy và các hệ thống giám sát thường dựa vào thông tin trực quan nhanh chóng, chính xác để hỗ trợ hoạt động. Tuy nhiên, các model truyền thống và giải pháp dựa trên cloud thường không đáp ứng được yêu cầu về độ trễ thấp, hiệu quả năng lượng và xử lý trên thiết bị của những ứng dụng AI biên này.
Axelera bắt đầu tìm kiếm một bộ model có độ chính xác cao, dễ triển khai và có thể chạy hiệu quả trên các Bộ xử lý AI Metis. Giải pháp phù hợp sẽ bổ trợ cho năng lực phần cứng của họ, đồng thời đơn giản hóa quá trình phát triển và đẩy nhanh việc triển khai trên nhiều use case AI biên.
Tăng tốc suy luận AI tại biên với Ultralytics YOLO#
Axelera AI đã tích hợp các model Ultralytics YOLO vào Voyager SDK để giúp việc xây dựng và triển khai các ứng dụng AI biên trở nên nhanh hơn, dễ dàng hơn và có khả năng mở rộng tốt hơn. SDK bao gồm Model Zoo với các model YOLO sẵn sàng sử dụng và tự động hóa toàn bộ pipeline, bao gồm tiền xử lý, suy luận và hậu xử lý, được tối ưu hóa cho các Bộ xử lý AI Metis.
Hình 1. Bộ xử lý AI Metis (AIPU).
Tích hợp này cho phép khách hàng sử dụng các model Ultralytics YOLO được pre-trained ngay sau khi cài đặt hoặc đưa model của riêng họ vào, với khả năng tăng tốc liền mạch trên phần cứng biên. Nhờ hỗ trợ thực thi model song song và theo chuỗi, các AIPU Metis cho phép xây dựng các cấu hình multi-model nâng cao, chẳng hạn như ước tính tư thế tiếp nối bằng phân đoạn. Đây là lựa chọn lý tưởng cho các tác vụ phức tạp trong bán lẻ, an ninh và tự động hóa công nghiệp.
Sự kết hợp giữa các tác vụ thị giác máy tính theo thời gian thực được các model Ultralytics YOLO hỗ trợ với software stack hiệu quả của Axelera mang lại hiệu năng vượt trội trên mỗi watt và mỗi dollar. Đối với khách hàng, điều này đồng nghĩa với kết quả chính xác hơn, triển khai nhanh hơn và rào cản thấp hơn khi mở rộng Vision AI tại biên.
Tại sao chọn các model Ultralytics YOLO?#
Axelera AI đã hợp tác với Ultralytics để tích hợp các model Ultralytics YOLO vào nền tảng của mình nhờ sự cân bằng vượt trội giữa độ chính xác, tốc độ và tính dễ sử dụng. Với hỗ trợ cho nhiều biến thể Ultralytics YOLO, khách hàng của Axelera AI có thể đánh giá nhiều workload và nhu cầu hiệu năng khác nhau trên AIPU Metis.
Thông qua Giấy phép Ultralytics Enterprise, Axelera cung cấp quyền truy cập vào toàn bộ bộ model YOLO để đánh giá và phát triển. Để triển khai thương mại, khách hàng cần tự الحصول giấy phép trực tiếp từ Ultralytics thông qua biểu mẫu cấp phép, nhằm đảm bảo tuân thủ và hỗ trợ đổi mới có khả năng mở rộng trong Vision AI tại biên.
Tận dụng các model Ultralytics YOLO trên quy mô lớn với Voyager SDK của Axelera AI#
Với các model Ultralytics YOLO và Voyager SDK của Axelera AI, người dùng có thể triển khai các ứng dụng thị giác máy tính chính xác, có độ trễ thấp trực tiếp trên các Bộ xử lý AI Metis. Ngoài ra, quyền truy cập vào nhiều biến thể YOLO cho phép khách hàng điều chỉnh hiệu năng dựa trên nhu cầu cụ thể của ứng dụng.
Ví dụ, Axelera AI đã chứng kiến khách hàng thử nghiệm các giải pháp sử dụng YOLO trong nhiều lĩnh vực như:
- Bán lẻ: Các pipeline multi-model kết hợp ước tính tư thế, phân đoạn và phát hiện đối tượng có thể được sử dụng để hỗ trợ những tác vụ như giảm thất thoát và theo dõi hàng tồn kho. Các triển khai này chạy hiệu quả trên những nền tảng nhúng như Raspberry Pi 5 kết hợp với AIPU Metis.
- Sản xuất: Khách hàng có thể sử dụng thực thi model song song để thực hiện đồng thời các tác vụ như phát hiện lỗi, phân loại sản phẩm và ước tính tư thế trên một chip duy nhất, nhằm cải thiện throughput và giảm chi phí phần cứng.
- Giám sát: Khả năng phát hiện đối tượng theo thời gian thực của YOLO có thể được sử dụng để phân tích các luồng video 4K và 8K ở độ phân giải đầy đủ, hỗ trợ giám sát an toàn có độ chính xác cao và nhận thức tình huống trong các môi trường trọng yếu. Đây là giải pháp tốt hơn nhiều so với việc giảm tỷ lệ truyền thống trên các camera độ phân giải cao.
- Y tế: Các pipeline YOLO được tối ưu hóa có thể hỗ trợ xác định khối u, mang lại tốc độ suy luận cao và độ chính xác đáng tin cậy cho việc chụp ảnh y tế trên thiết bị.
Các use case này cho thấy phần cứng AI biên của Axelera AI và các model Ultralytics YOLO thúc đẩy những đổi mới về Vision AI hiệu năng cao, tiết kiệm năng lượng trong nhiều ngành.
Thúc đẩy làn sóng AI biên tiếp theo với Ultralytics YOLO#
Khi tiếp tục tập trung vào việc mở rộng khả năng tiếp cận AI biên hiệu năng cao, Axelera AI đang kết hợp phần cứng mạnh mẽ với các model thị giác đáng tin cậy để giúp khách hàng xây dựng những ứng dụng thông minh hơn và nhanh hơn.
Với các model Ultralytics YOLO có sẵn thông qua Voyager SDK và phần cứng AIPU Metis, người dùng có thể dễ dàng phát triển và mở rộng các giải pháp thị giác máy tính theo thời gian thực trong nhiều ngành. Sự hợp tác này hỗ trợ cộng đồng các developer và doanh nghiệp đang ngày càng phát triển, những bên đang nỗ lực đưa AI đến gần hơn với nơi dữ liệu được tạo ra, qua đó cải thiện hiệu quả, khả năng phản hồi và đổi mới tại biên.
Bạn đã sẵn sàng tăng tốc hành trình AI biên của mình chưa? Khám phá repository GitHub của chúng tôi để xem các model YOLO đang thúc đẩy những đổi mới như AI trong bán lẻ và thị giác máy tính trong logistics như thế nào. Trực tiếp trải nghiệm các công cụ Vision AI của chúng tôi, tìm hiểu về các tùy chọn cấp phép và khám phá cách khai thác thị giác máy tính hiệu năng cao, tiết kiệm năng lượng tại biên.
