Bằng cách tích hợp các model Ultralytics YOLO vào Voyager SDK, Axelera AI giúp khách hàng dễ dàng chạy các giải pháp thị giác máy tính thời gian thực trên các Bộ xử lý AI Metis (AIPU) ngay sau khi cài đặt.
Axelera AI là một công ty bán dẫn châu Âu chuyên chế tạo chip AI mạnh mẽ, tiết kiệm năng lượng để chạy thị giác máy tính tại edge. Chẳng hạn, các Bộ xử lý AI Metis (AIPU) của công ty được sử dụng trong những ngành như bán lẻ, an ninh và sản xuất.
Để giúp khách hàng dễ dàng xây dựng và triển khai ứng dụng AI, Axelera đã tích hợp các model Ultralytics YOLO vào Voyager SDK, một nền tảng phần mềm giúp đơn giản hóa quá trình tối ưu hóa, triển khai và tăng tốc model trên Metis AIPU, nhờ đó AI thị giác thời gian thực trở nên nhanh hơn, đơn giản hơn và dễ mở rộng hơn.
Định hình lại khả năng tăng tốc phần cứng cho AI thị giác#
Được thành lập năm 2021 và có trụ sở tại Hà Lan, Axelera AI hướng đến giải quyết một vấn đề căn bản: phần cứng AI truyền thống được thiết kế cho cloud, chứ không phải edge. Để thu hẹp khoảng cách này, công ty đã phát triển Metis AIPU.
Đây là chip hiệu năng cao, tiêu thụ ít điện năng, được thiết kế chuyên biệt cho các tác vụ ở biên: những tác vụ AI chạy cục bộ trên thiết bị, nơi tốc độ, quyền riêng tư và hiệu quả năng lượng đóng vai trò then chốt.
Chip được hỗ trợ bởi công nghệ Tính toán số trong bộ nhớ (D-IMC) độc quyền, cho phép xử lý dữ liệu ngay tại nơi lưu trữ, đồng thời giảm đáng kể độ trễ và mức tiêu thụ năng lượng. Với software stack tích hợp đầy đủ và sứ mệnh phổ cập AI, Axelera đang giúp nhiều đối tượng tiếp cận AI hiệu năng cao hơn.
Thách thức khi chạy model trên phần cứng AI edge#
Để mang lại trải nghiệm AI liền mạch tại edge, Axelera AI hướng đến cung cấp nhiều hơn là phần cứng hiệu năng cao. Khách hàng cũng cần một cách thức đơn giản và đáng tin cậy để chạy các giải pháp thị giác máy tính thời gian thực mà không cần đến công cụ phức tạp hay tùy chỉnh tốn thời gian. Nhiều model hiện có quá lớn, quá chậm hoặc không phù hợp với môi trường có tài nguyên hạn chế.
Phân tích bán lẻ, tự động hóa nhà máy và hệ thống giám sát thường cần thông tin hình ảnh nhanh và chính xác để hỗ trợ hoạt động. Tuy nhiên, model truyền thống và giải pháp dựa trên cloud thường không đáp ứng được yêu cầu về độ trễ thấp, hiệu quả năng lượng và xử lý ngay trên thiết bị của các ứng dụng AI edge này.
Axelera bắt đầu tìm kiếm một bộ model có độ chính xác cao, dễ triển khai và có thể chạy hiệu quả trên các Bộ xử lý AI Metis. Giải pháp phù hợp sẽ bổ trợ cho năng lực phần cứng, đồng thời đơn giản hóa quá trình phát triển và đẩy nhanh triển khai trên nhiều trường hợp sử dụng AI edge.
Tăng tốc suy luận AI ở biên với Ultralytics YOLO#
Axelera AI đã tích hợp các model Ultralytics YOLO vào Voyager SDK để đẩy nhanh, đơn giản hóa và mở rộng quy mô xây dựng cũng như triển khai ứng dụng AI edge. SDK bao gồm Model Zoo với các model YOLO sẵn sàng sử dụng và tự động hóa toàn bộ pipeline, gồm tiền xử lý, suy luận và hậu xử lý, được tối ưu hóa cho các Bộ xử lý AI Metis.
Hình 1. Bộ xử lý AI Metis (AIPU).
Tích hợp này cho phép khách hàng sử dụng ngay các model Ultralytics YOLO đã huấn luyện sẵn hoặc đưa model của riêng mình vào, với khả năng tăng tốc liền mạch trên phần cứng biên. Với khả năng thực thi model song song và theo chuỗi, Metis AIPU hỗ trợ các cấu hình đa model tiên tiến như ước lượng pose rồi đến phân đoạn. Giải pháp này lý tưởng cho các tác vụ phức tạp trong bán lẻ, an ninh và tự động hóa công nghiệp.
Sự kết hợp giữa các tác vụ thị giác máy tính thời gian thực được hỗ trợ bởi model Ultralytics YOLO cùng software stack hiệu quả của Axelera mang lại hiệu suất vượt trội trên mỗi watt và mỗi đô la. Với khách hàng, điều này đồng nghĩa với kết quả chính xác hơn, triển khai nhanh hơn và rào cản thấp hơn khi mở rộng AI thị giác tại edge.
Vì sao chọn các model Ultralytics YOLO?#
Axelera AI đã hợp tác với Ultralytics để tích hợp các model Ultralytics YOLO vào nền tảng của mình nhờ sự cân bằng vượt trội giữa độ chính xác, tốc độ và tính dễ sử dụng. Với sự hỗ trợ cho nhiều biến thể Ultralytics YOLO, khách hàng của Axelera AI có thể đánh giá nhiều loại tác vụ và nhu cầu hiệu năng trên Metis AIPU.
Thông qua Giấy phép Ultralytics Enterprise, Axelera cung cấp quyền truy cập đầy đủ vào bộ model YOLO để đánh giá và phát triển. Đối với triển khai thương mại, khách hàng cần xin giấy phép riêng trực tiếp từ Ultralytics thông qua biểu mẫu cấp phép, nhằm bảo đảm tuân thủ và hỗ trợ đổi mới có khả năng mở rộng trong lĩnh vực AI thị giác tại edge.
Khai thác model Ultralytics YOLO ở quy mô lớn với Voyager SDK của Axelera AI#
Với các model Ultralytics YOLO và Voyager SDK của Axelera AI, người dùng có thể triển khai trực tiếp các ứng dụng thị giác máy tính chính xác, độ trễ thấp trên Bộ xử lý AI Metis. Ngoài ra, quyền truy cập vào nhiều biến thể YOLO cho phép khách hàng điều chỉnh hiệu năng theo nhu cầu cụ thể của ứng dụng.
Ví dụ, Axelera AI ghi nhận khách hàng thử nghiệm các giải pháp ứng dụng YOLO trong nhiều lĩnh vực như:
- Bán lẻ: Có thể sử dụng pipeline đa model kết hợp ước tính tư thế, phân đoạn và phát hiện đối tượng để hỗ trợ các tác vụ như giảm thất thoát hàng hóa và theo dõi tồn kho. Các giải pháp này chạy hiệu quả trên nền tảng nhúng như Raspberry Pi 5 kết hợp với Metis AIPU.
- Sản xuất: Khách hàng có thể sử dụng thực thi model song song để thực hiện đồng thời các tác vụ như phát hiện lỗi, phân loại sản phẩm và ước tính tư thế trên một chip duy nhất, qua đó tăng thông lượng và giảm chi phí phần cứng.
- Giám sát: Khả năng phát hiện đối tượng thời gian thực của YOLO có thể được sử dụng để phân tích luồng video 4K và 8K ở độ phân giải đầy đủ, hỗ trợ giám sát an toàn có độ chính xác cao và nhận thức tình huống trong các môi trường trọng yếu. Đây là giải pháp tốt hơn nhiều so với việc giảm độ phân giải truyền thống trên camera độ phân giải cao.
- Chăm sóc sức khỏe: Pipeline YOLO được tối ưu hóa có thể hỗ trợ xác định khối u, mang lại tốc độ suy luận cao và độ chính xác đáng tin cậy cho xử lý ảnh y tế ngay trên thiết bị.
Các trường hợp sử dụng này cho thấy phần cứng AI edge của Axelera AI và model Ultralytics YOLO thúc đẩy đổi mới AI thị giác hiệu năng cao, tiết kiệm năng lượng trong nhiều ngành.
Thúc đẩy làn sóng AI edge tiếp theo với Ultralytics YOLO#
Khi tiếp tục tập trung mở rộng khả năng tiếp cận AI edge hiệu năng cao, Axelera AI đang kết hợp phần cứng mạnh mẽ với model thị giác đáng tin cậy để giúp khách hàng xây dựng ứng dụng thông minh hơn và nhanh hơn.
Với các model Ultralytics YOLO được cung cấp thông qua Voyager SDK và phần cứng Metis AIPU, người dùng có thể dễ dàng phát triển và mở rộng các giải pháp thị giác máy tính thời gian thực trong nhiều ngành. Sự hợp tác này hỗ trợ cộng đồng ngày càng lớn gồm các nhà phát triển và doanh nghiệp đang đưa AI đến gần hơn với nơi dữ liệu được tạo ra, qua đó nâng cao hiệu quả, khả năng phản hồi và đổi mới tại edge.
Sẵn sàng tăng tốc hành trình AI edge của bạn? Khám phá repository GitHub của chúng tôi để xem model YOLO thúc đẩy những đổi mới như AI trong bán lẻ và thị giác máy tính trong logistics. Trải nghiệm trực tiếp các công cụ AI thị giác, tìm hiểu các tùy chọn cấp phép và khám phá cách khai thác thị giác máy tính hiệu năng cao, tiết kiệm năng lượng tại edge.
Được viết bởi
Nhà sáng tạo nội dung · Ultralytics
