Axelera AI hỗ trợ Vision AI tại biên giới với Ultralytics YOLO

Axelera AI là một công ty bán dẫn châu Âu chuyên sản xuất chip AI mạnh mẽ, tiết kiệm năng lượng để vận hành thị giác máy tính tại biên. Ví dụ, Bộ xử lý AI Metis (AIPU) của họ được sử dụng trong các ngành công nghiệp như bán lẻ, an ninh và sản xuất.

Để giúp khách hàng xây dựng và triển khai các ứng dụng AI dễ dàng hơn, Axelera đã tích hợp các mô hình Ultralytics YOLO vào Voyager SDK, một nền tảng phần mềm hợp lý hóa quá trình tối ưu hóa, triển khai và tăng tốc mô hình trên Metis AIPU, giúp Vision AI thời gian thực nhanh hơn, đơn giản hơn và có khả năng mở rộng hơn.

Định nghĩa lại khả năng tăng tốc phần cứng AI của Vision

Được thành lập vào năm 2021 và có trụ sở tại Hà Lan, Axelera AI đặt mục tiêu giải quyết một vấn đề cơ bản: phần cứng AI truyền thống được xây dựng cho đám mây, chứ không phải cho biên . Để thu hẹp khoảng cách này, công ty đã phát triển Metis AIPU. 

Đây là chip hiệu suất cao, tiêu thụ điện năng thấp được thiết kế dành riêng cho khối lượng công việc biên - các tác vụ AI chạy cục bộ trên các thiết bị có tốc độ, quyền riêng tư và hiệu quả năng lượng là yếu tố quan trọng.

Công nghệ này được hỗ trợ bởi công nghệ Digital In-Memory Compute (D-IMC) độc quyền của Axelera, cho phép xử lý dữ liệu trực tiếp tại nơi lưu trữ, đồng thời giảm đáng kể độ trễ và mức tiêu thụ năng lượng. Với một bộ phần mềm tích hợp đầy đủ và sứ mệnh dân chủ hóa AI, Axelera đang giúp AI hiệu suất cao dễ tiếp cận hơn.

Thách thức của việc chạy mô hình trên phần cứng AI biên

Để mang lại trải nghiệm AI liền mạch tại biên, Axelera AI hướng đến việc cung cấp nhiều hơn là chỉ phần cứng hiệu suất cao. Khách hàng cũng cần một giải pháp đơn giản và đáng tin cậy để vận hành các giải pháp thị giác máy tính thời gian thực mà không cần các công cụ phức tạp hay tùy chỉnh tốn thời gian. Nhiều mô hình hiện tại quá lớn, quá chậm hoặc không phù hợp với môi trường hạn chế về tài nguyên.

Phân tích bán lẻ, tự động hóa nhà máy và hệ thống giám sát thường dựa vào thông tin trực quan nhanh chóng và chính xác để hỗ trợ vận hành. Tuy nhiên, các mô hình truyền thống và giải pháp đám mây thường không đáp ứng được các yêu cầu về độ trễ thấp, hiệu quả năng lượng và khả năng xử lý trên thiết bị của các ứng dụng AI biên này.

Axelera bắt đầu tìm kiếm một bộ mô hình chính xác, dễ triển khai và có thể chạy hiệu quả trên Bộ xử lý AI Metis của mình. Giải pháp phù hợp sẽ bổ sung cho khả năng phần cứng của công ty, đồng thời đơn giản hóa quá trình phát triển và tăng tốc triển khai trên nhiều trường hợp sử dụng AI biên.

 Suy luận AI tăng tốc tại biên với Ultralytics YOLO

Axelera AI đã tích hợp các mô hình YOLO của Ultralytics vào Voyager SDK để giúp việc xây dựng và triển khai các ứng dụng AI biên nhanh hơn, dễ dàng hơn và có khả năng mở rộng hơn. SDK bao gồm một Model Zoo với các mô hình YOLO sẵn sàng sử dụng và tự động hóa toàn bộ quy trình, bao gồm tiền xử lý, suy luận và hậu xử lý, được tối ưu hóa cho Metis AI Processing Units.

‍

Sự tích hợp này cho phép khách hàng sử dụng các mô hình YOLO Ultralytics được đào tạo sẵn ngay lập tức hoặc tự xây dựng, với khả năng tăng tốc liền mạch trên phần cứng biên. Với khả năng hỗ trợ thực thi mô hình song song và nối tiếp, Metis AIPU cho phép thiết lập đa mô hình nâng cao như ước tính tư thế, sau đó là phân đoạn. Điều này lý tưởng cho các tác vụ phức tạp trong bán lẻ, an ninh và tự động hóa công nghiệp.

Sự kết hợp giữa các tác vụ thị giác máy tính thời gian thực được hỗ trợ bởi các mô hình YOLO của Ultralytics và bộ phần cứng và phần mềm hiệu quả của Axelera mang lại hiệu suất vượt trội trên mỗi watt và trên mỗi đô la. Đối với khách hàng, điều này đồng nghĩa với kết quả chính xác hơn, triển khai nhanh hơn và giảm thiểu rào cản mở rộng Vision AI tại biên.

Tại sao nên chọn mô hình YOLO của Ultralytics?

Axelera AI đã hợp tác với Ultralytics để tích hợp các mô hình Ultralytics YOLO vào nền tảng của mình, mang lại sự cân bằng vượt trội giữa độ chính xác, tốc độ và tính dễ sử dụng. Với khả năng hỗ trợ nhiều biến thể Ultralytics YOLO, khách hàng của Axelera AI có thể đánh giá nhiều loại khối lượng công việc và nhu cầu hiệu suất khác nhau trên Metis AIPU.

Thông qua Giấy phép Doanh nghiệp Ultralytics , Axelera cung cấp quyền truy cập vào bộ mô hình YOLO đầy đủ để đánh giá và phát triển. Để triển khai thương mại, khách hàng cần xin giấy phép riêng trực tiếp từ Ultralytics thông qua biểu mẫu cấp phép, đảm bảo tuân thủ và hỗ trợ đổi mới có khả năng mở rộng trong Vision AI tại biên.

Tận dụng các mô hình YOLO của Ultralytics ở quy mô lớn với Voyager SDK của Axelera AI

Với các mô hình YOLO của Ultralytics và Voyager SDK của Axelera AI, người dùng có thể triển khai các ứng dụng thị giác máy tính chính xác, độ trễ thấp trực tiếp trên Bộ xử lý AI Metis. Ngoài ra, việc có quyền truy cập vào nhiều biến thể YOLO cho phép khách hàng điều chỉnh hiệu suất dựa trên nhu cầu cụ thể của ứng dụng.

Ví dụ, Axelera AI đã chứng kiến khách hàng thử nghiệm các giải pháp do YOLO cung cấp trên nhiều lĩnh vực như:

• Bán lẻ: Các quy trình đa mô hình kết hợp ước tính tư thế, phân đoạn và phát hiện đối tượng có thể được sử dụng để hỗ trợ các tác vụ như giảm thiểu hao hụt và theo dõi hàng tồn kho. Các triển khai này hoạt động hiệu quả trên các nền tảng nhúng như Raspberry Pi 5 kết hợp với Metis AIPU.
  
  
• Sản xuất: Khách hàng có thể sử dụng thực thi mô hình song song để thực hiện các tác vụ đồng thời, chẳng hạn như phát hiện lỗi, phân loại sản phẩm và ước tính tư thế, trên một con chip duy nhất để cải thiện thông lượng và giảm chi phí phần cứng.
  
  
• Giám sát: Khả năng phát hiện vật thể theo thời gian thực của YOLO có thể được sử dụng để phân tích luồng video 4K và 8K ở độ phân giải đầy đủ, hỗ trợ giám sát an toàn với độ chính xác cao và nhận thức tình huống trong các môi trường quan trọng. Đây là giải pháp tốt hơn nhiều so với việc giảm tỷ lệ camera độ phân giải cao truyền thống.
  
  
• Chăm sóc sức khỏe: Các quy trình YOLO được tối ưu hóa có thể hỗ trợ xác định khối u, mang lại tốc độ suy luận cao và độ chính xác đáng tin cậy cho hình ảnh y tế trên thiết bị.

Các trường hợp sử dụng này cho thấy phần cứng AI biên của Axelera AI và các mô hình Ultralytics YOLO hỗ trợ các cải tiến Vision AI hiệu suất cao, tiết kiệm năng lượng trên khắp các ngành.

Đẩy mạnh làn sóng AI biên tiếp theo với Ultralytics YOLO

Khi Axelera AI tiếp tục tập trung vào việc mở rộng khả năng tiếp cận AI biên hiệu suất cao, công ty đang kết hợp phần cứng mạnh mẽ và các mô hình thị giác đáng tin cậy để giúp khách hàng xây dựng các ứng dụng thông minh hơn và nhanh hơn. 

Với các mô hình Ultralytics YOLO có sẵn thông qua Voyager SDK và phần cứng Metis AIPU , người dùng có thể dễ dàng phát triển và mở rộng các giải pháp thị giác máy tính thời gian thực trên nhiều ngành công nghiệp. Sự hợp tác này hỗ trợ một cộng đồng ngày càng lớn mạnh gồm các nhà phát triển và doanh nghiệp đang nỗ lực đưa AI đến gần hơn với nơi dữ liệu được tạo ra, cải thiện hiệu quả, khả năng phản hồi và đổi mới sáng tạo tại các điểm biên.

Bạn đã sẵn sàng đẩy nhanh hành trình AI biên của mình chưa? Khám phá kho lưu trữ GitHub của chúng tôi để xem các mô hình YOLO đang thúc đẩy những đổi mới như AI trong bán lẻ và thị giác máy tính trong logistics như thế nào. Hãy trải nghiệm thực tế với các công cụ Vision AI của chúng tôi, tìm hiểu về các tùy chọn cấp phép và khám phá cách bạn có thể khai thác thị giác máy tính hiệu suất cao, tiết kiệm năng lượng tại biên.