Axelera AI cho phép Vision AI ở biên với Ultralytics YOLO

Axelera AI là một công ty bán dẫn châu Âu xây dựng các chip AI mạnh mẽ, tiết kiệm năng lượng để chạy thị giác máy tính ở biên. Ví dụ: Bộ xử lý AI Metis (AIPU) của họ được sử dụng trong các ngành như bán lẻ, an ninh và sản xuất.

Để giúp khách hàng xây dựng và triển khai các ứng dụng AI dễ dàng hơn, Axelera đã tích hợp các mô hình Ultralytics YOLO vào Voyager SDK của họ, một nền tảng phần mềm giúp hợp lý hóa việc tối ưu hóa, triển khai và tăng tốc mô hình trên Metis AIPU, giúp Vision AI thời gian thực nhanh hơn, đơn giản hơn và có khả năng mở rộng hơn.

Định nghĩa lại khả năng tăng tốc phần cứng Vision AI

Được thành lập vào năm 2021 và có trụ sở tại Hà Lan, Axelera AI đặt mục tiêu giải quyết một vấn đề cơ bản: phần cứng AI truyền thống được xây dựng cho đám mây, không phải cho edge. Để thu hẹp khoảng cách này, công ty đã phát triển Metis AIPU. 

Đó là một chip hiệu năng cao, công suất thấp được thiết kế đặc biệt cho các khối lượng công việc biên - các tác vụ AI chạy cục bộ trên các thiết bị, nơi tốc độ, quyền riêng tư và hiệu quả năng lượng là rất quan trọng.

Nó được hỗ trợ bởi công nghệ Digital In-Memory Compute (D-IMC) độc quyền của họ, công nghệ này cho phép dữ liệu được xử lý trực tiếp tại nơi nó được lưu trữ và giảm đáng kể độ trễ và mức sử dụng năng lượng. Với một ngăn xếp phần mềm được tích hợp đầy đủ và sứ mệnh dân chủ hóa AI, Axelera đang làm cho AI hiệu năng cao trở nên dễ tiếp cận hơn.

Thách thức khi chạy các mô hình trên phần cứng AI biên

Để cung cấp trải nghiệm AI liền mạch ở biên, Axelera AI đặt mục tiêu cung cấp nhiều hơn phần cứng hiệu suất cao. Khách hàng cũng yêu cầu một cách đơn giản và đáng tin cậy để chạy các giải pháp thị giác máy tính theo thời gian thực mà không cần các công cụ phức tạp hoặc tùy chỉnh tốn thời gian. Nhiều mô hình hiện có quá lớn, quá chậm hoặc không phù hợp với môi trường hạn chế tài nguyên.

Phân tích bán lẻ, tự động hóa nhà máy và hệ thống giám sát thường dựa vào thông tin chi tiết trực quan nhanh chóng và chính xác để hỗ trợ hoạt động. Tuy nhiên, các mô hình truyền thống và các giải pháp dựa trên đám mây thường không thể đáp ứng độ trễ thấp, hiệu quả năng lượng và các yêu cầu xử lý trên thiết bị của các ứng dụng AI biên này.

Axelera bắt đầu tìm kiếm một bộ mô hình chính xác, dễ triển khai và có thể chạy hiệu quả trên Metis AI Processing Units của mình. Giải pháp phù hợp sẽ bổ sung cho khả năng phần cứng của nó đồng thời đơn giản hóa quá trình phát triển và tăng tốc độ triển khai trên một loạt các trường hợp sử dụng AI ở biên.

 Suy luận AI tăng tốc ở biên với Ultralytics YOLO

Axelera AI đã tích hợp các mô hình Ultralytics YOLO vào Voyager SDK của mình để giúp việc xây dựng và triển khai các ứng dụng AI ở biên trở nên nhanh hơn, dễ dàng hơn và có khả năng mở rộng hơn. SDK này bao gồm Model Zoo với các mô hình YOLO sẵn sàng sử dụng và tự động hóa toàn bộ quy trình, bao gồm tiền xử lý, suy luận và hậu xử lý, được tối ưu hóa cho Metis AI Processing Units.

‍

Tích hợp này cho phép khách hàng sử dụng các mô hình Ultralytics YOLO được huấn luyện trước hoặc mang mô hình của riêng họ, với khả năng tăng tốc liền mạch trên phần cứng biên. Với sự hỗ trợ cho việc thực thi mô hình song song và xếp tầng, Metis AIPU cho phép các thiết lập đa mô hình nâng cao như ước tính tư thế tiếp theo là phân đoạn. Điều này lý tưởng cho các tác vụ phức tạp trong bán lẻ, an ninh và tự động hóa công nghiệp.

Sự kết hợp giữa các tác vụ computer vision thời gian thực được hỗ trợ bởi các mô hình Ultralytics YOLO và phần cứng và phần mềm hiệu quả của Axelera mang lại hiệu suất vượt trội trên mỗi watt và trên mỗi đô la. Đối với khách hàng, điều này có nghĩa là kết quả chính xác hơn, triển khai nhanh hơn và rào cản thấp hơn để mở rộng Vision AI ở biên.

Tại sao nên chọn các mô hình Ultralytics YOLO?

Axelera AI đã hợp tác với Ultralytics để tích hợp các mô hình Ultralytics YOLO vào nền tảng của mình vì sự cân bằng vượt trội giữa độ chính xác, tốc độ và dễ sử dụng. Với sự hỗ trợ cho nhiều biến thể Ultralytics YOLO, khách hàng của Axelera AI có thể đánh giá một loạt các khối lượng công việc và nhu cầu hiệu suất trên Metis AIPU.

Thông qua Giấy phép Doanh nghiệp Ultralytics, Axelera cung cấp quyền truy cập vào bộ đầy đủ các mô hình YOLO để đánh giá và phát triển. Để triển khai thương mại, khách hàng phải có được giấy phép riêng trực tiếp từ Ultralytics thông qua mẫu giấy phép, đảm bảo tuân thủ và hỗ trợ đổi mới có thể mở rộng trong Vision AI ở biên.

Khai thác các mô hình Ultralytics YOLO ở quy mô lớn với Voyager SDK của Axelera AI

Với các mô hình Ultralytics YOLO và Voyager SDK của Axelera AI, người dùng có thể triển khai các ứng dụng thị giác máy tính chính xác, độ trễ thấp trực tiếp trên các Đơn vị xử lý AI Metis. Ngoài ra, việc có quyền truy cập vào nhiều biến thể YOLO cho phép khách hàng điều chỉnh hiệu suất dựa trên các nhu cầu cụ thể của ứng dụng của họ.

Ví dụ: Axelera AI đã thấy khách hàng thử nghiệm các giải pháp được hỗ trợ bởi YOLO trên nhiều lĩnh vực khác nhau như:

• Bán lẻ: Các quy trình đa mô hình kết hợp ước tính tư thế, phân đoạn và phát hiện đối tượng có thể được sử dụng để hỗ trợ các tác vụ như giảm thất thoát và theo dõi hàng tồn kho. Các triển khai này chạy hiệu quả trên các nền tảng nhúng như Raspberry Pi 5 kết hợp với Metis AIPU.
  
  
• Sản xuất: Khách hàng có thể sử dụng song song việc thực thi mô hình để thực hiện đồng thời các tác vụ, chẳng hạn như phát hiện lỗi, phân loại sản phẩm và ước tính tư thế, trên một chip duy nhất để cải thiện thông lượng và giảm chi phí phần cứng.
  
  
• Giám sát: Khả năng phát hiện đối tượng theo thời gian thực của YOLO có thể được sử dụng để phân tích các luồng video 4K và 8K ở độ phân giải đầy đủ, tạo điều kiện theo dõi an toàn với độ chính xác cao và nhận biết tình huống trong các môi trường quan trọng. Đây là một giải pháp tốt hơn nhiều so với việc giảm tỷ lệ truyền thống trên các camera có độ phân giải cao.
  
  
• Y tế: Các pipeline YOLO được tối ưu hóa có thể hỗ trợ xác định khối u, mang lại tốc độ suy luận cao và độ chính xác đáng tin cậy cho hình ảnh y tế trên thiết bị.

Những trường hợp sử dụng này cho thấy phần cứng AI biên của Axelera AI và các mô hình Ultralytics YOLO trao quyền cho các đổi mới Vision AI hiệu suất cao, tiết kiệm năng lượng trong các ngành công nghiệp.

Thúc đẩy làn sóng AI biên tiếp theo với Ultralytics YOLO

Khi Axelera AI tiếp tục tập trung vào việc mở rộng khả năng tiếp cận AI biên hiệu suất cao, họ đang tập hợp phần cứng mạnh mẽ và các mô hình thị giác đáng tin cậy để giúp khách hàng xây dựng các ứng dụng thông minh hơn, nhanh hơn. 

Với các mô hình Ultralytics YOLO có sẵn thông qua Voyager SDK và phần cứng Metis AIPU, người dùng có thể dễ dàng phát triển và mở rộng các giải pháp thị giác máy tính theo thời gian thực trên các ngành công nghiệp. Sự hợp tác này hỗ trợ một cộng đồng ngày càng phát triển gồm các nhà phát triển và doanh nghiệp đang nỗ lực đưa AI đến gần hơn với nơi dữ liệu được tạo ra, cải thiện hiệu quả, khả năng phản hồi và đổi mới ở biên.

Bạn đã sẵn sàng tăng tốc hành trình AI trên thiết bị biên của mình chưa? Khám phá kho lưu trữ GitHub của chúng tôi để xem các mô hình YOLO đang thúc đẩy những đổi mới như AI trong bán lẻ và thị giác máy tính trong logistics như thế nào. Trải nghiệm thực tế với các công cụ Vision AI của chúng tôi, tìm hiểu về các tùy chọn cấp phép và khám phá cách bạn có thể mở khóa thị giác máy tính hiệu suất cao, tiết kiệm năng lượng ở biên.