Axelera AI cho phép Vision AI ở biên với Ultralytics YOLO

Axelera AI là một công ty bán dẫn châu Âu xây dựng các chip AI mạnh mẽ, tiết kiệm năng lượng để chạy thị giác máy tính ở biên. Ví dụ: Bộ xử lý AI Metis (AIPU) của họ được sử dụng trong các ngành như bán lẻ, an ninh và sản xuất.

Để giúp khách hàng xây dựng và triển khai các ứng dụng AI dễ dàng hơn, Axelera đã tích hợp các mô hình Ultralytics YOLO vào Voyager SDK, một nền tảng phần mềm hợp lý hóa quá trình tối ưu hóa, triển khai và tăng tốc mô hình trên Metis AIPU, giúp Vision AI thời gian thực nhanh hơn, đơn giản hơn và có khả năng mở rộng hơn.

Định nghĩa lại khả năng tăng tốc phần cứng Vision AI

Được thành lập vào năm 2021 và có trụ sở tại Hà Lan, Axelera AI đặt mục tiêu giải quyết một vấn đề cơ bản: phần cứng AI truyền thống được xây dựng cho đám mây, không phải cho edge. Để thu hẹp khoảng cách này, công ty đã phát triển Metis AIPU. 

Đó là một chip hiệu năng cao, công suất thấp được thiết kế đặc biệt cho các khối lượng công việc biên - các tác vụ AI chạy cục bộ trên các thiết bị, nơi tốc độ, quyền riêng tư và hiệu quả năng lượng là rất quan trọng.

Nó được hỗ trợ bởi công nghệ Digital In-Memory Compute (D-IMC) độc quyền của họ, công nghệ này cho phép dữ liệu được xử lý trực tiếp tại nơi nó được lưu trữ và giảm đáng kể độ trễ và mức sử dụng năng lượng. Với một ngăn xếp phần mềm được tích hợp đầy đủ và sứ mệnh dân chủ hóa AI, Axelera đang làm cho AI hiệu năng cao trở nên dễ tiếp cận hơn.

Thách thức khi chạy các mô hình trên phần cứng AI biên

Để cung cấp trải nghiệm AI liền mạch ở biên, Axelera AI đặt mục tiêu cung cấp nhiều hơn phần cứng hiệu suất cao. Khách hàng cũng yêu cầu một cách đơn giản và đáng tin cậy để chạy các giải pháp thị giác máy tính theo thời gian thực mà không cần các công cụ phức tạp hoặc tùy chỉnh tốn thời gian. Nhiều mô hình hiện có quá lớn, quá chậm hoặc không phù hợp với môi trường hạn chế tài nguyên.

Phân tích bán lẻ, tự động hóa nhà máy và hệ thống giám sát thường dựa vào thông tin chi tiết trực quan nhanh chóng và chính xác để hỗ trợ hoạt động. Tuy nhiên, các mô hình truyền thống và các giải pháp dựa trên đám mây thường không thể đáp ứng độ trễ thấp, hiệu quả năng lượng và các yêu cầu xử lý trên thiết bị của các ứng dụng AI biên này.

Axelera bắt đầu tìm kiếm một bộ mô hình chính xác, dễ triển khai và có thể chạy hiệu quả trên Metis AI Processing Units của mình. Giải pháp phù hợp sẽ bổ sung cho khả năng phần cứng của nó đồng thời đơn giản hóa quá trình phát triển và tăng tốc độ triển khai trên một loạt các trường hợp sử dụng AI ở biên.

 Suy luận AI tăng tốc tại biên với Ultralytics YOLO

Axelera AI tích hợp Ultralytics YOLO mô hình vào Voyager SDK để giúp việc xây dựng và triển khai các ứng dụng AI biên nhanh hơn, dễ dàng hơn và có khả năng mở rộng hơn. SDK bao gồm một Model Zoo với các tính năng sẵn sàng sử dụng YOLO mô hình hóa và tự động hóa toàn bộ quy trình, bao gồm tiền xử lý, suy luận và hậu xử lý, được tối ưu hóa cho Metis AI Processing Units.

‍

Sự tích hợp này cho phép khách hàng sử dụng các công cụ được đào tạo trước Ultralytics YOLO Các mô hình sẵn có hoặc tự xây dựng, với khả năng tăng tốc liền mạch trên phần cứng biên. Với khả năng hỗ trợ thực thi mô hình song song và nối tiếp, AIPU Metis cho phép thiết lập đa mô hình nâng cao như ước tính tư thế, sau đó là phân đoạn. Điều này lý tưởng cho các tác vụ phức tạp trong bán lẻ, an ninh và tự động hóa công nghiệp.

Sự kết hợp của các tác vụ thị giác máy tính thời gian thực được hỗ trợ bởi Ultralytics YOLO Các mô hình và phần cứng cùng phần mềm hiệu quả của Axelera mang lại hiệu suất vượt trội trên mỗi watt và mỗi đô la. Đối với khách hàng, điều này đồng nghĩa với kết quả chính xác hơn, triển khai nhanh hơn và giảm thiểu rào cản mở rộng Vision AI tại biên.

Tại sao chọn Ultralytics YOLO mô hình?

Axelera AI hợp tác với Ultralytics để tích hợp Ultralytics YOLO các mô hình vào nền tảng của nó vì sự cân bằng đặc biệt giữa độ chính xác, tốc độ và tính dễ sử dụng. Với sự hỗ trợ cho nhiều Ultralytics YOLO các biến thể, khách hàng của Axelera AI có thể đánh giá nhiều khối lượng công việc và nhu cầu hiệu suất khác nhau trên Metis AIPU.

Thông qua Giấy phép Doanh nghiệp Ultralytics , Axelera cung cấp quyền truy cập vào bộ đầy đủ YOLO mô hình để đánh giá và phát triển. Để triển khai thương mại, khách hàng được yêu cầu phải xin giấy phép riêng trực tiếp từ Ultralytics thông qua biểu mẫu cấp phép, đảm bảo tuân thủ và hỗ trợ đổi mới có khả năng mở rộng trong Vision AI tại biên.

Tận dụng Ultralytics YOLO mô hình quy mô lớn với Voyager SDK của Axelera AI

Với Ultralytics YOLO và Voyager SDK của Axelera AI, người dùng có thể triển khai các ứng dụng thị giác máy tính chính xác, độ trễ thấp trực tiếp trên Metis AI Processing Units. Ngoài ra, việc có quyền truy cập vào nhiều YOLO Các biến thể cho phép khách hàng điều chỉnh hiệu suất dựa trên nhu cầu cụ thể của ứng dụng.

Ví dụ, Axelera AI đã chứng kiến khách hàng thử nghiệm YOLO - cung cấp các giải pháp mạnh mẽ trên nhiều lĩnh vực như:

• Bán lẻ: Các quy trình đa mô hình kết hợp ước tính tư thế, phân đoạn và phát hiện đối tượng có thể được sử dụng để hỗ trợ các tác vụ như giảm thất thoát và theo dõi hàng tồn kho. Các triển khai này chạy hiệu quả trên các nền tảng nhúng như Raspberry Pi 5 kết hợp với Metis AIPU.
  
  
• Sản xuất: Khách hàng có thể sử dụng song song việc thực thi mô hình để thực hiện đồng thời các tác vụ, chẳng hạn như phát hiện lỗi, phân loại sản phẩm và ước tính tư thế, trên một chip duy nhất để cải thiện thông lượng và giảm chi phí phần cứng.
  
  
• Giám sát: YOLO Khả năng phát hiện vật thể theo thời gian thực của CAMERA QUAN SÁT có thể được sử dụng để phân tích luồng video 4K và 8K ở độ phân giải đầy đủ, hỗ trợ giám sát an toàn với độ chính xác cao và nhận thức tình huống trong các môi trường quan trọng. Đây là giải pháp tốt hơn nhiều so với việc giảm tỷ lệ truyền thống trên camera độ phân giải cao.
  
  
• Chăm sóc sức khỏe: Tối ưu hóa YOLO đường ống có thể hỗ trợ xác định khối u, cung cấp tốc độ suy luận cao và độ chính xác đáng tin cậy cho hình ảnh y tế trên thiết bị.

Những trường hợp sử dụng này cho thấy phần cứng AI biên của Axelera AI và Ultralytics YOLO các mô hình hỗ trợ các cải tiến Vision AI hiệu suất cao, tiết kiệm năng lượng trên khắp các ngành công nghiệp.

Đẩy mạnh làn sóng AI biên tiếp theo với Ultralytics YOLO

Khi Axelera AI tiếp tục tập trung vào việc mở rộng khả năng tiếp cận AI biên hiệu suất cao, họ đang tập hợp phần cứng mạnh mẽ và các mô hình thị giác đáng tin cậy để giúp khách hàng xây dựng các ứng dụng thông minh hơn, nhanh hơn. 

Với Ultralytics YOLO Với các mô hình có sẵn thông qua Voyager SDK và phần cứng Metis AIPU , người dùng có thể dễ dàng phát triển và mở rộng các giải pháp thị giác máy tính thời gian thực trên nhiều ngành công nghiệp. Sự hợp tác này hỗ trợ một cộng đồng ngày càng lớn mạnh gồm các nhà phát triển và doanh nghiệp đang nỗ lực đưa AI đến gần hơn với nơi dữ liệu được tạo ra, cải thiện hiệu quả, khả năng phản hồi và đổi mới sáng tạo tại các khu vực biên.

Bạn đã sẵn sàng để tăng tốc hành trình AI biên của mình chưa? Khám phá kho lưu trữ GitHub của chúng tôi để xem cách thực hiện. YOLO Các mô hình đang thúc đẩy những đổi mới như AI trong bán lẻ và thị giác máy tính trong hậu cần . Hãy trải nghiệm thực tế với các công cụ Vision AI của chúng tôi, tìm hiểu về các tùy chọn cấp phép và khám phá cách bạn có thể khai thác thị giác máy tính hiệu suất cao, tiết kiệm năng lượng tại biên.