Axelera AI обеспечивает искусственный интеллект на границе с помощью Ultralytics YOLO

Axelera AI - европейская компания-производитель полупроводников, которая создает мощные, энергоэффективные чипы ИИ для запуска компьютерного зрения на периферии. Например, их блоки обработки ИИ Metis (AIPU) используются в таких отраслях, как розничная торговля, безопасность и производство.

Чтобы облегчить клиентам создание и развертывание приложений искусственного интеллекта, компания Axelera интегрировала моделиUltralytics YOLO в свой Voyager SDK, программную платформу, которая упрощает оптимизацию, развертывание и ускорение моделей на Metis AIPU, делая искусственный интеллект в реальном времени быстрее, проще и масштабируемее.

Новый взгляд на аппаратное ускорение Vision AI

Компания Axelera AI, основанная в 2021 году и базирующаяся в Нидерландах, поставила перед собой задачу решить фундаментальную проблему: традиционное оборудование для ИИ было создано для облака, а не для периферии. Чтобы устранить этот пробел, компания разработала Metis AIPU. 

Это высокопроизводительный, энергоэффективный чип, разработанный специально для периферийных вычислений — задач ИИ, которые выполняются локально на устройствах, где скорость, конфиденциальность и энергоэффективность имеют решающее значение.

Он основан на запатентованной технологии Digital In-Memory Compute (D-IMC), которая позволяет обрабатывать данные непосредственно там, где они хранятся, и значительно снижает задержку и энергопотребление. Благодаря полностью интегрированному программному стеку и миссии по демократизации ИИ, Axelera делает высокопроизводительный ИИ более доступным.

Проблема запуска моделей на периферийном AI-оборудовании

Чтобы обеспечить бесперебойную работу ИИ на периферии, Axelera AI стремилась предоставить не только высокопроизводительное оборудование. Клиентам также требовался простой и надежный способ запуска решений компьютерного зрения в реальном времени, которые не требовали бы сложных инструментов или трудоемкой настройки. Многие существующие модели были слишком большими, слишком медленными или не очень хорошо подходили для сред с ограниченными ресурсами.

Розничная аналитика, автоматизация производства и системы наблюдения часто полагаются на быструю и точную визуальную информацию для поддержки операций. Однако традиционные модели и облачные решения обычно не могут удовлетворить требования к низкой задержке, энергоэффективности и обработке на устройстве этих периферийных AI-приложений.

Axelera начала поиск набора моделей, который был бы точным, простым в реализации и способным эффективно работать на ее Metis AI Processing Units. Правильное решение дополнило бы возможности ее оборудования, упростив разработку и ускорив развертывание в широком спектре вариантов использования периферийного AI.

 Ускоренные выводы ИИ на границе с помощью Ultralytics YOLO

Компания Axelera AI интегрировала модели Ultralytics YOLO в свой SDK Voyager, чтобы ускорить, упростить и увеличить масштабируемость создания и развертывания приложений граничного ИИ. SDK включает в себя зоопарк моделей с готовыми к использованию моделями YOLO и автоматизирует полный цикл, включающий предварительную обработку, вывод и постобработку, оптимизированный для блоков обработки Metis AI.

‍

Эта интеграция позволяет клиентам использовать предварительно обученные модели Ultralytics YOLO из коробки или собственные, с бесшовным ускорением на граничном оборудовании. Благодаря поддержке параллельного и каскадного выполнения моделей, Metis AIPU позволяют создавать продвинутые мультимодельные системы, такие как оценка позы с последующей сегментацией. Это идеально подходит для сложных задач в сфере розничной торговли, безопасности и промышленной автоматизации.

Сочетание задач компьютерного зрения в реальном времени, поддерживаемых моделями Ultralytics YOLO , и эффективного программно-аппаратного стека Axelera обеспечивает исключительную производительность на ватт и на доллар. Для клиентов это означает более точные результаты, более быстрое развертывание и более низкий барьер для масштабирования Vision AI на границе.

Почему стоит выбрать моделиYOLO от Ultralytics ?

Компания Axelera AI заключила партнерство с Ultralytics , чтобы интегрировать модели Ultralytics YOLO в свою платформу благодаря их исключительному балансу точности, скорости и простоты использования. Благодаря поддержке нескольких вариантов Ultralytics YOLO клиенты Axelera AI могут оценивать широкий спектр рабочих нагрузок и потребностей в производительности на Metis AIPU.

Благодаря корпоративной лицензииUltralytics компания Axelera предоставляет доступ к полному набору моделей YOLO для оценки и разработки. Для коммерческого развертывания заказчики должны получить собственную лицензию непосредственно у Ultralytics через форму лицензии, что обеспечивает соответствие требованиям и поддерживает масштабируемые инновации в области искусственного интеллекта на границе.

Использование моделей Ultralytics YOLO в масштабе с помощью Voyager SDK от Axelera AI

Благодаря моделям Ultralytics YOLO и Voyager SDK от Axelera AI пользователи могут развернуть точные приложения компьютерного зрения с низкой задержкой непосредственно на процессорах Metis AI. Кроме того, доступ к нескольким вариантам YOLO позволяет клиентам регулировать производительность в зависимости от конкретных потребностей их приложений.

Например, компания Axelera AI тестирует решения YOLO в самых разных областях, таких как:

• Розничная торговля: Многомодельные конвейеры, объединяющие оценку позы, сегментацию и обнаружение объектов, могут использоваться для поддержки таких задач, как сокращение потерь и отслеживание запасов. Эти развертывания эффективно работают на встроенных платформах, таких как Raspberry Pi 5 в паре с Metis AIPU.
  
  
• Производство: Клиенты могут использовать параллельное выполнение моделей для одновременного выполнения таких задач, как обнаружение дефектов, классификация продукции и оценка позы, на одном чипе, чтобы повысить пропускную способность и снизить затраты на оборудование.
  
  
• Видеонаблюдение: Возможности обнаружения объектов в реальном времени YOLOможно использовать для анализа видеопотоков 4K и 8K в полном разрешении, что обеспечивает высокоточный мониторинг безопасности и ситуационную осведомленность в критических средах. Это гораздо лучшее решение, чем традиционное понижение разрешения камер высокого разрешения.
  
  
• Здравоохранение: Оптимизированные конвейеры YOLO могут поддерживать идентификацию опухолей, обеспечивая высокую скорость вывода и надежную точность для медицинской визуализации на устройствах.

Эти примеры использования демонстрируют, как аппаратные средства краевого ИИ Axelera AI и модели Ultralytics YOLO обеспечивают высокопроизводительные и энергоэффективные инновации Vision AI в различных отраслях.

Следующая волна краевого ИИ с Ultralytics YOLO

Поскольку Axelera AI продолжает уделять особое внимание расширению доступа к высокопроизводительному периферийному ИИ, она объединяет мощное оборудование и надежные модели машинного зрения, чтобы помочь клиентам создавать более интеллектуальные и быстрые приложения. 

Благодаря моделям Ultralytics YOLO , доступным через Voyager SDK и аппаратное обеспечение Metis AIPU, пользователи могут легко разрабатывать и масштабировать решения компьютерного зрения в реальном времени в различных отраслях. Это сотрудничество поддерживает растущее сообщество разработчиков и компаний, работающих над тем, чтобы приблизить ИИ к месту создания данных, повысить эффективность, оперативность и инновации на границе.

Готовы ускорить свой путь к краевому ИИ? Ознакомьтесь с нашим репозиторием GitHub, чтобы узнать, как модели YOLO используются в таких инновациях, как ИИ в розничной торговле и компьютерное зрение в логистике. Попрактикуйтесь с нашими инструментами Vision AI, узнайте о возможностях лицензирования и о том, как вы можете использовать высокопроизводительное и энергоэффективное компьютерное зрение на границе.