Axelera AI обеспечивает Vision AI на периферии с помощью Ultralytics YOLO

Axelera AI - европейская компания-производитель полупроводников, которая создает мощные, энергоэффективные чипы ИИ для запуска компьютерного зрения на периферии. Например, их блоки обработки ИИ Metis (AIPU) используются в таких отраслях, как розничная торговля, безопасность и производство.

Чтобы упростить клиентам создание и развертывание приложений ИИ, Axelera интегрировала модели Ultralytics YOLO в свой Voyager SDK, программную платформу, которая упрощает оптимизацию, развертывание и ускорение моделей на Metis AIPU, делая Vision AI в реальном времени быстрее, проще и масштабируемее.

Новый взгляд на аппаратное ускорение Vision AI

Компания Axelera AI, основанная в 2021 году и базирующаяся в Нидерландах, поставила перед собой задачу решить фундаментальную проблему: традиционное оборудование для ИИ было создано для облака, а не для периферии. Чтобы устранить этот пробел, компания разработала Metis AIPU. 

Это высокопроизводительный, энергоэффективный чип, разработанный специально для периферийных вычислений — задач ИИ, которые выполняются локально на устройствах, где скорость, конфиденциальность и энергоэффективность имеют решающее значение.

Он основан на запатентованной технологии Digital In-Memory Compute (D-IMC), которая позволяет обрабатывать данные непосредственно там, где они хранятся, и значительно снижает задержку и энергопотребление. Благодаря полностью интегрированному программному стеку и миссии по демократизации ИИ, Axelera делает высокопроизводительный ИИ более доступным.

Проблема запуска моделей на периферийном AI-оборудовании

Чтобы обеспечить бесперебойную работу ИИ на периферии, Axelera AI стремилась предоставить не только высокопроизводительное оборудование. Клиентам также требовался простой и надежный способ запуска решений компьютерного зрения в реальном времени, которые не требовали бы сложных инструментов или трудоемкой настройки. Многие существующие модели были слишком большими, слишком медленными или не очень хорошо подходили для сред с ограниченными ресурсами.

Розничная аналитика, автоматизация производства и системы наблюдения часто полагаются на быструю и точную визуальную информацию для поддержки операций. Однако традиционные модели и облачные решения обычно не могут удовлетворить требования к низкой задержке, энергоэффективности и обработке на устройстве этих периферийных AI-приложений.

Axelera начала поиск набора моделей, который был бы точным, простым в реализации и способным эффективно работать на ее Metis AI Processing Units. Правильное решение дополнило бы возможности ее оборудования, упростив разработку и ускорив развертывание в широком спектре вариантов использования периферийного AI.

 Ускоренное выполнение AI-выводов на периферии с Ultralytics YOLO

Axelera AI интегрировала модели Ultralytics YOLO в свой Voyager SDK, чтобы сделать создание и развертывание периферийных AI-приложений быстрее, проще и масштабируемее. SDK включает в себя Model Zoo с готовыми к использованию моделями YOLO и автоматизирует полный конвейер, охватывающий предварительную обработку, вывод и постобработку, оптимизированный для Metis AI Processing Units.

‍

Эта интеграция позволяет клиентам использовать предварительно обученные модели Ultralytics YOLO «из коробки» или использовать свои собственные, с плавной акселерацией на периферийном оборудовании. Благодаря поддержке параллельного и каскадного выполнения моделей, Metis AIPU позволяют создавать расширенные многомодельные конфигурации, такие как оценка позы с последующей сегментацией. Это идеально подходит для сложных задач в розничной торговле, безопасности и промышленной автоматизации.

Сочетание задач компьютерного зрения в реальном времени, поддерживаемых моделями Ultralytics YOLO, и эффективной аппаратной и программной платформы Axelera обеспечивает исключительную производительность на ватт и на доллар. Для клиентов это означает более точные результаты, более быстрое развертывание и более низкий барьер для масштабирования Vision AI на периферии.

Почему стоит выбрать модели Ultralytics YOLO?

Axelera AI сотрудничает с Ultralytics для интеграции моделей Ultralytics YOLO в свою платформу благодаря их исключительному балансу точности, скорости и простоты использования. Благодаря поддержке нескольких вариантов Ultralytics YOLO клиенты Axelera AI могут оценивать широкий спектр рабочих нагрузок и потребностей в производительности на Metis AIPU.

Благодаря корпоративной лицензии Ultralytics Axelera предоставляет доступ к полному набору моделей YOLO для оценки и разработки. Для коммерческого развертывания клиенты должны получить собственную лицензию непосредственно от Ultralytics через форму лицензии, что обеспечивает соответствие требованиям и поддерживает масштабируемые инновации в области Vision AI на периферии.

Масштабирование моделей Ultralytics YOLO с помощью Voyager SDK от Axelera AI

С моделями Ultralytics YOLO и Voyager SDK от Axelera AI пользователи могут развертывать точные приложения компьютерного зрения с низкой задержкой непосредственно на блоках обработки AI Metis. Кроме того, доступ к нескольким вариантам YOLO позволяет клиентам настраивать производительность в зависимости от конкретных потребностей их приложения.

Например, Axelera AI видела, как клиенты тестируют решения на базе YOLO в различных областях, таких как:

• Розничная торговля: Многомодельные конвейеры, объединяющие оценку позы, сегментацию и обнаружение объектов, могут использоваться для поддержки таких задач, как сокращение потерь и отслеживание запасов. Эти развертывания эффективно работают на встроенных платформах, таких как Raspberry Pi 5 в паре с Metis AIPU.
  
  
• Производство: Клиенты могут использовать параллельное выполнение моделей для одновременного выполнения таких задач, как обнаружение дефектов, классификация продукции и оценка позы, на одном чипе, чтобы повысить пропускную способность и снизить затраты на оборудование.
  
  
• Видеонаблюдение: Возможности обнаружения объектов YOLO в реальном времени можно использовать для анализа видеопотоков 4K и 8K в полном разрешении, что обеспечивает высокую точность мониторинга безопасности и ситуационной осведомленности в критических средах. Это гораздо лучшее решение, чем традиционное уменьшение масштаба на камерах высокого разрешения.
  
  
• Здравоохранение: Оптимизированные конвейеры YOLO могут поддерживать идентификацию опухолей, обеспечивая высокую скорость логического вывода и надежную точность для медицинской визуализации на устройстве.

Эти примеры использования показывают, как периферийное AI-оборудование Axelera AI и модели Ultralytics YOLO обеспечивают высокопроизводительные, энергоэффективные инновации Vision AI в различных отраслях.

Ultralytics YOLO — драйвер следующей волны периферийного ИИ

Поскольку Axelera AI продолжает уделять особое внимание расширению доступа к высокопроизводительному периферийному ИИ, она объединяет мощное оборудование и надежные модели машинного зрения, чтобы помочь клиентам создавать более интеллектуальные и быстрые приложения. 

Благодаря моделям Ultralytics YOLO, доступным через Voyager SDK и аппаратное обеспечение Metis AIPU, пользователи могут легко разрабатывать и масштабировать решения компьютерного зрения в реальном времени в различных отраслях. Это сотрудничество поддерживает растущее сообщество разработчиков и предприятий, работающих над тем, чтобы приблизить AI к месту создания данных, повышая эффективность, оперативность и инновации на периферии.

Готовы ускорить свое продвижение в области периферийного ИИ? Изучите наш репозиторий на GitHub, чтобы узнать, как модели YOLO поддерживают инновации, такие как ИИ в розничной торговле и компьютерное зрение в логистике. Получите практический опыт работы с нашими инструментами Vision AI, узнайте о вариантах лицензирования и узнайте, как вы можете получить высокопроизводительное, энергоэффективное компьютерное зрение на периферии.