Axelera AI обеспечивает искусственный интеллект на границе с помощью Ultralytics YOLO

Axelera AI - европейская полупроводниковая компания, создающая мощные и энергоэффективные чипы искусственного интеллекта для работы с компьютерным зрением на периферии. Например, их блоки обработки искусственного интеллекта Metis AI Processing Units (AIPU) используются в таких отраслях, как розничная торговля, безопасность и производство.

Чтобы облегчить клиентам создание и развертывание приложений искусственного интеллекта, компания Axelera интегрировала модели Ultralytics YOLO в свой Voyager SDK, программную платформу, которая упрощает оптимизацию, развертывание и ускорение моделей на Metis AIPU, делая искусственный интеллект в реальном времени быстрее, проще и масштабируемее.

Переосмысление аппаратного ускорения искусственного интеллекта Vision

Основанная в 2021 году в Нидерландах компания Axelera AI решила фундаментальную проблему: традиционное оборудование для искусственного интеллекта было создано для облака, а не для периферии. Чтобы устранить этот пробел, компания разработала Metis AIPU. 

Это высокопроизводительный чип с низким энергопотреблением, разработанный специально для пограничных рабочих нагрузок - задач ИИ, выполняемых локально на устройствах, где скорость, конфиденциальность и энергоэффективность имеют решающее значение.

Она опирается на запатентованную технологию Digital In-Memory Compute (D-IMC), которая позволяет обрабатывать данные непосредственно в месте их хранения и значительно сокращает время задержки и энергопотребление. Благодаря полностью интегрированному программному стеку и миссии по демократизации ИИ компания Axelera делает высокопроизводительный ИИ более доступным.

Проблема запуска моделей на аппаратных средствах искусственного интеллекта

Чтобы обеспечить бесперебойную работу ИИ на границе, компания Axelera AI стремилась предоставить не только высокопроизводительное оборудование. Клиентам также требовался простой и надежный способ запуска решений для компьютерного зрения в реальном времени, не требующий сложных инструментов или длительной настройки. Многие существующие модели были слишком большими, слишком медленными или не подходили для сред с ограниченными ресурсами.

Аналитика в розничной торговле, автоматизация производства и системы видеонаблюдения часто полагаются на быстрые и точные визуальные данные для поддержки операций. Однако традиционные модели и облачные решения, как правило, не могут удовлетворить требования к низкой задержке, энергоэффективности и обработке данных на устройстве, предъявляемые этими приложениями для граничного ИИ.

Компания Axelera начала искать набор моделей, которые были бы точными, простыми в реализации и могли бы эффективно работать на ее процессорах Metis AI. Правильное решение должно было дополнить аппаратные возможности компании, упростить разработку и ускорить развертывание в широком спектре случаев использования ИИ на границе.

 Ускоренные выводы ИИ на границе с помощью Ultralytics YOLO

Компания Axelera AI интегрировала модели Ultralytics YOLO в свой SDK Voyager, чтобы ускорить, упростить и увеличить масштабируемость создания и развертывания приложений граничного ИИ. SDK включает в себя зоопарк моделей с готовыми к использованию моделями YOLO и автоматизирует полный цикл, включающий предварительную обработку, вывод и постобработку, оптимизированный для блоков обработки Metis AI.

‍

Эта интеграция позволяет клиентам использовать предварительно обученные модели Ultralytics YOLO из коробки или собственные, с бесшовным ускорением на граничном оборудовании. Благодаря поддержке параллельного и каскадного выполнения моделей, Metis AIPU позволяют создавать продвинутые мультимодельные системы, такие как оценка позы с последующей сегментацией. Это идеально подходит для сложных задач в сфере розничной торговли, безопасности и промышленной автоматизации.

Сочетание задач компьютерного зрения в реальном времени, поддерживаемых моделями Ultralytics YOLO, и эффективного программно-аппаратного стека Axelera обеспечивает исключительную производительность на ватт и на доллар. Для клиентов это означает более точные результаты, более быстрое развертывание и более низкий барьер для масштабирования Vision AI на границе.

Почему стоит выбрать модели YOLO от Ultralytics?

Компания Axelera AI заключила партнерство с Ultralytics, чтобы интегрировать модели Ultralytics YOLO в свою платформу благодаря их исключительному балансу точности, скорости и простоты использования. Благодаря поддержке нескольких вариантов Ultralytics YOLO клиенты Axelera AI могут оценивать широкий спектр рабочих нагрузок и потребностей в производительности на Metis AIPU.

Благодаря корпоративной лицензии Ultralytics компания Axelera предоставляет доступ к полному набору моделей YOLO для оценки и разработки. Для коммерческого развертывания заказчики должны получить собственную лицензию непосредственно у Ultralytics через форму лицензии, что обеспечивает соответствие требованиям и поддерживает масштабируемые инновации в области искусственного интеллекта на границе.

Использование моделей Ultralytics YOLO в масштабе с помощью Voyager SDK от Axelera AI

Благодаря моделям Ultralytics YOLO и Voyager SDK от Axelera AI пользователи могут развернуть точные приложения компьютерного зрения с низкой задержкой непосредственно на блоках обработки Metis AI. Кроме того, доступ к нескольким вариантам YOLO позволяет клиентам регулировать производительность в зависимости от конкретных потребностей их приложений.

Например, компания Axelera AI провела тестирование решений на базе YOLO в самых разных областях, таких как:

• Розничная торговля: Конвейеры с несколькими моделями, сочетающие оценку положения, сегментацию и обнаружение объектов, могут использоваться для решения таких задач, как снижение усадки и отслеживание запасов. Эти системы эффективно работают на встраиваемых платформах, таких как Raspberry Pi 5 в паре с Metis AIPU.
  
  
• Производство: Заказчики могут использовать параллельное выполнение моделей для одновременного выполнения таких задач, как обнаружение дефектов, классификация изделий и оценка позы, на одном чипе, что позволяет повысить производительность и снизить стоимость оборудования.
  
  
• Видеонаблюдение: Возможности обнаружения объектов в реальном времени YOLO можно использовать для анализа видеопотоков 4K и 8K в полном разрешении, что обеспечивает высокоточный мониторинг безопасности и ситуационную осведомленность в критических средах. Это гораздо лучшее решение, чем традиционное понижение разрешения камер высокого разрешения.
  
  
• Здравоохранение: Оптимизированные конвейеры YOLO могут поддерживать идентификацию опухолей, обеспечивая высокую скорость вывода и надежную точность для медицинской визуализации на устройствах.

Эти примеры использования демонстрируют, как аппаратные средства краевого ИИ Axelera AI и модели Ultralytics YOLO обеспечивают высокопроизводительные и энергоэффективные инновации Vision AI в различных отраслях.

Следующая волна краевого ИИ с Ultralytics YOLO

Компания Axelera AI продолжает фокусироваться на расширении доступа к высокопроизводительному краевому ИИ, объединяя мощное оборудование и надежные модели технического зрения, чтобы помочь клиентам создавать более умные и быстрые приложения. 

Благодаря моделям Ultralytics YOLO, доступным через Voyager SDK и аппаратное обеспечение Metis AIPU, пользователи могут легко разрабатывать и масштабировать решения компьютерного зрения в реальном времени в различных отраслях. Это сотрудничество поддерживает растущее сообщество разработчиков и компаний, работающих над тем, чтобы приблизить ИИ к месту создания данных, повысить эффективность, оперативность и инновации на границе.

Готовы ускорить свой путь к краевому ИИ? Ознакомьтесь с нашим репозиторием GitHub, чтобы узнать, как модели YOLO используются в таких инновациях, как ИИ в розничной торговле и компьютерное зрение в логистике. Попрактикуйтесь с нашими инструментами Vision AI, узнайте о возможностях лицензирования и о том, как вы можете использовать высокопроизводительное и энергоэффективное компьютерное зрение на границе.