Добавив модели Ultralytics YOLO в свой Voyager SDK, Axelera AI упростила для клиентов запуск решений для компьютерного зрения в реальном времени на своих модулях обработки ИИ Metis (AIPUs) сразу после установки.
Axelera AI — европейская полупроводниковая компания, создающая мощные энергоэффективные чипы для запуска компьютерного зрения на периферии. Например, их модули обработки ИИ Metis (AIPUs) используются в таких отраслях, как розничная торговля, безопасность и производство.
Чтобы упростить клиентам создание и развертывание приложений ИИ, Axelera интегрировала модели Ultralytics YOLO в свой Voyager SDK — программную платформу, которая упрощает оптимизацию, развертывание и ускорение моделей на модулях Metis (AIPUs), делая компьютерное зрение на базе ИИ в реальном времени более быстрым, простым и масштабируемым.
Новое определение аппаратного ускорения компьютерного зрения на базе ИИ#
Основанная в 2021 году и расположенная в Нидерландах, Axelera AI поставила перед собой задачу решить фундаментальную проблему: традиционное оборудование для ИИ создавалось для облака, а не для периферии. Чтобы устранить этот разрыв, компания разработала Metis AIPU.
Это высокопроизводительный чип с низким энергопотреблением, специально разработанный для периферийных рабочих нагрузок — задач ИИ, выполняющихся локально на устройствах, где критически важны скорость, конфиденциальность и энергоэффективность.
В его основе лежит запатентованная технология вычислений в цифровой памяти (D-IMC), благодаря которой данные обрабатываются непосредственно там, где хранятся, что значительно снижает задержку и энергопотребление. Благодаря полностью интегрированному программному стеку и стремлению сделать ИИ доступным для всех Axelera делает высокопроизводительный ИИ более доступным.
Проблема запуска моделей на периферийном оборудовании для ИИ#
Чтобы обеспечить бесперебойную работу ИИ на периферии, Axelera AI стремилась предложить нечто большее, чем высокопроизводительное оборудование. Клиентам также требовался простой и надежный способ запуска решений для компьютерного зрения в реальном времени без сложных инструментов и трудоемкой настройки. Многие существующие модели были слишком большими, слишком медленными или плохо подходили для сред с ограниченными ресурсами.
Аналитика розничной торговли, автоматизация производства и системы видеонаблюдения часто полагаются на быстрые и точные визуальные данные для поддержки рабочих процессов. Однако традиционные модели и облачные решения обычно не соответствуют требованиям к низкой задержке, энергоэффективности и обработке на устройстве, предъявляемым такими периферийными приложениями ИИ.
Axelera начала искать набор моделей, который был бы точным, простым в реализации и эффективно работал на ее модулях обработки ИИ Metis. Подходящее решение должно было дополнить возможности ее оборудования, упростив разработку и ускорив развертывание в широком спектре периферийных сценариев использования ИИ.
Ускоренный инференс ИИ на периферии с Ultralytics YOLO#
Axelera AI интегрировала модели Ultralytics YOLO в свой Voyager SDK, чтобы сделать создание и развертывание периферийных приложений ИИ более быстрым, простым и масштабируемым. SDK включает Model Zoo с готовыми к использованию моделями YOLO и автоматизирует весь конвейер, включая предварительную обработку, инференс и постобработку, оптимизированные для модулей обработки ИИ Metis.
Рис. 1. Модуль обработки ИИ Metis (AIPU).
Эта интеграция позволяет клиентам использовать предварительно обученные модели Ultralytics YOLO сразу после установки или подключать собственные модели, обеспечивая плавное ускорение на периферийном оборудовании. Благодаря поддержке параллельного и каскадного выполнения моделей модули Metis (AIPUs) поддерживают сложные многомодельные конфигурации, например оценку позы с последующей сегментацией. Это идеально подходит для сложных задач в розничной торговле, сфере безопасности и промышленной автоматизации.
Сочетание поддерживаемых моделями Ultralytics YOLO задач компьютерного зрения в реальном времени с эффективным аппаратным и программным стеком Axelera обеспечивает исключительную производительность на ватт и на доллар. Для клиентов это означает более точные результаты, быстрое развертывание и более низкий порог масштабирования компьютерного зрения на базе ИИ на периферии.
Почему стоит выбрать модели Ultralytics YOLO?#
Axelera AI объединилась с Ultralytics, чтобы интегрировать модели Ultralytics YOLO в свою платформу благодаря их исключительному сочетанию точности, скорости и простоты использования. Благодаря поддержке нескольких вариантов Ultralytics YOLO клиенты Axelera AI могут оценивать широкий спектр рабочих нагрузок и требований к производительности на Metis AIPU.
В рамках лицензии Ultralytics Enterprise Axelera предоставляет доступ к полному набору моделей YOLO для оценки и разработки. Для коммерческого развертывания клиентам необходимо получить собственную лицензию непосредственно у Ultralytics через лицензионную форму, что обеспечивает соблюдение требований и поддерживает масштабируемые инновации в области компьютерного зрения на базе ИИ на периферии.
Масштабное использование моделей Ultralytics YOLO с Voyager SDK от Axelera AI#
С моделями Ultralytics YOLO и Voyager SDK от Axelera AI пользователи могут развертывать точные приложения компьютерного зрения с низкой задержкой непосредственно на модулях обработки ИИ Metis. Кроме того, доступ к нескольким вариантам YOLO позволяет клиентам адаптировать производительность к конкретным потребностям своего приложения.
Например, Axelera AI наблюдала, как клиенты тестировали решения на базе YOLO в различных областях, включая:
- Розничная торговля: многомодельные конвейеры, объединяющие оценку позы, сегментацию и обнаружение объектов, можно использовать для таких задач, как сокращение потерь и отслеживание запасов. Эти решения эффективно работают на встраиваемых платформах, таких как Raspberry Pi 5 в паре с Metis AIPU.
- Производство: клиенты могут использовать параллельное выполнение моделей для одновременного решения таких задач, как обнаружение дефектов, классификация продукции и оценка позы, на одном чипе, повышая пропускную способность и снижая затраты на оборудование.
- Видеонаблюдение: возможности YOLO по обнаружению объектов в реальном времени можно использовать для анализа видеопотоков в разрешении 4K и 8K без снижения разрешения, обеспечивая высокоточность мониторинга безопасности и ситуационной осведомленности в критически важных средах. Это значительно лучше, чем традиционное уменьшение разрешения на камерах высокого разрешения.
- Здравоохранение: оптимизированные конвейеры YOLO могут поддерживать выявление опухолей, обеспечивая высокую скорость инференса и надежную точность при обработке медицинских изображений на устройстве.
Эти сценарии использования демонстрируют, как периферийное оборудование ИИ Axelera AI и модели Ultralytics YOLO способствуют созданию высокопроизводительных и энергоэффективных инноваций в области компьютерного зрения на базе ИИ в различных отраслях.
Развитие нового поколения периферийного ИИ с Ultralytics YOLO#
Продолжая расширять доступ к высокопроизводительному периферийному ИИ, Axelera AI объединяет мощное оборудование и надежные модели компьютерного зрения, помогая клиентам создавать более интеллектуальные и быстрые приложения.
Благодаря моделям Ultralytics YOLO, доступным через Voyager SDK, и оборудованию Metis AIPU пользователи могут легко разрабатывать и масштабировать решения для компьютерного зрения в реальном времени в различных отраслях. Это сотрудничество поддерживает растущее сообщество разработчиков и компаний, стремящихся приблизить ИИ к месту создания данных, повышая эффективность, оперативность и инновационный потенциал на периферии.
Готов ускорить развитие своих периферийных решений ИИ? Загляни в наш репозиторий на GitHub, чтобы увидеть, как модели YOLO обеспечивают такие инновации, как ИИ в розничной торговле и компьютерное зрение в логистике. Изучи наши инструменты для компьютерного зрения на базе ИИ, узнай о вариантах лицензирования и выясни, как раскрыть потенциал высокопроизводительного энергоэффективного компьютерного зрения на периферии.
