Добавив модели Ultralytics YOLO в свой Voyager SDK, Axelera AI упростила запуск готовых решений компьютерного зрения в реальном времени на своих блоках обработки ИИ Metis (AIPU).
Axelera AI — европейская полупроводниковая компания, которая создает мощные и энергоэффективные ИИ-чипы для работы с компьютерным зрением на периферии. Например, ее блоки обработки ИИ Metis (AIPU) используются в таких отраслях, как розничная торговля, безопасность и производство.
Чтобы упростить клиентам разработку и развертывание ИИ-приложений, Axelera интегрировала модели Ultralytics YOLO в Voyager SDK — программную платформу, которая упрощает оптимизацию, развертывание и ускорение моделей на AIPU Metis, делая Vision AI в реальном времени быстрее, проще и масштабируемее.
Новый взгляд на аппаратное ускорение Vision AI#
Основанная в 2021 году и расположенная в Нидерландах компания Axelera AI взялась решить фундаментальную проблему: традиционное оборудование для ИИ создавалось для облака, а не для периферийных устройств. Чтобы устранить этот разрыв, компания разработала AIPU Metis.
Это высокопроизводительный чип с низким энергопотреблением, специально созданный для периферийных задач: ИИ-задач, которые выполняются локально на устройствах, где важны скорость, конфиденциальность и энергоэффективность.
В основе чипа лежит запатентованная технология Digital In-Memory Compute (D-IMC), которая позволяет обрабатывать данные непосредственно там, где они хранятся, и значительно сокращает задержки и энергопотребление. Благодаря полностью интегрированному программному стеку и стремлению демократизировать ИИ Axelera делает высокопроизводительный ИИ доступнее.
Проблемы запуска моделей на периферийном оборудовании для ИИ#
Чтобы обеспечить удобную работу с ИИ на периферии, Axelera AI стремилась предложить не только высокопроизводительное оборудование. Клиентам также требовался простой и надежный способ запускать решения компьютерного зрения в реальном времени без сложных инструментов и длительной настройки. Многие существующие модели были слишком большими, медленными или плохо подходили для сред с ограниченными ресурсами.
Для поддержки работы розничной аналитики, автоматизации заводов и систем видеонаблюдения часто нужны быстрые и точные данные визуального анализа. Однако традиционные модели и облачные решения обычно не отвечают требованиям периферийных ИИ-приложений к низкой задержке, энергоэффективности и обработке данных на устройстве.
Axelera начала искать набор моделей, сочетающий точность и простоту внедрения и способный эффективно работать на блоках обработки ИИ Metis. Подходящее решение должно было дополнить возможности оборудования, упростить разработку и ускорить развертывание в широком спектре периферийных ИИ-сценариев.
Ускоренный инференс ИИ на периферийных устройствах с Ultralytics YOLO#
Axelera AI интегрировала модели Ultralytics YOLO в свой Voyager SDK, чтобы ускорить и упростить создание и развертывание периферийных ИИ-приложений и сделать этот процесс масштабируемее. SDK включает Model Zoo с готовыми к использованию моделями YOLO и автоматизирует весь конвейер — предварительную обработку, инференс и постобработку, оптимизированные для блоков обработки ИИ Metis.
Рис. 1. Блок обработки ИИ Metis (AIPU).
Эта интеграция позволяет клиентам сразу использовать предварительно обученные модели Ultralytics YOLO или подключать собственные, обеспечивая бесперебойное ускорение на периферийном оборудовании. Metis AIPU поддерживают параллельное и каскадное выполнение моделей, что позволяет создавать сложные многомодельные конфигурации, например сначала оценивать позу, а затем выполнять сегментацию. Это идеально подходит для сложных задач в розничной торговле, безопасности и промышленной автоматизации.
Сочетание поддерживаемых моделями Ultralytics YOLO задач компьютерного зрения в реальном времени с эффективным аппаратным и программным стеком Axelera обеспечивает исключительную производительность на ватт и на доллар. Для клиентов это означает более точные результаты, быстрое развертывание и более низкий порог масштабирования Vision AI на периферии.
Почему стоит выбрать модели Ultralytics YOLO?#
Axelera AI сотрудничала с Ultralytics, чтобы интегрировать модели Ultralytics YOLO в свою платформу благодаря их исключительному сочетанию точности, скорости и простоты использования. Поддержка различных вариантов Ultralytics YOLO позволяет клиентам Axelera AI оценивать широкий спектр рабочих нагрузок и требований к производительности на Metis AIPU.
По лицензии Ultralytics Enterprise Axelera предоставляет доступ ко всему набору моделей YOLO для оценки и разработки. Для коммерческого развертывания клиентам необходимо получить собственную лицензию непосредственно у Ultralytics, заполнив лицензионную форму. Это обеспечивает соблюдение требований и поддерживает масштабируемые инновации в области Vision AI на периферии.
Масштабное использование моделей Ultralytics YOLO с Voyager SDK от Axelera AI#
С моделями Ultralytics YOLO и Voyager SDK от Axelera AI пользователи могут развертывать точные приложения компьютерного зрения с низкой задержкой непосредственно на блоках обработки ИИ Metis. Доступ к нескольким вариантам YOLO также позволяет клиентам настраивать производительность под конкретные требования приложения.
Например, клиенты Axelera AI тестировали решения на базе YOLO в самых разных областях, таких как:
- Розничная торговля: Конвейеры из нескольких моделей, объединяющие оценку позы, сегментацию и обнаружение объектов, могут применяться для сокращения потерь и отслеживания запасов. Такие решения эффективно работают на встраиваемых платформах, например Raspberry Pi 5 в паре с AIPU Metis.
- Производство: Клиенты могут использовать параллельное выполнение моделей для одновременного решения нескольких задач на одном чипе, например обнаружения дефектов, классификации продукции и оценки позы, чтобы повысить производительность и снизить затраты на оборудование.
- Видеонаблюдение: Возможности YOLO по обнаружению объектов в реальном времени можно использовать для анализа видеопотоков 4K и 8K в полном разрешении, обеспечивая точный контроль безопасности и ситуационную осведомленность в критически важных условиях. Это гораздо эффективнее традиционного уменьшения разрешения изображения с камер высокого разрешения.
- Здравоохранение: Оптимизированные конвейеры YOLO могут помогать выявлять опухоли, обеспечивая высокую скорость инференса и надежную точность при обработке медицинских изображений непосредственно на устройстве.
Эти сценарии показывают, как периферийное оборудование Axelera AI и модели Ultralytics YOLO способствуют созданию высокопроизводительных и энергоэффективных инноваций в области Vision AI для разных отраслей.
Новая волна периферийного ИИ на базе Ultralytics YOLO#
Axelera AI продолжает расширять доступ к высокопроизводительному периферийному ИИ, объединяя мощное оборудование и надежные модели компьютерного зрения, чтобы помочь клиентам создавать более интеллектуальные и быстрые приложения.
Благодаря моделям Ultralytics YOLO, доступным через Voyager SDK, и оборудованию Metis AIPU, пользователи могут легко разрабатывать и масштабировать решения компьютерного зрения в реальном времени для разных отраслей. Это сотрудничество поддерживает растущее сообщество разработчиков и компаний, которые стремятся приблизить ИИ к источникам данных, повышая эффективность, оперативность и инновационный потенциал на периферии.
Готов ускорить внедрение периферийного ИИ? Загляни в наш репозиторий GitHub, чтобы узнать, как модели YOLO обеспечивают такие инновации, как ИИ в розничной торговле и компьютерное зрение в логистике. Попробуй наши инструменты Vision AI, изучи варианты лицензирования и узнай, как внедрить высокопроизводительное и энергоэффективное компьютерное зрение на периферии.
Автор
Создатель контента · Ultralytics
