Периферийный ИИ (Edge AI)

Edge AI создает децентрализованную вычислительную среду, в которой искусственный интеллект (ИИ) и алгоритмы машинного обучения (ML) обрабатываются непосредственно на локальном устройстве, а не на удаленных серверах. Благодаря обработке данных вблизи источника, например например, на датчиках, камерах или IoT-шлюзах, Edge AI значительно снижает задержки и потребление полосы пропускания. Такой подход необходим для приложений, требующих выводы в реальном времени, где важны миллисекунды, или в средах с нестабильным интернет-соединением. Переход от централизованной обработки к пограничной позволяет устройствам принимать самостоятельные решения, повышая конфиденциальность данных за счет сохранения конфиденциальной информации на локальном оборудовании.

Как работает Edge AI

В типичном рабочем процессе Edge AI физическое устройство собирает данные с помощью входных датчиков. Вместо того чтобы передавать необработанные данные в облачный вычислительный центр, устройство использует встроенный микропроцессор или специализированный ускоритель, например модуль NVIDIA Jetson или Google Coral Edge TPUлокального запуска ML-моделей.

Чтобы эффективно работать на устройствах с ограниченными ресурсами, модели часто подвергаются процессу оптимизации. Такие методы, как квантование модели и обрезка моделей, уменьшают размер файла и вычислительную сложность нейронных сетей без без существенного снижения точности. Оптимизированные фреймворки, такие как TensorRT и Intel OpenVINOвыступают в качестве механизм вывода для ускорения этих моделей на конкретных аппаратных архитектур.

Edge AI в сравнении с Edge Computing

Несмотря на то, что эти два понятия часто используются вместе, полезно проводить различие между ними:

• Пограничные вычисления: Это относится к Более широкая физическая архитектура и инфраструктура, позволяющая приблизить вычислительные мощности и хранилища данных к месту, где они необходимы. к месту, где они необходимы. Она включает в себя аппаратное обеспечение и сетевую топологию.
• Edge AI: это особое применение пограничных вычислений. Оно включает в себя запуск интеллектуальных алгоритмов, таких как компьютерное зрение (CV) или предиктивная аналитика, на основе этой пограничной инфраструктуры.

Применение в реальном мире

Внедрение Edge AI преобразует отрасли, обеспечивая автономные операции и более интеллектуальную аналитику.

• Автономные системы: Самостоятельно управляемые автомобили используют Edge AI для обработки данных, поступающих от LiDAR, радаров и камер, мгновенно. Они должны detect пешеходов, считывать дорожные знаки и ориентироваться в полосе движения в режиме реального времени. Полагаясь на облако, можно получить опасную задержку, поэтому обнаружение объектов происходит полностью внутри бортовом компьютере автомобиля.
• Умное производство: В Промышленная автоматизация, Edge AI обеспечивает работу систем визуального системы визуального контроля на сборочных линиях. Камеры, оснащенные такими моделями, как Ultralytics YOLO11 позволяют выявлять дефекты продукции или немедленно. Такая локальная обработка позволяет быстро обнаружения аномалий и интеграции с роботизированными манипуляторами для удаления дефектных изделий без остановки производства.
• Умные города: Муниципалитеты внедряют Edge AI для интеллектуального управления дорожным движением. Светофоры могут динамически регулировать время работы на основе анализа потока транспортных средств, выполняемого локально на перекрестке. перекрестков, уменьшая заторы и оптимизируя городскую мобильность.

Развертывание моделей на границе

Развертывание модели на пограничном устройстве часто предполагает экспорт обученной модели в формат, не зависящий от аппаратного обеспечения. На сайте ONNX (Open Neural Network Exchange) это стандарт, позволяющий запускать модели на различных платформах.

Следующий пример демонстрирует, как экспортировать легкую модель YOLO11 , которая идеально подходит для развертывания на границе благодаря благодаря своей скорости и эффективности:

from ultralytics import YOLO

# Load a lightweight YOLO11 nano model
model = YOLO("yolo11n.pt")

# Export the model to ONNX format for edge deployment
# The 'dynamic' argument allows for variable input sizes
model.export(format="onnx", dynamic=True)

Проблемы и будущие тенденции

Реализация Edge AI сопряжена с определенными трудностями, в первую очередь связанными с ограниченными ресурсами мощности и памяти устройств на границе сети. по сравнению с огромными центрами обработки данных. Разработчикам приходится балансировать между производительностью модели и энергопотреблением, поэтому часто используются системы-на-кристалле (SoC) от таких компаний, как Qualcomm или Ambarella.

В перспективе интеграция сетей 5G будет способствовать дальнейшему развитию Edge ИИ, обеспечивая высокоскоростное соединение, необходимое для координации устройств, известной как "роевой интеллект". Кроме того, такие методы, как федеративное обучение, позволяют пограничным устройствам устройства совместно совершенствовать глобальные модели, сохраняя при этом децентрализованность и конфиденциальность исходных данных.