Периферийные вычисления

Пограничные вычисления — это распределенная информационно-технологическая архитектура, которая приближает обработку и хранение данных к месту, где они необходимы, вместо того, чтобы полагаться на центральное хранилище, которое обычно находится за тысячи километров. Благодаря обработке данных рядом с источником — например, на локальных серверах, шлюзах IoT или самих устройствах — этот подход значительно сокращает задержку и минимизирует пропускную способность, необходимую для передачи данных. В контексте искусственного интеллекта и машинного обучения пограничные вычисления обеспечивают критически важную инфраструктуру, необходимую для развертывания пограничного искусственного интеллекта, позволяя сложным моделям работать непосредственно на интеллектуальных камерах, дронах и промышленных датчиках с мгновенной реакцией.

Основные преимущества пограничных вычислений

Переход от централизованной облачной обработки к локализованной пограничной обработке предлагает несколько преимуществ, способных изменить ситуацию, особенно для компьютерного зрения и аналитики в реальном времени .

• Снижение задержки: традиционные облачные архитектуры требуют передачи данных в центр обработки данных для обработки, а затем обратно на устройство. Пограничные вычисления устраняют эту обратную передачу, обеспечивая вывод в реальном времени, когда важны миллисекунды . Это необходимо для систем, критичных с точки зрения безопасности, таких как автономные транспортные средства, которые должны принимать мгновенные решения о торможении.
• Эффективность использования полосы пропускания: передача видеопотоков высокой четкости для обнаружения объектов требует огромной полосы пропускания. Обрабатывая исходные данные локально и отправляя в облако только соответствующие метаданные или оповещения, организации могут значительно сократить расходы на передачу данных .
• Повышенная конфиденциальность данных: конфиденциальная информация, такая как медицинские изображения или данные распознавания лиц, может обрабатываться полностью в локальной среде. Такое локальное хранение способствует соблюдению строгих нормативных требований, таких как GDPR, гарантируя, что личные данные никогда не покидают устройство.
• Офлайн-функциональность: Пограничные устройства могут продолжать работать автономно даже при прерывистом или отсутствующем подключении к Интернету. Такая надежность жизненно важна для таких приложений, как ИИ в сельском хозяйстве, где дроны контролируют урожай на удаленных полях с плохим покрытием сети.

Пограничные вычисления против облачных вычислений

В то время как облачные вычисления превосходны для хранения огромных наборов данных и обучения крупномасштабных моделей, пограничные вычисления сосредоточены на фазе выполнения. Полезно рассматривать их как взаимодополняющие технологии, а не как конкурентов. Облако часто используется для обучения моделей, где требуется большая вычислительная мощность для обработки исторических данных. После обучения оптимизированная модель развертывается на периферии для вывода. Этот гибридный подход использует преимущества обоих: бесконечную масштабируемость облака и скорость периферии.

Применение в реальном мире

Пограничные вычисления меняют отрасли, встраивая интеллект непосредственно в физические операции.

• Интеллектуальное производство: в промышленной автоматизации заводы используют пограничные шлюзы для анализа данных датчиков с оборудования. При обнаружении аномальной вибрации система может мгновенно запустить протоколы профилактического обслуживания, предотвращая дорогостоящие простои.
• Интеллектуальная розничная торговля: традиционные магазины используют камеры с передовыми технологиями для управления запасами. Системы могут автономно track уровень track на полках и оповещать персонал о необходимости пополнения товаров, повышая операционную эффективность без передачи видеопотоков с клиентами на внешние серверы.
• Управление дорожным движением: в умных городах на перекрестках устанавливаются пограничные узлы для управления светофорами. Анализируя транспортный поток в режиме реального времени на местном уровне, эти системы могут оптимизировать синхронизацию светофоров для уменьшения пробок, функционируя независимо от центральных центров управления.

Развертывание моделей на границе

Для запуска сложных моделей на периферийных устройствах с ограниченными ресурсами разработчики часто используют такие методы оптимизации, как квантование моделей или экспорт в специализированные форматы, такие как TensorRT или ONNX. Ultralytics упрощает этот процесс, позволяя пользователям обучать модели в облаке и беспрепятственно развертывать их на различных периферийных устройствах.

Следующий пример демонстрирует, как экспортировать модель YOLO26 в NCNN , который высоко оптимизирован для мобильных и встроенных периферийных устройств.

from ultralytics import YOLO

# Load a pre-trained YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to NCNN format for mobile edge deployment
# This creates a lightweight, optimized version of the model
model.export(format="ncnn")

Связанные понятия

• Edge AI: в то время как edge computing относится к распределенной инфраструктуре, Edge AI конкретно относится к применению алгоритмов искусственного интеллекта, работающих на этой инфраструктуре.
• Интернет вещей (IoT): сеть физических объектов — «вещей» — со встроенными датчиками и программным обеспечением. Пограничные вычисления обеспечивают вычислительную мощность, которая делает эти устройства IoT «умными».
• Fog Computing(туманные вычисления): Децентрализованная вычислительная инфраструктура, в которой данные, вычисления, хранение и приложения находятся где-то между источником данных и облаком, часто считается расширением облачных вычислений до границы сети.