Edge Computing

Периферийные вычисления — это распределённая архитектура информационных технологий, которая переносит обработку и хранение данных ближе к месту их использования, вместо того чтобы полагаться на центральную локацию, обычно находящуюся за тысячи километров. Обрабатывая данные рядом с источником — например, на локальных серверах, шлюзах IoT или непосредственно на устройствах, — этот подход значительно сокращает задержку и минимизирует пропускную способность, необходимую для передачи данных. В контексте искусственного интеллекта и машинного обучения периферийные вычисления предоставляют критически важную инфраструктуру для развёртывания периферийного ИИ, позволяя сложным моделям напрямую работать на интеллектуальных камерах, дронах и промышленных датчиках с мгновенным откликом.

Ключевые преимущества периферийных вычислений#

Переход от централизованной облачной обработки к локализованной периферийной обработке даёт ряд преобразующих преимуществ, особенно для компьютерного зрения и аналитики в реальном времени.

• Снижение задержки: В традиционных облачных архитектурах данные должны поступить в дата-центр для обработки, а затем вернуться на устройство. Периферийные вычисления устраняют этот путь туда и обратно, обеспечивая вывод в реальном времени, когда важна каждая миллисекунда. Это необходимо для критически важных систем, таких как автономные транспортные средства, которым нужно принимать решения о торможении за доли секунды.
• Эффективное использование пропускной способности: Передача видеопотоков высокой чёткости для обнаружения объектов потребляет огромный объём пропускной способности. Обрабатывая необработанные данные локально и отправляя в облако только релевантные метаданные или оповещения, организации могут значительно сократить расходы на передачу данных.
• Повышенная конфиденциальность данных: Конфиденциальную информацию, например медицинские изображения или данные распознавания лиц, можно полностью обрабатывать в локальной среде. Такое локальное хранение помогает соблюдать строгие нормы, например GDPR, гарантируя, что персональные данные никогда не покидают устройство.
• Работа без подключения к сети: Периферийные устройства могут продолжать работать автономно даже при нестабильном интернет-соединении или его отсутствии. Такая надёжность жизненно важна для приложений вроде ИИ в сельском хозяйстве, где дроны отслеживают состояние посевов на удалённых полях со слабым покрытием сети.

Периферийные вычисления и облачные вычисления#

Хотя облачные вычисления отлично подходят для хранения огромных наборов данных и обучения крупномасштабных моделей, периферийные вычисления сосредоточены на этапе выполнения. Их полезно рассматривать как взаимодополняющие технологии, а не как конкурентов. Облако часто используют для обучения моделей, когда для обработки исторических данных требуется высокая вычислительная мощность. После обучения оптимизированную модель развёртывают на периферии для выполнения вывода. Такой гибридный подход объединяет сильные стороны обеих технологий: практически неограниченную масштабируемость облака и скорость периферии.

Практические применения#

Периферийные вычисления преобразуют отрасли, встраивая интеллектуальные возможности непосредственно в физические процессы.

• Интеллектуальное производство: В сфере промышленной автоматизации фабрики используют периферийные шлюзы для анализа данных датчиков оборудования. Если обнаруживается аномальная вибрация, система может мгновенно запустить процедуры прогнозного технического обслуживания, предотвращая дорогостоящие простои.
• Интеллектуальная розничная торговля: Обычные магазины используют камеры на базе периферийных вычислений для управления запасами. Системы могут автономно отслеживать уровень запасов на полках и уведомлять сотрудников о необходимости пополнить товары, повышая операционную эффективность без передачи видеопотоков с покупателями на внешние серверы.
• Управление дорожным движением: Умные города размещают периферийные узлы на перекрёстках для управления светофорами. Локально анализируя транспортный поток в реальном времени, эти системы могут оптимизировать длительность сигналов светофора для уменьшения заторов и работать независимо от центральных центров управления.

Развёртывание моделей на периферии#

Чтобы запускать сложные модели на периферийных устройствах с ограниченными ресурсами, разработчики часто используют методы оптимизации, такие как квантизация моделей, или экспортируют модели в специализированные форматы, например TensorRT или ONNX. Платформа Ultralytics упрощает этот процесс, позволяя пользователям обучать модели в облаке и беспрепятственно развёртывать их на различных периферийных устройствах.

В следующем примере показано, как экспортировать модель YOLO26 в формат NCNN, оптимизированный для мобильных и встраиваемых периферийных устройств.

from ultralytics import YOLO

# Load a pre-trained YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to NCNN format for mobile edge deployment
# This creates a lightweight, optimized version of the model
model.export(format="ncnn")

Связанные понятия#

• Периферийный ИИ: Периферийные вычисления обозначают распределённую инфраструктуру, а периферийный ИИ — применение алгоритмов искусственного интеллекта, работающих на этой инфраструктуре.
• Интернет вещей (IoT): Сеть физических объектов — «вещей», оснащённых датчиками и программным обеспечением. Периферийные вычисления обеспечивают вычислительную мощность, которая делает эти устройства IoT «умными».
• Туманные вычисления: Децентрализованная вычислительная инфраструктура, в которой данные, вычислительные ресурсы, хранилища и приложения расположены где-то между источником данных и облаком; её часто рассматривают как расширение облачных вычислений до периферии.