Периферийные вычисления

Edge computing — это парадигма распределенных вычислений, которая приближает вычисления и хранение данных к месту, где это необходимо, чтобы улучшить время отклика и сэкономить пропускную способность. Вместо отправки необработанных данных на централизованный облачный сервер для обработки, edge computing выполняет вычисления локально, на источнике данных или рядом с ним. Этим «краем» может быть что угодно: от смартфона или датчика IoT до локального сервера в цеху. Этот подход имеет основополагающее значение для достижения низкой задержки, необходимой для многих современных AI-приложений.

Edge Computing в сравнении со смежными концепциями

Важно отличать граничные вычисления от других тесно связанных терминов:

• Edge AI: Это конкретное применение edge computing. В то время как edge computing относится к общей практике перемещения любого типа вычислений на периферию сети, Edge AI конкретно включает в себя запуск моделей машинного обучения и рабочих нагрузок ИИ непосредственно на периферийных устройствах. Весь Edge AI является формой edge computing, но не все edge computing включает в себя ИИ.
• Облачные вычисления: Облачные вычисления полагаются на крупные централизованные центры обработки данных для выполнения мощных вычислений и хранения огромных объемов данных. Периферийные вычисления децентрализованы. Эти два понятия не являются взаимоисключающими; они часто используются вместе в гибридной модели. Периферийное устройство может выполнять первоначальную обработку данных и вывод в реальном времени, отправляя менее чувствительные ко времени данные в облако для дальнейшего анализа, обучения модели или долгосрочного хранения.
• Туманные вычисления: Часто используется взаимозаменяемо с периферийными вычислениями, туманные вычисления представляют собой несколько иную архитектуру, где «туманный узел» или IoT-шлюз находится между периферийными устройствами и облаком. Он действует как промежуточный слой, обрабатывая данные с нескольких периферийных устройств, прежде чем они достигнут облака, как описано Консорциумом OpenFog.

Почему периферийные вычисления имеют решающее значение для ИИ

Перенос обработки ИИ на периферию предлагает несколько значительных преимуществ, которые имеют решающее значение для современных приложений:

• Низкая задержка: Для таких приложений, как автономные транспортные средства и робототехника, решения должны приниматься за миллисекунды. Ожидание передачи данных на облачный сервер и обратно часто занимает слишком много времени. Edge computing обеспечивает немедленную обработку на устройстве.
• Эффективность использования полосы пропускания: Непрерывная потоковая передача видео высокого разрешения с тысяч камер видеонаблюдения в облако потребляла бы огромную пропускную способность сети. Анализируя видео на периферии, можно передавать только важные события или метаданные, что значительно снижает использование полосы пропускания и затраты.
• Повышенная конфиденциальность и безопасность: Обработка конфиденциальной информации, такой как данные распознавания лиц или анализ медицинских изображений, на локальном устройстве повышает конфиденциальность данных, сводя к минимуму их передачу через Интернет.
• Надежность работы: Edge-устройства могут работать независимо от постоянного подключения к Интернету. Это жизненно важно для промышленного IoT в удаленных местах, таких как ИИ в сельском хозяйстве или на морских нефтяных платформах, где связь может быть ненадежной.

Применение в реальном мире

Edge computing преобразует отрасли, обеспечивая более быстрый и надежный AI.

1. Интеллектуальное производство: В заводских условиях камеры, оснащенные моделями компьютерного зрения, такими как Ultralytics YOLO11, могут выполнять контроль качества в режиме реального времени непосредственно на сборочной линии. Периферийное устройство обрабатывает видеопоток для мгновенного обнаружения дефектов, что позволяет немедленно вмешиваться без задержки отправки отснятого материала в облако. Это основной компонент современных решений интеллектуального производства.
2. Автономные системы: Самоуправляемые автомобили являются ярким примером периферийных вычислений в действии. Они оснащены мощными бортовыми компьютерами, такими как платформы NVIDIA Jetson, которые обрабатывают данные с множества датчиков в режиме реального времени для навигации, избежания препятствий и реагирования на изменяющиеся дорожные условия. Использование облака для этих критических функций приведет к опасным для жизни задержкам.

Аппаратное и программное обеспечение для периферийных вычислений

Эффективное внедрение граничных вычислений требует сочетания специализированного оборудования и оптимизированного программного обеспечения.

• Оборудование: Периферийные устройства варьируются от маломощных микроконтроллеров до более мощных систем. К ним относятся одноплатные компьютеры, такие как Raspberry Pi, мобильные устройства и специализированные ускорители ИИ, такие как Google Edge TPU и другие графические процессоры.
• Программное обеспечение: Модели ИИ, развернутые на периферии, должны быть очень эффективными. Это часто включает в себя такие методы, как квантование моделей и усечение моделей, чтобы уменьшить их размер и вычислительные требования. Оптимизированные движки логического вывода, такие как TensorRT, OpenVINO, и среды выполнения для форматов, таких как ONNX, используются для максимального повышения производительности. Кроме того, такие инструменты, как Docker, используются для контейнеризации, что упрощает развертывание и управление моделями в парке распределенных периферийных устройств.