Периферийный ИИ и периферийные вычисления: обработка данных в реальном времени

Искусственный интеллект (AI) становится неотъемлемой частью нашей повседневной жизни. ИИ-модели уже используют в самых разных устройствах — от умных камер до беспилотных автомобилей, — чтобы быстро обрабатывать информацию и помогать принимать решения в реальном времени.

Традиционно многие ИИ-модели работают в облаке: устройства отправляют данные на мощные удалённые серверы, где модель их обрабатывает и возвращает результат. Но полагаться на облако не всегда целесообразно, особенно когда важна каждая миллисекунда. Передача данных туда и обратно может приводить к задержкам, вызывать опасения по поводу конфиденциальности и требовать постоянного подключения к сети.

Здесь на помощь приходят периферийный ИИ и периферийные вычисления. Периферийный ИИ предполагает запуск ИИ-моделей непосредственно на устройствах, например камерах или датчиках, что позволяет мгновенно принимать решения на месте. Периферийные вычисления, в свою очередь, предполагают обработку данных рядом с местом их создания — зачастую на локальных серверах или шлюзах, а не в облаке. Такой подход снижает задержки, повышает конфиденциальность и позволяет ИИ эффективно работать даже без постоянного доступа к облаку.

Периферийный ИИ особенно полезен в приложениях компьютерного зрения, где нужно мгновенно обрабатывать большие объёмы визуальных данных. Модели компьютерного зрения, такие как Ultralytics YOLO11, позволяют выполнять непосредственно на периферийных устройствах такие задачи, как обнаружение объектов и сегментация экземпляров, и обеспечивают работу более интеллектуальных устройств, роботов и систем ИИ для промышленного Интернета вещей (IoT).

В этом руководстве мы разберём, что на самом деле означают понятия «периферийный ИИ» и «периферийные вычисления», и рассмотрим основные различия между ними. Затем мы узнаем, как их сочетание обеспечивает работу ИИ в реальном времени без зависимости от облака. В завершение мы рассмотрим практические сценарии применения, особенно в компьютерном зрении, и взвесим плюсы и минусы запуска ИИ на периферии.

Периферийный ИИ и облачный ИИ: в чём разница?#

Периферийный ИИ — это запуск моделей искусственного интеллекта непосредственно на устройствах, таких как камеры, датчики, смартфоны или встроенное оборудование, а не на удалённых серверах или в облаке. Такой подход позволяет устройствам обрабатывать данные локально и принимать решения на месте.

Вместо постоянной передачи данных в облако и обратно модели периферийного ИИ могут в реальном времени выполнять такие задачи, как распознавание изображений, обработка речи и прогнозное обслуживание. Это стало возможным благодаря развитию ИИ-чипов для периферийных вычислений, которые позволяют мощным моделям эффективно работать на компактных устройствах.

Рис. 1. Сравнение облачной обработки данных ИИ и периферийного ИИ: на периферии снижаются задержки и повышается конфиденциальность.

В компьютерном зрении периферийный ИИ помогает таким устройствам, как камеры с ИИ, мгновенно обнаруживать объекты, распознавать лица и отслеживать происходящее вокруг. Модели вроде Ultralytics YOLO11 быстро обрабатывают данные и предоставляют аналитические сведения в реальном времени, работая непосредственно на периферийных устройствах.

Перенося инференс ИИ (процесс запуска обученной модели ИИ для получения предсказаний или полезных сведений) на периферийные устройства, системы могут меньше зависеть от облака. Это повышает конфиденциальность ИИ на периферийных устройствах и обеспечивает работу в реальном времени в приложениях, где критически важны скорость и безопасность данных.

Чем периферийные вычисления отличаются от периферийного ИИ?#

Хотя эти понятия звучат похоже, периферийный ИИ и периферийные вычисления выполняют разные функции. Периферийные вычисления — это более широкое понятие, которое подразумевает обработку данных в месте их создания или рядом с ним, например на периферийных серверах (небольших вычислительных узлах, расположенных рядом с устройствами для обработки данных), шлюзах или устройствах.

Периферийные вычисления направлены на сокращение объёма данных, отправляемых на централизованные серверы, за счёт локальной обработки. Они охватывают самые разные задачи — от фильтрации и анализа данных до запуска сложных приложений вне традиционных центров обработки данных.

Периферийный ИИ, напротив, — это модели ИИ, работающие на периферийных устройствах. Проще говоря, периферийный ИИ переносит интеллектуальные функции на периферию. Вместе эти технологии обеспечивают вычисления ИИ с низкой задержкой для отраслей, где важны скорость и эффективность.

Например, промышленная камера может использовать периферийную обработку для потоковой передачи видео, а периферийный ИИ — для анализа записи, обнаружения аномалий и отправки оповещений.

Периферийный ИИ и периферийные вычисления для аналитики в реальном времени#

Сочетание периферийного ИИ и периферийных вычислений — ключ к внедрению ИИ в реальном времени в разных отраслях. Вместо зависимости от удалённых серверов устройства могут мгновенно анализировать данные, быстрее принимать решения и надёжно работать даже при слабом подключении.

Эта возможность особенно полезна в таких приложениях, как беспилотные автомобили, робототехника и системы видеонаблюдения, где каждая секунда может иметь решающее значение. Периферийный ИИ позволяет системам мгновенно реагировать на меняющиеся условия, повышая безопасность, производительность и качество взаимодействия с пользователем.

Для задач компьютерного зрения такие модели, как Ultralytics YOLO11, могут обнаруживать объекты, классифицировать изображения и отслеживать движения в реальном времени. Работая локально, эти модели избегают задержек при обмене данными с облаком и позволяют принимать решения именно тогда, когда это необходимо.

Рис. 2. Периферийные вычисления обрабатывают данные рядом с IoT-устройствами, обеспечивая аналитику в реальном времени.

Кроме того, периферийный ИИ помогает защищать конфиденциальность. Чувствительные данные, например видеопотоки и биометрическая информация, могут оставаться на устройстве, что снижает риск их утечки и помогает соблюдать требования законодательства о защите конфиденциальности.

Кроме того, он позволяет использовать энергоэффективные модели ИИ для периферийных вычислений: локальная обработка сокращает использование пропускной способности сети и обмен данными с облаком, снижая энергопотребление. Это особенно важно для IoT-устройств.

Вместе периферийный ИИ и периферийные вычисления создают основу для IoT-устройств с ИИ, способных обрабатывать данные с низкой задержкой и справляться с требованиями реального мира.

Практическое применение периферийного ИИ и периферийных вычислений#

Периферийный ИИ и периферийные вычисления помогают многим отраслям внедрять ИИ на периферии. Рассмотрим некоторые наиболее значимые сценарии применения компьютерного зрения, в которых эти технологии обеспечивают принятие решений в реальном времени:

• Умное видеонаблюдение с периферийным ИИ: Камеры с ИИ могут наблюдать за окружающей обстановкой и выявлять подозрительную активность. Анализируя записи на месте, такие системы меньше зависят от облачной обработки и быстрее реагируют на происходящее.
• Периферийный ИИ в автомобильной отрасли и беспилотных автомобилях: автомобили могут использовать периферийный ИИ для мгновенной обработки данных с камер, LiDAR и датчиков. Это позволяет выполнять критически важные задачи, такие как обнаружение препятствий, удержание полосы движения и распознавание пешеходов, без обращения к облачным серверам.
• Встраиваемый ИИ для робототехники и промышленной автоматизации: Встраиваемые модели ИИ, интегрированные в специализированное оборудование, например роботов или датчики, помогают роботам анализировать изображения, обнаруживать дефекты и адаптироваться к изменениям на производственной линии. Локальный запуск повышает точность и позволяет быстрее реагировать на изменения в динамичной среде.
• Периферийный ИИ в производстве: Умные фабрики могут использовать периферийный ИИ для проверки продукции, мониторинга оборудования и улучшения контроля качества. Обрабатывая визуальные данные на месте, такие системы предотвращают появление дефектов и сокращают время простоя.
• Периферийный ИИ в умных городах и управлении дорожным движением: От анализа дорожного движения в реальном времени до обнаружения пешеходов — периферийный ИИ помогает планировать развитие умных городов и делать улицы безопаснее благодаря локальной обработке данных.
• Здравоохранение и медицинские устройства: Портативные устройства для визуализации могут мгновенно анализировать снимки с помощью периферийного ИИ. Такой подход ускоряет диагностику и при этом надёжно защищает чувствительные медицинские данные на устройстве.
• Сельское хозяйство и мониторинг окружающей среды: Дроны с периферийным ИИ и датчики IoT могут оценивать состояние сельскохозяйственных культур, отслеживать условия окружающей среды и оптимизировать использование ресурсов — всё в реальном времени.

Рис. 3. Дрон с Ultralytics YOLO11 может обнаруживать транспортные средства и оборудование на объекте.

Во всех этих примерах модели компьютерного зрения, такие как Ultralytics YOLO11, развёрнутые на периферийных устройствах, предоставляют аналитические сведения ИИ в реальном времени и позволяют системам принимать решения именно тогда, когда это необходимо.

Плюсы и минусы периферийного ИИ и периферийных вычислений#

Хотя периферийный ИИ и периферийные вычисления дают значительные преимущества, важно учитывать как сильные стороны, так и ограничения запуска ИИ на периферии.

Сначала рассмотрим преимущества:

• Более быстрое принятие решений: Периферийный ИИ может уменьшить задержки за счёт локальной обработки данных, обеспечивая мгновенную реакцию в критически важных приложениях, таких как беспилотные автомобили и промышленная автоматизация.
• Повышение конфиденциальности и безопасности данных: Периферийный ИИ снижает риск утечки данных, поскольку они остаются на устройстве. Это делает его идеальным решением для приложений, требующих обработки с соблюдением конфиденциальности.
• Снижение требований к пропускной способности сети: Периферийный ИИ сокращает объём данных, передаваемых в облако, что помогает уменьшить эксплуатационные расходы и повысить эффективность.
• Энергоэффективность: Локальный запуск моделей обеспечивает энергоэффективную работу ИИ, особенно на маломощных периферийных устройствах в средах IoT.

Однако остаются и некоторые проблемы:

• Ограничения оборудования: Периферийные устройства часто обладают ограниченными вычислительными мощностями и объёмом памяти, что может ограничивать сложность запускаемых на них моделей ИИ.
• Проблемы оптимизации моделей: модели ИИ нужно тщательно оптимизировать, чтобы сбалансировать производительность и расход ресурсов на периферийном устройстве.
• Обслуживание и обновления: Управлять обновлениями на распределённых периферийных устройствах может быть сложно, особенно при крупномасштабном развёртывании.
• Высокие первоначальные затраты: Создание периферийной инфраструктуры и установка специализированного оборудования могут потребовать значительных первоначальных вложений, хотя со временем это поможет сократить расходы на облако.

В целом периферийный ИИ и периферийные вычисления предлагают эффективные решения для отраслей, стремящихся использовать устройства с ИИ, которые работают быстрее, безопаснее и эффективнее.

Главные выводы#

Периферийный ИИ и периферийные вычисления меняют подход отраслей к аналитике в реальном времени. Локальная обработка данных позволяет быстрее и эффективнее принимать решения, особенно в приложениях компьютерного зрения.

От промышленного ИИ для IoT до умного видеонаблюдения с периферийным ИИ — сочетание локальных вычислений и интеллектуальных моделей, таких как Ultralytics YOLO11, обеспечивает работу приложений, которым необходимы скорость, конфиденциальность и надёжность.

По мере развития периферийного ИИ отрасли получают доступ к вычислениям ИИ с низкой задержкой, которые легко масштабировать и которые повышают эффективность операций, создавая основу для будущего ИИ на периферии.

Присоединяйся к нашему растущему сообществу! Загляни в наш репозиторий на GitHub, чтобы узнать больше об ИИ. Хочешь начать собственный проект в области компьютерного зрения? Ознакомься с нашими вариантами лицензирования. Узнай больше о решениях в области ИИ в автомобилестроении и Vision AI в здравоохранении на страницах наших решений!