Бессерверные вычисления

Бессерверные вычисления - это модель облачных вычислений, при которой поставщик облачных услуг динамически управляет распределением и Предоставление серверов, что позволяет разработчикам создавать и запускать приложения без управления базовой инфраструктурой. В этой архитектуре код выполняется в контейнерах без статических данных, которые запускаются по определенным событиям, автоматически масштабируясь от нуля до тысяч запросов мгновенно. Такая модель оплаты по факту использования очень эффективна для рабочих нагрузок с переменным трафиком, что делает ее краеугольным камнем современной Разработка приложений машинного обучения (ML) и стратегий облачных вычислений.

Механика бессерверных технологий

В основе бессерверных вычислений лежит парадигма "функция как услуга" (Function-as-a-Service, FaaS). Вместо развертывания монолитного приложения, логика разбивается на отдельные функции, выполняющие отдельные задачи. Эти функции управляемые событиями, то есть они запускаются только при выполнении какого-либо действия, например HTTP-запроса через API-шлюз, загрузка файла на такие сервисы хранения данных, как Amazon S3 или обновление базы данных.

Поставщик облачных услуг берет на себя все эксплуатационные расходы, включая обслуживание операционной системы, выделение мощностей и масштабирование. выделение мощностей и масштабирование. Такая абстракция позволяет командам полностью сосредоточиться на написании кода для компьютерного зрения или анализа данных, что значительно значительно ускоряя жизненный цикл разработки, определенный Лучшие практики MLOps.

Бессерверные технологии в искусственном интеллекте и машинном обучении

Бессерверные архитектуры особенно выгодны для развертывания моделей ИИ благодаря своей способности обрабатывать "всплески" трафика без затрат на простаивающие серверы.

• Умозаключения по требованию: Размещение модели для в режиме реального времени на выделенном сервере может быть дорого, если запросы поступают нерегулярно. Бессерверные функции могут загружать такие модели, как YOLO11 только тогда, когда пользователь делает запрос, обрабатывая изображение обрабатывать изображения и возвращать прогнозы с минимальными затратами.
• Конвейеры предварительной обработки данных: Бессерверные функции идеально подходят для задач предварительной обработки данных. Например, загрузка необработанного набора данных может вызвать функции для изменения размера изображений, нормализации значений пикселей или преобразования форматов файлов, подготавливая их к обучению модели.
• Переобучение моделей: В управляемом событиями рабочем процессе значительное падение производительности модели, обнаруженные Инструменты мониторинга могут автоматически запускать конвейер переобучения с использованием свежих данных.

Пример на Python : Обработчик бессерверных выводов

Следующий код иллюстрирует концептуальную функцию-обработчик, которая загружает легкую модель Ultralytics для выполнения обнаружения объектов на пути изображения, предоставленном триггером события.

from ultralytics import YOLO

# Initialize the model outside the handler to cache it for warm starts
# YOLO11n is chosen for its small size and speed, ideal for serverless environments
model = YOLO("yolo11n.pt")


def lambda_handler(event, context):
    """Simulated serverless handler for performing inference. 'event' contains the input data, e.g., path to an image.
    """
    image_path = event.get("image_path", "data/images/bus.jpg")

    # Run inference
    results = model(image_path)

    # Return the count of detected objects
    return {"status": "success", "objects_detected": len(results[0].boxes)}

Применение в реальном мире

1. Умные системы безопасности: Домашние камеры безопасности могут использовать Edge AI для detect движения и загрузки снимка в облако. Это событие загрузки запускает бессерверную функцию (например, на платформе AWS Lambda или Google Cloud Functions), которая запускает более точную модель обнаружения чтобы определить, было ли движение вызвано человеком или домашним животным, что позволяет снизить количество ложных срабатываний.
2. Сельскохозяйственный анализ: В ИИ в сельском хозяйстве, дроны, снимающие полевые беспилотники, делающие снимки полей, могут загружать данные в центральный бакет. Это запускает параллельные бессерверные функции для анализа состояния посевов по тысячам изображений одновременно, используя массивный параллелизм облака, чтобы завершить работу за считанные минуты. а не за несколько часов.

Различение смежных понятий

Для того чтобы понять, что такое serverless, необходимо отличить его от похожих технологий:

• Бессерверность против контейнеризации: В то время как бессерверные системы часто используют контейнеры под капотом, технологии контейнеризации, такие как Docker и платформы оркестровки, такие как Kubernetes, требуют от пользователя управления контейнером жизненным циклом контейнера и ресурсами кластера. Бессерверные технологии полностью абстрагируются от этого.
• Бессерверные и граничные вычисления: Пограничные вычисления обрабатывают данные локально на устройства (например, встроенной системы или IoT-датчика), чтобы минимизировать задержки. Бессерверные вычисления выполняются в централизованной облачной среде. Гибридные подходы часто используют пограничные устройства для немедленной фильтрации и бессерверные вычисления для тяжелого глубокого анализа.
• Бессерверные технологии против PaaS: Платформа как услуга (PaaS) предоставляет основу для создания приложений, но часто требует дополнительной настройки количества экземпляров или среды выполнения по сравнению с бессерверной платформой, которая ориентирована исключительно на события.

Используя бессерверные вычисления, организации могут развернуть надежные приложения компьютерного зрения, которые являются одновременно экономически эффективными и способными к глобальному масштабированию, что позволяет напрямую увязать расходы на инфраструктуру с ценностью бизнеса.