Serverless Computing

Il computing serverless è un modello di esecuzione cloud che consente agli sviluppatori di creare ed eseguire applicazioni senza la complessità della gestione dell'infrastruttura. In questo paradigma, il provider cloud gestisce dinamicamente l'allocazione e il provisioning dei server, astraendo dall'utente l'hardware sottostante e i sistemi operativi. Il codice viene eseguito in container senza stato attivati da eventi specifici, come una richiesta HTTP, una modifica al database o il caricamento di un file. Questo approccio è particolarmente rilevante per le moderne strategie di cloud computing, poiché consente alle organizzazioni di pagare solo il tempo di calcolo consumato, rispettando automaticamente i requisiti di scalabilità passando da zero a migliaia di istanze in base alla domanda di traffico.

Il funzionamento del serverless per l'IA#

Alla base del computing serverless c'è il concetto di Funzione come servizio (FaaS), in cui le applicazioni vengono suddivise in singole funzioni che eseguono attività distinte. Per chi lavora nel Machine Learning (ML), questo offre un percorso semplificato per il deployment dei modelli. Invece di mantenere un server dedicato inattivo nei periodi di poco traffico, una funzione serverless può avviarsi su richiesta per elaborare i dati e arrestarsi immediatamente dopo.

Tuttavia, un aspetto fondamentale di questa architettura è il "cold start", ovvero la latenza che si verifica quando una funzione viene richiamata per la prima volta o dopo un periodo di inattività. Per ridurla, gli sviluppatori usano spesso architetture leggere come YOLO26 o tecniche come la quantizzazione dei modelli per garantire tempi di caricamento rapidi, essenziali per mantenere bassa la latenza di inferenza.

Applicazioni reali nel machine learning#

Le architetture serverless sono particolarmente efficaci per i flussi di lavoro e le pipeline di dati di computer vision (CV) guidati dagli eventi.

• Preprocessing automatizzato dei dati: Quando un utente carica un dataset grezzo su un servizio di storage come Amazon S3, ciò può attivare una funzione serverless per eseguire immediatamente il preprocessing dei dati. La funzione può ridimensionare le immagini, normalizzare i valori dei pixel o convalidare i formati dei file prima che i dati entrino in una pipeline di dati di addestramento, garantendo la coerenza senza interventi manuali.
• Videosorveglianza intelligente su richiesta: Nell'ambito dell'IA nella sicurezza, un sensore di movimento può attivare una telecamera per acquisire un fotogramma. Questo evento richiama una funzione cloud che ospita un modello di rilevamento degli oggetti. Il modello analizza l'immagine per distinguere tra un animale innocuo e un potenziale intruso, inviando un avviso solo quando necessario. Ciò riduce drasticamente i costi di larghezza di banda e storage rispetto allo streaming continuo.

Esempio Python: handler di inferenza serverless#

Il codice seguente illustra un handler serverless concettuale. Inizializza un'istanza globale del modello per sfruttare i "warm start" (quando il container rimane attivo tra una richiesta e l'altra) ed elabora il percorso di un'immagine in ingresso.

from ultralytics import YOLO

# Initialize the model outside the handler to cache it for subsequent requests
# YOLO26n is ideal for serverless due to its compact size and speed
model = YOLO("yolo26n.pt")


def lambda_handler(event, context):
    """Simulates a serverless function handler triggered by an event. 'event' represents the input payload containing
    the image source.
    """
    image_source = event.get("url", "https://ultralytics.com/images/bus.jpg")

    # Perform inference
    results = model(image_source)

    # Return prediction summary
    return {
        "statusCode": 200,
        "body": {
            "objects_detected": len(results[0].boxes),
            "top_class": results[0].names[int(results[0].boxes.cls[0])] if len(results[0].boxes) > 0 else "None",
        },
    }

Distinzione tra tecnologie correlate#

Per comprendere il computing serverless è necessario distinguerlo da altri modelli di infrastruttura spesso utilizzati in MLOps.

• Serverless vs. Edge Computing: Sebbene entrambi mirino a ottimizzare l'efficienza, operano in posizioni diverse. L'edge computing elabora i dati localmente sul dispositivo, ad esempio una telecamera intelligente o un dispositivo IoT, per ridurre al minimo il tempo di trasferimento sulla rete. Il computing serverless avviene in un cloud pubblico centralizzato. Le soluzioni ibride spesso elaborano i dati iniziali all'edge e inviano le anomalie complesse alle funzioni cloud serverless per un'analisi più approfondita delle immagini mediche o una revisione forense.
• Serverless vs. Kubernetes: Kubernetes è una piattaforma di orchestrazione per la containerizzazione che offre agli sviluppatori un controllo granulare sull'ambiente del cluster, sulla rete e sui pod. Sebbene sia potente, richiede un notevole impegno di gestione. Le piattaforme serverless, come Google Cloud Functions o Azure Functions, astraggono completamente questa orchestrazione, consentendo ai team di concentrarsi esclusivamente sulla logica del codice anziché sullo stato di salute dei nodi.
• Serverless vs. IaaS: Infrastruttura come servizio (IaaS) fornisce risorse di calcolo virtualizzate tramite Internet, come Amazon EC2. Con IaaS, l'utente è responsabile dell'applicazione delle patch al sistema operativo e della gestione del middleware. Al contrario, il computing serverless elimina queste responsabilità operative, consentendo agli sviluppatori di concentrarsi su attività di livello superiore, come il miglioramento dell'accuratezza della classificazione delle immagini.

Sfruttando le architetture serverless, gli sviluppatori possono distribuire soluzioni di IA affidabili, convenienti e in grado di gestire carichi di lavoro imprevedibili, utilizzando strumenti come la Ultralytics Platform per semplificare il processo di addestramento e gestione dei modelli prima della distribuzione.