Informatica senza server

Il serverless computing è un modello di esecuzione del cloud in cui il cloud provider gestisce dinamicamente l'allocazione e il provisioning dei server. Questo approccio consente agli sviluppatori di creare ed eseguire applicazioni e servizi senza pensare all'infrastruttura server sottostante. Invece di fornire e gestire i server, gli sviluppatori distribuiscono il loro codice sotto forma di funzioni. Queste funzioni vengono eseguite dal provider su richiesta, scalando automaticamente da poche richieste al giorno a migliaia al secondo. Questo modello pay-per-use lo rende molto efficiente per i carichi di lavoro con traffico variabile o imprevedibile, uno scenario comune nelle applicazioni di Machine Learning (ML).

Come funziona l'elaborazione senza server

Il cuore del serverless computing è il modello Function-as-a-Service (FaaS). In questa configurazione, la logica dell'applicazione è suddivisa in piccole funzioni a scopo singolo che vengono attivate da eventi specifici. Un evento può essere una richiesta HTTP da un'applicazione web, un nuovo messaggio in una coda o il caricamento di un file su un cloud storage.

Quando si verifica un evento, la piattaforma cloud esegue immediatamente la funzione corrispondente. La piattaforma gestisce tutti gli aspetti della gestione delle risorse, compreso il provisioning dell'istanza di calcolo, la gestione del sistema operativo e la garanzia di alta disponibilità e scalabilità. Una volta terminata l'esecuzione della funzione, le risorse vengono rilasciate. In questo modo si elimina il tempo di inattività del server e si garantisce che si paghi solo per le risorse di calcolo esattamente consumate dall'applicazione. Questo è un principio fondamentale dei moderni MLOp.

Applicazioni nell'IA e nell'apprendimento automatico

L'architettura serverless è particolarmente adatta a varie fasi del ciclo di vita dell'AI/ML, soprattutto per l'inferenza dei modelli.

• Pipeline di dati automatizzate: Le funzioni serverless possono automatizzare le attività di preelaborazione dei dati. Ad esempio, una funzione può essere attivata ogni volta che una nuova immagine viene caricata su un servizio di archiviazione come Amazon S3. La funzione può quindi ridimensionare automaticamente l'immagine, normalizzare i valori dei pixel e memorizzarla in un formato pronto per l'addestramento del modello.
• Servizio di modelli a costi contenuti: Molte applicazioni di intelligenza artificiale non richiedono un'elaborazione costante e ad alto volume. Un endpoint serverless per un modello di Computer Vision consente di distribuire modelli come Ultralytics YOLO senza dover mantenere un server costantemente in funzione e spesso costoso. La funzione si attiva su richiesta per elaborare una richiesta e si spegne successivamente, riducendo in modo significativo i costi operativi. Questo approccio semplifica l'implementazione del modello per le applicazioni con modelli di utilizzo intermittenti.

Esempi del mondo reale

1. Analisi delle immagini su richiesta: Un'applicazione mobile consente agli utenti di caricare foto di piante per l'identificazione. Ogni caricamento di foto attiva una funzione serverless tramite un gateway API. La funzione carica un modello di classificazione delle immagini, analizza la foto per identificare la specie vegetale e restituisce il risultato all'app dell'utente. L'intero processo avviene in pochi secondi senza un server dedicato.
2. Elaborazione di chatbot in tempo reale: In un chatbot del servizio clienti, ogni messaggio dell'utente è un evento che attiva una funzione serverless. La funzione chiama un modello di elaborazione del linguaggio naturale (NLP) per capire l'intento dell'utente. In base all'analisi, potrebbe essere attivata un'altra funzione per interrogare un database o chiamare un'altra API, seguendo un'architettura event-driven.

Serverless e concetti correlati

È importante distinguere il serverless computing dalle tecnologie correlate:

• Cloud Computing vs. Serverless: Il cloud computing è l'ampia fornitura di servizi informatici su Internet. Serverless è un modello di esecuzione specifico all'interno del cloud computing che enfatizza la gestione automatica delle risorse, astraendo completamente dalla gestione dei server. Altri modelli di cloud, come l'Infrastructure as a Service (IaaS), richiedono ancora agli utenti il provisioning e la gestione delle macchine virtuali.
• Containerizzazione vs. Serverless: Gli strumenti di containerizzazione come Docker impacchettano le applicazioni e le loro dipendenze. Le piattaforme di orchestrazione come Kubernetes automatizzano la distribuzione e la scalabilità di questi container. Pur riducendo l'onere operativo, si continua a gestire l'infrastruttura cluster sottostante. Le piattaforme serverless astraggono completamente questo livello; si gestisce solo il codice delle funzioni. Scoprite come utilizzare Docker con Ultralytics.
• Edge Computing vs. Serverless: L'Edge Computing prevede l'elaborazione dei dati a livello locale su dispositivi vicini all'origine dei dati. Al contrario, il serverless computing esegue funzioni in centri dati cloud centralizzati. I due sistemi possono essere complementari; un dispositivo Edge AI (come uno in esecuzione su un NVIDIA Jetson) potrebbe eseguire un filtraggio iniziale e poi attivare una funzione serverless nel cloud per un'analisi più intensiva.

Le principali piattaforme serverless includono AWS Lambda, Google Cloud Functions e Azure Functions. Questi servizi forniscono l'infrastruttura per costruire ed eseguire efficacemente applicazioni AI/ML serverless. Piattaforme come Ultralytics HUB possono semplificare ulteriormente la distribuzione e la gestione dei modelli all'interno di varie architetture, comprese le configurazioni serverless.