Calcolo Serverless

Il serverless computing è un modello di esecuzione cloud in cui il provider cloud gestisce dinamicamente l'allocazione e il provisioning dei server. Questo approccio consente agli sviluppatori di creare ed eseguire applicazioni e servizi senza preoccuparsi dell'infrastruttura server sottostante. Invece di effettuare il provisioning e la gestione dei server, gli sviluppatori distribuiscono il loro codice sotto forma di funzioni. Queste funzioni vengono eseguite dal provider su richiesta, scalando automaticamente da poche richieste al giorno a migliaia al secondo. Questo modello pay-per-use lo rende altamente efficiente per carichi di lavoro con traffico variabile o imprevedibile, uno scenario comune nelle applicazioni di Machine Learning (ML).

Come funziona il Serverless Computing

Il nucleo del serverless computing è il modello Function-as-a-Service (FaaS). In questa configurazione, la logica dell'applicazione è suddivisa in piccole funzioni monouso che vengono attivate da eventi specifici. Un evento potrebbe essere una richiesta HTTP da un'applicazione web, un nuovo messaggio in una coda o un file caricato in un archivio cloud.

Quando si verifica un evento trigger, la piattaforma cloud esegue istantaneamente la funzione corrispondente. La piattaforma gestisce tutti gli aspetti della gestione delle risorse, tra cui il provisioning dell'istanza di calcolo, la gestione del sistema operativo e la garanzia di elevata disponibilità e scalabilità. Una volta che la funzione ha terminato l'esecuzione, le risorse vengono rilasciate. Ciò elimina i tempi di inattività del server e garantisce che tu paghi solo per le esatte risorse di calcolo utilizzate dalla tua applicazione. Questo è un principio fondamentale del moderno MLOps.

Applicazioni nell'AI e nel Machine Learning

L'architettura serverless è particolarmente adatta per varie fasi del ciclo di vita AI/ML, specialmente per l'inferenza del modello.

• Pipeline di dati automatizzate: Le funzioni serverless possono automatizzare le attività di pre-elaborazione dei dati. Ad esempio, una funzione può essere attivata ogni volta che una nuova immagine viene caricata su un servizio di archiviazione come Amazon S3. La funzione può quindi ridimensionare automaticamente l'immagine, normalizzare i valori dei pixel e memorizzarla in un formato pronto per il training del modello.
• Serving di modelli efficiente in termini di costi: Molte applicazioni di IA non richiedono un'elaborazione costante e ad alto volume. Un endpoint serverless per un modello di Computer Vision consente di implementare modelli come Ultralytics YOLO senza mantenere un server costantemente in esecuzione e spesso costoso. La funzione si attiva su richiesta per elaborare una richiesta e si spegne successivamente, riducendo significativamente i costi operativi. Questo approccio semplifica l'implementazione del modello per applicazioni con modelli di utilizzo intermittenti.

Esempi reali

1. Analisi delle immagini su richiesta: Un'app mobile consente agli utenti di caricare foto di piante per l'identificazione. Ogni caricamento di foto attiva una funzione serverless tramite un API Gateway. La funzione carica un modello di classificazione delle immagini, analizza la foto per identificare la specie della pianta e restituisce il risultato all'app dell'utente. L'intero processo avviene in pochi secondi senza un server dedicato.
2. Elaborazione di chatbot in tempo reale: In un chatbot del servizio clienti, ogni messaggio dell'utente è un evento che attiva una funzione serverless. La funzione chiama un modello di elaborazione del linguaggio naturale (NLP) per comprendere l'intento dell'utente. Sulla base dell'analisi, un'altra funzione potrebbe essere attivata per interrogare un database o chiamare un'altra API, seguendo un'architettura guidata dagli eventi.

Serverless Vs. Concetti correlati

È importante distinguere il serverless computing da tecnologie correlate:

• Cloud Computing vs. Serverless: Il Cloud Computing è l'ampia fornitura di servizi di calcolo tramite Internet. Serverless è un modello di esecuzione specifico all'interno del cloud computing che enfatizza la gestione automatica delle risorse, astraendo completamente la gestione del server. Altri modelli cloud come l'Infrastructure as a Service (IaaS) richiedono ancora agli utenti di effettuare il provisioning e la gestione delle macchine virtuali.
• Containerizzazione vs. Serverless: Gli strumenti di containerizzazione come Docker impacchettano le applicazioni e le loro dipendenze. Le piattaforme di orchestrazione come Kubernetes automatizzano il deployment e lo scaling di questi container. Sebbene ciò riduca l'onere operativo, è comunque necessario gestire l'infrastruttura del cluster sottostante. Le piattaforme serverless astraggono completamente questo livello; si gestisce solo il codice della funzione. Scopri come utilizzare Docker con Ultralytics.
• Edge Computing vs. Serverless: L'Edge Computing implica l'elaborazione dei dati localmente su dispositivi vicini alla fonte dei dati. Al contrario, il serverless computing esegue funzioni in data center cloud centralizzati. I due possono essere complementari; un dispositivo Edge AI (come uno in esecuzione su un NVIDIA Jetson) potrebbe eseguire il filtraggio iniziale e quindi attivare una funzione serverless nel cloud per un'analisi più intensiva.

Le principali piattaforme serverless includono AWS Lambda, Google Cloud Functions e Azure Functions. Questi servizi forniscono l'infrastruttura per creare ed eseguire efficacemente applicazioni di AI/ML serverless. Piattaforme come Ultralytics HUB possono ulteriormente semplificare la distribuzione e la gestione dei modelli all'interno di varie architetture, incluse le configurazioni serverless.