Docker

Docker è una piattaforma open-source che consente agli sviluppatori di automatizzare il deployment, lo scaling e la gestione delle applicazioni tramite la containerizzazione. Nel contesto dell'intelligenza artificiale e del machine learning, Docker funge da unità software standardizzata che impacchetta il codice e tutte le sue dipendenze, come librerie, strumenti di sistema e impostazioni, in modo che l'applicazione funzioni in modo rapido e affidabile da un ambiente di calcolo all'altro. Questo elimina il comune problema del "funziona sul mio computer", garantendo che una neural network addestrata sul computer portatile di un ricercatore si comporti esattamente allo stesso modo quando viene distribuita su un server cloud massiccio o su un dispositivo edge.

Perché Docker è importante per l'intelligenza artificiale e il machine learning#

Le moderne machine learning operations (MLOps) dipendono fortemente dalla riproducibilità e dalla portabilità. Un progetto di IA spesso comporta un stack software complesso, comprese versioni specifiche di Python, driver CUDA per l'GPU acceleration e framework di deep learning come PyTorch o TensorFlow. Gestire questi elementi manualmente tra team e infrastrutture diverse è soggetto a errori.

Docker semplifica questo processo creando container leggeri e indipendenti. A differenza delle macchine virtuali (VM) tradizionali che richiedono un sistema operativo completo per ciascuna istanza, i container condividono il kernel del sistema operativo della macchina host ma eseguono in spazi utente isolati. Questo li rende significativamente più efficienti in termini di risorse e più veloci da avviare, il che è fondamentale quando si esegue lo scaling dell'infrastruttura di model serving o si eseguono job di training distribuiti.

Applicazioni nel mondo reale#

Docker è onnipresente nel ciclo di vita dell'IA, dalla sperimentazione iniziale al deployment finale.

1. Ambienti di addestramento coerenti: Un team di data science potrebbe utilizzare immagini Docker per condividere un ambiente di sviluppo unificato. Ad esempio, un ricercatore che lavora sull'object detection può prelevare un'immagine predefinita contenente tutti i driver e le librerie necessari. Questo garantisce che, quando addestra un modello YOLO26, i risultati siano riproducibili dai suoi colleghi, indipendentemente dalle differenze hardware sottostanti.

2. Deployment di Edge AI: Nella smart city surveillance, i modelli aggiornati devono essere inviati a migliaia di dispositivi edge, come telecamere di traffico o droni. I container Docker consentono agli ingegneri di impacchettare una nuova versione del modello e distribuirla via etere. Poiché il container include il runtime di inferenza, il processo di aggiornamento è trasparente e non interferisce con il sistema operativo principale del dispositivo.

Docker vs. Kubernetes vs. Macchine virtuali#

È utile distinguere Docker dalle tecnologie correlate per comprenderne il ruolo specifico:

• Docker vs. Macchine virtuali (VM): le VM virtualizzano l'hardware, il che significa che ogni VM esegue un sistema operativo completo (come Windows o Linux) sopra un hypervisor. Questo consuma molta memoria e CPU. Docker virtualizza il sistema operativo, rendendo i container molto più piccoli e veloci delle VM.
• Docker vs. Kubernetes: Queste tecnologie sono complementari e non in competizione. Docker è lo strumento utilizzato per creare ed eseguire i singoli container. Kubernetes è una piattaforma di orchestrazione di container che gestisce cluster di container Docker, occupandosi di attività quali l'auto-scaling, il bilanciamento del carico e l'auto-riparazione in ambienti di cloud computing su larga scala.

Esempio: eseguire l'inferenza in un container#

Il seguente esempio mostra l'aspetto di uno script Python all'interno di un container Docker progettato per la computer vision. Questo script utilizza il pacchetto ultralytics per caricare un modello ed eseguire l'inferenza. L'ambiente del container garantisce che le dipendenze corrette (come opencv-python e torch) siano già presenti.

from ultralytics import YOLO

# Load the YOLO26 model (weights are typically included in the Docker image)
model = YOLO("yolo26n.pt")

# Perform inference on an image source
# In a containerized microservice, this might process incoming API requests
results = model.predict("https://ultralytics.com/images/bus.jpg")

# Log the detection results
print(f"Detected {len(results[0].boxes)} objects in the image.")

Integrazione di Docker nel tuo flusso di lavoro#

Per iniziare con la containerizzazione, gli sviluppatori definiscono solitamente un file Dockerfile, che è un documento di testo contenente tutti i comandi per assemblare un'immagine. Una volta create, queste immagini possono essere archiviate in registri come Docker Hub o il NVIDIA NGC Catalog, che offre container ottimizzati per GPU.

Per chi desidera semplificare il processo di addestramento e deployment senza gestire manualmente i Dockerfile, la Ultralytics Platform offre strumenti integrati che gestiscono la complessità degli ambienti cloud. Ciò consente agli utenti di concentrarsi sul miglioramento della model accuracy anziché sulla configurazione dell'infrastruttura. Inoltre, puoi esplorare la nostra Docker Quickstart Guide per scoprire come eseguire immediatamente i modelli Ultralytics nei container.