Glossario

Apprendimento per rinforzo profondo

Scoprite la potenza del deep reinforcement learning, in cui l'intelligenza artificiale apprende comportamenti complessi per risolvere le sfide nei settori dei giochi, della robotica, della sanità e altro ancora.

Il Deep Reinforcement Learning (DRL) è un sottocampo del Machine Learning (ML) che combina i principi del Reinforcement Learning (RL) con la potenza del Deep Learning (DL). Consente a un agente AI di apprendere strategie decisionali ottimali attraverso tentativi ed errori in ambienti complessi e ad alta dimensionalità. Utilizzando reti neurali profonde, i modelli DRL possono elaborare input sensoriali grezzi, come i pixel di un'immagine o i dati di un sensore, senza dover ricorrere all'ingegnerizzazione manuale delle caratteristiche. Ciò consente loro di affrontare problemi che in precedenza erano intrattabili per i metodi RL tradizionali.

Come funziona l'apprendimento per rinforzo profondo

In una tipica configurazione DRL, un agente interagisce con un ambiente in una serie di fasi temporali. A ogni passo, l'agente osserva lo stato dell'ambiente, compie un'azione e riceve una ricompensa o una penalità. L'obiettivo è quello di apprendere una politica - una strategia di scelta delle azioni - che massimizzi la ricompensa totale cumulativa nel tempo. La parte "profonda" della DRL deriva dall'uso di una rete neurale profonda per approssimare la politica stessa o una funzione di valore che stima la desiderabilità degli stati o delle azioni. Questa rete viene addestrata utilizzando algoritmi come la discesa del gradiente per regolare i pesi del modello in base alle ricompense ricevute. L'intero processo è formalizzato utilizzando un processo decisionale di Markov (MDP), che fornisce le basi matematiche per modellare il processo decisionale sequenziale.

Distinzione da altri concetti

È importante distinguere il DRL dai termini correlati:

  • Apprendimento per rinforzo (RL): Il DRL è una forma moderna e avanzata di RL. Mentre la RL tradizionale si affida spesso a tabelle o funzioni lineari per mappare gli stati alle azioni, ha difficoltà a gestire grandi spazi di stati (ad esempio, tutte le possibili combinazioni di pixel su uno schermo). Il DRL supera questa limitazione utilizzando reti neurali profonde come potenti approssimatori di funzioni.
  • Apprendimento profondo (DL): Il DL è la tecnologia che consente al DRL di gestire input complessi. Mentre il DL è comunemente associato all'apprendimento supervisionato, in cui i modelli imparano da serie di dati etichettati, il DRL impara dal feedback sparso delle ricompense, rendendolo adatto a compiti di ottimizzazione e controllo.
  • Apprendimento supervisionato: Questo paradigma di apprendimento richiede un set di dati etichettati per addestrare un modello a fare previsioni. Al contrario, il DRL non ha bisogno di dati etichettati, ma genera i propri dati attraverso l'interazione con l'ambiente, guidata da un segnale di ricompensa. Questo lo rende molto efficace per i problemi in cui i dati etichettati sono scarsi o non disponibili.

Applicazioni del mondo reale

La DRL ha permesso di compiere progressi in vari settori complessi:

  • Giocare: Uno degli esempi più famosi è AlphaGo di DeepMind, che ha sconfitto il miglior giocatore di Go al mondo. L'agente DRL ha imparato giocando milioni di partite contro se stesso, utilizzando lo stato visivo della scacchiera per prendere decisioni strategiche. Allo stesso modo, OpenAI Five ha imparato a giocare al complesso videogioco Dota 2 a un livello sovrumano.
  • Robotica: La DRL viene utilizzata per addestrare i robot a svolgere compiti complessi come la manipolazione di oggetti, la locomozione e l'assemblaggio. Ad esempio, un robot può imparare a raccogliere oggetti sconosciuti elaborando direttamente gli input della sua telecamera e ricevendo ricompense positive per le prese riuscite, un argomento esplorato nelle discussioni sul ruolo dell'intelligenza artificiale nella robotica.
  • Veicoli autonomi: Il DRL aiuta a sviluppare sofisticate politiche di controllo per la navigazione, la pianificazione del percorso e il processo decisionale in scenari di traffico dinamici, come illustrato negli articoli sull'intelligenza artificiale nelle auto a guida autonoma.
  • Gestione delle risorse: La DRL può ottimizzare sistemi complessi come le reti energetiche, il controllo dei segnali stradali e l'ottimizzazione delle reazioni chimiche. Un esempio è l'utilizzo della DRL per gestire il flusso del traffico nelle città intelligenti.
  • Sistemi di raccomandazione: Il DRL può ottimizzare la sequenza di raccomandazioni mostrate a un utente per massimizzare il coinvolgimento o la soddisfazione a lungo termine.
  • Assistenza sanitaria: La DRL è in fase di studio per scoprire le politiche di trattamento e i dosaggi ottimali dei farmaci in base agli stati del paziente, contribuendo al più ampio campo dell'IA nella sanità.

Rilevanza nell'ecosistema dell'IA

Il Deep Reinforcement Learning è all'avanguardia nella ricerca sull'intelligenza artificiale e spinge i confini dell'autonomia delle macchine. Mentre aziende come Ultralytics si concentrano principalmente su modelli di visione all'avanguardia come Ultralytics YOLO per compiti come il rilevamento di oggetti e la segmentazione di immagini, i risultati di questi sistemi di percezione sono spesso input cruciali per gli agenti DRL. Ad esempio, un robot potrebbe utilizzare un modello Ultralytics YOLO distribuito tramite Ultralytics HUB per percepire l'ambiente (rappresentazione dello stato) prima che una politica DRL decida l'azione successiva. La comprensione del DRL fornisce un contesto per capire come la percezione avanzata si inserisca in sistemi autonomi più ampi. Questo sviluppo è spesso facilitato da framework come PyTorch(homepage di PyTorch) e TensorFlow(homepage di TensorFlow) e testato in ambienti di simulazione come Gymnasium. Organizzazioni di ricerca leader come DeepMind e organismi accademici come l'Association for the Advancement of Artificial Intelligence (AAAI) continuano a guidare i progressi in questo campo entusiasmante.

Unitevi alla comunità di Ultralytics

Entrate a far parte del futuro dell'IA. Connettetevi, collaborate e crescete con gli innovatori globali.

Iscriviti ora
Link copiato negli appunti