Recurrent Neural Network (RNN)

Un Réseau de neurones récurrent (RNN) est un type de réseau de neurones artificiels spécialement conçu pour reconnaître des modèles dans des séquences de données, comme du texte, des génomes, de l'écriture manuscrite ou le langage parlé. Contrairement aux réseaux à propagation avant traditionnels qui supposent que toutes les entrées (et sorties) sont indépendantes les unes des autres, les RNN conservent une forme de mémoire. Cette mémoire interne leur permet de traiter les entrées en comprenant les informations précédentes, ce qui les rend particulièrement adaptés aux tâches où le contexte et l'ordre temporel sont critiques. Cette architecture imite la façon dont les humains traitent les informations : lire une phrase, par exemple, nécessite de se souvenir des mots précédents pour comprendre le mot actuel.

Link to this sectionComment fonctionnent les RNN#

L'innovation fondamentale d'un RNN est sa structure en boucle. Dans un réseau à propagation avant standard, l'information circule dans une seule direction : de l'entrée vers la sortie. En revanche, un RNN possède une boucle de rétroaction qui permet à l'information de persister. À mesure que le réseau traite une séquence, il maintient un "état caché" — un vecteur qui agit comme la mémoire à court terme du réseau. À chaque étape temporelle, le RNN prend l'entrée actuelle et l'état caché précédent pour produire une sortie et mettre à jour l'état caché pour l'étape suivante.

Cette capacité de traitement séquentiel est essentielle pour le Traitement automatique du langage naturel (NLP) et l'analyse de séries temporelles. Cependant, les RNN standard ont souvent des difficultés avec les longues séquences en raison du problème de gradient disparaissant, où le réseau oublie les entrées antérieures à mesure que la séquence s'allonge. Cette limite a conduit au développement de variantes plus avancées comme les réseaux Long Short-Term Memory (LSTM) et les Gated Recurrent Units (GRUs), qui introduisent des mécanismes pour mieux réguler le flux d'informations sur de plus longues périodes.

Link to this sectionApplications concrètes#

Les réseaux de neurones récurrents ont transformé de nombreuses industries en permettant aux machines de comprendre les données séquentielles. Voici deux exemples marquants :

1. Traduction automatique : Des services comme Google Translate reposaient initialement fortement sur des architectures basées sur les RNN (plus précisément des modèles séquence à séquence) pour convertir du texte d'une langue à une autre. Le réseau lit la phrase d'entrée complète (par exemple, en anglais) et construit un vecteur de contexte, qu'il utilise ensuite pour générer la sortie traduite (par exemple, en français) mot par mot, garantissant ainsi la cohérence grammaticale.

2. Saisie prédictive et autocorrection : Lorsque tu tapes sur un smartphone, le clavier suggère le mot probable suivant. Ceci est souvent alimenté par un modèle de langage entraîné avec des RNN. Le modèle analyse la séquence de mots que tu as déjà tapés pour prédire le prochain mot le plus probable, améliorant ainsi ta vitesse et ta précision. Une logique similaire s'applique aux systèmes de reconnaissance vocale qui transcrivent l'audio parlé en texte.

Link to this sectionRNN vs CNN et Transformer#

It is helpful to distinguish RNNs from other major architectures. A Convolutional Neural Network (CNN) is primarily designed for spatial data, such as images, processing pixel grids to identify shapes and objects. For instance, Ultralytics YOLO26 uses a powerful CNN backbone for real-time object detection. While a CNN excels at "what is in this image?", an RNN excels at "what happens next in this video?".

Plus récemment, l'architecture Transformer a largement supplanté les RNN pour de nombreuses tâches complexes de NLP. Les Transformer utilisent un mécanisme d'attention pour traiter des séquences entières en parallèle plutôt que de manière séquentielle. Cependant, les RNN restent très efficaces pour des applications de streaming spécifiques à faible latence et contraintes en ressources, et sont plus simples à déployer sur des appareils en périphérie pour des prévisions de séries temporelles simples.

Link to this sectionExemple d'implémentation PyTorch#

Bien que les tâches modernes de vision par ordinateur reposent souvent sur des CNN, les modèles hybrides peuvent utiliser des RNN pour analyser les caractéristiques temporelles extraites des images vidéo. Voici ci-dessous un exemple simple et exécutable utilisant PyTorch pour créer une couche RNN de base qui traite une séquence de données.

import torch
import torch.nn as nn

# Define a basic RNN layer
# input_size: number of features in the input (e.g., 10 features per time step)
# hidden_size: number of features in the hidden state (memory)
# batch_first: input shape will be (batch, seq, feature)
rnn = nn.RNN(input_size=10, hidden_size=20, num_layers=1, batch_first=True)

# Create a dummy input: Batch size 1, Sequence length 5, Features 10
input_seq = torch.randn(1, 5, 10)

# Forward pass through the RNN
# output contains the hidden state for every time step
# hn contains the final hidden state
output, hn = rnn(input_seq)

print(f"Output shape: {output.shape}")  # Expected: torch.Size([1, 5, 20])
print(f"Final hidden state shape: {hn.shape}")  # Expected: torch.Size([1, 1, 20])

Link to this sectionDéfis et perspectives d'avenir#

Malgré leur utilité, les RNN font face à des obstacles computationnels. Le traitement séquentiel empêche la parallélisation, rendant l'entraînement plus lent par rapport aux Transformer sur des GPU. De plus, gérer le problème de gradient explosif nécessite un réglage des hyperparamètres minutieux et des techniques comme l'écrêtage de gradient.

Néanmoins, les RNN restent un concept fondamental en Apprentissage profond (DL). Ils font partie intégrante de la compréhension de l'évolution de l'Intelligence artificielle (IA) et sont encore largement utilisés dans des systèmes simples de détection d'anomalies pour les capteurs IoT. Pour les développeurs qui construisent des pipelines complexes — comme la combinaison de modèles de vision avec des prédicteurs de séquence — la gestion des jeux de données et des flux de travail d'entraînement est cruciale. La Plateforme Ultralytics simplifie ce processus, offrant des outils pour gérer les données et déployer des modèles efficacement dans divers environnements.