Deep Learning (DL)

El aprendizaje profundo (DL) es una rama del aprendizaje automático (ML) que entrena redes neuronales con muchas capas apiladas para aprender directamente de datos sin procesar, como píxeles, formas de onda de audio y texto. «Profundo» se refiere a esa profundidad: cada capa transforma la salida de la anterior, de modo que la red crea su propia jerarquía de características, desde bordes hasta texturas y objetos completos en una imagen, sin que los ingenieros tengan que diseñar esas características a mano. El aprendizaje profundo impulsa la visión artificial, el reconocimiento del habla, los modelos de lenguaje grandes (LLM) y la IA generativa modernos.

Cómo funciona el aprendizaje profundo#

Una red neuronal es una cadena de capas. Cada capa multiplica su entrada por una matriz de pesos aprendidos, añade un sesgo y pasa el resultado por una función de activación no lineal, como ReLU. La no linealidad es lo que hace útil la profundidad: sin ella, cualquier pila de capas se reduce a una única transformación lineal.

El entrenamiento ajusta los pesos para que las salidas de la red coincidan con las etiquetas de entrenamiento. En cada paso, un lote de datos recorre la red hacia delante, una función de pérdida evalúa el error, la retropropagación calcula cuánto ha contribuido cada peso a ese error y un optimizador, como el descenso de gradiente estocástico (SGD) o Adam, desplaza cada peso en la dirección que reduce el error. Repetir este proceso durante muchas épocas convierte los pesos aleatorios en características útiles. El siguiente ejemplo de PyTorch entrena una sola capa lineal y una red de tres capas con puntos etiquetados según si están dentro de un círculo:

import torch
from torch import nn

torch.manual_seed(0)

# Points inside a circle are class 1: no straight line separates the classes
x = torch.rand(1000, 2) * 2 - 1
y = (x.pow(2).sum(dim=1) < 0.5).float().unsqueeze(1)

# A single linear layer versus stacked layers with nonlinear activations
models = {
    "linear": nn.Linear(2, 1),
    "deep": nn.Sequential(nn.Linear(2, 16), nn.ReLU(), nn.Linear(16, 16), nn.ReLU(), nn.Linear(16, 1)),
}
for name, model in models.items():
    optimizer = torch.optim.Adam(model.parameters(), lr=0.01)
    for step in range(500):
        loss = nn.functional.binary_cross_entropy_with_logits(model(x), y)
        optimizer.zero_grad()
        loss.backward()  # backpropagation computes gradients for every layer
        optimizer.step()
    accuracy = ((model(x) > 0) == y).float().mean()
    print(f"{name}: {accuracy:.1%} accuracy")

El modelo lineal alcanza un 60,8 %, aproximadamente la proporción de puntos que quedan fuera del círculo, porque una frontera recta no puede encerrar una región. El modelo profundo alcanza un 99,9 %: sus capas ocultas curvan la frontera de decisión para ajustarse a los datos. Ultralytics YOLO26 se entrena con el mismo proceso, pero a mucha mayor escala, y model.train() ejecuta pasadas hacia delante, calcula la pérdida y realiza la retropropagación con imágenes etiquetadas en una GPU, si hay una disponible.

Aprendizaje profundo frente a aprendizaje automático#

El aprendizaje profundo es una subcategoría del aprendizaje automático, y la principal diferencia entre ambos está en el origen de las características. Los algoritmos clásicos, como los árboles de decisión, las máquinas de vectores de soporte y los árboles con potenciación del gradiente, aprenden a partir de características definidas por personas, como el importe de una transacción o el número de veces que aparece una palabra. Las redes profundas aprenden las características por sí mismas, por eso dominan en datos no estructurados, como imágenes, audio y texto. Esa capacidad tiene un coste: los modelos profundos suelen necesitar muchos más datos etiquetados, se entrenan en GPU u otros aceleradores y explican menos su razonamiento. En datos tabulares, los árboles con potenciación del gradiente, como XGBoost, siguen siendo una alternativa potente, y el aprendizaje por transferencia reduce la necesidad de datos de los modelos profundos al partir de una red preentrenada con un conjunto de datos grande.

Arquitecturas principales#

• Redes neuronales convolucionales (CNN): Desplazan pequeños filtros aprendidos por una imagen, de modo que el mismo patrón se reconoce en cualquier parte del fotograma. Las CNN son la base de la detección de objetos en tiempo real y la segmentación de imágenes.
• Redes neuronales recurrentes (RNN): Procesan secuencias paso a paso mientras conservan un estado oculto. Variantes como las LSTM dominaron el reconocimiento del habla y la traducción antes que los Transformer.
• Transformer: Usan la autoatención para relacionar en paralelo cada elemento de una secuencia con todos los demás. Se introdujeron en 2017 y son la base de los LLM y los Transformer de visión (ViT).
• Modelos de difusión: Aprenden a eliminar el ruido paso a paso, lo que les permite generar imágenes, vídeo y audio a partir de ruido aleatorio.

Breve historia#

Las ideas que sustentan el aprendizaje profundo tienen décadas de antigüedad. La retropropagación se popularizó con un artículo de 1986 de David Rumelhart, Geoffrey Hinton y Ronald Williams, pero las redes siguieron siendo poco profundas hasta que coincidieron tres ingredientes: grandes conjuntos de datos etiquetados, como ImageNet; GPU lo bastante rápidas para entrenar con ellos; y técnicas como las activaciones ReLU y el dropout. En 2012, AlexNet redujo la tasa de error top-5 de ImageNet al 15,3 %, frente al 26,2 % de la siguiente propuesta, y casi de la noche a la mañana el campo pasó a las redes profundas. Hinton, Yann LeCun y Yoshua Bengio recibieron el Premio Turing de 2018 por este trabajo, y el Premio Nobel de Física de 2024 fue para Hinton y John Hopfield por sus descubrimientos, que hacen posible el aprendizaje automático con redes neuronales artificiales. La profundidad siguió aumentando: las conexiones residuales permitieron entrenar con ResNet redes de 152 capas, y un conjunto de estas ganó el reto de clasificación ImageNet de 2015 con una tasa de error top-5 del 3,57 %.