Geometric Deep Learning (GDL)

El aprendizaje profundo geométrico (GDL) es la rama del aprendizaje profundo que diseña redes neuronales en torno a la estructura y las simetrías de sus datos, tanto si estos se encuentran en una cuadrícula de píxeles, un grafo, un conjunto de puntos, una esfera o una superficie curva. Su idea central es que un modelo debe responder de forma predecible cuando la entrada cambia de una manera que no altera su significado, como al desplazar una imagen, cambiar las etiquetas de los átomos de una molécula o rotar un escaneo 3D. Michael Bronstein, Joan Bruna, Yann LeCun, Arthur Szlam y Pierre Vandergheynst popularizaron el término en su estudio de 2017 Geometric Deep Learning: Going Beyond Euclidean Data, y el libro introductorio de Bronstein, Bruna, Taco Cohen y Petar Veličković de 2021 organizó el campo en torno a cinco dominios: cuadrículas, grupos, grafos, geodésicas y calibres.

Invariancia, equivariancia y el esquema de GDL#

Dos propiedades hacen casi todo el trabajo. Una función es invariante ante una transformación cuando su salida no cambia, como la etiqueta de clasificación de imágenes, que debería seguir siendo «gato» cuando el gato se mueve. Es equivariante cuando su salida se transforma junto con la entrada, como debería desplazarse con el objeto una máscara de segmentación semántica. El esquema de GDL apila capas equivariantes que combinan información entre vecinos, pasos de agrupamiento que simplifican el dominio y una lectura final invariante cuando la tarea requiere una única respuesta. Al elegir el grupo de simetría del dominio se obtienen arquitecturas conocidas:

La convolución comparte un núcleo entre todas las posiciones de los píxeles, así que una red neuronal convolucional (CNN) es el caso equivariante a la traslación en una cuadrícula. Una red neuronal de grafos (GNN) aplica la misma función a cada arista, de modo que cambiar las etiquetas de los nodos solo reordena sus salidas. Un transformer trata sus tokens como un grafo totalmente conectado y, como la autoatención es equivariante a las permutaciones, necesita codificaciones posicionales para conocer el orden de los tokens. Las GNN son los modelos de GDL más conocidos, y GDL es el marco más amplio que explica los tres. Las CNN equivariantes a grupos, presentadas por Taco Cohen y Max Welling en 2016, amplían el uso compartido de pesos a rotaciones y reflexiones; las redes de mallas y variedades definen convoluciones en marcos de coordenadas locales sobre superficies curvas.

Ultralytics YOLO26 es el caso de cuadrícula: sus convoluciones comparten pesos entre las posiciones de los píxeles, y las simetrías que la arquitectura no incorpora se enseñan mediante aumento de datos. De forma predeterminada, el entrenamiento refleja cada imagen horizontalmente con una probabilidad de fliplr=0.5, mientras que las inversiones verticales (flipud) y las rotaciones aleatorias (degrees) están desactivadas.

Paso de mensajes en grafos#

Los modelos de grafos de GDL se construyen mediante el paso de mensajes. Cada nodo recopila mensajes de sus vecinos, los combina con una función independiente del orden, como la suma, la media o el máximo, y actualiza su propia incrustación. En 2017, Justin Gilmer y sus colaboradores de Google demostraron que muchas arquitecturas de grafos encajan en este esquema de paso de mensajes y lo utilizaron para predecir propiedades químico-cuánticas de moléculas. Cambiar las etiquetas de los nodos de un grafo pequeño permite comprobar directamente ambas propiedades de simetría:

import torch

torch.manual_seed(0)
nodes = torch.randn(5, 3)  # 5 átomos o usuarios, 3 características cada uno
adjacency = torch.zeros(5, 5)
edges = torch.tensor([[0, 1], [1, 2], [0, 2], [2, 3], [3, 4]])
adjacency[edges[:, 0], edges[:, 1]] = adjacency[edges[:, 1], edges[:, 0]] = 1
w_self, w_neighbors, w_dense = torch.randn(3, 4), torch.randn(3, 4), torch.randn(15, 4)

# Cambia las etiquetas de los nodos en un orden aleatorio: el mismo grafo, con una lista distinta
order = torch.randperm(5)
nodes_p, adjacency_p = nodes[order], adjacency[order][:, order]

# Paso de mensajes: cada nodo combina sus propias características con la suma de las de sus vecinos'
out = torch.relu(nodes @ w_self + adjacency @ nodes @ w_neighbors)
out_p = torch.relu(nodes_p @ w_self + adjacency_p @ nodes_p @ w_neighbors)
print(torch.allclose(out_p, out[order]))  # equivariante: las salidas se reordenan junto con los nodos
print(torch.allclose(out_p.sum(dim=0), out.sum(dim=0)))  # invariante: la lectura a nivel de grafo no cambia

# Una capa densa sobre la lista de nodos aplanada trata el grafo con las etiquetas cambiadas como datos nuevos
print(torch.allclose(nodes_p.flatten() @ w_dense, nodes.flatten() @ w_dense))

Imprime True, True y False. La salida de la capa de paso de mensajes se reordena exactamente con los nodos, la lectura sumada a nivel de grafo no cambia y una capa densa normal da una respuesta distinta para el mismo grafo cuando se presenta en un orden diferente. PyTorch Geometric agrupa docenas de capas de este tipo junto con la agrupación por lotes para grafos de distintos tamaños.

Aplicaciones#

Las moléculas son grafos de átomos y enlaces, así que las redes de paso de mensajes predicen propiedades como la solubilidad y la unión para el descubrimiento de fármacos. Las proteínas añaden geometría 3D: AlphaFold 2 refina sus estructuras predichas con atención de puntos invariantes, que produce el mismo resultado al rotar o trasladar toda la proteína en el espacio.

Los escaneos LiDAR y los sensores de profundidad producen nubes de puntos, conjuntos desordenados de puntos 3D. PointNet, desarrollado por Charles Qi y sus colaboradores de Stanford en 2017, aplica una red compartida a cada punto y agrupa los resultados tomando el máximo, de modo que su salida no depende del orden de los puntos; este diseño sustenta muchos sistemas de detección de objetos 3D para vehículos autónomos y robótica. Los grafos sociales y comerciales de usuarios y artículos impulsan sistemas de recomendación basados en GNN, como PinSage de Pinterest, y los grafos de conocimiento aplican el mismo paso de mensajes a entidades y sus relaciones.

Los modelos meteorológicos operan sobre la esfera. GraphCast, publicado por Google DeepMind en Science en 2023, transmite mensajes por una malla multiescala construida al refinar un icosaedro alrededor del planeta y pronostica cientos de variables con 10 días de antelación, a una resolución de 0,25°, en menos de un minuto; supera al principal pronóstico determinista operativo, el HRES del ECMWF, en el 90 % de los 1.380 objetivos de verificación.