Diffusion Language Models

Los modelos de lenguaje de difusión son modelos generativos que producen o editan texto mediante la reducción de ruido iterativa en lugar de generar cada token estrictamente de izquierda a derecha. Comienzan con una secuencia corrompida —que a menudo contiene tokens enmascarados, reemplazados o inciertos— y refinan repetidamente múltiples posiciones hasta que el texto se vuelve coherente. Este enfoque combina ideas del modelado de lenguaje y los modelos de difusión, ofreciendo una alternativa a la generación convencional de siguiente token.

Link to this sectionCómo Funcionan los Modelos de Lenguaje de Difusión#

El texto se divide primero mediante tokenización en palabras, subpalabras, caracteres u otras unidades discretas. Durante el entrenamiento, un proceso de corrupción directa elimina gradualmente información de las secuencias de tokens. Dependiendo de la implementación, los tokens pueden ser reemplazados por símbolos de máscara, alternativas muestreadas o representaciones continuas con ruido llamadas embeddings.

El modelo aprende el proceso inverso: predecir versiones más limpias de secuencias corrompidas. En el momento de la inferencia, comienza con un bloque fuertemente enmascarado o con ruido y realiza varios pasos de refinamiento. Los primeros pasos establecen el significado general y la estructura, mientras que los pasos posteriores corrigen el vocabulario, la gramática, el formato y la consistencia local.

Muchos modelos de lenguaje de difusión utilizan un transformer para procesar la secuencia. Los Transformers son muy adecuados para esta tarea porque su mecanismo de atención puede relacionar cada token con el contexto circundante. La documentación de PyTorch Transformer proporciona una visión general útil de esta arquitectura subyacente.

A diferencia de un sistema fijo de rellenar espacios en blanco, la generación por difusión puede reconsiderar predicciones repetidamente. Un token seleccionado durante un paso no es necesariamente permanente; las iteraciones posteriores pueden revisarlo cuando el resto de la secuencia proporcione un mejor contexto. La descripción general de la difusión de texto de Google DeepMind ilustra este patrón de generación iterativa a nivel de bloque.

Link to this sectionModelos de Difusión frente a Conceptos Relacionados#

Varios términos estrechamente relacionados describen diferentes objetivos o arquitecturas:

• Modelos de lenguaje grandes autorregresivos generan tokens en secuencia, estando cada predicción condicionada a la salida anterior. Este proceso causal se demuestra en el tutorial de generación de texto autorregresivo de TensorFlow. En su lugar, los modelos de difusión pueden actualizar muchas posiciones durante cada paso de refinamiento.
• Los modelos de lenguaje enmascarados predice tokens ocultos deliberadamente utilizando contexto en ambos lados. El ejemplo de modelado de lenguaje enmascarado de Keras demuestra este objetivo de entrenamiento. Los modelos de lenguaje de difusión amplían la idea en un proceso de generación completo con múltiples niveles de corrupción e iteraciones de eliminación de ruido.
• Stable Diffusion es un sistema de generación de imágenes, no un modelo de lenguaje grande. Los servicios de imágenes de Stable Diffusion de Stability AI generan y editan contenido visual, mientras que los modelos de lenguaje de difusión operan sobre tokens de texto o sus representaciones.
• Transformers de Difusión describen el uso de transformers dentro de sistemas de difusión, comúnmente para la generación de imágenes o vídeos. Un modelo de lenguaje de difusión se define por su objetivo de generación de texto, no únicamente por su arquitectura de red neuronal.

Link to this sectionAplicaciones en el mundo real#

Una aplicación concreta es la edición de documentos y código. En lugar de añadir texto después de un cursor, un modelo de lenguaje de difusión puede refinar un borrador completo o un intervalo seleccionado. Por ejemplo, podría reconstruir una función faltante mientras revisa nombres de variables, importaciones y comentarios en todo el bloque. La capacidad de utilizar tanto el contexto precedente como el siguiente es valiosa cuando las correcciones en una ubicación afectan a otra.

Una segunda aplicación es el análisis multimodal. Un sistema de visión puede extraer información objetiva de una imagen, tras lo cual un modelo de lenguaje de difusión puede componer iterativamente un informe, subtítulo o respuesta fundamentada en esas observaciones. Por ejemplo, la detección de objetos puede identificar vehículos y personas en una escena de tráfico antes de que el componente de lenguaje redacte un resumen del incidente.

El siguiente flujo de trabajo utiliza Ultralytics YOLO26 para crear contexto visual estructurado para la generación de lenguaje posterior:

from ultralytics import YOLO

# Run object detection on a sample image
model = YOLO("yolo26n.pt")
results = model("https://ultralytics.com/images/bus.jpg")
result = results[0]

# Convert detections into compact language-model context
detections = result.summary()
object_names = sorted({item["name"] for item in detections})

visual_context = ", ".join(object_names)
print(visual_context)

The YOLO prediction workflow returns structured outputs, while the Results.summary() method converts detections into dictionaries that are easier to pass into a language pipeline. This separation lets the vision model provide grounded observations while the language model handles iterative composition.

Link to this sectionBeneficios, Limitaciones y Guía Práctica#

Los modelos de lenguaje de difusión pueden proponer múltiples tokens en paralelo, revisar elecciones anteriores y admitir de manera natural el rellenado o la edición restringida. Sin embargo, la predicción en paralelo no garantiza una menor latencia de extremo a extremo: la generación todavía requiere múltiples pasos de eliminación de ruido, y la velocidad depende de la longitud de la secuencia, el tamaño del modelo, el hardware y la estrategia de muestreo.

El texto también es discreto, lo que hace que la corrupción gradual sea menos natural que añadir ruido a los píxeles continuos de una imagen. Los sistemas mal configurados pueden producir repeticiones, omitir detalles requeridos, cambiar texto correcto innecesariamente o tener dificultades para determinar la longitud de salida.

Los equipos deben evaluar la precisión de la tarea, la veracidad, la estabilidad de edición, la latencia y el uso de recursos en prompts representativos. La guía de Google Cloud sobre evaluación de IA generativa recomienda combinar métricas automatizadas con la evaluación humana porque la calidad del lenguaje depende del contexto. Los despliegues de alto impacto también deben seguir un proceso estructurado como el Marco de Gestión de Riesgos de IA del NIST.

Para aplicaciones visuales, la Plataforma Ultralytics admite la anotación de conjuntos de datos, el entrenamiento de modelos, el despliegue y la monitorización, ayudando a los equipos a construir el componente de percepción que puede fundamentar los flujos de trabajo de lenguaje basados en difusión subsiguientes.