Foundation Model

Un modelo fundacional es un modelo grande de aprendizaje automático, entrenado a gran escala con datos amplios, que puede adaptarse a una gran variedad de tareas posteriores. Unos investigadores de Stanford introdujeron el término en el informe de 2021 Sobre las oportunidades y los riesgos de los modelos fundacionales; eligieron «fundacional» para describir modelos centrales para muchas aplicaciones, aunque incompletos por sí solos. Antes, los modelos solían entrenarse para una sola tarea con un único conjunto de datos etiquetado. Un modelo fundacional aprende patrones generales una vez, en una costosa ejecución de preentrenamiento, y después sirve de punto de partida para chatbots, búsquedas, traducción, clasificación de imágenes, segmentación y muchas otras aplicaciones creadas por equipos que nunca entrenan un modelo de este tipo. Los modelos de lenguaje grandes (LLM), como GPT, Claude, Gemini y Llama, son modelos fundacionales, al igual que modelos de visión como CLIP, DINOv3 y Segment Anything Model (SAM) de Meta.

Cómo funcionan los modelos fundacionales#

El preentrenamiento utiliza objetivos que no necesitan etiquetas humanas, por lo que el conjunto de entrenamiento puede llegar a contener billones de palabras o miles de millones de imágenes. Los modelos de lenguaje aprenden prediciendo el siguiente token; los codificadores de visión, mediante métodos de aprendizaje autosupervisado, como el modelado de imágenes enmascaradas y la autodestilación; y los modelos de visión y lenguaje, mediante aprendizaje contrastivo con pares de imágenes y pies de foto. Casi todos los modelos fundacionales utilizan la arquitectura Transformer, y su rendimiento mejora de forma predecible con el número de parámetros, los datos y la capacidad de cálculo, tal como describen las leyes de escalado.

Tras el preentrenamiento, el mismo modelo se adapta a cada tarea de varias formas. Las indicaciones lo orientan con instrucciones o ejemplos sin entrenar nada; el ajuste fino o el ajuste fino eficiente en parámetros (PEFT) actualiza sus pesos con datos de la tarea; y una pequeña cabeza entrenada sobre sus embeddings congelados lo convierte en un clasificador o un sistema de recuperación:

El informe destacó dos consecuencias de este patrón. La emergencia significa que surgen capacidades a gran escala sin entrenarlas directamente, como cuando GPT-3 aprendió a realizar nuevas tareas a partir de unos pocos ejemplos en la indicación. La homogeneización significa que muchas aplicaciones se basan ahora en unos pocos modelos, de modo que los errores y los sesgos de un modelo se propagan a todo lo que se adapta a partir de él. Los reguladores ya se ocupan directamente de estos modelos: el Reglamento de IA de la UE los denomina modelos de IA de propósito general y las obligaciones para sus proveedores están en vigor desde el 2 de agosto de 2025.

Modelos fundacionales en visión artificial#

Los modelos fundacionales de visión se entrenan con datos mucho más amplios y variados que los detectores diseñados para tareas específicas. CLIP aprendió a partir de 400 millones de pares de imágenes y pies de foto, y clasifica imágenes en categorías cuyos nombres solo se indican mediante texto, lo que sirve de base para el aprendizaje de cero ejemplos en visión. DINOv3 de Meta genera características congeladas para la estimación de profundidad, la segmentación y la cartografía por satélite a partir de un modelo de 7.000 millones de parámetros entrenado con 1.700 millones de imágenes sin etiquetar. Los autores de SAM lo describieron como un modelo fundacional para la segmentación de imágenes: se entrenó con el conjunto de datos SA-1B, compuesto por 11 millones de imágenes y 1.100 millones de máscaras, y segmenta cualquier objeto indicado mediante un punto o un cuadro. SAM 3 añade indicaciones de texto para encontrar cada instancia de un concepto determinado. Los modelos de visión, lenguaje y acción extienden este patrón a la robótica, al traducir imágenes de cámaras e instrucciones en acciones para robots.

Ultralytics Platform utiliza estos modelos para acelerar la anotación de datos: en la anotación inteligente, un clic solicita a SAM 2.1, SAM 3 o SAM 3.1 la máscara de un objeto; en los conjuntos de datos de detección, los modelos guiados por clases, como SAM 3.1 Text y Grounding DINO, encuentran todos los objetos de una clase a partir de su nombre. La tabla de clasificación de VLM compara la precisión con la que estos modelos guiados por clases y los VLM generativos anotan automáticamente conjuntos de datos de detección del mundo real. SAM 2.1 de Meta también funciona en el paquete Python de Ultralytics, donde una indicación con una caja sustituye a cualquier entrenamiento específico de la tarea:

from ultralytics import SAM

# SAM 2.1 de Meta, un modelo fundacional de segmentación, se usa tal cual y sin entrenamiento
model = SAM("sam2.1_b.pt")

# Una indicación con un cuadro alrededor del autobús define la tarea; el modelo devuelve la máscara de ese objeto
results = model("https://ultralytics.com/images/bus.jpg", bboxes=[22, 231, 805, 757])
result = results[0]
result.save(filename="sam_bus_mask.jpg")

Modelos fundacionales y términos relacionados#

• Modelo de lenguaje grande (LLM): Modelo fundacional para texto. Los modelos fundacionales también abarcan imágenes, vídeo, audio, datos tabulares y control de robots.
• IA generativa: Sistemas que crean texto, imágenes, audio o vídeo. Muchos se basan en modelos fundacionales y algunos modelos fundacionales, como DINOv3 y SAM, generan características y máscaras en vez de contenido nuevo.
• Aprendizaje por transferencia: Técnica que reutiliza un modelo preentrenado para una tarea nueva. Un modelo fundacional es un modelo preentrenado creado para reutilizarse de este modo en muchas tareas, mientras que un modelo entrenado para una sola tarea con un conjunto fijo de etiquetas, como un detector de objetos COCO con 80 clases, se transfiere principalmente a tareas muy relacionadas.
• Modelos de IA de frontera: Los modelos fundacionales más capaces en un momento dado. Según la Ley de IA de la UE, se presume que un modelo de IA de propósito general entrenado con más de 10²⁵ operaciones de coma flotante presenta riesgo sistémico y está sujeto a obligaciones adicionales.