Incrustaciones (Embeddings)

Los embeddings son una piedra angular del moderno aprendizaje automático (ML), y representan un método potente para convertir datos de alta dimensionalidad, como palabras, imágenes o incluso usuarios, en vectores numéricos densos, significativos y de baja dimensionalidad. El objetivo principal de un embedding es capturar las relaciones semánticas y el contexto subyacente de los datos originales. En este espacio vectorial, los elementos con significados o características similares se posicionan más cerca unos de otros. Esto permite que los modelos de IA realicen tareas complejas de razonamiento y similitud que serían imposibles con datos sin procesar y no estructurados.

Cómo se crean las incrustaciones (embeddings)

Los embeddings suelen ser aprendidos automáticamente por un modelo de aprendizaje profundo durante el proceso de entrenamiento. Una red neuronal, a menudo construida con frameworks como PyTorch o TensorFlow, se entrena en una tarea relevante, como predecir la siguiente palabra en una frase o clasificar una imagen. Una de las capas ocultas dentro de esta red se utiliza entonces como la capa de embedding. A medida que el modelo aprende a realizar su tarea, ajusta los pesos en esta capa, aprendiendo eficazmente a mapear cada elemento de entrada a un vector que encapsula sus características más importantes. Este proceso es una forma de reducción de la dimensionalidad, que comprime grandes cantidades de información en un formato compacto y útil.

Aplicaciones y ejemplos

Los embeddings son fundamentales para una amplia gama de aplicaciones de IA, desde el procesamiento del lenguaje natural (PNL) hasta la visión artificial.

• Motores de recomendación de comercio electrónico: Los sistemas de recomendación utilizan embeddings para representar tanto a los usuarios como a los productos. Si un usuario compra o ve con frecuencia artículos con embeddings similares (por ejemplo, varios tipos de equipo para correr), el sistema puede identificar otros productos en ese vecindario vectorial (como geles energéticos o mochilas de hidratación) y recomendarlos. Esto es mucho más eficaz que la simple coincidencia de palabras clave.
• Búsqueda Semántica y Recuperación de Imágenes: En lugar de depender de etiquetas o metadatos, los sistemas de búsqueda semántica utilizan embeddings para encontrar resultados basados en el significado conceptual. Un usuario puede buscar "fotos de vacaciones de verano", y el sistema recuperará imágenes de playas, montañas y escenas de viajes, incluso si esas palabras exactas no están en la descripción de la imagen. Esto está impulsado por modelos como CLIP, que generan embeddings alineados tanto para texto como para imágenes, lo que permite potentes capacidades de modelo multimodal. Este mismo principio permite una potente búsqueda visual, una característica clave en muchas aplicaciones modernas. Incluso puede construir el suyo propio con nuestra guía de búsqueda de similitud.

Otras aplicaciones incluyen el descubrimiento de fármacos, donde las moléculas se integran para predecir interacciones, y los servicios de transmisión de música que recomiendan canciones con características de audio similares.

Incrustaciones vs. Conceptos Relacionados

Es útil distinguir los *embeddings* de términos relacionados:

• Incrustaciones (Embeddings) vs. Extracción de Características: Las incrustaciones son una forma sofisticada y a menudo automatizada de extracción de características, lograda a través del aprendizaje profundo. Mientras que la ingeniería de características tradicional podría implicar la definición manual de características (por ejemplo, histogramas de color para imágenes), las incrustaciones aprenden las características relevantes directamente de los datos durante el entrenamiento.
• Incrustaciones (Embeddings) vs. Búsqueda Vectorial / Bases de Datos Vectoriales: Las incrustaciones son las representaciones vectoriales de los elementos de datos. La búsqueda vectorial es el proceso de consultar una colección de incrustaciones para encontrar las más similares (cercanas) a un vector de consulta, a menudo utilizando algoritmos de Vecino Más Cercano Aproximado (ANN) para mayor eficiencia. Las bases de datos vectoriales (como Pinecone o Milvus) son bases de datos especializadas optimizadas para almacenar, indexar y realizar búsquedas vectoriales rápidas en grandes volúmenes de incrustaciones.
• Incrustaciones (Embeddings) vs. Tokenización: La tokenización es el proceso de dividir el texto en unidades más pequeñas (tokens). Estos tokens se asignan luego a incrustaciones. Por lo tanto, la tokenización es un paso preliminar antes de que se cree o se recupere la representación de incrustación. Modelos de PNL (Procesamiento del Lenguaje Natural) de referencia como BERT y GPT-4 se basan en este proceso de dos pasos.

Los embeddings proporcionan una forma potente de representar datos para los modelos de aprendizaje automático, lo que les permite comprender las similitudes semánticas y los patrones complejos en diversos tipos de datos. Son parte integral de las capacidades de las plataformas modernas de ML como Ultralytics HUB, que simplifica la creación de modelos avanzados de IA para tareas como la detección de objetos y la clasificación de imágenes.