Explorando el aprendizaje en conjunto y su papel en la AI y el aprendizaje automático

Para ver una explicación visual de los conceptos tratados en este artículo, mira el vídeo siguiente.

Las innovaciones de IA, como los motores de recomendación y los sistemas de detección de fraude, dependen de algoritmos y modelos de machine learning para realizar predicciones y tomar decisiones basadas en datos. Estos modelos pueden identificar patrones, prever tendencias y ayudar a automatizar tareas complejas.

Sin embargo, un único modelo puede tener dificultades para captar todos los detalles de los datos del mundo real. Puede funcionar bien en algunos casos, pero quedarse corto en otros, como cuando un modelo de detección de fraude no identifica nuevos tipos de transacciones.

Esta limitación es algo a lo que los ingenieros de IA se enfrentan a menudo al crear e implementar modelos de machine learning. Algunos modelos sufren sobreajuste al aprender los datos de entrenamiento con demasiada precisión, mientras que otros presentan subajuste al pasar por alto patrones importantes. El aprendizaje en conjunto es una técnica de IA que ayuda a abordar estos desafíos combinando varios modelos, conocidos como aprendices base, en un único sistema más potente.

Puedes verlo como un equipo de expertos que trabaja unido para resolver un problema. En este artículo exploraremos qué es el aprendizaje en conjunto, cómo funciona y dónde puede utilizarse. ¡Empecemos!

¿Qué es el aprendizaje en conjunto?#

El aprendizaje en conjunto hace referencia a un conjunto de técnicas que combinan varios modelos para resolver el mismo problema y producir un único resultado mejorado. Puede aplicarse tanto en el aprendizaje supervisado (donde los modelos aprenden a partir de datos etiquetados) como en el aprendizaje no supervisado (donde los modelos encuentran patrones en datos sin etiquetar).

En lugar de depender de un único modelo para realizar predicciones, un conjunto utiliza varios modelos que analizan los datos a su manera. Cuando se combinan sus resultados, el resultado suele ser más preciso, estable y generalizable que el que cualquier modelo individual podría conseguir por sí solo.

Puedes compararlo con un panel de analistas que aborda el mismo problema. Cada analista o modelo individual interpreta los datos de forma diferente.

Uno puede centrarse en los patrones, otro en las anomalías y otro en el contexto. Al reunir sus perspectivas, el grupo puede tomar una decisión más equilibrada y fiable que cualquier juicio individual.

Este enfoque también ayuda a abordar dos de los mayores desafíos del machine learning: el sesgo y la varianza. Un modelo con un sesgo alto es demasiado simple y pasa por alto patrones importantes, mientras que uno con una varianza alta es excesivamente sensible y se ajusta demasiado a los datos de entrenamiento. Al combinar modelos, el aprendizaje en conjunto encuentra un equilibrio entre ambos, mejorando el rendimiento del sistema con datos nuevos que no ha visto.

Cómo funciona el aprendizaje en conjunto#

Cada modelo de un conjunto se conoce como aprendiz base o modelo base. Pueden ser algoritmos del mismo tipo o una combinación de algoritmos diferentes, según la técnica de conjunto utilizada.

Estos son algunos ejemplos habituales de los distintos modelos utilizados en el aprendizaje en conjunto:

• Árboles de decisión: Estos modelos dividen los datos en ramas según los valores de las características para tomar decisiones. Por ejemplo, en problemas de clasificación como predecir si un cliente comprará un producto, tienen en cuenta factores como la edad, los ingresos y el historial de navegación.
• Redes neuronales: Inspiradas en la forma en que el cerebro humano procesa la información, constituyen la arquitectura básica de la mayoría de los modelos modernos de IA y machine learning.
• Máquinas de vectores de soporte (SVMs): Estos algoritmos clasifican los datos al encontrar un límite de decisión óptimo, denominado hiperplano, que maximiza el margen entre las distintas clases. En otras palabras, la SVM traza la mejor línea posible para separar los grupos dejando el mayor espacio entre ellos. Por ejemplo, puede utilizarse para determinar si un correo electrónico es spam o no según patrones como la frecuencia y la estructura de las palabras.
• Modelos de regresión logística: Estiman probabilidades y suelen utilizarse para tareas de clasificación binaria. Un ejemplo habitual es predecir si una transacción es fraudulenta o legítima.

Un conjunto de modelos combinado suele denominarse aprendiz fuerte porque integra los puntos fuertes de los aprendices base (también llamados modelos débiles) y minimiza sus debilidades. Lo consigue combinando las predicciones de cada modelo de forma estructurada, mediante votación mayoritaria para tareas de clasificación o promedios ponderados para tareas de regresión, con el fin de producir un resultado final más preciso.

Fig. 1. Un ejemplo de aprendizaje en conjunto (Fuente)

Cuándo utilizar el aprendizaje en conjunto#

Antes de profundizar en las distintas técnicas de aprendizaje en conjunto, detengámonos un momento para entender cuándo debe utilizarse este tipo de enfoque en un proyecto de machine learning o IA.

El aprendizaje en conjunto resulta especialmente eficaz cuando un único modelo tiene dificultades para realizar predicciones precisas o coherentes. También puede utilizarse cuando los datos son complejos, ruidosos o impredecibles.

Estos son algunos casos habituales en los que los métodos de conjunto resultan especialmente eficaces:

• Baja precisión del modelo: Cuando las predicciones de un modelo no son suficientemente fiables, combinar varios modelos puede mejorar significativamente la precisión y el rendimiento. Por ejemplo, en la evaluación crediticia o el diagnóstico médico, incluso pequeñas mejoras en la precisión de las predicciones pueden marcar una gran diferencia.
• Datos ruidosos o incoherentes: Si un conjunto de datos contiene valores atípicos, errores o fluctuaciones aleatorias, el aprendizaje en conjunto ayuda a suavizar esas irregularidades mediante el promedio o la votación entre varios modelos.
• Necesidad de robustez: Los modelos de conjunto son menos sensibles a pequeños cambios en los datos, lo que los hace más estables y fiables en entornos de producción donde las entradas del mundo real pueden variar.
• Tareas de predicción complejas: En tareas como el reconocimiento de imágenes, la detección de fraude o la predicción de series temporales, los conjuntos captan una gama más amplia de patrones y relaciones que un único modelo por sí solo.

También es más sencillo de entrenar, más fácil de interpretar y más rápido de mantener. Antes de utilizar un conjunto, es importante sopesar el beneficio de una mayor precisión frente al tiempo, la potencia de cálculo y la complejidad adicionales que requiere.

Resumen de las técnicas de aprendizaje en conjunto#

A continuación, veremos las principales formas de aplicar el aprendizaje en conjunto en proyectos de machine learning. Existen varias técnicas fundamentales para combinar modelos, cada una de las cuales mejora el rendimiento a su manera. Los métodos de conjunto más habituales son bagging, boosting, stacking y blending.

Bagging#

El bagging, abreviatura de agregación bootstrap, es un método de aprendizaje en conjunto que ayuda a mejorar la estabilidad y la precisión del modelo mediante el entrenamiento de varias versiones del mismo modelo con distintas partes de los datos.

Cada subconjunto se crea mediante un proceso denominado muestreo bootstrap, en el que los puntos de datos se seleccionan aleatoriamente con reemplazo. Esto significa que, después de seleccionar un punto de datos, se devuelve al conjunto antes de elegir el siguiente, por lo que el mismo punto puede aparecer más de una vez, mientras que otros pueden quedar fuera. Esta aleatoriedad garantiza que cada modelo se entrene con una versión ligeramente diferente del conjunto de datos.

Durante la inferencia, todos los modelos entrenados se ejecutan en paralelo para realizar predicciones sobre datos nuevos que no han visto. Cada modelo produce su propio resultado basándose en lo que ha aprendido, y esas predicciones individuales se combinan después para formar el resultado final.

En las tareas de regresión, como predecir los precios de viviendas o las previsiones de ventas, esto suele significar promediar los resultados de todos los modelos para obtener una estimación más uniforme. En las tareas de clasificación, como determinar si una transacción es fraudulenta o no, el conjunto suele recurrir a una votación mayoritaria para decidir la clase final.

El bagging en acción: el algoritmo Random Forest#

Un buen ejemplo de dónde funciona bien el bagging es en los árboles de decisión, que pueden sufrir fácilmente sobreajuste cuando se entrenan con un único conjunto de datos. Al entrenar muchos árboles con muestras ligeramente diferentes y combinar sus resultados, el bagging reduce el sobreajuste y mejora la fiabilidad.

Considera el algoritmo Random Forest. Es un conjunto de árboles de decisión en el que cada árbol se entrena con un subconjunto aleatorio del conjunto de datos de entrenamiento, así como con un subconjunto aleatorio de características.

Esta aleatoriedad de las características ayuda a garantizar que los árboles estén menos correlacionados y que el modelo global sea más estable y preciso. Un algoritmo Random Forest puede utilizarse para clasificar imágenes, detectar fraudes, predecir la pérdida de clientes, prever ventas o estimar los precios de propiedades.

Fig. 2. Una vista del algoritmo Random Forest (Fuente)

Boosting#

El boosting es otra técnica de aprendizaje en conjunto que se centra en mejorar los aprendices débiles (modelos) entrenándolos secuencialmente, uno tras otro, en lugar de hacerlo en paralelo. El concepto central del boosting es que cada modelo nuevo aprende de los errores de los anteriores, mejorando gradualmente el rendimiento del modelo general.

A diferencia del bagging, que reduce la varianza promediando modelos independientes, el boosting reduce el sesgo haciendo que cada modelo nuevo preste más atención a los casos difíciles con los que los modelos anteriores tuvieron problemas.

Como los modelos de boosting se entrenan secuencialmente, la forma de combinar sus predicciones al final difiere ligeramente de la de otros métodos de conjunto. Cada modelo contribuye a la predicción final en proporción a su rendimiento durante el entrenamiento, y los modelos más precisos reciben un peso mayor.

En las tareas de regresión, el resultado final suele ser una suma ponderada de todas las predicciones de los modelos. En las tareas de clasificación, el algoritmo combina los votos ponderados de los modelos para decidir la clase final. Este enfoque ayuda al boosting a crear un modelo general sólido, dando más peso a los modelos más precisos sin dejar de aprender de los demás.

Estos son algunos tipos habituales de algoritmos de boosting:

• AdaBoost (Boosting adaptativo): Este método comienza entrenando un modelo sencillo, como un árbol de decisión pequeño, y después aumenta el peso de los puntos de datos clasificados incorrectamente. Estos pesos hacen que el modelo siguiente se centre más en los ejemplos difíciles. Tras varias iteraciones, los modelos se basan unos en otros y sus predicciones combinadas forman un resultado más sólido y preciso. Por ejemplo, AdaBoost puede mejorar la precisión de la detección de spam o del reconocimiento facial.
• Gradient Boosting: En lugar de volver a ponderar las muestras, Gradient Boosting entrena cada modelo nuevo para corregir los errores residuales, es decir, las diferencias entre los valores reales y los previstos, cometidos por los modelos anteriores. Este enfoque iterativo resulta eficaz tanto para tareas de regresión como de clasificación, como la previsión de ventas y la evaluación crediticia.
• XGBoost (Boosting de gradiente extremo): Esta versión avanzada del gradient boosting mejora tanto la velocidad como la precisión. Utiliza regularización, que penaliza ligeramente los modelos excesivamente complejos durante el entrenamiento para que se centren en patrones significativos en lugar de memorizar los datos. Aunque los modelos siguen entrenándose secuencialmente, XGBoost acelera el proceso mediante la paralelización durante la construcción de los árboles. Puede evaluar muchos posibles puntos de división al mismo tiempo en distintos núcleos de CPU. Esto hace que el entrenamiento sea mucho más rápido, especialmente con conjuntos de datos grandes, manteniendo un alto rendimiento predictivo.

Fig. 3. Ejemplo de un clasificador basado en árboles de decisión (DTB) entrenado con un enfoque de boosting para predecir el riesgo de diabetes. (Fuente)

Stacking#

El stacking, también llamado generalización apilada, va un paso más allá al utilizar las predicciones de varios modelos como entrada para un modelo final conocido como metamodelo. Puedes verlo como un grupo de expertos que comparte sus opiniones y un responsable de la decisión final que aprende a ponderarlas para tomar la mejor decisión posible.

Por ejemplo, un modelo puede ser excelente detectando fraudes, mientras que otro puede predecir mejor la pérdida de clientes. El metamodelo estudia el rendimiento de cada uno y utiliza sus puntos fuertes conjuntamente para realizar una predicción final más precisa.

Blending#

El blending funciona de forma similar al stacking porque también combina las predicciones de varios modelos para tomar una decisión final, pero utiliza un enfoque más sencillo y rápido. En lugar de emplear validación cruzada (un método que divide los datos en varias partes y las alterna entre el entrenamiento y las pruebas para hacer que el modelo sea más fiable), como hace el stacking, el blending reserva una pequeña parte de los datos, denominada conjunto de reserva.

Los modelos base se entrenan con los datos restantes y después realizan predicciones sobre el conjunto de reserva, que no han visto antes. Esto produce dos elementos de información clave: las respuestas reales, o etiquetas verdaderas, y las predicciones realizadas por cada modelo base.

A continuación, estas predicciones se pasan a otro modelo denominado modelo de blending o metamodelo. Este modelo final estudia la precisión de las predicciones de cada modelo base y aprende a combinarlas de la mejor forma posible.

Como el blending se basa en una única división entre entrenamiento y prueba en lugar de repetir el proceso varias veces, se ejecuta más rápido y es más fácil de configurar. La contrapartida es que dispone de algo menos de información de la que aprender, lo que puede hacerlo un poco menos preciso.

Evaluación de algoritmos de conjunto#

Una parte importante del aprendizaje en conjunto consiste en evaluar el rendimiento de un modelo con datos que no ha visto. Por muy avanzada que sea una técnica, debe probarse para garantizar que puede generalizar; es decir, que realiza predicciones precisas sobre ejemplos nuevos del mundo real en lugar de limitarse a memorizar los datos de entrenamiento.

Estas son algunas métricas de rendimiento habituales para evaluar modelos de IA:

• Precisión: Esta métrica mide la proporción de predicciones correctas respecto a todas las predicciones realizadas por el modelo. Ofrece una visión general rápida del rendimiento.
• Precisión positiva: Indica cuántas de las muestras predichas como positivas son realmente positivas. Una precisión positiva alta significa que el modelo comete pocos errores de falsos positivos.
• Exhaustividad: Esta medida se centra en cuántos de los casos positivos reales fueron identificados correctamente por el modelo. Es especialmente importante en ámbitos como la sanidad, donde no detectar un caso positivo, como el diagnóstico de una enfermedad, puede tener consecuencias graves.

Aplicaciones del aprendizaje en conjunto en el mundo real#

Hasta ahora hemos explorado cómo funciona el aprendizaje en conjunto y las técnicas que lo sustentan. Veamos ahora dónde está teniendo impacto este enfoque.

Estas son algunas áreas clave en las que se aplica habitualmente el aprendizaje en conjunto:

• Análisis de datos y previsión: En los negocios y la analítica, los modelos de conjunto ayudan a las organizaciones a realizar mejores predicciones al combinar las perspectivas de varios modelos. Esto se traduce en previsiones de ventas más precisas, una planificación de la demanda más inteligente y una comprensión más clara del comportamiento de los clientes.
• Clasificación binaria: Tareas como la detección de spam, la prevención del fraude y el diagnóstico médico suelen requerir distinguir entre dos resultados posibles. Los modelos de conjunto ayudan a reducir los falsos positivos y los falsos negativos, algo especialmente importante en ámbitos como la ciberseguridad y la sanidad.
• Problemas de regresión: Al predecir valores continuos como los precios de viviendas, los ingresos por ventas o el riesgo crediticio, los métodos de conjunto captan relaciones complejas dentro de los datos. Esto produce predicciones más precisas que favorecen mejores decisiones financieras y operativas.

Más allá de los datos estructurados con el aprendizaje en conjunto#

Aunque el aprendizaje en conjunto se utiliza principalmente con datos estructurados o tabulares, como hojas de cálculo que contienen información numérica o categórica, también puede aplicarse a datos no estructurados, como texto, imágenes, audio y vídeo.

Estos tipos de datos son más complejos y difíciles de interpretar para los modelos, pero los métodos de conjunto ayudan a mejorar la precisión y la fiabilidad. Por ejemplo, en la visión por computador, los conjuntos pueden mejorar tareas como la clasificación de imágenes y la detección de objetos.

Al combinar las predicciones de varios modelos de visión, como las redes neuronales convolucionales (CNNs), el sistema puede reconocer objetos con mayor precisión y gestionar variaciones de iluminación, ángulo o fondo que podrían confundir a un único modelo.

Una mirada al ensamblado de modelos Ultralytics YOLOv5#

Un ejemplo interesante del uso del aprendizaje en conjunto en visión por computador se produce cuando un ingeniero combina varios modelos de detección de objetos para mejorar la precisión. Imagina a un ingeniero trabajando en un sistema de monitorización de seguridad para una obra, donde la iluminación, los ángulos y el tamaño de los objetos cambian constantemente.

Un único modelo podría no detectar a un trabajador entre las sombras o confundir maquinaria en movimiento. Al utilizar un conjunto de modelos, cada uno con puntos fuertes diferentes, el sistema se vuelve más fiable y menos propenso a cometer esos errores.

En particular, modelos como Ultralytics YOLOv5 encajan muy bien con el ensamblado de modelos. Los ingenieros pueden combinar distintas variantes de YOLOv5, como YOLOv5x y YOLOv5l6, para realizar predicciones conjuntamente. Cada modelo analiza la misma imagen y produce sus propias detecciones, que después se promedian para generar un resultado final más sólido y preciso.

Fig. 4. Detección de objetos en una imagen mediante YOLOv5. (Fuente)

Ventajas e inconvenientes del aprendizaje en conjunto#

Estas son algunas ventajas clave de utilizar el aprendizaje en conjunto:

• Resistencia a los datos ruidosos: Los conjuntos se ven menos afectados por los valores atípicos o el ruido aleatorio del conjunto de datos, ya que dependen de varios modelos.
• Mejor generalización: Los conjuntos reducen el sobreajuste y ayudan a los modelos a funcionar bien con datos que no han visto, en lugar de limitarse a memorizar los ejemplos de entrenamiento.
• Flexibilidad entre algoritmos: Puedes combinar distintos tipos de modelos, como árboles de decisión, redes neuronales y modelos lineales, para aprovechar sus puntos fuertes específicos.

Aunque el aprendizaje en conjunto ofrece varias ventajas, también plantea algunos desafíos que conviene considerar. Estos son algunos factores que debes tener en cuenta:

• Mayor coste computacional: Entrenar y mantener varios modelos requiere más memoria, potencia de procesamiento y tiempo que un único modelo.
• Menor interpretabilidad: Como el resultado final procede de la combinación de varios modelos, puede ser difícil entender por qué se ha tomado una determinada decisión. Sin embargo, esto depende de los modelos utilizados, ya que cuando empleas modelos interpretables, como árboles de decisión o máquinas de vectores de soporte, normalmente resulta más fácil comprender los resultados.
• Consideraciones sobre el diseño del conjunto: Crear un conjunto implica elegir la combinación adecuada de modelos y asegurarse de que funcionan bien conjuntamente. Sin embargo, en algunos casos también puede ser más sencillo, porque no necesitas ajustar los hiperparámetros de cada modelo individual.

Conclusiones clave#

El aprendizaje en conjunto demuestra cómo combinar varios modelos puede hacer que los sistemas de IA sean más precisos y fiables. Ayuda a reducir los errores y mejorar el rendimiento en distintos tipos de tareas. A medida que el machine learning y la IA continúan creciendo, técnicas como esta impulsan una adopción más amplia y soluciones de IA más prácticas y de alto rendimiento.

Únete a nuestra creciente comunidad y visita nuestro repositorio de GitHub para descubrir más sobre la IA de visión. Explora nuestras páginas de soluciones para conocer las aplicaciones de la visión por computador en la agricultura y la IA en la logística. Consulta nuestras opciones de licencia para empezar hoy mismo con tu propio modelo de visión por computador.