Sesgo del conjunto de datos

Fuentes habituales de sesgo en los conjuntos de datos

El sesgo puede introducirse en varias fases del proceso de datos, desde la recogida hasta el tratamiento. Algunos tipos comunes son:

• Sesgo de selección: se produce cuando los datos no se muestrean aleatoriamente de la población objetivo. Por ejemplo, recopilar datos para un modelo analítico de comercio minorista solo de los barrios de ingresos altos crearía un sesgo de selección, lo que daría lugar a un modelo que no comprende el comportamiento de otros grupos de clientes.
• Sesgo de representación: se produce cuando determinados subgrupos están infrarrepresentados o sobrerrepresentados en el conjunto de datos. Un conjunto de datos de referencia para la vigilancia del tráfico con imágenes mayoritariamente diurnas hará que un modelo no funcione bien cuando detecte vehículos por la noche.
• Sesgo de medición: surge de errores sistemáticos durante la recogida de datos o de las propias herramientas de medición. Por ejemplo, el uso de cámaras de alta resolución para una demografía y de baja resolución para otra introduce un sesgo de medición en un conjunto de datos de visión por ordenador.
• Sesgo de anotación: se deriva de los juicios subjetivos de los anotadores humanos durante el proceso de etiquetado de los datos. Las nociones preconcebidas pueden influir en la forma de aplicar las etiquetas, especialmente en tareas que implican una interpretación subjetiva, lo que puede afectar al aprendizaje del modelo.

Ejemplos reales

1. Sistemas de reconocimiento facial: Los primeros sistemas comerciales de reconocimiento facial tenían fama de ser menos precisos con las mujeres y las personas de color. Investigaciones como el proyecto Gender Shades revelaron que esto se debía en gran medida a que los conjuntos de datos de entrenamiento estaban compuestos mayoritariamente por imágenes de hombres blancos. Los modelos entrenados con estos datos sesgados no conseguían generalizar entre diferentes grupos demográficos.
2. Diagnóstico médico: Un modelo de IA diseñado para el análisis de imágenes médicas, como la detección de tumores en radiografías, podría entrenarse con datos de un único hospital. Este modelo podría aprender características específicas de los equipos de diagnóstico por imagen de ese hospital. Cuando se implanta en otro hospital con máquinas diferentes, su rendimiento podría disminuir significativamente debido a la desviación de los datos. Esto pone de manifiesto la necesidad de fuentes de datos diversas en la IA sanitaria.

Sesgo del conjunto de datos frente a sesgo algorítmico

Es importante distinguir entre el sesgo del conjunto de datos y el sesgo algorítmico.

• El sesgo del conjunto de datos se origina en los propios datos. Los datos están viciados antes incluso de que el modelo los vea, lo que los convierte en un problema fundamental.
• El sesgo algorítmico puede surgir de la arquitectura o el proceso de optimización de un modelo, que puede favorecer sistemáticamente ciertos resultados en detrimento de otros, incluso con datos perfectamente equilibrados.

Sin embargo, ambos están profundamente relacionados. El sesgo del conjunto de datos es una de las causas más comunes del sesgo algorítmico. Un modelo entrenado con datos sesgados casi seguro que hará predicciones sesgadas, creando un algoritmo sesgado. Por lo tanto, para garantizar la equidad en la IA hay que empezar por abordar el sesgo en los datos.

Estrategias de mitigación

Mitigar el sesgo del conjunto de datos es un proceso continuo que requiere una cuidadosa planificación y ejecución a lo largo del ciclo de vida de las operaciones de aprendizaje automático (MLOps).

• Recogida reflexiva de datos: Esfuércese por conseguir fuentes de datos diversas y representativas que reflejen el mundo real. Es esencial seguir una guía estructurada para la recopilación y anotación de datos. La documentación de los conjuntos de datos mediante marcos como Data Sheets for Datasets fomenta la transparencia.
• Aumento y síntesis de datos: Utilice técnicas como el sobremuestreo de grupos infrarrepresentados, la aplicación de aumentos de datos específicos o la generación de datos sintéticos para equilibrar el conjunto de datos. Los modelos de Ultralytics admiten de forma nativa una gran variedad de potentes métodos de aumento.
• Herramientas de auditoría de sesgos: Utilice herramientas como Google's What-If Tool y bibliotecas de código abierto como Fairlearn para inspeccionar conjuntos de datos y modelos en busca de posibles sesgos.
• Evaluación rigurosa del modelo: Más allá de las métricas de precisión general, evalúe el rendimiento del modelo en diferentes subgrupos demográficos o medioambientales. La mejor práctica consiste en documentar los resultados con métodos como las tarjetas de modelo para mantener la transparencia.
• Aproveche las plataformas modernas: Plataformas como Ultralytics HUB ofrecen herramientas integradas para la gestión de conjuntos de datos, visualización y modelos de formación como Ultralytics YOLO11. Esto ayuda a los desarrolladores a crear sistemas más equitativos al simplificar el proceso de creación y evaluación de modelos sobre datos diversos.

Al abordar de forma proactiva el sesgo de los conjuntos de datos, los desarrolladores pueden crear sistemas de IA más sólidos, fiables y éticos, un tema que se debate con frecuencia en conferencias de primer orden como la Conferencia ACM sobre Imparcialidad, Responsabilidad y Transparencia (FAccT).