Sesgo del conjunto de datos

Aprenda a identificar y mitigar el sesgo de los conjuntos de datos en la IA para garantizar modelos de aprendizaje automático justos, precisos y fiables para aplicaciones del mundo real.

El sesgo del conjunto de datos se produce cuando los datos utilizados para entrenar un modelo de aprendizaje automático no son representativos del entorno real en el que se utilizará el modelo. Esta falta de representación puede dar lugar a resultados sesgados, un rendimiento deficiente y resultados injustos. Es un reto importante en Inteligencia Artificial (IA), especialmente en campos como la Visión por Computador (VC), donde los modelos aprenden patrones directamente de los datos visuales. Si el conjunto de datos de entrenamiento contiene desequilibrios o refleja prejuicios históricos, es probable que el modelo de IA resultante herede y amplifique potencialmente estos problemas, lo que convierte al sesgo del conjunto de datos en una fuente primaria de sesgo general en la IA.

Fuentes y tipos de sesgo de los conjuntos de datos

El sesgo de los conjuntos de datos no es un problema aislado, sino que puede manifestarse de varias formas durante el proceso de recopilación y anotación de datos:

Sesgo de selección: se produce cuando los datos no se muestrean aleatoriamente, lo que da lugar a una representación excesiva o insuficiente de determinados grupos o situaciones. Por ejemplo, un conjunto de datos de conducción autónoma entrenado principalmente con imágenes diurnas y despejadas puede tener un rendimiento deficiente por la noche o con lluvia.
Sesgo de medición: surge de problemas en los instrumentos o el proceso de recopilación de datos. Por ejemplo, el uso de cámaras de distinta calidad para distintos grupos demográficos en un conjunto de datos de reconocimiento facial podría introducir un sesgo.
Sesgo de etiquetado (sesgo de anotación): Se deriva de incoherencias o prejuicios durante la fase de etiquetado de los datos, en la que los anotadores humanos podrían interpretar o etiquetar los datos de forma diferente basándose en opiniones subjetivas o sesgos implícitos. Explorar los distintos tipos de sesgo cognitivo puede arrojar luz sobre los posibles factores humanos.
Sesgo histórico: Refleja los prejuicios sociales existentes en el mundo, que se recogen en los datos. Si los datos históricos muestran que ciertos grupos estaban menos representados en determinadas funciones, una IA entrenada con estos datos podría perpetuar ese sesgo.

Comprender estas fuentes es crucial para mitigar su impacto, como se destaca en recursos como el blog de Ultralytics sobre la comprensión del sesgo de la IA.

Por qué es importante el sesgo de los conjuntos de datos

Las consecuencias de los sesgos en los conjuntos de datos pueden ser graves y afectar al rendimiento de los modelos y a la equidad social:

Menor precisión y fiabilidad: Los modelos entrenados con datos sesgados suelen mostrar una menor precisión cuando se encuentran con datos de grupos o escenarios infrarrepresentados. Esto limita la capacidad de generalización del modelo, como se analiza en estudios como "Datasets: La materia prima de la IA".
Resultados injustos o discriminatorios: Los modelos sesgados pueden conducir a desventajas sistemáticas para ciertos grupos, lo que plantea importantes preocupaciones en relación con la equidad en la IA y la ética de la IA. Esto es especialmente crítico en aplicaciones de alto riesgo como la contratación, la aprobación de préstamos y el diagnóstico sanitario.
Refuerzo de estereotipos: Los sistemas de IA pueden perpetuar inadvertidamente estereotipos dañinos si se entrenan con datos que reflejen prejuicios sociales.
Erosión de la confianza: La confianza pública en las tecnologías de IA puede verse dañada si los sistemas se perciben como injustos o poco fiables debido a prejuicios subyacentes. Organizaciones como Partnership on AI y AI Now Institute trabajan para abordar estas implicaciones sociales más amplias.

Ejemplos reales

Sistemas de reconocimiento facial: Los primeros conjuntos de datos de reconocimiento facial solían estar sobrerrepresentados por hombres de piel clara. En consecuencia, los sistemas comerciales mostraban una precisión significativamente menor en el caso de las mujeres de piel más oscura, como ponen de relieve investigaciones de instituciones como el NIST y organizaciones como la Liga de la Justicia Algorítmica. Esta disparidad plantea riesgos en aplicaciones que van desde el etiquetado de fotografías hasta la verificación de identidades y la aplicación de la ley.
Análisis de imágenes médicas: Un modelo de IA entrenado para detectar el cáncer de piel mediante el análisis de imágenes médicas podría tener un rendimiento deficiente en tonos de piel más oscuros si el conjunto de datos de entrenamiento se compone principalmente de imágenes de pacientes de piel clara. Este sesgo podría dar lugar a diagnósticos erróneos o retrasados para grupos de pacientes infrarrepresentados, lo que afectaría a la equidad de la IA en la atención sanitaria.

Distinguir el sesgo del conjunto de datos de los conceptos relacionados

Es importante diferenciar el sesgo del conjunto de datos de términos similares:

Sesgo en la IA: se trata de un término amplio que engloba cualquier error sistemático que conduzca a resultados injustos. El sesgo del conjunto de datos es una de las principales causas de sesgo en la IA, pero el sesgo también puede provenir del propio algoritmo(sesgo algorítmico) o del contexto de despliegue.
Sesgo algorítmico: se refiere a los sesgos introducidos por la arquitectura del modelo, el proceso de aprendizaje o los objetivos de optimización, independientemente de la calidad inicial de los datos. Por ejemplo, un algoritmo puede dar prioridad a la precisión global a expensas de la equidad para los grupos minoritarios.
Imparcialidad en la IA: es un objetivo o propiedad de un sistema de IA que persigue un trato equitativo entre diferentes grupos. Abordar el sesgo del conjunto de datos es un paso crucial para lograr la equidad, pero la equidad también implica ajustes algorítmicos y consideraciones éticas definidas por marcos como el Marco de Gestión de Riesgos de la IA del NIST.
Compensación entre sesgo y varianza: se trata de un concepto fundamental en el aprendizaje automático en relación con la complejidad de los modelos. En este caso, "sesgo" se refiere a errores derivados de suposiciones demasiado simplistas(ajuste insuficiente), distintos de los sesgos sociales o estadísticos que se encuentran en los conjuntos de datos.

Corregir los sesgos de los conjuntos de datos

Mitigar el sesgo de los conjuntos de datos requiere estrategias proactivas en todo el flujo de trabajo de ML:

Recogida cuidadosa de datos: Esfuércese por obtener fuentes de datos diversas y representativas que reflejen el entorno de despliegue previsto. La documentación de los conjuntos de datos mediante marcos como Data Sheets for Datasets puede mejorar la transparencia.
Preprocesamiento y aumento de datos: Técnicas como el remuestreo, la síntesis de datos y el aumento selectivo de datos pueden ayudar a equilibrar los conjuntos de datos y aumentar la representación. Las herramientas del ecosistema Ultralytics admiten varios métodos de aumento.
Herramientas de detección de sesgos: Utiliza herramientas como What-If Tool de Google o bibliotecas como Fairlearn para auditar conjuntos de datos y modelos en busca de posibles sesgos.
Evaluación del modelo: Evalúe el rendimiento del modelo en diferentes subgrupos utilizando métricas de equidad junto con métricas de precisión estándar. Documente los resultados con métodos como las tarjetas de modelo.
Soporte de plataformas: Plataformas como Ultralytics HUB proporcionan herramientas para gestionar conjuntos de datos, entrenar modelos como Ultralytics YOLO11 y facilitar la evaluación rigurosa de modelos, ayudando a los desarrolladores a crear sistemas menos sesgados.

Al abordar conscientemente el sesgo de los conjuntos de datos, los desarrolladores pueden crear sistemas de IA más sólidos, fiables y equitativos. Se puede encontrar más información en estudios de investigación como "A Survey on Bias and Fairness in Machine Learning" y debates en conferencias como ACM FAccT.