El horizonte ético de la inteligencia artificial

En el evento YOLO VISION 2023 (YV23), celebrado en Google for Startups Campus, en Madrid, los asistentes escucharon una serie de charlas de profesionales de la comunidad de IA sobre temas que iban desde los orígenes de Ultralytics YOLOv8 hasta un análisis de los retos éticos de la inteligencia artificial (AI) a cargo de Mónica Villas, una veterana del sector de las TI con experiencia en IBM.

Desvelar los retos éticos#

Con años de experiencia en IBM, ha visto de primera mano cómo la tecnología transforma las empresas y los sectores. Sus reflexiones sobre los retos éticos que plantea la IA pretenden arrojar luz sobre consideraciones fundamentales que a menudo se pasan por alto en la carrera por el avance tecnológico.

Abordar los sesgos y la explicabilidad#

Uno de los temas centrales de la charla de Mónica fueron los retos éticos que plantea la IA, incluidos el sesgo, la explicabilidad y el impacto de la tecnología en la sociedad. Habló de los deepfakes y destacó la necesidad de considerar detenidamente las implicaciones éticas del uso de la tecnología de IA, especialmente para generar vídeos realistas pero engañosos.

El sesgo en la IA en los modelos y los datos fue otro de los temas clave del debate. Mónica destacó cómo el sesgo puede infiltrarse en los sistemas de IA a través de los datos utilizados para entrenarlos, así como de los parámetros elegidos para diseñar los algoritmos.

La explicabilidad de los modelos de IA surgió como una cuestión fundamental, especialmente en las decisiones de alto riesgo. Mónica subrayó la importancia de que los sistemas de IA sean explicables, sobre todo en situaciones en las que hay vidas humanas en juego.

Contrastó los modelos de caja blanca, como la regresión lineal, que son más explicables, con los modelos de caja negra, como las redes neuronales, cuyos procesos de toma de decisiones resultan difíciles de comprender.

Fomentar las aplicaciones positivas#

A pesar de los retos éticos que plantea la IA, Mónica también destacó sus aplicaciones positivas cuando se desarrolla y utiliza de forma ética. Desde la supervisión del cambio climático hasta la investigación médica, la IA puede contribuir de forma significativa a la sociedad si se utiliza de manera responsable.

Fig. 1. Mónica Villas presenta en YV23, en el campus de Google for Startups en Madrid.

Abordar la ética de la IA en el sector#

La charla de Mónica también abordó la creciente importancia de la ética de la IA para las empresas y señaló que respetar los principios éticos puede aumentar la satisfacción de los clientes y las puntuaciones netas de recomendación (NPS). Destacó el trabajo de organizaciones como OdiseIA, una ONG centrada en el impacto social de la IA, para promover prácticas éticas en este ámbito.

Llevar la ética a la práctica#

Mónica señaló que llevar la ética de la IA a la práctica en las organizaciones plantea sus propios retos. Aunque puede ser fácil enunciar principios éticos, traducirlos en prácticas concretas dentro de las organizaciones exige un esfuerzo coordinado y el compromiso de todas las partes implicadas.

Integrar la ética desde el diseño#

Mónica destacó la importancia de integrar consideraciones éticas desde la fase inicial de diseño de los sistemas de IA. De este modo, las organizaciones pueden garantizar que sus soluciones de IA no solo sean técnicamente sólidas, sino también éticas, y contribuir a un ecosistema de IA más responsable y sostenible.

Conclusiones#

Como demostró Mónica Villas en su ponencia, abordar el horizonte ético de la inteligencia artificial requiere comprender sus complejidades e implicaciones con matices. Guiados por sus reflexiones, podemos trabajar para lograr un futuro en el que la IA sea una fuerza para el bien, mejore vidas e impulse cambios positivos en la sociedad.

¿Te interesa saber más? Mira la charla completa sobre ética de la IA.