AI Ethics

La ética de la IA es el campo que aplica principios morales al diseño, desarrollo y uso de la inteligencia artificial (IA) y se pregunta qué sistemas deberían crearse, cómo deberían comportarse y quién es responsable de sus efectos. Sus preocupaciones centrales son la equidad, la privacidad, la transparencia, la seguridad, la rendición de cuentas y la supervisión humana; se nutre de la filosofía, el derecho, las ciencias sociales y la ingeniería. En la práctica, la ética de la IA determina cómo los equipos recopilan datos, evalúan modelos y deciden qué productos lanzar, y sustenta normativas como la Ley de IA de la UE.

Principios fundamentales#

Los marcos internacionales convergen en un conjunto similar de principios. Los Principios de IA de la OCDE, adoptados en 2019 y actualizados en 2024, fueron la primera norma intergubernamental sobre IA; la Recomendación sobre la ética de la inteligencia artificial de la UNESCO fue adoptada por los 193 Estados miembros en 2021; y el Marco de gestión de riesgos de IA del NIST (2023) convierte valores similares en características de una IA fiable que las organizaciones pueden medir:

• Equidad y no discriminación: Los sistemas no deberían ofrecer peores resultados ni perjudicar a las personas por su tono de piel, género, edad u otros rasgos protegidos. El sesgo en IA suele introducirse a través de datos o etiquetas poco representativos, y la equidad en IA proporciona las métricas para detectarlo.
• Privacidad y gobernanza de datos: Los datos personales deben recopilarse de forma lícita, con consentimiento cuando sea necesario, y tratarse únicamente en la medida que requiera su finalidad. Técnicas como la privacidad diferencial y el aprendizaje federado reducen la cantidad de información que revela o centraliza un modelo. En el análisis de vídeo, la privacidad desde el diseño puede implicar anonimizar a las personas antes de almacenar las grabaciones: la solución de difuminado de objetos de Ultralytics ejecuta la detección de YOLO26 en cada fotograma y difumina cada objeto detectado, como a todas las personas, directamente en la imagen.
• Transparencia y explicabilidad: Las personas deben saber cuándo interactúan con un sistema de IA y poder averiguar cómo se ha creado, algo que aborda la transparencia en IA; además, las decisiones que les afectan deben poder explicarse mediante métodos de IA explicable (XAI).
• Seguridad y robustez: Los sistemas deben funcionar de forma fiable en las condiciones que encuentran durante su implementación, resistir manipulaciones como los ataques adversarios y fallar de forma segura.
• Rendición de cuentas y supervisión humana: Una persona u organización identificada responde de los resultados de cada sistema, y las personas pueden supervisarlo, anular sus decisiones o apagarlo.

De los principios a la ley#

La Ley de IA de la UE convierte estos principios en obligaciones proporcionales al riesgo. Entró en vigor en agosto de 2024; las prohibiciones de prácticas prohibidas se aplican desde el 2 de febrero de 2025 y las obligaciones de transparencia, desde el 2 de agosto de 2026. Tras la modificación ómnibus digital de 2026, los requisitos para usos de alto riesgo enumerados en el anexo III, como la contratación, la evaluación crediticia y la educación, se aplican desde el 2 de diciembre de 2027. La ley clasifica cada uso de la IA según las obligaciones que conlleva:

Varias prohibiciones afectan directamente a la visión por ordenador: la extracción indiscriminada de imágenes faciales de Internet o de cámaras de videovigilancia para crear bases de datos de reconocimiento; el reconocimiento de emociones en centros de trabajo y escuelas; la categorización biométrica que infiere rasgos como la raza o las opiniones políticas; y, salvo excepciones limitadas, la identificación biométrica remota en tiempo real en espacios públicos con fines policiales. Las organizaciones también pueden certificar sus prácticas de gestión de IA conforme a ISO/IEC 42001, una norma internacional publicada en 2023.

Ética de la IA y conceptos relacionados#

• Seguridad de la IA: Se centra en prevenir accidentes, usos indebidos y pérdidas de control a medida que los sistemas adquieren más capacidades. La ética de la IA también plantea si un sistema debería existir y a quién sirve.
• Gobernanza de la IA: Políticas, procesos y leyes mediante los que las organizaciones y los gobiernos llevan a la práctica los principios éticos.
• IA responsable: Término que suelen utilizar las empresas para referirse a sus propias prácticas de ética de la IA y que, en gran medida, es sinónimo de esta.
• Sesgo algorítmico: Un problema ético concreto —un error sistemático que produce resultados injustos— dentro de un campo más amplio.

Cuestiones éticas en la visión por ordenador#

• Atención sanitaria: En el análisis de imágenes médicas, un modelo validado con los escáneres y pacientes de un hospital puede pasar por alto hallazgos en poblaciones que nunca ha visto; por eso, los marcos éticos exigen evaluaciones desglosadas y supervisión clínica.
• Medios sintéticos: Los ultrafalsos permiten cometer fraudes, acosar y difundir desinformación, y la Ley de IA de la UE obliga a quienes los implementan a revelar su uso.
• Reconocimiento de emociones: En 2022, Microsoft retiró las funciones de Azure Face que inferían estados emocionales y atributos como el género y la edad. La empresa alegó que no existía consenso científico sobre cómo definir las emociones y que dudaba de que las inferencias basadas en expresiones faciales fueran generalizables entre regiones y grupos demográficos.
• Consentimiento y procedencia de los conjuntos de datos: Muchos conjuntos de datos de rostros y personas se recopilaron sin que las personas fotografiadas lo supieran; Microsoft retiró en 2019 su conjunto de datos MS-Celeb-1M, formado por unos 10 millones de fotos de 100 000 personas.
• Reconocimiento facial y vigilancia: En junio de 2020, IBM dejó de ofrecer reconocimiento facial de uso general y Amazon suspendió el uso policial de su servicio Rekognition, una moratoria que después prorrogó indefinidamente. En septiembre de 2024, la Autoridad Neerlandesa de Protección de Datos multó a Clearview AI con 30,5 millones de euros por crear una base de datos con miles de millones de fotos de rostros recopiladas de Internet.