Las nuevas normativas sobre IA en California: un enfoque centrado en una IA ética

Desde los coches autónomos hasta la sanidad, las innovaciones en inteligencia artificial (AI) y las empresas tecnológicas de nueva generación están empezando a desempeñar un papel clave en la transformación de nuestra vida cotidiana. Por ello, el tamaño del mercado de la IA mundial fue de 196.630 millones de dólares en 2023 y se prevé que crezca una media del 36 % anual entre 2024 y 2030. Estas cifras muestran la rapidez con la que está creciendo la IA.

Por un lado, el rápido desarrollo de la IA está creando soluciones para diversos problemas en distintos sectores. Por otro, este ritmo pone de relieve la necesidad de desarrollar la IA de forma responsable para garantizar que las mejoras sean éticas y beneficiosas para la sociedad.

Por ejemplo, en 2016, Microsoft lanzó en X (antes Twitter) un chatbot llamado Tay, diseñado para aprender de las conversaciones con los usuarios. Sin embargo, poco después de su lanzamiento, Tay empezó a generar respuestas con un lenguaje poco profesional al asimilar distintos tipos de interacciones. Aunque Microsoft retiró rápidamente el bot, este es un buen ejemplo de la importancia de garantizar que los datos utilizados para entrenar la IA sean fiables y de informar al público sobre cómo utilizan las empresas esos datos en sus productos de IA.

Fig. 1. El chatbot de Microsoft en Twitter, Tay.

Para abordar esta preocupación, Gavin Newsom, gobernador de California, promulgó este septiembre más de una docena de leyes relacionadas con la IA. Estas leyes abarcan desde la divulgación de detalles sobre los datos de entrenamiento hasta la gestión de los deepfakes. En este artículo analizaremos las leyes de California sobre la IA y sus implicaciones.

Legislación sobre IA de California de 2024: garantizar la rendición de cuentas#

Se promulgaron tres proyectos de ley importantes para contribuir a que el desarrollo de la IA sea más seguro y fiable. El proyecto de ley de la Asamblea (AB) 2013, que entrará en vigor en 2026, exige a los proveedores de IA generativa que publiquen información sobre sus conjuntos de datos de entrenamiento. Estos detalles incluyen las fuentes de los conjuntos de datos, cómo se utilizan los datos, el número de puntos de datos del conjunto, si se incluyen datos sujetos a derechos de autor o con licencia, el periodo en el que se recopilaron los datos, etc. Compartir esta información ayudará a las empresas de IA a generar confianza pública.

Otra ley importante que se promulgó fue la AB 1008. Esta amplía las leyes de privacidad vigentes en California a las soluciones de IA generativa. La AB 1008 se presentó para abordar las preocupaciones y aumentar la confianza pública en la forma en que los sistemas de IA gestionan la información personal. Una encuesta reveló que a más del 81 % de los consumidores les preocupa que las empresas de IA puedan utilizar su información de formas que no pretendían. Al establecer límites claros sobre cómo pueden las empresas utilizar y monetizar información personal, como nombres, direcciones y datos biométricos, esta ley ayuda a las empresas de IA a asegurar a los usuarios que sus datos se tratarán de forma responsable, incluso si un sistema de IA los deja expuestos.

Fig. 2. Infografía que muestra que muchas personas creen que las soluciones de IA pueden mejorar en materia de privacidad.

Del mismo modo, el proyecto de ley del Senado (SB) 896, o Ley de Responsabilidad de la IA Generativa, exige a la Oficina de Servicios de Emergencia de California (CalOES) que analice los riesgos de las posibles amenazas que plantean los sistemas de IA generativa. CalOES colaborará con empresas líderes en IA, como OpenAI y Anthropic, para debatir y analizar las posibles amenazas de la IA para las infraestructuras esenciales del estado.

Adopción y regulación de la IA en los centros educativos#

Ya hemos analizado cómo la IA en la educación puede personalizar las experiencias de aprendizaje, redefinir las prácticas docentes, ofrecer comentarios en tiempo real y ayudar al profesorado con herramientas e información avanzadas. De hecho, las innovaciones en IA pueden crear un entorno de estudio más eficaz y estimulante para los estudiantes. Docentes de todo el mundo utilizan la IA con más frecuencia, mientras se llevan a cabo proyectos piloto satisfactorios y se amplía su implementación. Los estudios muestran que más del 50 % del profesorado considera que la IA en las aulas ha repercutido positivamente en el proceso de enseñanza y aprendizaje.

Fig. 3. Encuesta sobre la opinión de los profesores acerca del uso de la IA en los centros educativos.

California ha aprobado dos leyes sobre el uso de la IA en los centros educativos. La AB 2876 obliga al Consejo Estatal de Educación de California a incluir la alfabetización en IA (a partir del 1 de enero de 2025) en los marcos curriculares y materiales didácticos de matemáticas, ciencias e historia. El objetivo de esta ley es garantizar que las escuelas de California enseñen a los estudiantes los fundamentos del funcionamiento de la inteligencia artificial, así como sus limitaciones, su impacto y las consideraciones éticas de su uso.

Además, la SB 1288 exige a los superintendentes de California que creen grupos de trabajo (a más tardar el 1 de enero de 2026) para estudiar cómo se utiliza la IA en los centros públicos. Estos grupos de trabajo deberán presentar sus conclusiones y recomendaciones a las comisiones legislativas pertinentes de política y fiscalidad antes del 1 de enero de 2027. Una vez presentado el informe, se disolverá el grupo de trabajo y las disposiciones quedarán derogadas el 1 de enero de 2031.

Normativa sobre IA generativa en el sector sanitario#

La IA generativa está mejorando el sector sanitario al posibilitar innovaciones en el descubrimiento de nuevos fármacos, el diagnóstico de enfermedades, la planificación de tratamientos y los chatbots médicos. Estas aplicaciones pueden aportar ventajas como la monitorización en tiempo real, el asesoramiento y el apoyo para mejorar los resultados de los pacientes. También pueden utilizarse otras tecnologías, como la realidad aumentada (AR), para planificar y simular intervenciones quirúrgicas.

Fig. 4. Casos de uso de la IA generativa en el sector sanitario.

La integración de la IA generativa en la sanidad conlleva ciertas salvedades relacionadas con la privacidad de los datos y la regulación. Es fundamental dar prioridad a la precisión, la fiabilidad y la imparcialidad de los resultados generados por la IA, protegiendo al mismo tiempo la privacidad de la información sanitaria.

Para abordar estos retos, California ha aprobado dos leyes sobre el uso de la IA generativa en el sector sanitario. La AB 3030 exige a los proveedores sanitarios que informen cuando utilicen IA generativa para comunicarse con un paciente, especialmente si esos mensajes contienen información clínica del paciente. La SB 1120 limita la automatización de los servicios por parte de los proveedores de servicios sanitarios y las aseguradoras de salud. Estas nuevas leyes también garantizan que médicos colegiados supervisen el uso de herramientas de IA en estos ámbitos.

Marcos normativos de California sobre IA y deepfakes#

El estado de California también ha aprobado leyes para frenar el uso de la IA en la difusión de información engañosa o inexacta. La SB 942 exige a los proveedores de sistemas de IA generativa con más de un millón de usuarios mensuales que incorporen una marca de agua oculta (latente) en las imágenes, los vídeos y los archivos de audio generados por IA que creen sus sistemas, y que ofrezcan una herramienta gratuita para detectarla.

California aprobó tres nuevas leyes (AB 1831, SB 926, SB 981) para abordar los problemas relacionados con los deepfakes. Estas leyes amplían las protecciones existentes, penalizan el uso indebido de contenido generado por IA y obligan a las plataformas de redes sociales a crear canales para denunciar contenido deepfake. Está previsto que las leyes entren en vigor en enero de 2025.

Leyes de California sobre la definición de IA y su uso en el cine#

Una de las leyes aprobadas se centraba en establecer una definición adecuada de IA. La AB 2885 define la IA como «un sistema basado en máquinas o diseñado mediante ingeniería que varía en su grado de autonomía y que, para objetivos explícitos o implícitos, puede inferir de la información que recibe cómo generar resultados capaces de influir en entornos físicos o virtuales».

También se aprobaron dos leyes interesantes para el sector del entretenimiento. El mayor sindicato de actores de cine y televisión de Estados Unidos (SAG-AFTRA) desempeñó un papel fundamental para que estas leyes entraran en vigor. La AB 2602 exige a los estudios de cine que obtengan el permiso de un actor antes de utilizar la IA para crear una réplica de su voz y su imagen. Por su parte, la AB 1836 prohíbe a los estudios crear réplicas digitales de artistas fallecidos (como el personaje de Peter Cushing en Rogue One: A Star Wars Story) sin el consentimiento de sus herederos.

Fig. 5. El personaje Grand Moff Tarkin se creó a partir de la imagen del fallecido actor Peter Cushing.

El motivo principal de las leyes de California sobre IA#

Tras analizar estas leyes, quizá te preguntes por qué son necesarias. La regulación de la IA lleva tiempo siendo un tema de debate popular, pero ha cobrado un gran impulso con el auge de los contenidos deepfake, que han afectado a diversos ámbitos, incluidos los medios de comunicación y la política. El uso de contenidos generados por IA en Internet ha suscitado, por ejemplo, preocupación por la desinformación y su posible impacto en los resultados electorales. También crece la inquietud por la privacidad y el uso indebido de datos personales en las innovaciones de IA. Estas preocupaciones son una de las principales razones por las que ahora hay varias leyes nuevas en vigor.

Por ejemplo, la AB 2905 exige que las llamadas automatizadas revelen si utilizan voces generadas por IA. Además, la AB 2655 pide a las grandes plataformas en línea, como Facebook y X, que eliminen o etiqueten los deepfakes relacionados con las elecciones y creen canales para denunciar este tipo de contenido. Los candidatos y los cargos electos también pueden solicitar medidas cautelares si las plataformas no cumplen.

Otra ley, la AB 2839, se dirige a los usuarios de redes sociales que publican o vuelven a publicar deepfakes que podrían engañar a los votantes. Del mismo modo, la AB 2355 establece que los anuncios políticos creados con herramientas de IA deben incluir avisos claros.

Conclusiones principales de las nuevas leyes de California sobre IA#

Las nuevas leyes de California sobre IA reflejan un compromiso cada vez mayor con el equilibrio entre innovación y rendición de cuentas. Al abordar cuestiones clave como la transparencia de los datos, la privacidad, los deepfakes y el uso de la IA en la sanidad y la educación, estas leyes buscan proteger a las personas y a la sociedad, a la vez que promueven un desarrollo responsable de la IA. A medida que la IA siga evolucionando, esta normativa ayudará a garantizar que su crecimiento vaya acompañado de prácticas éticas y de la confianza del público. Estas leyes también pueden animar a otras regiones del mundo a seguir su ejemplo.

Para obtener más información, visita nuestro repositorio de GitHub y participa en nuestra comunidad. Descubre aplicaciones de IA en manufactura y agricultura en nuestras páginas de soluciones.