Las nuevas normativas de IA en California: un enfoque centrado en la IA ética
Descubre cómo las nuevas leyes de IA de California equilibran la innovación con la responsabilidad y abarcan la privacidad, los deepfakes, la sanidad, la educación y la seguridad.
Desde los coches autónomos hasta la atención sanitaria, las innovaciones en inteligencia artificial (AI) y las empresas tecnológicas de última generación están empezando a desempeñar un papel clave en la transformación de nuestras vidas cotidianas. En consecuencia, el tamaño del mercado de la IA a escala mundial fue de 196,63 mil millones de dólares en 2023 y se espera que crezca una media del 36 % anual entre 2024 y 2030. Estas cifras muestran la rapidez con la que está creciendo la IA.
Por un lado, el rápido desarrollo de la IA está creando soluciones para diversos problemas en distintos sectores. Por otro lado, esta velocidad pone de manifiesto la necesidad de desarrollar una IA responsable para garantizar que las mejoras sean éticas y beneficiosas para la sociedad.
Por ejemplo, en 2016, Microsoft lanzó un chatbot, Tay, en X (antes Twitter). Estaba diseñado para aprender de las conversaciones con los usuarios. Sin embargo, poco después de su lanzamiento, Tay empezó a generar respuestas con un lenguaje poco profesional al asimilar una gran variedad de interacciones. Aunque Microsoft retiró rápidamente el bot, es un buen ejemplo de la importancia de garantizar que los datos utilizados para el entrenamiento de IA sean fiables y de que el público conozca cómo utilizan las empresas esos datos en sus productos de IA.
Fig. 1 Chatbot de Twitter de Microsoft, Tay.
Para abordar esta preocupación, el gobernador de California, Gavin Newsom, promulgó más de una docena de proyectos de ley relacionados con la IA en septiembre. Estas leyes abarcan desde la divulgación de detalles sobre los datos de entrenamiento hasta la gestión de los deepfakes. En este artículo exploraremos las leyes de California sobre IA y lo que implican. ¡Empecemos!
Legislación californiana sobre IA de 2024: garantizar la rendición de cuentas#
Se promulgaron tres proyectos de ley importantes para ayudar a que el desarrollo de la IA sea más seguro y fiable. El proyecto de Ley de la Asamblea (AB) 2013, que entrará en vigor en 2026, obliga a los proveedores de IA generativa a publicar información sobre sus conjuntos de datos de entrenamiento. Estos datos incluyen las fuentes de los conjuntos de datos, información sobre cómo se utilizan los datos, el número de puntos de datos del conjunto, si incluye datos sujetos a derechos de autor o con licencia, el periodo durante el que se recopilaron los datos, etc. Compartir esta información ayudará a las empresas de IA a generar confianza pública.
Otro proyecto de ley importante que se promulgó fue la AB 1008. Amplía las leyes de privacidad vigentes en California a las soluciones de IA generativa. La AB 1008 se presentó para abordar las preocupaciones y mejorar la confianza pública en la forma en que los sistemas de IA gestionan la información personal. Una encuesta reveló que más del 81 % de los consumidores temen que las empresas de IA puedan utilizar su información de formas que no habían previsto. Al establecer límites claros sobre cómo las empresas pueden utilizar y obtener beneficios de la información personal, como nombres, direcciones y datos biométricos, esta ley ayuda a las empresas de IA a asegurar a los usuarios que sus datos se tratarán de forma responsable, incluso si un sistema de IA los expone.
Fig. 2 Infografía que muestra que muchas personas creen que las soluciones de IA pueden mejorar en lo que respecta a la privacidad.
Del mismo modo, la Ley del Senado (SB) 896, o Ley de Rendición de Cuentas de la IA Generativa, obliga a la Oficina de Servicios de Emergencia de California (CalOES) a realizar análisis de riesgos sobre las posibles amenazas que plantean los sistemas de IA generativa. CalOES colaborará con empresas pioneras de IA, como OpenAI y Anthropic, para debatir y analizar las posibles amenazas de la IA para las infraestructuras estatales críticas.
Adopción y regulación de la IA en las instituciones educativas#
Ya hemos analizado cómo la IA en la educación puede personalizar las experiencias de aprendizaje, redefinir las prácticas docentes, ofrecer comentarios en tiempo real y ayudar al personal educativo con herramientas e información avanzadas. De hecho, las innovaciones en IA pueden crear un entorno de estudio más eficaz y atractivo para los estudiantes. Educadores y profesores de todo el mundo utilizan la IA con mayor frecuencia, con proyectos piloto satisfactorios y aplicaciones más amplias en marcha. Los estudios muestran que más del 50 % de los profesores consideran que la IA en las aulas ha influido positivamente en el proceso de enseñanza y aprendizaje.
Fig. 3. Encuesta sobre la opinión de los profesores acerca del uso de la IA en las escuelas.
California ha introducido dos leyes relativas al uso de la IA en las instituciones educativas. La AB 2876 obliga al Consejo Estatal de Educación de California a tener en cuenta la alfabetización en IA (después del 1 de enero de 2025) en sus marcos curriculares y materiales didácticos de matemáticas, ciencias e historia. El objetivo de esta ley es garantizar que las escuelas de California enseñen a los estudiantes los fundamentos de cómo funciona la inteligencia artificial, así como las limitaciones, los efectos y las consideraciones éticas del uso de esta tecnología.
Además, la SB 1288 obliga a los superintendentes de California a crear grupos de trabajo (a más tardar el 1 de enero de 2026) para estudiar cómo se utiliza la IA en las escuelas públicas. Estos grupos de trabajo deberán presentar sus conclusiones y recomendaciones a las comisiones legislativas pertinentes de políticas y finanzas antes del 1 de enero de 2027. Una vez presentado el informe, el grupo de trabajo se disolverá y las disposiciones quedarán derogadas el 1 de enero de 2031.
Normativas sobre la IA generativa en la atención sanitaria#
La IA generativa está mejorando el sector de la atención sanitaria al permitir innovaciones para descubrir nuevos fármacos, diagnosticar enfermedades, planificar tratamientos y crear chatbots médicos. Estas aplicaciones pueden ofrecer ventajas como monitorización, asesoramiento y asistencia en tiempo real para mejorar los resultados de los pacientes. Otras tecnologías de IA, como la realidad aumentada (AR), también pueden utilizarse para planificar y simular procedimientos quirúrgicos.
Fig. 4 Casos de uso de la IA generativa en la atención sanitaria.
La integración de la IA generativa en la atención sanitaria conlleva ciertas reservas relacionadas con la privacidad de los datos y la regulación. Es crucial priorizar la precisión, fiabilidad e imparcialidad de los resultados generados por la IA y, al mismo tiempo, proteger la privacidad de la información sanitaria.
Para abordar estos desafíos, California ha aprobado dos leyes sobre el uso de la IA generativa en la atención sanitaria. La AB 3030 exige a los proveedores de atención sanitaria que informen cuando utilicen IA generativa para comunicarse con un paciente, concretamente cuando esos mensajes contengan información clínica del paciente. La SB 1120 limita la forma en que los proveedores de servicios sanitarios y las aseguradoras de salud pueden automatizar sus servicios. Estas nuevas leyes también garantizan que médicos con licencia supervisen el uso de herramientas de IA en estos entornos.
Marcos normativos de California sobre IA para los deepfakes#
El estado de California también ha aprobado leyes destinadas a limitar el uso de la IA para difundir información engañosa o inexacta. La SB 942 obliga a los sistemas populares de IA generativa a indicar claramente en sus datos de origen que el contenido ha sido creado por IA. Muchas empresas de IA ya lo hacen, y varias herramientas gratuitas disponibles (ZeroGPT, Winston AI, GLTR, etc.) pueden ayudar a las personas a leer estos datos de origen y detectar contenido generado por IA.
En California se aprobaron tres nuevas leyes (AB 1831, SB 926, SB 981) para abordar problemas relacionados con los deepfakes. Estas leyes amplían las protecciones existentes, penalizan el uso indebido de contenido generado por IA y obligan a las plataformas de redes sociales a crear canales de denuncia para contenidos deepfake. Está previsto que las leyes se apliquen en enero de 2025.
Las leyes de California sobre IA y la definición de IA y su uso en el cine#
Uno de los proyectos de ley promulgados se centró en establecer una definición adecuada de la IA. La AB 2885 establece que la IA se define como «un sistema diseñado o basado en máquinas que varía en su nivel de autonomía y que puede, con objetivos explícitos o implícitos, inferir a partir de los datos de entrada que recibe cómo generar resultados capaces de influir en entornos físicos o virtuales».
También se establecieron dos leyes interesantes para la industria del entretenimiento. El mayor sindicato estadounidense de actores de cine y televisión (SAG-AFTRA) desempeñó un papel crucial en la aprobación de estas leyes. La AB 2602 obliga a los estudios cinematográficos a obtener el permiso de un actor antes de utilizar IA para crear una réplica de su voz y apariencia. Por su parte, la AB 1836 prohíbe a los estudios crear réplicas digitales de intérpretes fallecidos (similares al personaje de Peter Cushing en Star Wars: Rogue One) sin el consentimiento de sus herederos.
Fig. 5. El personaje Grand Moff Tarkin se creó utilizando la apariencia del fallecido actor Peter Cushing.
El factor determinante de las leyes de California sobre IA#
Al examinar cada una de estas leyes, quizá te hayas preguntado por qué son realmente necesarias. Las normativas sobre IA llevan algún tiempo siendo un tema de debate habitual, pero han cobrado un impulso considerable con el auge de los contenidos deepfake, que han afectado a diversos ámbitos, incluidos los medios de comunicación y la política. El uso de contenido generado por IA en internet ha suscitado preocupaciones sobre la desinformación y su posible impacto en los resultados electorales, por ejemplo. También crece la preocupación por la privacidad y el uso indebido de datos personales por parte de las innovaciones en IA. Estos problemas han contribuido a la aprobación de varias leyes nuevas destinadas a abordarlos.
Por ejemplo, la AB 2905 obliga a las llamadas automáticas a revelar si utilizan voces generadas por IA. Además, la AB 2655 exige a las grandes plataformas en línea, como Facebook y X, retirar o etiquetar los deepfakes relacionados con elecciones y crear canales de denuncia para dichos contenidos. Los candidatos y cargos electos también pueden solicitar medidas cautelares si las plataformas no cumplen.
Otra ley, la AB 2839, se dirige a los usuarios de redes sociales que publiquen o vuelvan a publicar deepfakes capaces de inducir a error a los votantes. Del mismo modo, la AB 2355 establece la obligación de incluir declaraciones claras en los anuncios políticos creados mediante herramientas de IA.
Conclusiones clave de las nuevas leyes de California sobre IA#
Las nuevas leyes de California sobre IA reflejan un compromiso cada vez mayor con el equilibrio entre innovación y rendición de cuentas. Al abordar preocupaciones clave en ámbitos como la transparencia de los datos, la privacidad, los deepfakes y el uso de la IA en la atención sanitaria y la educación, estas leyes pretenden proteger a las personas y a la sociedad, al tiempo que promueven un desarrollo responsable de la IA. A medida que la IA siga evolucionando, estas normativas ayudarán a garantizar que su crecimiento vaya acompañado de prácticas éticas y confianza pública. Estas leyes también pueden animar a otras regiones del mundo a seguir su ejemplo.
Para obtener más información, visita nuestro repositorio de GitHub y participa en nuestra comunidad. Explora las aplicaciones de IA en fabricación y agricultura en nuestras páginas de soluciones. 🚀
