Las nuevas normativas sobre IA en California: Un enfoque en la IA ética

Desde coches autónomos hasta la asistencia sanitaria, las innovaciones en inteligencia artificial (IA) y las empresas tecnológicas de última generación están empezando a desempeñar un papel clave en la transformación de nuestra vida cotidiana. En consecuencia, el tamaño del mercado global de IA fue de 196.630 millones de dólares en 2023 y se espera que crezca a un promedio del 36% anual entre 2024 y 2030. Estas cifras demuestran lo rápido que está creciendo la IA.

Por un lado, el rápido desarrollo de la IA está creando soluciones para diversos problemas en diferentes industrias. Por otro lado, esta velocidad pone de relieve la necesidad de un desarrollo de IA responsable para garantizar que las mejoras sean éticas y beneficiosas para la sociedad.

Por ejemplo, en 2016, Microsoft lanzó un chatbot, Tay, en X (anteriormente Twitter). Estaba diseñado para aprender de las conversaciones con los usuarios. Sin embargo, poco después de su lanzamiento, Tay comenzó a generar respuestas con lenguaje poco profesional al captar una serie de interacciones. Aunque Microsoft retiró rápidamente el bot, es un buen ejemplo de la importancia de garantizar que los datos utilizados para el entrenamiento de IA sean fiables y de que el público sea consciente de cómo las empresas utilizan dichos datos para productos de IA.

Fig 1. Chatbot de Twitter de Microsoft, Tay.

Abordando esta preocupación, el gobernador de California, Gavin Newsom, promulgó más de una docena de proyectos de ley relacionados con la IA este mes de septiembre. Estas leyes cubren desde la divulgación de detalles sobre datos de entrenamiento hasta el manejo de deepfakes. En este artículo, exploraremos las leyes de IA de California y lo que conllevan. ¡Empecemos!

Link to this sectionLegislación sobre IA en California 2024: Garantizar la responsabilidad#

Se firmaron tres proyectos de ley importantes para fomentar que el desarrollo de IA sea más seguro y fiable. La Assembly Bill (AB) 2013, que entrará en vigor en 2026, exige a los proveedores de IA generativa que publiquen detalles sobre sus conjuntos de datos de entrenamiento. Estos detalles incluyen las fuentes de los conjuntos de datos, detalles sobre cómo se utilizan los datos, el número de puntos de datos en el conjunto, si se incluyen datos con derechos de autor o bajo licencia, el período de tiempo en el que se recopilaron los datos, etc. Compartir esta información ayudará a las empresas de IA a generar confianza pública.

Otro proyecto de ley importante que se firmó fue la AB 1008. Amplía las leyes de privacidad existentes de California a las soluciones de IA generativa. La AB 1008 se introdujo para abordar preocupaciones y mejorar la confianza pública en cómo los sistemas de IA manejan la información personal. Una encuesta reveló que a más del 81% de los consumidores les preocupa que las empresas de IA puedan utilizar su información de formas que no pretendían. Al establecer límites claros sobre cómo las empresas pueden utilizar y sacar provecho de la información personal, como nombres, direcciones y datos biométricos, esta ley ayuda a las empresas de IA a asegurar a los usuarios que sus datos se tratarán de forma responsable, incluso si son expuestos por un sistema de IA.

Fig 2. Una infografía que muestra que muchas personas creen que las soluciones de IA pueden mejorar con respecto a la privacidad.

De igual manera, la Senate Bill (SB) 896, o la Ley de Responsabilidad de IA Generativa, exige a la Oficina de Servicios de Emergencia de California (CalOES) realizar análisis de riesgos sobre las posibles amenazas que plantean los sistemas de IA generativa. CalOES trabajará con empresas pioneras en IA, como OpenAI y Anthropic, para debatir y analizar las posibles amenazas de la IA a la infraestructura estatal crítica.

Link to this sectionAdopción y regulación de la IA en instituciones educativas#

Anteriormente hemos explorado cómo la IA en la educación puede personalizar las experiencias de aprendizaje, redefinir las prácticas docentes, ofrecer comentarios en tiempo real y apoyar a los educadores con herramientas e información avanzadas. De hecho, las innovaciones en IA pueden crear un entorno de estudio más eficaz y participativo para los estudiantes. Educadores y profesores de todo el mundo están utilizando la IA con mayor regularidad, con proyectos piloto exitosos e implementaciones más amplias en marcha. Los estudios muestran que más del 50% de los profesores sienten que la IA en las aulas ha impactado positivamente en el proceso de enseñanza y aprendizaje.

Fig 3. Encuesta que muestra cómo se sienten los profesores sobre el uso de la IA en las escuelas.

California ha introducido dos leyes relativas al uso de la IA en las instituciones educativas. La AB 2876 exige a la Junta Estatal de Educación de California que considere la alfabetización en IA (después del 1 de enero de 2025) en sus marcos curriculares y materiales didácticos de matemáticas, ciencias e historia. El objetivo de esta ley es garantizar que las escuelas de California eduquen a los estudiantes sobre los conceptos básicos de cómo funciona la inteligencia artificial, así como sobre las limitaciones, impactos y consideraciones éticas del uso de la tecnología.

Además de esto, la SB 1288 exige a los superintendentes de California que creen grupos de trabajo (antes o el 1 de enero de 2026) para explorar cómo se utiliza la IA en las escuelas públicas. Estos grupos de trabajo deberán presentar sus conclusiones y recomendaciones a los comités fiscales y de política pertinentes de la Legislatura antes del 1 de enero de 2027. Una vez presentado el informe, el grupo de trabajo se disolverá y las disposiciones serán derogadas el 1 de enero de 2031.

Link to this sectionRegulaciones sobre la IA generativa en la atención sanitaria#

La IA generativa está mejorando el sector sanitario al permitir innovaciones para el descubrimiento de nuevos fármacos, el diagnóstico de enfermedades, la planificación de tratamientos y chatbots médicos. Estas aplicaciones pueden proporcionar beneficios como la monitorización en tiempo real, asesoramiento y apoyo para mejorar los resultados de los pacientes. Otras tecnologías de IA, como la realidad aumentada (RA), también pueden utilizarse para planificar y simular procedimientos quirúrgicos.

Fig 4. Casos de uso de la IA generativa en la atención sanitaria.

La integración de la IA generativa en la atención sanitaria conlleva ciertas advertencias relacionadas con la privacidad de los datos y las regulaciones. Es fundamental priorizar la precisión, la fiabilidad y la equidad de los resultados generados por la IA, al tiempo que se salvaguarda la privacidad de la información sanitaria.

Para abordar estos desafíos, California ha aprobado dos leyes sobre el uso de la IA generativa en la atención sanitaria. La AB 3030 exige a los proveedores de atención médica que revelen cuándo utilizan IA generativa para comunicarse con un paciente, específicamente cuando esos mensajes contienen información clínica del paciente. La SB 1120 impone limitaciones sobre cómo los proveedores de servicios de salud y las aseguradoras de salud pueden automatizar sus servicios. Estas nuevas leyes también aseguran que los médicos con licencia supervisen el uso de herramientas de IA en estos entornos.

Link to this sectionMarcos regulatorios de IA de California para deepfakes#

El estado de California también ha aprobado leyes relacionadas con la limitación del uso de la IA para difundir información engañosa o inexacta. La SB 942 exige que los sistemas populares de IA generativa indiquen claramente en sus datos de origen que el contenido fue creado por IA. Muchas empresas de IA ya lo hacen, y varias herramientas gratuitas disponibles (ZeroGPT, Winston AI, GLTR, etc.) pueden ayudar a las personas a leer estos datos de origen y detectar contenido generado por IA.

Se aprobaron tres nuevas leyes (AB 1831, SB 926, SB 981) en California para abordar cuestiones relacionadas con los deepfakes. Estas leyes amplían las protecciones existentes, penalizan el uso indebido de contenido generado por IA y exigen que las plataformas de redes sociales creen canales de denuncia para contenido deepfake. Está previsto que las leyes se implementen en enero de 2025.

Link to this sectionLeyes de IA de California sobre la definición de IA y su uso en el cine#

Uno de los proyectos de ley que se convirtió en ley se centró en dar una definición adecuada a la IA. La AB 2885 establece que la IA se define como “un sistema diseñado o basado en máquinas que varía en su nivel de autonomía y que puede, para objetivos explícitos o implícitos, inferir de la entrada que recibe cómo generar resultados que pueden influir en entornos físicos o virtuales”.

También se pusieron en marcha dos leyes interesantes para la industria del entretenimiento. El sindicato de actores de cine y televisión más grande de Estados Unidos (SAG-AFTRA) desempeñó un papel crucial para que estas leyes entraran en vigor. La AB 2602 requiere que los estudios cinematográficos obtengan permiso de un actor antes de usar IA para crear una réplica de su voz y apariencia. Mientras tanto, la AB 1836 prohíbe a los estudios crear réplicas digitales de artistas fallecidos (similar al personaje de Peter Cushing en Star Wars: Rogue One) sin el consentimiento de sus herederos.

Fig 5. El personaje, Grand Moff Tarkin, fue creado utilizando la imagen del fallecido actor Peter Cushing.

Link to this sectionEl factor impulsor detrás de las leyes de IA de California#

A medida que conocíamos cada una de estas leyes, es posible que te hayas preguntado por qué son realmente necesarias. Las regulaciones de IA han sido un tema popular de discusión durante algún tiempo, pero han cobrado un impulso significativo con el aumento del contenido deepfake, que ha afectado a diversas áreas, incluidos los medios de comunicación y la política. El uso de contenido generado por IA en línea ha generado preocupaciones sobre la desinformación y su posible impacto en los resultados electorales, por ejemplo. También existen crecientes temores sobre la privacidad y el uso indebido de datos personales por parte de las innovaciones de IA. Estos problemas han sido un factor en por qué ahora existen varias leyes nuevas para abordarlos.

Por ejemplo, la AB 2905, obliga a las llamadas automáticas (robocalls) a revelar si son voces generadas por IA. Además, la AB 2655 pide a las grandes plataformas en línea como Facebook y X que eliminen o etiqueten deepfakes relacionados con las elecciones y que creen canales de denuncia para dicho contenido. Los candidatos y los funcionarios electos también pueden buscar medidas cautelares si las plataformas no cumplen.

Otra ley, la AB 2839, se dirige a los usuarios de redes sociales que publican o vuelven a publicar deepfakes que podrían engañar a los votantes. De igual manera, la AB 2355 estipula divulgaciones claras para los anuncios políticos realizados utilizando herramientas de IA.

Link to this sectionConclusiones clave de las nuevas leyes de IA de California#

Las nuevas leyes de IA de California reflejan un creciente compromiso con el equilibrio entre la innovación y la responsabilidad. Al abordar preocupaciones clave en áreas como la transparencia de los datos, la privacidad, los deepfakes y el uso de la IA en la atención sanitaria y la educación, estas leyes tienen como objetivo salvaguardar a las personas y a la sociedad, al tiempo que promueven un desarrollo responsable de la IA. A medida que la IA continúa evolucionando, estas regulaciones ayudarán a garantizar que su crecimiento esté acompañado de prácticas éticas y confianza pública. Estas leyes también pueden alentar a otras regiones del mundo a seguir su ejemplo.

Para aprender más, visita nuestro repositorio de GitHub e interactúa con nuestra comunidad. Explora aplicaciones de IA en fabricación y agricultura en nuestras páginas de soluciones. 🚀