Las nuevas normativas sobre IA en California: Un enfoque en la IA ética

Desde self-driving cars hasta healthcare, las innovaciones en inteligencia artificial (IA) y las empresas tecnológicas de última generación están empezando a desempeñar un papel clave en la remodelación de nuestra daily lives. En consecuencia, el market size of AI a nivel mundial fue de 196.63 mil millones de dólares en 2023 y se espera que crezca a un promedio del 36% anual entre 2024 y 2030. Estas cifras demuestran la rapidez con la que está creciendo la IA.

Por un lado, el rápido desarrollo de la IA está creando solutions para diversos problemas en diferentes sectores. Por otro lado, esta velocidad pone de manifiesto la necesidad de un desarrollo de responsible AI para garantizar que las mejoras sean ethical y beneficiosas para la sociedad.

Por ejemplo, en 2016, Microsoft lanzó un chatbot llamado Tay en X (antes Twitter). Fue diseñado para aprender de las conversaciones con los usuarios. Sin embargo, poco después de su lanzamiento, Tay comenzó a generar respuestas con lenguaje poco profesional al captar diversos tipos de interacciones. Aunque Microsoft retiró el bot rápidamente, es un buen ejemplo de la importancia de garantizar que los datos utilizados para el AI training sean fiables y de que el público sea consciente de cómo las empresas utilizan dichos data para productos de IA.

Fig 1. El chatbot de Twitter de Microsoft, Tay.

Para abordar esta preocupación, el gobernador de California, Gavin Newsom, promulgó más de una docena de AI-related bills este mes de septiembre. Estas leyes abordan desde la divulgación de detalles sobre los training data hasta la gestión de los deepfakes. En este artículo, analizaremos las leyes de IA de California y lo que conllevan. ¡Comencemos!

Legislación sobre IA en California 2024: Garantizar la responsabilidad#

Se aprobaron tres proyectos de ley importantes para respaldar que el AI development sea más seguro y fiable. La Assembly Bill (AB) 2013, que entra en vigor en 2026, exige a los proveedores de generative AI que publiquen detalles sobre sus training datasets. Estos detalles incluyen los sources of the datasets, información sobre cómo se utilizan los datos, el número de puntos de datos en el conjunto, si se incluyen datos protegidos por derechos de autor o con licencia, el período de tiempo en que se recopilaron los datos, etc. Compartir esta información ayudará a las empresas de IA a generar confianza pública.

Otro proyecto de ley importante que se aprobó fue la AB 1008. Amplía las leyes de privacidad existentes en California a las generative AI solutions. La AB 1008 se introdujo para abordar las preocupaciones y mejorar la confianza pública en la forma en que los sistemas de IA gestionan la información personal. Una encuesta reveló que más del 81% of consumers teme que las AI companies utilicen su información de formas que no pretendían. Al establecer límites claros sobre cómo las businesses pueden usar y beneficiarse de la información personal, como nombres, direcciones y biometric data, esta ley ayuda a las empresas de IA a asegurar a los usuarios que sus datos se gestionarán de manera responsable, incluso si se exponen a través de un sistema de IA.

Fig 2. Una infografía que muestra que muchas personas creen que las soluciones de IA pueden mejorar en lo que respecta a la privacidad.

Del mismo modo, la Senate Bill (SB) 896, o Ley de Responsabilidad de la Inteligencia Artificial Generativa, exige a la California’s Office of Emergency Services (CalOES) que realice análisis de riesgos sobre las amenazas potenciales planteadas por los generative AI systems. La CalOES trabajará con empresas pioneras de IA, como OpenAI y Anthropic, para debatir y analizar las amenazas potenciales de la IA a la infraestructura crítica del estado.

Adopción y regulación de la IA en instituciones educativas#

Anteriormente hemos analizado cómo AI in education puede personalizar las experiencias de aprendizaje, redefinir las prácticas de enseñanza, ofrecer comentarios en tiempo real y ayudar a los educadores con herramientas y perspectivas avanzadas. De hecho, las innovaciones de la IA pueden crear un entorno de estudio más eficaz y engaging studying environment para los estudiantes. Educadores y profesores de todo el mundo utilizan la IA con mayor regularidad, y se están llevando a cabo proyectos piloto exitosos e implantaciones más amplias. Los estudios demuestran que más del 50% de los profesores consideran que la AI in classrooms ha repercutido positivamente en el proceso de enseñanza y aprendizaje.

Fig 3. Encuesta que muestra la opinión del profesorado sobre el uso de la IA en los colegios.

California ha introducido dos leyes relativas al uso de la AI in educational institutions. La AB 2876 obliga a la Junta de Educación del Estado de California a tener en cuenta la alfabetización en IA (a partir del 1 de enero de 2025) en sus marcos curriculares y materiales didácticos de math, science e history. El objetivo de esta ley es garantizar que los colegios de California eduquen a los estudiantes sobre los fundamentos de how artificial intelligence works, así como sobre las limitaciones, los impacts y las ethical considerations del uso de esta tecnología.

Además de esto, la SB 1288 exige a los superintendentes de California que creen grupos de trabajo (el 1 de enero de 2026 o antes) para explorar cómo se está utilizando la IA en las escuelas públicas. Estos grupos de trabajo deberán presentar sus conclusiones y recomendaciones a los comités políticos y fiscales pertinentes de la Legislatura antes del 1 de enero de 2027. Una vez presentado el informe, el grupo de trabajo se disolverá y las disposiciones se derogarán el 1 de enero de 2031.

Regulaciones sobre la IA generativa en la atención sanitaria#

La IA generativa está mejorando el sector de healthcare al permitir innovaciones para discovering new drugs, diagnosing diseases, planning treatments y crear chatbots médicos. Estas aplicaciones pueden proporcionar beneficios como monitorización en tiempo real, asesoramiento y apoyo para improve patient outcomes. Otras tecnologías de IA, como augmented reality (AR), también se pueden utilizar para planificar y simular intervenciones quirúrgicas.

Fig 4. Casos de uso de la IA generativa en la sanidad.

La integración de la IA generativa en la atención sanitaria conlleva ciertas advertencias relacionadas con la privacidad de los datos y las regulaciones. Es fundamental priorizar la precisión, la fiabilidad y la equidad de los resultados generados por la IA, al tiempo que se salvaguarda la privacidad de la información sanitaria.

Para hacer frente a estos retos, California ha aprobado dos leyes sobre el uso de la IA generativa en el sector sanitario. La AB 3030 exige a los proveedores sanitarios que comuniquen cuándo utilizan IA generativa para comunicarse con un paciente, concretamente cuando dichos mensajes contienen información clínica del paciente. La SB 1120 impone limitaciones a la forma en que los proveedores de servicios sanitarios y las aseguradoras médicas pueden automatizar sus servicios. Estas nuevas leyes también garantizan que los médicos colegiados supervisen el uso de herramientas de IA en estos entornos.

Marcos regulatorios de IA de California para deepfakes#

El estado de California también ha aprobado leyes relacionadas con la limitación del uso de la IA para difundir información engañosa o inexacta. La SB 942 exige a los sistemas de IA generativa más populares que indiquen claramente en sus datos de origen que el contenido ha sido creado por IA. Muchas empresas de IA ya lo hacen, y existen varias herramientas gratuitas (ZeroGPT, Winston AI, GLTR, etc.) que pueden ayudar a las personas a leer estos datos de origen y detectar contenido generado por IA.

Se aprobaron tres nuevas leyes (AB 1831, SB 926, SB 981) en California para abordar cuestiones relacionadas con los deepfakes. Estas leyes amplían las protecciones existentes, tipifican como delito el uso indebido de contenidos generados por IA y exigen a las plataformas de redes sociales que creen canales de denuncia de contenidos de deepfakes. Su aplicación está prevista para enero de 2025.

Leyes de IA de California sobre la definición de IA y su uso en el cine#

Uno de los proyectos de ley convertidos en ley se centró en dar una definición adecuada a la IA. La AB 2885 establece que la IA se define como «un sistema diseñado o basado en máquinas que varía en su nivel de autonomía y que puede, con objetivos explícitos o implícitos, inferir a partir de la entrada que recibe cómo generar salidas que puedan influir en entornos físicos o virtuales».

También se aprobaron dos leyes interesantes para la industria del entretenimiento. El mayor sindicato de actores de cine y retransmisión de Estados Unidos (SAG-AFTRA) desempeñó un papel crucial para que estas leyes entraran en vigor. La AB 2602 exige a los estudios de cine que obtengan el permiso de un actor antes de utilizar la IA para crear una réplica de su voz y su imagen. Por su parte, la AB 1836 prohíbe a los estudios crear réplicas digitales de artistas fallecidos (como el personaje de Peter Cushing en Star Wars: Rogue One) sin el consentimiento de sus herederos.

Fig 5. El personaje del Gran Moff Tarkin se creó utilizando la imagen del fallecido actor Peter Cushing.

El factor impulsor detrás de las leyes de IA de California#

Al conocer cada una de estas leyes, es posible que te hayas preguntado por qué son realmente necesarias. Las normativas sobre IA han sido un tema de debate popular durante algún tiempo, pero han ganado un impulso significativo con el auge del contenido de deepfakes, que ha afectado a diversas áreas, incluidos media and politics. El uso de contenidos generados por IA en Internet ha suscitado preocupación por la desinformación y su posible impact on election outcomes, por ejemplo. También crecen los temores sobre la privacidad y el uso indebido de datos personales por parte de las innovaciones de la IA. Estos problemas han contribuido a que ahora existan varias leyes nuevas para abordar estas cuestiones.

Por ejemplo, la AB 2905 obliga a las llamadas automáticas (robocalls) a revelar si utilizan voces generadas por IA. Además, la AB 2655 pide a las grandes plataformas en línea como Facebook y X que eliminen o etiqueten los deepfakes relacionados con las elecciones y que creen canales de denuncia para dichos contenidos. Los candidatos y los cargos electos también pueden solicitar medidas cautelares si las plataformas incumplen esta norma.

Otra ley, la AB 2839, se dirige a los usuarios de redes sociales que publican o vuelven a publicar deepfakes que podrían engañar a los votantes. Del mismo modo, la AB 2355 estipula divulgaciones claras para los anuncios políticos realizados mediante herramientas de IA.

Conclusiones clave de las nuevas leyes de IA de California#

Las nuevas leyes de IA de California reflejan un creciente compromiso con el equilibrio entre la innovación y la responsabilidad. Al abordar preocupaciones clave en áreas como la transparencia de los datos, la privacidad, los deepfakes y el uso de la IA en la atención sanitaria y la educación, estas leyes tienen como objetivo salvaguardar a las personas y a la sociedad, al tiempo que promueven un desarrollo responsable de la IA. A medida que la IA continúa evolucionando, estas regulaciones ayudarán a garantizar que su crecimiento esté acompañado de prácticas éticas y confianza pública. Estas leyes también pueden alentar a otras regiones del mundo a seguir su ejemplo.

Para obtener más información, visita nuestro GitHub repository e interactúa con nuestra community. Explora las aplicaciones de la IA en la manufacturing y la agriculture en nuestras páginas de soluciones. 🚀