10 de octubre de 2024
Descubra cómo las nuevas leyes de IA de California equilibran la innovación con la responsabilidad, cubriendo la privacidad, los deepfakes, la atención médica, la educación y la seguridad.
Desde coches autónomos hasta la atención sanitaria, las innovaciones en inteligencia artificial (IA) y las empresas tecnológicas de nueva generación están empezando a desempeñar un papel clave en la remodelación de nuestra vida cotidiana. En consecuencia, el tamaño del mercado mundial de la IA fue de 196.630 millones de dólares en 2023 y se espera que crezca a una media del 36% anual entre 2024 y 2030. Estas cifras demuestran la rapidez con la que está creciendo la IA.
Por un lado, el rápido desarrollo de la IA está creando soluciones a diversos problemas en diferentes industrias. Por otro lado, esta velocidad saca a la luz la necesidad de un desarrollo de IA responsable para asegurar que las mejoras sean éticas y beneficiosas para la sociedad.
Por ejemplo, en 2016, Microsoft lanzó un chatbot, Tay, en X (anteriormente Twitter). Fue diseñado para aprender de las conversaciones con los usuarios. Sin embargo, poco después de su lanzamiento, Tay comenzó a generar respuestas con lenguaje no profesional al captar una variedad de interacciones. Si bien Microsoft rápidamente desconectó el bot, es un buen ejemplo de la importancia de garantizar que los datos utilizados para el entrenamiento de la IA sean confiables y que el público sea consciente de cómo las empresas están utilizando dichos datos para productos de IA.
Para abordar esta preocupación, el gobernador de California, Gavin Newsom, promulgó más de una docena de proyectos de ley relacionados con la IA este mes de septiembre. Estas leyes abordan todo, desde la divulgación de detalles sobre los datos de entrenamiento hasta el manejo de deepfakes. En este artículo, exploraremos las leyes de IA de California y lo que implican. ¡Empecemos!
Se promulgaron tres proyectos de ley importantes para apoyar que el desarrollo de la IA sea más seguro y confiable. El Proyecto de Ley de la Asamblea (AB) 2013, que entrará en vigor en 2026, exige a los proveedores de IA generativa que publiquen detalles sobre sus conjuntos de datos de entrenamiento. Estos detalles incluyen las fuentes de los conjuntos de datos, detalles sobre cómo se utilizan los datos, el número de puntos de datos en el conjunto, si se incluyen datos con derechos de autor o con licencia, el período de tiempo en que se recopilaron los datos, etc. Compartir esta información ayudará a las empresas de IA a generar confianza pública.
Otro proyecto de ley importante que se firmó fue AB 1008. Extiende las leyes de privacidad existentes de California a las soluciones de IA generativa. AB 1008 se introdujo para abordar las preocupaciones y mejorar la confianza pública en cómo los sistemas de IA manejan la información personal. Una encuesta reveló que a más del 81% de los consumidores les preocupa que las empresas de IA puedan usar su información de maneras que no pretendían. Al establecer límites claros sobre cómo las empresas pueden usar y lucrar con la información personal, como nombres, direcciones y datos biométricos, esta ley ayuda a las empresas de IA a asegurar a los usuarios que sus datos se manejarán de manera responsable, incluso si son expuestos por un sistema de IA.
De manera similar, el Proyecto de Ley del Senado (SB) 896, o la Ley de Responsabilidad de la IA Generativa, requiere que la Oficina de Servicios de Emergencia de California (CalOES) realice análisis de riesgo sobre las posibles amenazas que plantean los sistemas de IA generativa. CalOES trabajará con empresas pioneras en IA, como OpenAI y Anthropic, para discutir y analizar las posibles amenazas de la IA a la infraestructura estatal crítica.
Anteriormente hemos explorado cómo la IA en la educación puede personalizar las experiencias de aprendizaje, redefinir las prácticas de enseñanza, ofrecer retroalimentación en tiempo real y apoyar a los educadores con herramientas e información avanzadas. De hecho, las innovaciones en IA pueden crear un entorno de estudio más eficaz y atractivo para los estudiantes. Los educadores y profesores de todo el mundo están utilizando la IA con más regularidad, con proyectos piloto exitosos e implementaciones más amplias en curso. Los estudios demuestran que más del 50% de los profesores sienten que la IA en las aulas ha tenido un impacto positivo en el proceso de enseñanza y aprendizaje.
California ha introducido dos leyes con respecto al uso de la IA en las instituciones educativas. La AB 2876 exige que la Junta de Educación del Estado de California considere la alfabetización en IA (después del 1 de enero de 2025) en sus marcos curriculares y materiales de instrucción de matemáticas, ciencias e historia. El objetivo de esta ley es asegurar que las escuelas de California eduquen a los estudiantes sobre los conceptos básicos de cómo funciona la inteligencia artificial, así como las limitaciones, los impactos y las consideraciones éticas del uso de la tecnología.
Además de esto, la SB 1288 exige a los superintendentes de California que creen grupos de trabajo (a partir del 1 de enero de 2026) para explorar cómo se está utilizando la IA en las escuelas públicas. Estos grupos de trabajo deberán presentar sus conclusiones y recomendaciones a los comités políticos y fiscales pertinentes de la Asamblea Legislativa antes del 1 de enero de 2027. Una vez presentado el informe, el grupo de trabajo se disolverá y las disposiciones se derogarán el 1 de enero de 2031.
La IA generativa está mejorando la industria de la atención médica al permitir innovaciones para el descubrimiento de nuevos fármacos, el diagnóstico de enfermedades, la planificación de tratamientos y los chatbots médicos. Estas aplicaciones pueden proporcionar beneficios como la monitorización en tiempo real, el asesoramiento y el apoyo para mejorar los resultados de los pacientes. Otras tecnologías de IA, como la realidad aumentada (RA), también pueden utilizarse para planificar y simular procedimientos quirúrgicos.
La integración de la IA generativa en la atención sanitaria conlleva ciertas advertencias relacionadas con la privacidad de los datos y las regulaciones. Es crucial priorizar la precisión, la fiabilidad y la equidad de los resultados generados por la IA, al tiempo que se salvaguarda la privacidad de la información sanitaria.
Para abordar estos desafíos, California ha aprobado dos leyes sobre el uso de la IA generativa en la atención médica. AB 3030 exige que los proveedores de atención médica revelen cuándo utilizan la IA generativa para comunicarse con un paciente, específicamente cuando esos mensajes contienen información clínica del paciente. SB 1120 impone limitaciones sobre cómo los proveedores de servicios de atención médica y las aseguradoras de salud pueden automatizar sus servicios. Estas nuevas leyes también garantizan que los médicos con licencia supervisen el uso de herramientas de IA en estos entornos.
El estado de California también ha aprobado leyes relacionadas con la restricción del uso de la IA para difundir información engañosa o inexacta. La SB 942 exige que los sistemas populares de IA generativa indiquen claramente en sus datos de origen que el contenido fue creado por IA. Muchas empresas de IA ya lo hacen, y varias herramientas gratuitas (ZeroGPT, Winston AI, GLTR, etc.) pueden ayudar a las personas a leer estos datos de origen y detectar contenido generado por IA.
Se aprobaron tres nuevas leyes (AB 1831, SB 926, SB 981) en California para abordar los problemas relacionados con los deepfakes. Estas leyes amplían las protecciones existentes, penalizan el uso indebido de contenido generado por IA y exigen que las plataformas de redes sociales creen canales de denuncia para el contenido deepfake. Las leyes entrarán en vigor en enero de 2025.
Uno de los proyectos de ley que se convirtió en ley se centró en dar una definición adecuada a la IA. AB 2885 establece que la IA se define como “un sistema de ingeniería o basado en máquinas que varía en su nivel de autonomía y que puede, para objetivos explícitos o implícitos, inferir de la entrada que recibe cómo generar salidas que pueden influir en entornos físicos o virtuales”.
También se implementaron dos leyes interesantes para la industria del entretenimiento. El sindicato de actores de cine y radiodifusión más grande de Estados Unidos (SAG-AFTRA) desempeñó un papel crucial para que estas leyes entraran en vigor. La ley AB 2602 exige que los estudios cinematográficos obtengan el permiso de un actor antes de utilizar la IA para crear una réplica de su voz y apariencia. Mientras tanto, la ley AB 1836 prohíbe a los estudios crear réplicas digitales de artistas fallecidos (similares al personaje de Peter Cushing en Star Wars: Rogue One) sin el consentimiento de sus herederos.
A medida que comprendimos cada una de estas leyes, es posible que se haya preguntado por qué son realmente necesarias. Las regulaciones de la IA han sido un tema de discusión popular durante algún tiempo, pero han ganado un impulso significativo con el auge del contenido deepfake, que ha impactado varias áreas, incluyendo los medios y la política. El uso de contenido generado por IA en línea ha provocado preocupaciones sobre la desinformación y su potencial impacto en los resultados electorales, por ejemplo. También existen crecientes aprehensiones sobre la privacidad y el uso indebido de datos personales por parte de las innovaciones de la IA. Estos problemas han sido un factor en por qué varias leyes nuevas están ahora en vigor para abordar estos problemas.
Por ejemplo, AB 2905 exige que las llamadas automáticas revelen si son voces generadas por IA. Además, AB 2655 exige que las grandes plataformas en línea como Facebook y X eliminen o etiqueten los deepfakes relacionados con las elecciones y creen canales de denuncia para dicho contenido. Los candidatos y los funcionarios electos también pueden solicitar medidas cautelares si las plataformas no cumplen.
Otra ley, AB 2839, se dirige a los usuarios de redes sociales que publican o republican deepfakes que podrían inducir a error a los votantes. Del mismo modo, AB 2355 estipula divulgaciones claras para los anuncios políticos realizados con herramientas de IA.
Las nuevas leyes de IA de California reflejan un compromiso creciente para equilibrar la innovación con la responsabilidad. Al abordar las principales preocupaciones en áreas como la transparencia de los datos, la privacidad, los deepfakes y el uso de la IA en la atención médica y la educación, estas leyes tienen como objetivo salvaguardar a las personas y a la sociedad al tiempo que promueven el desarrollo responsable de la IA. A medida que la IA continúa evolucionando, estas regulaciones ayudarán a garantizar que su crecimiento vaya acompañado de prácticas éticas y confianza pública. Estas leyes también pueden alentar a otras regiones del mundo a seguir su ejemplo.
Para obtener más información, visite nuestro repositorio de GitHub e interactúe con nuestra comunidad. Explore las aplicaciones de la IA en la fabricación y la agricultura en nuestras páginas de soluciones. 🚀
