Deepfakes

Los medios sintéticos creados con técnicas de aprendizaje profundo se conocen como deepfakes. El término es un portmanteau de "deep learning" (aprendizaje profundo) y "fake" (falso), y se refiere a vídeos o grabaciones de audio en los que el parecido y la voz de una persona se sustituyen por los de otra, a menudo con un alto grado de realismo. Esto se consigue entrenando una red neuronal con grandes cantidades de imágenes y vídeos existentes de las personas objetivo para aprender y replicar sus expresiones faciales, gestos y patrones de habla.

La tecnología detrás de los deepfakes

La generación de deepfakes se basa principalmente en dos conceptos clave del aprendizaje automático: las redes generativas adversariales (GAN) y los autocodificadores.

• Redes Generativas Adversariales (GAN): Una GAN consta de dos redes neuronales que compiten entre sí: un Generador y un Discriminador. El Generador crea las imágenes falsas (por ejemplo, un fotograma de un vídeo con una cara intercambiada), mientras que el Discriminador intenta determinar si la imagen es real o falsa. Este proceso contradictorio obliga al Generador a producir falsificaciones cada vez más convincentes que puedan engañar al Discriminador. Esta técnica es la piedra angular de la IA generativa moderna.
• Autocodificadores: Este método utiliza una arquitectura codificador-decodificador. Se entrenan dos autocodificadores con imágenes de dos personas diferentes. Para realizar un intercambio de caras, las imágenes de la primera persona se pasan por el primer codificador, pero luego se decodifican utilizando el decodificador entrenado en la segunda persona. Esto genera imágenes de la segunda persona con las expresiones y la orientación de la primera. El proceso suele comenzar con un modelo de detección de objetos, como Ultralytics YOLO, para localizar las caras en un vídeo antes de que comience el proceso de intercambio.

Aplicaciones y ejemplos reales

Aunque a menudo se asocia con usos maliciosos, la tecnología deepfake tiene varias aplicaciones legítimas y creativas.

• Entretenimiento y medios de comunicación: La tecnología puede utilizarse para doblar películas a otros idiomas, adaptando los movimientos de los labios de los actores a los nuevos diálogos. También permite envejecer a los actores o recrear digitalmente figuras históricas para biopics, como hacen empresas como Industrial Light & Magic.
• Generación de datos sintéticos: La creación de conjuntos de datos realistas pero artificiales es una potente aplicación. Por ejemplo, los datos sintéticos de rostros humanos pueden utilizarse para entrenar modelos de visión por ordenador para tareas como el reconocimiento facial sin comprometer la privacidad de los datos de los individuos reales. Esto ayuda a mejorar la solidez del modelo y a reducir el sesgo del conjunto de datos.

Retos éticos y detección

El potencial de uso indebido convierte a los deepfakes en un importante problema ético. La tecnología puede utilizarse para crear noticias falsas convincentes, difundir desinformación política, cometer fraude y generar contenido explícito no consentido. Estos riesgos ponen de relieve la importancia de desarrollar principios sólidos para la ética de la IA y el desarrollo responsable de la IA.

Como respuesta, ha surgido un campo de detección de deepfakes que ha creado una carrera tecnológica entre la generación y los métodos de detección. Investigadores y empresas están desarrollando modelos de IA para detectar los sutiles artefactos visuales y las incoherencias que los algoritmos de deepfake suelen dejar tras de sí. Iniciativas como Deepfake Detection Challenge y organizaciones como Partnership on AI se centran en mejorar estas capacidades de detección para mitigar el impacto negativo de la tecnología. También existen herramientas a disposición del público, como Intel FakeCatcher, diseñadas para identificar contenidos generados. Aprender a distinguir si una imagen está generada por IA se está convirtiendo en una habilidad esencial en el panorama digital moderno.