Deepfakes

Los deepfakes son imágenes, vídeos o grabaciones de audio en los que el aprendizaje profundo (DL) sustituye o inventa el rostro, la voz o el cuerpo de una persona real con tanta verosimilitud que quienes los ven los consideran auténticos. El término, una combinación de «deep learning» y «fake», data de 2017, cuando un usuario de Reddit llamado «deepfakes» empezó a publicar vídeos con intercambio de rostros creados con herramientas de código abierto. Los deepfakes son una forma de IA generativa, y las mismas técnicas impulsan los efectos cinematográficos y el doblaje, además del fraude, el acoso y la desinformación.

Cómo se crean los deepfakes#

El intercambio clásico de rostros utiliza un par de autocodificadores que comparten un codificador. El codificador compartido aprende a comprimir cualquier rostro en un código compacto del espacio latente que describe la pose, la expresión y la iluminación, mientras que cada decodificador aprende a reconstruir a una persona concreta a partir de ese código. Tras entrenar con miles de recortes faciales de ambas personas, el sistema codifica un fotograma de la persona A y lo decodifica con el decodificador de la persona B, lo que produce el rostro de la persona B con la expresión de la persona A:

Después surgieron otros métodos:

• Redes generativas antagónicas (GANs): un generador crea imágenes mientras un discriminador intenta distinguirlas de fotografías reales; esta competición empuja al generador hacia el fotorrealismo. Las GANs como StyleGAN generan rostros de personas que no existen.
• Modelos de difusión: generan imágenes y vídeos eliminando el ruido paso a paso, guiados por texto, una foto de referencia o un vídeo de origen. Impulsan las herramientas actuales de edición fotográfica y generación de vídeo a partir de texto, que pueden crear un vídeo realista de una persona hablando a partir de una sola foto de referencia.
• Clonación de voz: los modelos de voz reproducen la voz de una persona a partir de una grabación breve, y después los modelos de sincronización labial modifican la boca en un vídeo existente para que coincida con el nuevo audio.

Usos y perjuicios#

Las técnicas de deepfake tienen usos legítimos. Los estudios rejuvenecen a actores y doblan películas a otros idiomas con movimientos labiales sincronizados. El documental de 2020 Welcome to Chechnya sustituyó los rostros de las personas entrevistadas perseguidas por los de voluntarios, protegiendo su identidad y conservando todas sus expresiones. Los pacientes que pierden la voz a causa de una enfermedad pueden guardar grabaciones y hablar mediante un clon de su voz, y los rostros generados sirven como datos sintéticos para entrenar modelos sin recopilar fotos de personas reales.

Los perjuicios son mayores en escala. La mayoría de los deepfakes que circulan por Internet son imágenes íntimas no consentidas dirigidas contra personas reales, normalmente mujeres. Los estafadores clonan las voces de familiares o directivos para solicitar pagos urgentes y, a principios de 2024, un empleado de la empresa de ingeniería Arup transfirió unos 25 millones de dólares estadounidenses tras una videollamada en la que tanto el director financiero de la empresa como otros compañeros eran deepfakes. Durante las elecciones se difunden vídeos manipulados de políticos, y la existencia de falsificaciones convincentes permite desestimar grabaciones auténticas alegando que son falsas.

Detección de deepfakes#

Los sistemas de detección buscan rastros que deja la generación: uniones visibles alrededor del rostro, iluminación y reflejos incoherentes en los ojos, parpadeos o movimientos de cabeza poco naturales, artefactos de frecuencia invisibles a simple vista y movimientos labiales que dejan de estar sincronizados con el habla. La mayoría de los detectores primero localizan y recortan cada rostro y después pasan el recorte a un clasificador entrenado con ejemplos reales y manipulados. Ultralytics YOLO26 encaja en esta segunda etapa: sus modelos de clasificación se entrenan con un conjunto de datos con una carpeta por clase, así que basta con tener carpetas «real» y «fake» con recortes de rostros para entrenar un clasificador que distinga lo real de lo falso.

A los detectores les cuesta generalizar a métodos de generación que no han visto. En el Deepfake Detection Challenge de Meta, el modelo ganador obtuvo una precisión media del 65,18 % en un conjunto de prueba oculto de vídeos nuevos, frente al 82,56 % del mejor modelo en el conjunto de prueba público. Como la detección va por detrás de la generación, el sector también verifica la procedencia: Content Credentials (C2PA) adjunta un registro firmado criptográficamente que indica cómo se capturó y editó el contenido multimedia, y las marcas de agua de IA insertan una señal oculta en el contenido generado que los detectores pueden leer más adelante.

Deepfakes y conceptos relacionados#

• Datos sintéticos: cualquier dato generado artificialmente que se utilice para entrenar o probar modelos, desde escenas de conducción simuladas hasta imágenes renderizadas de productos. Las técnicas de deepfake son una de sus fuentes cuando se usan rostros generados para completar un conjunto de entrenamiento.
• Imágenes generadas por ordenador (CGI): personajes y efectos digitales que los artistas modelan, preparan para la animación y animan a mano. Los estudios de efectos visuales combinan cada vez más CGI con la sustitución de rostros mediante aprendizaje automático en una misma toma.
• Shallowfakes: ediciones engañosas hechas sin IA, como ralentizar un vídeo para que parezca que una persona habla con dificultad o añadir subtítulos falsos a un vídeo real.

Regulación#

La legislación ya aborda directamente los deepfakes. El artículo 50 del Reglamento de IA de la UE, aplicable desde el 2 de agosto de 2026, exige a quienes implementen IA para crear deepfakes que indiquen que el contenido se ha generado o manipulado artificialmente, y obliga a los proveedores de sistemas generativos a marcar sus resultados en un formato legible por máquina. En Estados Unidos, la ley TAKE IT DOWN, firmada en mayo de 2025, convirtió en delito federal publicar deepfakes íntimos no consentidos, y desde el 19 de mayo de 2026 las plataformas sujetas a la ley deben retirar ese contenido en las 48 horas siguientes a una solicitud válida.