Deepfakes

Дипфейки — это изображения, видео или аудиозаписи, в которых глубокое обучение (DL) заменяет или подделывает лицо, голос или тело реального человека настолько убедительно, что зрители принимают результат за подлинный. Этот термин, образованный от слов «глубокое обучение» и «подделка», появился в 2017 году, когда пользователь Reddit под именем «deepfakes» начал публиковать видео с заменой лиц, созданные с помощью инструментов с открытым исходным кодом. Дипфейки — это разновидность генеративного ИИ, а те же методы применяются для киноэффектов и дубляжа, а также для мошенничества, травли и дезинформации.

Как создают дипфейки#

В классической технологии замены лица используется пара автоэнкодеров с общим энкодером. Общий энкодер учится сжимать любое лицо в компактный код латентного пространства, описывающий позу, выражение и освещение, а каждый декодер учится восстанавливать по этому коду конкретного человека. После обучения на тысячах фрагментов лиц обоих людей система кодирует кадр с человеком A и декодирует его декодером человека B, создавая лицо человека B с выражением лица человека A:

Появились и другие методы:

• Генеративно-состязательные сети (GANs): генератор создает изображения, а дискриминатор пытается отличить их от настоящих фотографий; это состязание подталкивает генератор к фотореализму. GANs, такие как StyleGAN, создают лица несуществующих людей.
• Диффузионные модели: создают изображения и видео, пошагово удаляя шум под управлением текста, эталонной фотографии или исходного видео. Они лежат в основе современных инструментов редактирования фотографий и генерации видео по тексту, которые могут создать реалистичное видео говорящего человека всего по одной эталонной фотографии.
• Клонирование голоса: речевые модели воспроизводят голос человека по короткой записи, а затем модели синхронизации губ изменяют движения рта в существующем видео так, чтобы они соответствовали новой аудиодорожке.

Применение и вред#

У технологий создания дипфейков есть и законное применение. Киностудии омолаживают актеров и дублируют фильмы на другие языки с синхронизированными движениями губ. В документальном фильме 2020 года «Добро пожаловать в Чечню» лица преследуемых героев интервью заменили лицами добровольцев, защитив их личности и сохранив каждое выражение лица. Пациенты, потерявшие голос из-за болезни, могут сохранить записи и говорить с помощью его клона, а сгенерированные лица служат синтетическими данными для обучения моделей без сбора фотографий реальных людей.

Вред от дипфейков гораздо масштабнее. Большинство дипфейков в интернете — это интимные изображения реальных людей, обычно женщин, созданные без их согласия. Мошенники клонируют голоса родственников или руководителей, чтобы потребовать срочный перевод денег; в начале 2024 года сотрудник инженерной компании Arup перевел около 25 миллионов долларов США после видеозвонка, в котором финансовый директор компании и другие коллеги оказались дипфейками. Во время выборов распространяются поддельные ролики с политиками, а существование убедительных подделок позволяет объявлять фальшивыми подлинные записи.

Как обнаруживают дипфейки#

Системы обнаружения ищут следы, которые оставляет генерация: швы слияния вокруг лица, несовпадение освещения и отражений в глазах, неестественное моргание или движение головы, невидимые глазу частотные артефакты и движения губ, не совпадающие с речью. Большинство детекторов сначала находят и обрезают каждое лицо, а затем передают фрагмент классификатору, обученному на реальных и измененных примерах. Ultralytics YOLO26 подходит для этого второго этапа: ее модели классификации обучаются на наборе данных со структурой «папка на класс», поэтому для обучения классификатора «реальное или поддельное» достаточно папок «реальное» и «поддельное» с фрагментами лиц.

Детекторам сложно обобщать результаты на методы генерации, с которыми они раньше не сталкивались. В конкурсе Meta по обнаружению дипфейков лучшая модель показала среднюю точность 65,18% на скрытой тестовой выборке новых видео против 82,56% у лучшей модели на открытой тестовой выборке. Поскольку обнаружение отстает от генерации, индустрия также проверяет происхождение контента: Content Credentials (C2PA) прикрепляет криптографически подписанную запись о том, как медиафайл был снят и отредактирован, а водяные знаки ИИ встраивают в сгенерированный контент скрытый сигнал, который детекторы могут прочитать позднее.

Дипфейки и смежные понятия#

• Синтетические данные: любые искусственно сгенерированные данные для обучения или тестирования моделей — от симулированных дорожных сцен до визуализаций товаров. Технологии создания дипфейков — один из источников таких данных, если сгенерированные лица добавляют в обучающую выборку.
• Изображения, созданные с помощью компьютерной графики (CGI): цифровые персонажи и эффекты, которые художники вручную моделируют, оснащают скелетом и анимируют. Студии визуальных эффектов все чаще сочетают CGI с заменой лиц на основе обученных моделей в одном кадре.
• Шэллоуфейки: вводящие в заблуждение изменения без ИИ, например замедление ролика, чтобы голос говорящего казался невнятным, или добавление к настоящему видео ложного контекста в подписи.

Регулирование#

Законы теперь напрямую регулируют дипфейки. Статья 50 Закона ЕС об искусственном интеллекте, применяемая с 2 августа 2026 года, требует, чтобы лица, использующие ИИ для создания дипфейков, сообщали об искусственной генерации или изменении контента; поставщики генеративных систем должны помечать результаты в машиночитаемом формате. В США закон TAKE IT DOWN, подписанный в мае 2025 года, объявил публикацию интимных дипфейков без согласия федеральным преступлением, а с 19 мая 2026 года подпадающие под закон платформы обязаны удалять такой контент в течение 48 часов после получения действительного запроса.