AI Watermarking

Водяные знаки ИИ — это практика внедрения отличительного, узнаваемого сигнала в цифровой контент, например изображения, видео или текст, чтобы подтвердить его создание или изменение с помощью искусственного интеллекта. По мере того как модели генеративного ИИ всё лучше создают фотореалистичные материалы, подтверждение происхождения контента становится серьёзной проблемой. Внедряя проверяемый «идентификатор ИИ», разработчики и создатели могут открыто указывать происхождение цифрового объекта. Эта технология играет важную роль в обеспечении этичного и прозрачного использования ИИ, помогая бороться с дезинформацией, защищать интеллектуальную собственность и соблюдать новые международные нормативные требования, например Закон ЕС об искусственном интеллекте.

Как работают водяные знаки ИИ#

В отличие от традиционных видимых водяных знаков, например полупрозрачного логотипа в углу стоковой фотографии, современные водяные знаки ИИ используют сложную стеганографию, чтобы скрыть информацию непосредственно в медиафайле. При генерации изображений это часто происходит прямо в латентном пространстве диффузионных моделей или свёрточных нейронных сетей.

Такие инструменты, как SynthID от Google DeepMind, внедряют незаметные криптографические маркеры в данные пикселей сгенерированных изображений. Алгоритмические детекторы могут статистически обнаружить такие невидимые шаблоны, но человеческий глаз их не замечает. Чтобы создать надёжную цепочку контроля цифровых медиа, такие организации, как Coalition for Content Provenance and Authenticity, выступают за добавление метаданных и цифровых хешей наряду с водяными знаками на уровне пикселей. Кроме того, стандарты ITU для подлинности мультимедиа способствуют внедрению единых протоколов, позволяющих без проблем распознавать синтетические материалы в разных программных экосистемах.

Водяные знаки ИИ и обнаружение дипфейков#

Хотя водяные знаки ИИ и обнаружение дипфейков тесно связаны, они выполняют разные задачи при проверке медиа. Водяной знак — это проактивная мера: генеративная система добавляет идентификатор непосредственно при создании контента. Обнаружение дипфейков, напротив, происходит после создания контента и предполагает анализ медиафайлов без меток в поисках неестественных артефактов, ошибок наложения или биологических несоответствий. Разработчикам, изучающим способы выявления изображений, созданных ИИ, нужны оба метода, чтобы комплексно обеспечивать доверие к цифровому контенту и конфиденциальность данных.

Примеры применения в реальных условиях#

Водяные знаки ИИ уже применяются в самых разных быстро меняющихся отраслях:

• СМИ и журналистика: редакции используют эти маркеры для проверки подлинности мультимедийного контента и предотвращения ошибочной публикации синтетических материалов как реальных новостей. Эта практика соответствует федеральным рекомендациям, например исполнительному указу Белого дома об ИИ и инициативе по чёткой маркировке медиа, созданных ИИ.
• Корпоративные конвейеры машинного обучения: водяные знаки помогают отслеживать результаты работы проприетарных моделей и предотвращать нежелательный сбор данных в интернете. Благодаря этому обучающие конвейеры компьютерного зрения не загрязняются случайно, когда синтетические данные повторно добавляют в наборы данных из реального мира.

Надёжность и удаление водяных знаков#

В сообществе машинного обучения часто задаются вопросом, могут ли злоумышленники легко удалить водяные знаки ИИ. Надёжность водяного знака зависит от того, насколько хорошо он выдерживает как безвредные изменения (например, обрезку, изменение размера или сильное сжатие JPEG), так и вредоносные атаки с использованием состязательных примеров.

Недавние научные оценки водяных знаков ИИ показали, что простые методы внедрения полезной нагрузки иногда могут нарушаться при сильном зашумлении, но передовые методы внедрения остаются весьма устойчивыми. Даже если злоумышленники попытаются стереть идентификатор ИИ с помощью сложных методов, например недавних исследований устойчивости водяных знаков, добавляя шум по всему изображению или выполняя целевое шумоподавление в частотной области, стеганографические изменения часто внедрены достаточно глубоко в ключевые визуальные признаки, чтобы сохраниться без существенного ухудшения качества самого изображения. При оценке моделей инженеры часто применяют целевые стратегии аугментации данных, чтобы смоделировать эти искажения и проверить устойчивость водяных знаков.

Обнаружение водяных знаков с помощью компьютерного зрения и ИИ#

Команды машинного обучения могут создавать собственные системы обнаружения, чтобы определять наличие в изображении синтетических следов. Используя архитектуру классификации изображений, можно обучить модель выдавать высокую оценку вероятности при получении данных из конкретных распределений, помеченных водяными знаками. Платформа Ultralytics упрощает разметку, обучение и развёртывание таких моделей.

Ниже приведён пример обучения модели классификации Ultralytics YOLO26, чтобы отличать реальные изображения от изображений с водяным знаком ИИ:

from ultralytics import YOLO

# Загрузить рекомендованную модель классификации Ultralytics YOLO26
model = YOLO("yolo26n-cls.pt")

# Обучить модель на наборе данных с подлинными изображениями и изображениями с водяными знаками ИИ
# чтобы помочь нейросети выучить скрытый стеганографический след
results = model.train(data="ai_watermark_dataset", epochs=10, imgsz=224)

# Предсказать, содержит ли новое, ранее не встречавшееся изображение водяной знак ИИ
prediction = model("path/to/test_image.jpg")