AI Watermarking

Маркировка ИИ водяными знаками — это практика встраивания отличительного, узнаваемого сигнала в цифровой контент, например изображения, видео или текст, чтобы подтвердить, что он был создан или изменён с помощью искусственного интеллекта. По мере того как модели генеративного ИИ становятся всё более способными создавать фотореалистичные материалы, установление происхождения контента превратилось в критически важную задачу. Встраивая проверяемый «AI ID», разработчики и создатели могут прозрачно указывать происхождение цифрового объекта. Эта технология играет важную роль в обеспечении этики и прозрачности ИИ, помогая бороться с дезинформацией, защищать интеллектуальную собственность и соблюдать формирующиеся глобальные нормативные стандарты, такие как Закон ЕС об искусственном интеллекте.

Как работает маркировка ИИ водяными знаками#

В отличие от традиционных видимых водяных знаков, таких как полупрозрачный логотип в углу стоковой фотографии, современная маркировка ИИ водяными знаками опирается на сложную стеганографию, скрывающую информацию непосредственно в медиаданных. При генерации изображений это часто происходит непосредственно в латентном пространстве диффузионных моделей или свёрточных нейронных сетей.

Такие инструменты, как SynthID от Google DeepMind, встраивают незаметные криптографические маркеры в данные пикселей сгенерированных изображений. Эти невидимые шаблоны разработаны так, чтобы алгоритмические детекторы могли статистически идентифицировать их, хотя человеческий глаз совершенно не способен их заметить. Чтобы создать защищённую цепочку хранения цифровых медиаданных, такие организации, как Coalition for Content Provenance and Authenticity, выступают за включение метаданных и цифровых хешей наряду с этими водяными знаками на уровне пикселей. Кроме того, стандарты ITU по аутентичности мультимедийных данных способствовали внедрению единых протоколов, обеспечивающих бесшовную идентификацию синтетических объектов в различных программных экосистемах.

Маркировка ИИ водяными знаками и обнаружение дипфейков#

Хотя маркировка ИИ водяными знаками и обнаружение дипфейков тесно связаны, они выполняют разные задачи в проверке медиаданных. Маркировка водяными знаками — это проактивная мера, при которой генеративная система внедряет идентификатор непосредственно в процессе создания. В отличие от неё, обнаружение дипфейков — это реактивный процесс, включающий анализ немаркированных медиаданных после создания для поиска неестественных артефактов, ошибок смешивания или биологических несоответствий. Разработчикам, изучающим способы выявления изображений, сгенерированных ИИ, необходимы оба метода, чтобы обеспечить комплексный подход к цифровому доверию и конфиденциальности данных.

Практические применения#

Маркировка ИИ водяными знаками уже активно применяется в нескольких быстро развивающихся отраслях:

• Медиа и журналистика: Редакции используют эти маркеры для проверки подлинности мультимедийного контента и предотвращения ошибочной публикации синтетических материалов как реальных новостей. Эта практика тесно связана с федеральными рекомендациями, такими как Исполнительный указ Белого дома об ИИ, и призывом к чёткому раскрытию информации о медиаданных, сгенерированных ИИ.
• Корпоративные конвейеры машинного обучения: Водяные знаки используются для отслеживания результатов работы проприетарных моделей и предотвращения нежелательного веб-скрейпинга. Это гарантирует, что конвейеры обучения компьютерного зрения не будут случайно отравлены повторным включением синтетических данных в реальные наборы данных.

Устойчивость и удаление водяных знаков#

В сообществе машинного обучения часто спрашивают, могут ли злоумышленники легко удалить водяные знаки ИИ. Устойчивость водяного знака зависит от его способности противостоять как доброкачественным изменениям, например обрезке, изменению размера или сильному сжатию JPEG, так и вредоносным атакам на основе состязательных примеров.

Недавние научные оценки маркировки ИИ водяными знаками показали, что простые методы встраивания полезной нагрузки иногда могут нарушаться при сильном добавлении шума, тогда как передовые методы встраивания остаются весьма устойчивыми. Даже если злоумышленники попытаются использовать сложные недавние исследования устойчивости методов маркировки водяными знаками, например систематическое добавление шума или целевое подавление шума в частотной области, чтобы стереть идентификатор ИИ, лежащие в основе стеганографические изменения часто встраиваются достаточно глубоко в ключевые визуальные признаки и сохраняются без существенного ухудшения фактического качества изображения. При оценке моделей инженеры часто применяют целевые стратегии аугментации данных, чтобы имитировать именно такие искажения и проверять долговечность водяного знака.

Обнаружение водяных знаков с помощью Vision AI#

Команды машинного обучения могут создавать собственные системы обнаружения, чтобы определять, содержит ли изображение синтетический след. Используя архитектуру классификации изображений, ты можешь обучить модель выдавать высокую оценку вероятности при работе с определёнными распределениями изображений, содержащих водяные знаки. Ultralytics Platform упрощает разметку, обучение и развёртывание таких моделей.

Ниже приведён пример обучения классификационной модели Ultralytics YOLO26, которая различает реальные изображения и изображения, содержащие водяной знак ИИ:

from ultralytics import YOLO

# Load the recommended Ultralytics YOLO26 classification model
model = YOLO("yolo26n-cls.pt")

# Train the model on a dataset containing both authentic and AI-watermarked images
# to help the neural network learn the hidden steganographic footprint
results = model.train(data="ai_watermark_dataset", epochs=10, imgsz=224)

# Predict whether a new, unseen image contains an AI watermark
prediction = model("path/to/test_image.jpg")