Лицензия YOLO
Назад к глоссарию Ultralytics

AI Watermarking

Водяные знаки ИИ встраивают в сгенерированные изображения, текст, аудио или видео сигнал, обнаруживаемый машиной. Как работают SynthID и схемы с зелёным списком и где они дают сбой.

Водяные знаки ИИ — это скрытый сигнал, встраиваемый в контент, созданный системой генеративного ИИ, чтобы детектор с нужным ключом мог впоследствии определить, что изображение, видео, аудиозапись или фрагмент текста созданы этой системой. Сигнал должен быть незаметен для людей и сохраняться после обычных изменений, например масштабирования и сжатия. Водяные знаки — один из способов обеспечить происхождение данных для синтетических медиафайлов, а требования регуляторов делают их обязательными: статья 50 Закона ЕС об искусственном интеллекте обязывает поставщиков генеративных систем маркировать результаты в машиночитаемом и обнаруживаемом формате с 2 августа 2026 года. Для систем, уже представленных на рынке, срок продлен до 2 декабря 2026 года. Действующие с сентября 2025 года правила Китая по маркировке контента, созданного ИИ, требуют добавлять скрытые метки в метаданные файлов наряду с видимыми.

Как работают водяные знаки ИИ#

В большинстве современных схем сигнал встраивается во время создания контента, поэтому удалить его сложнее, чем метку, добавленную позже.

  • Изображения и видео: обученный кодировщик вносит небольшие изменения по всему изображению, а связанный с ним нейронный декодер позднее восстанавливает сигнал. SynthID от Google DeepMind работает таким образом с изображениями, видео и аудио, созданными моделями вроде Imagen, Veo и Lyria. Stable Signature от Meta дообучает декодер модели латентной диффузии, благодаря чему каждое созданное ею изображение получает фиксированную двоичную подпись. Другие методы внедряют узор в исходный шум, который устраняет диффузионная модель, в результате чего метка с самого первого этапа становится частью представления изображения в латентном пространстве.
  • Текст: Большая языковая модель (LLM) выбирает каждый токен из распределения вероятностей, а текстовый водяной знак смещает эти варианты по шаблону, который может проверить только обладатель ключа. SynthID Text, описанный в журнале Nature в 2024 году, проверили почти на 20 млн ответов Gemini. Заметного снижения качества не обнаружили, а код проекта открыт в Hugging Face Transformers.
  • Метки, добавляемые после генерации: классические водяные знаки на основе обработки сигналов, например узоры в частотной области, можно добавить к любому файлу после генерации, однако обычно их проще удалить.

Для изображений детектор выдает оценку декодера; для текста он проводит статистическую проверку последовательности токенов, не требующую доступа к самой модели.

Текстовый водяной знак на основе списка разрешенных токенов#

В схеме из статьи A Watermark for Large Language Models Кирхенбауэр и соавторы используют секретный ключ, чтобы хешировать предыдущий токен и разделять словарь на «зеленую» часть и оставшуюся «красную». Затем перед выборкой логитов зеленых токенов добавляется небольшое смещение. В тексте без водяного знака доля зеленых токенов близка к исходной, а в тексте с водяным знаком она намного выше; это выявляет z-тест для одной доли. В приведенном ниже фрагменте кода случайные логиты заменяют языковую модель:

import torch

torch.manual_seed(0)
vocab, gamma, delta, length, key = 1000, 0.25, 2.0, 200, 42  # key is the secret shared with the detector


def green_list(prev):
    """Return the green 25% of the vocabulary, picked pseudorandomly from the key and previous token."""
    return torch.randperm(vocab, generator=torch.Generator().manual_seed(key + prev))[: int(gamma * vocab)]


for bias in (0.0, delta):  # ordinary sampling, then watermarked sampling
    tokens = [0]
    for _ in range(length):
        logits = torch.randn(vocab)  # stands in for a language model's next-token logits
        logits[green_list(tokens[-1])] += bias
        tokens.append(torch.multinomial(logits.softmax(0), 1).item())

    # Detection needs only the text and the key: count green tokens and apply a one-proportion z-test
    hits = sum(t in green_list(p) for p, t in zip(tokens, tokens[1:]))
    z = (hits - gamma * length) / (length * gamma * (1 - gamma)) ** 0.5
    print(f"bias {bias}: {hits}/{length} green tokens, z = {z:.1f}")

При обычной выборке среди 200 токенов встречается 44 зеленых (z = −1,0), что близко к ожидаемым 25%. В варианте с водяным знаком их 141 (z = 14,9) — значительно выше порога z = 4, который в статье используется для пометки текста как содержащего водяной знак. Поскольку каждый токен вносит доказательства, для длинных фрагментов результат надежнее. В текстах, где следующий токен почти предопределен, например в коде или списке фактов, сигнал слабее.

  • Учетные данные контента (C2PA): подписанный криптографическими средствами манифест метаданных, в котором записано, какой инструмент создал или изменил файл. Он содержит намного больше сведений, чем водяной знак, но исчезает при перекодировании файла или создании снимка экрана, поэтому эти методы часто используют вместе.
  • Обнаружение дипфейков и изображений, созданных ИИ: классификаторы ищут в контенте артефакты генерации, даже если встроенной метки нет. Они работают с результатами любого генератора, но выдают вероятностные оценки, точность которых снижается по мере совершенствования генераторов. Люди используют похожие признаки, чтобы определить, создано ли изображение ИИ, визуально.
  • Стеганография: сокрытие секретного сообщения внутри файла. Водяные знаки используют те же методы, но в первую очередь обеспечивают надежное обнаружение, а не сокрытие большого объема данных.

Платформы, маркирующие синтетические медиа и фильтрующие мусор от ИИ, обычно сочетают следующие проверки:

Надежность и ограничения#

Водяной знак должен сохраняться после обычных изменений, таких как обрезка, масштабирование, изменение цвета и сжатие JPEG, а в идеале — и после преднамеренных атак с состязательными примерами. Разработчики проверяют это, применяя к контенту с водяными знаками преобразования, похожие на аугментацию данных, и измеряя, как часто детектор продолжает распознавать метку. У современных схем есть известные недостатки:

  • Повторная генерация: добавление шума к изображению и его восстановление с помощью генеративной модели удаляет невидимые водяные знаки на уровне пикселей, сохраняя визуальное сходство изображения с оригиналом.
  • Перефразирование и перевод: переформулировка текста с водяным знаком с помощью другой модели или перевод туда и обратно ослабляют шаблон токенов, который считает детектор.
  • Охват: можно обнаружить только результаты поставщиков, которые встраивают водяной знак. Модели с открытыми весами можно запускать без него, поэтому отсутствие водяного знака ничего не говорит о том, создан ли контент человеком.
  • Подделка: изучив схему, злоумышленник может нанести ее водяной знак на созданный человеком контент, чтобы подорвать доверие к методу.

Видимые водяные знаки создают отдельную проблему для наборов данных компьютерного зрения: модели запоминают их как побочные признаки. В одном известном случае классификатор, обученный на наборе данных PASCAL VOC, научился распознавать лошадей отчасти по знаку об авторских правах, который присутствовал примерно на пятой части фотографий лошадей. После удаления знака классификатор перестал работать. Видимые метки и логотипы — обычное содержимое изображений, поэтому модель обнаружения объектов Ultralytics YOLO26, обученная на размеченных примерах, может находить их в обучающем наборе данных. Команды могут обрезать или удалять изображения с метками, прежде чем модель усвоит неверные признаки.

Изучи решения

Компьютерное зрение в спорте

Компьютерное зрение в спорте

Узнай, как Ultralytics YOLO обеспечивает компьютерное зрение в спорте: отслеживание игроков и мяча, аналитика результатов, полезные выводы для тренеров и реабилитация спортсменов.
Подробнее
Компьютерное зрение для аэросъёмки

Компьютерное зрение для аэросъёмки

Превращай снимки с дронов и аэрофотоснимки в полезные данные в реальном времени для сельского хозяйства, аквакультуры, охраны природы и геопространственного анализа с Ultralytics YOLO.
Подробнее
Компьютерное зрение в аэрокосмической отрасли

Компьютерное зрение в аэрокосмической отрасли

Применяй компьютерное зрение в аэрокосмической отрасли с Ultralytics YOLO: для осмотра самолётов, обнаружения посторонних предметов на взлётно-посадочных полосах, наземного обслуживания аэропортов и выявления дефектов композитных материалов.
Подробнее
Компьютерное зрение в сфере безопасности

Компьютерное зрение в сфере безопасности

Защити любой объект с помощью моделей Ultralytics YOLO. ИИ на базе компьютерного зрения обеспечивает мониторинг периметра, обнаружение угроз, распознавание номерных знаков и безопасность на рабочем месте.
Подробнее
Компьютерное зрение в робототехнике

Компьютерное зрение в робототехнике

Создавай более интеллектуальные машины с моделями Ultralytics YOLO. ИИ на базе компьютерного зрения в робототехнике обеспечивает автономную навигацию, восприятие, отслеживание объектов и управление в реальном времени.
Подробнее
Компьютерное зрение в логистике

Компьютерное зрение в логистике

Оптимизируй логистику с моделями Ultralytics YOLO. Визуальный AI обеспечивает проверку посылок, сортировку, отслеживание транспорта и мониторинг безопасности на складе в реальном времени.
Подробнее
Компьютерное зрение в розничной торговле

Компьютерное зрение в розничной торговле

Переосмысли розничную торговлю с моделями Ultralytics YOLO. Визуальный AI обеспечивает отслеживание запасов, мониторинг полок, управление очередями и более глубокое понимание поведения покупателей.
Подробнее
Компьютерное зрение в здравоохранении

Компьютерное зрение в здравоохранении

Создавай решения для здравоохранения с моделями Ultralytics YOLO. Визуальный AI в здравоохранении ускоряет медицинскую визуализацию, улучшает диагностику и мониторинг пациентов.
Подробнее
Компьютерное зрение в производстве

Компьютерное зрение в производстве

Оптимизируй производство с моделями Ultralytics YOLO. Компьютерное зрение на базе ИИ обеспечивает контроль качества, обнаружение дефектов, контроль использования СИЗ и автоматизацию сборочных линий.
Подробнее
Компьютерное зрение в автомобильной отрасли

Компьютерное зрение в автомобильной отрасли

Применяй компьютерное зрение в автомобильной отрасли с моделями Ultralytics YOLO. Компьютерное зрение на базе ИИ повышает безопасность дорожного движения, улучшает помощь водителю и автоматизацию автомобилей, делая дороги умнее.
Подробнее
Компьютерное зрение в сельском хозяйстве

Компьютерное зрение в сельском хозяйстве

Внедряй ИИ для компьютерного зрения в умное сельское хозяйство с моделями Ultralytics YOLO. Используй их для мониторинга посевов, отслеживания скота и точного земледелия, чтобы повысить урожайность и эффективность.
Подробнее

Давай вместе строить будущее ИИ!

Начни свой путь в будущее машинного обучения