Как определить, что изображение создано ИИ

Модели генерации изображений становятся всё более совершенными, и мы наблюдаем рост числа реалистичных изображений, созданных с помощью искусственного интеллекта (ИИ). Спор о том, где реальное фото, а где ИИ, становится всё более актуальным, так как различить их всё труднее. Было множество случаев, когда созданные ИИ изображения вводили интернет в заблуждение. Мы видели Папу Римского в пуховике и Кэти Перри на Met Gala 2024 года. Оба изображения были сфабрицированы генеративным ИИ. Иными словами, они не были настоящими. Тем не менее, на первый взгляд интернет поверил, что они подлинные.

Иногда такие недоразумения могут быть забавными, но чаще они вызывают серьезную этическую обеспокоенность. Точно так же, как важно быть в курсе того, как работает генеративный ИИ, критически важно знать, как определить, создано ли что-то с помощью ИИ. В этой статье мы более внимательно рассмотрим изображения, созданные ИИ, разберемся в плюсах и минусах ИИ-арта, обсудим юридические вопросы и изучим основные методы и инструменты, позволяющие отличить их от реальных фотографий.

Что именно представляют собой изображения, созданные ИИ?#

ИИ-изображения создаются с помощью моделей генерации изображений, которые используют нейронные сети, обученные на больших наборах данных, для создания реалистичных картинок. Впечатляет их способность смешивать стили, концепции и функции для создания художественных и актуальных изображений. Во время обучения модели генерации изображений изучают различные особенности и детали этих изображений. Это помогает им создавать новые изображения, которые по стилю и содержанию похожи на те, на которых они учились.

Существует множество типов моделей генерации изображений, и у каждой свои особенности. Например, генеративно-состязательные сети (GAN) используют две нейронные сети, которые работают в тандеме для создания реалистичных изображений, напоминающих их обучающие данные. Диффузионные модели генерируют изображения, постепенно превращая случайный шум в четкие изображения. Трансформеры, такие как те, что используются в моделях типа DALL-E и CLIP, используют механизмы self-attention для генерации изображений на основе текстовых описаний.

Рис. 1. Создано с помощью DALL-E 2. Промпт: Кресло в форме авокадо.

Любой человек может создавать изображения с помощью ИИ, используя такие инструменты, как OpenAI’s GPT-4o, Midjourney, Gencraft или Stable Diffusion. Эти изображения теперь появляются по всему интернету, и часто без каких-либо пометок о том, что они сделаны ИИ.

Плюсы и минусы ИИ-арта#

Подобно фотографии или живописи, генерация изображений с помощью ИИ многими воспринимается как новая форма искусства. Картины, созданные ИИ, продаются за тысячи долларов и выигрывают художественные конкурсы. Это поднимает вопрос: является ли искусство ИИ благом, иковы плюсы и минусы такой генерации изображений?

Рис. 2. Произведение искусства, сгенерированное ИИ.

Существуют различные мнения на этот счет. Например, для малого бизнеса с ограниченным бюджетом сгенерированное искусство может быть плюсом. Они могут создавать пользовательские изображения, которые идеально соответствуют брендингу и маркетинговым потребностям. Эти инструменты могут сэкономить время, быстро создавая высококачественные визуальные материалы, и помочь уложиться в сроки творческих проектов. Что касается вдохновения художников, генерация изображений может дать доступ к огромной библиотеке уникальных вариантов. Художник может легко визуализировать идею перед тем, как воплотить её в жизнь.

Однако изображениям, созданным ИИ, часто не хватает эмоциональной глубины, и им бывает трудно передать подлинный человеческий опыт. Иногда качество может быть непоследовательным, а изображения выглядеть пикселизированными или нереалистичными. Слишком сильная зависимость от ИИ может подавить творчество и критическое мышление. Существует также риск неправильного использования. ИИ-изображения можно легко манипулировать, что приводит к дезинформации. Кроме того, использование этих инструментов может потребовать длительного обучения, и они могут нести в себе предвзятость, заложенную в их обучающих данных. Вот еще несколько минусов ИИ-арта:

• Этические проблемы: Вопросы интеллектуальной собственности, такие как авторство, право собственности и авторские права на созданный ИИ арт, могут быть сложными и спорными.
• Вытеснение рабочих мест: Широкое использование ИИ в искусстве может сократить возможности для художников и дизайнеров-людей.
• Культурная нечувствительность: ИИ-арт может не понимать и не уважать культурный контекст, что приводит к созданию неуместных или оскорбительных произведений.

Юридические «серые зоны» ИИ-изображений#

По мере развития ИИ мы, как общество, всё ещё активно разбираемся в юридических последствиях (например, вопросах авторского права). В отличие от традиционных произведений, изображения, созданные ИИ, не могут быть защищены авторским правом в некоторых странах, например в США, поскольку они по сути являются ремиксами существующих работ, многие из которых уже защищены авторским правом. Ситуация осложняется тем, что обучение ИИ часто включает в себя огромные объемы данных, собранных из интернета, которые потенциально могут содержать материалы, защищенные авторским правом. В связи с этим многие люди активно протестуют против использования контента, защищенного авторским правом, для обучения моделей ИИ и требуют лучшего регулирования.

Некоторые компании даже подали судебные иски. Getty Images, поставщик стоковых изображений, подал иск против Stability AI, генератора изображений на основе ИИ, за предполагаемое копирование и использование библиотеки изображений Getty в коммерческих целях. Несколько изображений, созданных текстово-графической моделью Stability AI, имеют водяной знак Getty. DeviantArt и две другие компании, занимающиеся разработкой ИИ, также получили судебный иск от художника в рамках коллективного иска, в котором утверждается, что их созданные ИИ произведения искусства нарушают законы об авторском праве.

Как проверить, создано ли изображение с помощью ИИ#

Умение распознавать изображения, созданные ИИ, жизненно важно, поскольку их использование в фальшивых новостях с целью введения людей в заблуждение возросло, особенно во время выборов. По данным BBC, 60% исследователей успешно использовали ИИ для создания вводящих в заблуждение изображений о бюллетенях и местах голосования.

Рис. 3. Фальшивое изображение ящиков с бюллетенями в мусорном контейнере.

Изображения, созданные ИИ, также влияют на потребителей. Недавнее исследование, проведенное компанией Attest, показало, что большинство потребителей (76%) не могут отличить подлинные изображения от созданных ИИ. Вот как ты можешь определить, создано ли изображение с помощью ИИ.

Проверь название, описание и теги изображения#

Это может показаться очевидным, но самый простой способ обнаружить ИИ-изображения — проверить описание и теги на наличие пометки «AI-Generated» (создано ИИ). Поскольку вопрос об ИИ-изображениях до сих пор вызывает много споров, компании, которые их создают и/или лицензируют, делают всё возможное, чтобы быть прозрачными в отношении их происхождения. Фотобанки, разрешающие размещение ИИ-изображений в своих библиотеках, требуют от авторов помечать файлы как «AI-generated» в названии, описании и тегах изображения (что облегчает поиск или исключение ИИ-изображений при просмотре их каталогов). Поиск этих меток — самый простой способ заметить изображение, созданное ИИ.

Ищи водяные знаки#

Другой способ распознать изображения ИИ — поискать водяные знаки, так как многие инструменты ИИ добавляют их. Это могут быть небольшие логотипы, текст или метаданные. Например, DALL-E 3 от OpenAI использует невидимые метаданные C2PA и видимый символ Content Credentials (CR) в верхнем левом углу. Однако логотип виден только при проверке изображения на сайте верификации учетных данных контента, таком как Content Credentials Verify. Компании могут маркировать свои изображения по-разному, поэтому тебе может потребоваться ознакомиться с различными индикаторами.

Рис. 4. Изображения, созданные ChatGPT, будут содержать метаданные C2PA (Источник: openai.com)

Недавно Google анонсировала SynthID — инновационный способ маркировки ИИ-изображений водяными знаками. SynthID позволяет встраивать цифровой водяной знак непосредственно в пиксели контента, созданного ИИ. Он невидим для человеческого глаза, но поддается обнаружению для идентификации. SynthID может оценить, был ли образ создан ИИ, путем сканирования на наличие этого цифрового водяного знака.

Ищи искажения или аномалии на изображении#

Изображения, созданные ИИ, часто имеют недостатки из-за ограничений алгоритмов глубокого обучения. Распространенные аномалии включают:

• Размытые или ненормальные фоны: Ступени, которые «едут», мебель странной формы и размытые детали.
• Несоответствия в волосах: Неестественные текстуры, странные узоры или размытость.
• Чрезмерно отрендеренный вид: Глянцевый, нереалистичный вид с сочетанием размытых и гладких текстур.
• Ошибки в аксессуарах: Изогнутые украшения, разные серьги и искаженные объекты.
• Странные пальцы: Лишние пальцы, отсутствие больших пальцев или другие аномалии кистей рук.

Рис. 5. Аномалии на изображении, сгенерированном ИИ.

Эти признаки помогают идентифицировать изображения, созданные ИИ. Однако развитие ИИ означает, что будущие ИИ-изображения могут иметь меньше видимых недостатков.

Используй инструменты идентификации ИИ-изображений#

Использование инструментов для идентификации ИИ-изображений — еще один вариант обнаружения ИИ-картинок, хотя имей в виду, что он может быть не совсем точным. Давай взглянем на некоторые из самых популярных инструментов для обнаружения ИИ-изображений:

• AI Or Not: Использует передовые алгоритмы и машинное обучение для быстрой аутентификации реального и фальшивого контента. Особенно эффективен для поддельных NFT-изображений.
• Content at Scale: Этот бесплатный и простой инструмент выдает показатель вероятности создания контента человеком или ИИ для изображений от популярных генераторов.
• Illuminarty: Предлагает комплексный анализ созданных ИИ изображений и текста, включая определение моделей ИИ и конкретных областей, созданных ИИ.
• Maybe's AI Art Detector: Простой в использовании инструмент, который использует модель ViT для выдачи процентного соотношения «человек — искусственный интеллект» для художественных изображений.
• V7 Deepfake Detector: Расширение для Chrome для обнаружения дипфейк-изображений StyleGAN, полезное при выявлении фальшивых профилей.
• Fake Image Detector: Использует метаданные и анализ уровня ошибок (ELA) для обнаружения подвергшихся манипуляциям изображений, но имеет ограниченную совместимость с файлами и подвержен сбоям.

Поскольку контент, созданный ИИ, продолжает распространяться и совершенствоваться, эти инструменты станут еще более эффективными в будущем.

Основные выводы#

По мере того как модели генеративного ИИ становятся умнее, становится всё труднее отличить изображения, созданные ИИ, от настоящих фотографий. Хотя это захватывающе с точки зрения технологического прогресса, это также вызывает этическую озабоченность. Это правда, что ИИ предлагает экономически эффективный и инновационный способ создания визуальных материалов, но существуют юридические и практические препятствия, которые необходимо учитывать. К счастью, разрабатываются методы и инструменты, которые помогут нам справиться с этой новой дилеммой. Оставаясь информированными, мы можем быть уверены, что визуальный контент останется заслуживающим доверия.

Присоединяйся к нашему сообществу, чтобы узнать больше об ИИ! Изучи наш репозиторий GitHub, чтобы увидеть, как мы используем ИИ для создания инновационных решений в различных отраслях, таких как здравоохранение и сельское хозяйство. Открой для себя новые возможности вместе с нами!