Как определить, что изображение создано ИИ

Модели генерации изображений становятся всё более совершенными, и мы наблюдаем рост числа реалистичных изображений, созданных искусственным интеллектом (ИИ). Спор об ИИ против настоящих фотографий становится всё актуальнее, поскольку отличить одно от другого становится всё труднее. Было уже несколько случаев, когда созданные ИИ изображения вводили интернет в заблуждение. Мы видели Папу Франциска в пуховике и Кэти Перри на Met Gala 2024. Оба этих изображения были сфабрикованы генеративным ИИ. Другими словами, они не были настоящими. Однако на первый взгляд интернет поверил, что они подлинные.

Иногда такие недоразумения могут быть забавными, но чаще они вызывают серьезную этическую обеспокоенность. Точно так же, как важно быть в курсе того, как работает генеративный ИИ, критически важно знать, как определить, создано ли что-то с помощью ИИ. В этой статье мы более внимательно рассмотрим изображения, созданные ИИ, разберемся в плюсах и минусах ИИ-арта, обсудим юридические вопросы и изучим основные методы и инструменты, позволяющие отличить их от реальных фотографий.

Link to this sectionЧто именно представляют собой изображения, созданные ИИ?#

ИИ-изображения создаются с помощью моделей генерации изображений, которые используют нейронные сети, обученные на больших наборах данных, для создания реалистичных картинок. Впечатляет их способность смешивать стили, концепции и функции для создания художественных и актуальных изображений. Во время обучения модели генерации изображений изучают различные особенности и детали этих изображений. Это помогает им создавать новые изображения, которые по стилю и содержанию похожи на те, на которых они учились.

Существует множество типов моделей генерации изображений, и у каждой свои особенности. Например, генеративно-состязательные сети (GAN) используют две нейронные сети, которые работают в тандеме для создания реалистичных изображений, напоминающих их обучающие данные. Диффузионные модели генерируют изображения, постепенно превращая случайный шум в четкие изображения. Трансформеры, такие как те, что используются в моделях типа DALL-E и CLIP, используют механизмы self-attention для генерации изображений на основе текстовых описаний.

Рис. 1. Создано DALL-E 2. Промпт: Кресло в форме авокадо.

Любой может создавать ИИ-изображения с помощью таких инструментов, как OpenAI GPT-4o, Midjourney, Gencraft или Stable Diffusion. Эти изображения сейчас появляются по всему интернету, и часто без каких-либо меток, указывающих на то, что они сделаны ИИ.

Link to this sectionПлюсы и минусы ИИ-арта#

Подобно фотографии или живописи, генерация изображений ИИ многими рассматривается как новая форма искусства. ИИ-картины продаются за тысячи долларов и выигрывают художественные конкурсы. Это поднимает вопрос: является ли ИИ-арт чем-то хорошим, и каковы плюсы и минусы такой генерации изображений?

Рис. 2. ИИ-сгенерированное произведение искусства.

Существуют различные мнения на этот счет. Например, для малого бизнеса с ограниченным бюджетом сгенерированное искусство может быть плюсом. Они могут создавать пользовательские изображения, которые идеально соответствуют брендингу и маркетинговым потребностям. Эти инструменты могут сэкономить время, быстро создавая высококачественные визуальные материалы, и помочь уложиться в сроки творческих проектов. Что касается вдохновения художников, генерация изображений может дать доступ к огромной библиотеке уникальных вариантов. Художник может легко визуализировать идею перед тем, как воплотить её в жизнь.

Однако изображениям, созданным ИИ, часто не хватает эмоциональной глубины, и им бывает трудно передать подлинный человеческий опыт. Иногда качество может быть непоследовательным, а изображения выглядеть пикселизированными или нереалистичными. Слишком сильная зависимость от ИИ может подавить творчество и критическое мышление. Существует также риск неправильного использования. ИИ-изображения можно легко манипулировать, что приводит к дезинформации. Кроме того, использование этих инструментов может потребовать длительного обучения, и они могут нести в себе предвзятость, заложенную в их обучающих данных. Вот еще несколько минусов ИИ-арта:

• Этические проблемы: Вопросы интеллектуальной собственности, такие как авторство, право собственности и авторские права на созданный ИИ арт, могут быть сложными и спорными.
• Вытеснение рабочих мест: Широкое использование ИИ в искусстве может сократить возможности для художников и дизайнеров-людей.
• Культурная нечувствительность: ИИ-арт может не понимать и не уважать культурный контекст, что приводит к созданию неуместных или оскорбительных произведений.

Link to this sectionЮридические «серые зоны» ИИ-изображений#

По мере развития ИИ мы как общество все еще активно разбираемся с правовыми последствиями (такими как вопросы авторского права). В отличие от традиционных произведений, изображения, созданные ИИ, в некоторых странах, например в США, не могут быть защищены авторским правом, поскольку они, по сути, являются ремиксами существующих работ, многие из которых уже защищены авторским правом. Ситуация осложняется тем, что обучение ИИ часто включает в себя огромные объемы данных, собранных из интернета, которые потенциально могут содержать защищенные авторским правом материалы. В связи с этим многие люди активно протестуют против использования контента, защищенного авторским правом, для обучения моделей ИИ и требуют лучшего регулирования.

Некоторые компании даже подали судебные иски. Getty Images, поставщик стоковых изображений, подал иск против Stability AI, генератора ИИ-арта, за предполагаемое копирование и использование библиотеки изображений Getty в коммерческих целях. Некоторые изображения, созданные текстовой моделью Stability AI, имеют водяной знак Getty. DeviantArt и две другие ИИ-компании также ответчики в коллективном судебном иске, поданном художником, который утверждает, что их сгенерированные ИИ произведения нарушают законы об авторском праве.

Link to this sectionКак проверить, создано ли изображение с помощью ИИ#

Научиться распознавать ИИ-изображения крайне важно, поскольку их использование в фейковых новостях для введения людей в заблуждение участилось, особенно во время выборов. По данным BBC, 60% исследователей успешно использовали ИИ для создания вводящих в заблуждение изображений о бюллетенях и избирательных участках.

Рис. 3. Фейковое изображение коробок с бюллетенями в мусорном контейнере.

ИИ-изображения также затрагивают потребителей. Недавнее исследование Attest показало, что большинство потребителей (76%) не могут отличить подлинные изображения от созданных ИИ. Вот как ты можешь определить, создано ли изображение с помощью ИИ.

Link to this sectionПроверь название, описание и теги изображения#

Это может показаться очевидным, но самый простой способ обнаружить ИИ-изображения — проверить описание и теги на наличие пометки «AI-Generated» (создано ИИ). Поскольку вопрос об ИИ-изображениях до сих пор вызывает много споров, компании, которые их создают и/или лицензируют, делают всё возможное, чтобы быть прозрачными в отношении их происхождения. Фотобанки, разрешающие размещение ИИ-изображений в своих библиотеках, требуют от авторов помечать файлы как «AI-generated» в названии, описании и тегах изображения (что облегчает поиск или исключение ИИ-изображений при просмотре их каталогов). Поиск этих меток — самый простой способ заметить изображение, созданное ИИ.

Link to this sectionИщи водяные знаки#

Еще один способ идентификации ИИ-изображений — поиск водяных знаков, так как многие ИИ-инструменты добавляют их. Это могут быть небольшие логотипы, текст или метаданные. Например, DALL-E 3 от OpenAI использует невидимые метаданные C2PA и видимый символ Content Credentials (CR) в левом верхнем углу. Однако логотип виден только при проверке изображения на сайте верификации учетных данных контента, таком как Content Credentials Verify. Компании могут помечать свои изображения по-разному, поэтому тебе, возможно, придется ознакомиться с различными индикаторами.

Рис. 4. Изображения, созданные ChatGPT, будут содержать метаданные C2PA (Источник: openai.com)

Недавно Google анонсировала SynthID — инновационный способ маркировки ИИ-изображений водяными знаками. SynthID позволяет встраивать цифровой водяной знак непосредственно в пиксели контента, созданного ИИ. Он невидим для человеческого глаза, но поддается обнаружению для идентификации. SynthID может оценить, был ли образ создан ИИ, путем сканирования на наличие этого цифрового водяного знака.

Link to this sectionИщи искажения или аномалии на изображении#

Изображения, созданные ИИ, часто имеют недостатки из-за ограничений алгоритмов глубокого обучения. Распространенные аномалии включают:

• Размытые или ненормальные фоны: Ступени, которые «едут», мебель странной формы и размытые детали.
• Несоответствия в волосах: Неестественные текстуры, странные узоры или размытость.
• Чрезмерно отрендеренный вид: Глянцевый, нереалистичный вид с сочетанием размытых и гладких текстур.
• Ошибки в аксессуарах: Изогнутые украшения, разные серьги и искаженные объекты.
• Странные пальцы: Лишние пальцы, отсутствие больших пальцев или другие аномалии кистей рук.

Рис. 5. Аномалии на изображении, созданном ИИ.

Эти признаки помогают идентифицировать изображения, созданные ИИ. Однако развитие ИИ означает, что будущие ИИ-изображения могут иметь меньше видимых недостатков.

Link to this sectionИспользуй инструменты идентификации ИИ-изображений#

Использование инструментов для идентификации ИИ-изображений — еще один вариант обнаружения ИИ-картинок, хотя имей в виду, что он может быть не совсем точным. Давай взглянем на некоторые из самых популярных инструментов для обнаружения ИИ-изображений:

• AI Or Not: Использует передовые алгоритмы и машинное обучение для быстрой аутентификации реального и фейкового контента. Особенно эффективен при работе с фейковыми NFT-изображениями.
• Content at Scale: Этот бесплатный и простой инструмент предоставляет оценку вероятности «Человек против ИИ» для изображений из популярных генераторов.
• Illuminarty: Предлагает всесторонний анализ сгенерированных ИИ изображений и текста, включая идентификацию моделей ИИ и специфических зон, созданных ИИ.
• Maybe's AI Art Detector: Простой в использовании инструмент, который применяет ViT-модель для предоставления процентной оценки «человек против искусственного» для художественных изображений.
• V7 Deepfake Detector: Расширение для Chrome для обнаружения дипфейков StyleGAN, полезно для выявления фейковых профилей.
• Fake Image Detector: Использует метаданные и анализ уровня ошибок (ELA) для обнаружения манипулированных изображений, но имеет ограниченную совместимость с файлами и часто дает сбои.

Поскольку контент, созданный ИИ, продолжает распространяться и совершенствоваться, эти инструменты станут еще более эффективными в будущем.

Link to this sectionОсновные выводы#

По мере того как модели генеративного ИИ становятся умнее, становится всё труднее отличить изображения, созданные ИИ, от настоящих фотографий. Хотя это захватывающе с точки зрения технологического прогресса, это также вызывает этическую озабоченность. Это правда, что ИИ предлагает экономически эффективный и инновационный способ создания визуальных материалов, но существуют юридические и практические препятствия, которые необходимо учитывать. К счастью, разрабатываются методы и инструменты, которые помогут нам справиться с этой новой дилеммой. Оставаясь информированными, мы можем быть уверены, что визуальный контент останется заслуживающим доверия.

Присоединяйся к нашему сообществу, чтобы узнать больше об ИИ! Исследуй наш репозиторий на GitHub, чтобы увидеть, как мы используем ИИ для создания инновационных решений в различных отраслях, таких как здравоохранение и сельское хозяйство. Открывай новые возможности вместе с нами!