Как определить, сгенерировано ли изображение ИИ

Модели генерации изображений становятся все более совершенными, и мы наблюдаем рост числа реалистичных изображений, созданных искусственным интеллектом (ИИ). Дискуссия об ИИ против реальных фотографий становится все более актуальной, поскольку становится все труднее различать их. Было несколько случаев, когда изображения, сгенерированные ИИ, обманывали интернет. Мы видели Папу Франциска в пуховике и Кэти Перри на Met Gala 2024. Оба изображения были сфабрикованы генеративным ИИ. Другими словами, они не были настоящими. Однако на первый взгляд интернет поверил, что они настоящие.

Иногда эта путаница может быть забавной, но чаще она представляет собой серьезную этическую проблему. Так же, как важно следить за тем, как работает генеративный ИИ, также крайне важно знать, как определить, сгенерировано ли что-то ИИ. В этой статье мы внимательно рассмотрим изображения, сгенерированные ИИ, поймем плюсы и минусы ИИ-искусства, обсудим юридические вопросы и изучим ключевые методы и инструменты, позволяющие отличить их от реальных изображений.

Что такое изображения, сгенерированные ИИ?  

Изображения ИИ создаются с использованием моделей генерации изображений, которые используют нейронные сети, обученные на больших наборах данных, для создания реалистичных изображений. Впечатляет их способность смешивать стили, концепции и функции для создания художественных и релевантных изображений. Во время обучения модели генерации изображений изучают различные особенности и детали этих изображений. Это помогает им создавать новые изображения, которые выглядят похожими по стилю и содержанию на те, которые они изучили.

Существует много типов моделей генерации изображений, каждая из которых имеет свои особенности. Например, генеративно-состязательные сети (GAN) используют две нейронные сети, которые работают в тандеме для создания реалистичных изображений, похожих на их обучающие данные. Диффузионные модели генерируют изображения, постепенно превращая случайный шум в четкие изображения. Трансформеры, такие как те, которые используются в моделях DALL-E и CLIP, используют механизмы самообслуживания для генерации изображений из текстовых описаний. 

‍

Любой может создавать изображения ИИ с помощью таких инструментов, как GPT-4o от OpenAI, Midjourney, Gencraft или Stable Diffusion. Эти изображения сейчас появляются по всему Интернету, и часто без каких-либо пометок, указывающих на то, что они сделаны ИИ.

Плюсы и минусы ИИ-искусства

Как и фотография или живопись, создание изображений с помощью ИИ многими рассматривается как новая форма искусства. Картины, созданные ИИ, продаются за тысячи долларов и побеждают в художественных конкурсах. Это поднимает вопрос: является ли ИИ-искусство хорошей вещью и каковы плюсы и минусы такой генерации изображений?

‍

Существуют разные мнения на этот счет. Например, малые предприятия с ограниченным бюджетом могут рассматривать сгенерированное искусство как плюс. Они могут создавать индивидуальные изображения, идеально соответствующие брендингу и маркетинговым потребностям. Такие инструменты позволяют экономить время за счет быстрого создания высококачественных изображений и помогают поддерживать творческие проекты на track уровне. Что касается вдохновения художников, то генерация изображений может предоставить доступ к обширной библиотеке уникальных вариантов. Художник может легко визуализировать идею, прежде чем воплотить ее в жизнь. 

Однако изображениям, сгенерированным ИИ, часто не хватает эмоциональной глубины, и им трудно запечатлеть подлинные человеческие переживания. Иногда качество может быть непоследовательным, изображения выглядят пикселизированными или нереалистичными. Слишком сильная зависимость от ИИ может подавить творчество и критическое мышление. Существует также риск злоупотребления. Изображения ИИ можно легко манипулировать и использовать для дезинформации. Кроме того, использование этих инструментов может потребовать значительного времени на обучение, и они могут содержать предвзятости из своих обучающих данных. Вот еще несколько минусов ИИ-искусства:

• Этические проблемы: Вопросы об интеллектуальной собственности, такие как авторство, владение и авторские права на произведения искусства, созданные ИИ, могут быть сложными и спорными.
  ‍
• Сокращение рабочих мест: Широкое использование ИИ в искусстве может сократить возможности для художников и дизайнеров.
  ‍
• Культурная нечувствительность: ИИ-искусство может не понимать и не уважать культурные контексты, что приводит к неуместным или оскорбительным творениям.

Юридические серые зоны изображений, сгенерированных ИИ

По мере развития ИИ мы как общество все еще активно выясняем юридические последствия (например, вопросы авторского права). В отличие от традиционных творений, изображения, сгенерированные ИИ, не могут быть защищены авторским правом в некоторых странах, таких как США, поскольку они, по сути, являются ремиксами существующих работ, многие из которых уже защищены авторским правом. Все усложняется тем, что обучение ИИ часто включает в себя огромные объемы данных, собранных из Интернета, потенциально включая материалы, защищенные авторским правом. В связи с этим многие люди активно протестуют против использования контента, защищенного авторским правом, для обучения моделей ИИ и хотят улучшить регулирование.

Некоторые компании даже подали судебные иски. Компания Getty Images, поставщик стоковых изображений, подала иск против Stability AI, генератора искусственного Stability AI, за якобы копирование и использование библиотеки изображений Getty в коммерческих целях. Несколько изображений, созданных с помощью модели преобразования текста в изображение Stability AI, имеют водяной знак Getty. На DeviantArt и две другие компании, занимающиеся искусственным интеллектом, также подан коллективный иск от одного художника, утверждающего, что созданные искусственным интеллектом произведения нарушают законы об авторском праве. 

Как проверить, сгенерировано ли изображение ИИ

Умение распознавать изображения, созданные ИИ, крайне важно, поскольку их использование в фейковых новостях для введения людей в заблуждение участилось, особенно во время выборов. По данным BBC, 60% исследователей успешно использовали ИИ для создания вводящих в заблуждение изображений, касающихся избирательных бюллетеней и мест голосования. 

‍

Изображения, созданные ИИ, также влияют на потребителей. Недавнее исследование, проведенное Attest, показало, что большинство потребителей (76%) не могут отличить подлинные изображения от сгенерированных ИИ. Вот как можно определить, создано ли изображение с помощью ИИ.

Проверьте название, описание и теги изображения

Это может показаться очевидным, но самый простой способ обнаружить изображения, созданные ИИ, — проверить описание и теги на наличие пометки «Сгенерировано ИИ». Поскольку вокруг изображений, созданных ИИ, все еще много вопросов, компании, которые их генерируют и/или лицензируют, делают все возможное, чтобы быть прозрачными в отношении их происхождения. Фотобанки, которые разрешают размещать изображения, созданные ИИ, в своих библиотеках, требуют, чтобы авторы помечали файлы как «Сгенерировано ИИ» в названии, описании и тегах изображения (что упрощает поиск или исключение изображений, созданных ИИ, при просмотре их каталогов). Поиск этих меток — самый простой способ обнаружить изображение, сгенерированное ИИ. 

Ищите водяные знаки

Еще один способ идентифицировать изображения, созданные ИИ, — искать водяные знаки, поскольку многие инструменты ИИ их добавляют. Это могут быть небольшие логотипы, текст или метаданные. Например, DALL-E 3 от OpenAI использует невидимые метаданные C2PA и видимый символ Content Credentials (CR) в верхнем левом углу. Однако логотип виден только при проверке изображения на сайте проверки подлинности контента, таком как Content Credentials Verify. Компании могут по-разному маркировать свои изображения, поэтому вам может потребоваться ознакомиться с различными индикаторами.

‍

Недавно Google анонсировала SynthID, инновационный способ нанесения водяных знаков на изображения, созданные искусственным интеллектом. SynthID позволяет встраивать цифровой водяной знак непосредственно в пиксели контента, созданного искусственным интеллектом. Он невидим для человеческого глаза, но может быть обнаружен для идентификации. SynthID может определить, что изображение, скорее всего, создал инструмент искусственного интеллекта, просканировав его на наличие этого цифрового водяного знака.

Ищите искажения или аномалии на изображении

Изображения, сгенерированные ИИ, часто имеют дефекты из-за ограничений алгоритмов глубокого обучения. К распространенным аномалиям относятся:

• Размытый или ненормальный фон: Неровные лестницы, мебель странной формы и размытые детали.
  ‍
• Несоответствия в прическе: Неестественные текстуры, странные узоры или размытость.
  ‍
• Чрезмерно обработанный вид: Глянцевый, нереалистичный вид со смесью размытых и гладких текстур.
  ‍
• Ошибки в аксессуарах: Деформированные украшения, несочетающиеся серьги и искаженные предметы.
  ‍
• Странные пальцы: Лишние пальцы, отсутствие больших пальцев или другие аномалии рук.

‍

Эти признаки помогают идентифицировать изображения, сгенерированные ИИ. Однако достижения в области ИИ означают, что будущие изображения, созданные ИИ, могут иметь меньше видимых недостатков.

Используйте инструменты идентификации изображений, созданных ИИ

Использование инструментов для идентификации AI-изображений - еще один вариант обнаружения AI-изображений, хотя следует помнить, что он может быть не совсем точным. Давайте рассмотрим некоторые из наиболее популярных инструментов для detect изображений ИИ:

• AI Or Not: Использует передовые алгоритмы и машинное обучение для быстрой аутентификации реального и поддельного контента. Особенно эффективен для поддельных NFT-изображений.
  ‍
• Content at Scale: Этот бесплатный и простой инструмент предоставляет оценку вероятности «Человек против ИИ» для изображений от популярных генераторов.
  ‍
• Illuminarty: Предлагает всесторонний анализ изображений и текста, сгенерированных ИИ, включая идентификацию моделей ИИ и конкретных областей, сгенерированных ИИ.
  ‍
• Maybe's AI Art Detector: Простой в использовании инструмент, который использует модель ViT для предоставления процентной оценки «человек против искусственного интеллекта» для художественных изображений.
  ‍
• V7 Deepfake Detector: Расширение Chrome для обнаружения дипфейк-изображений StyleGAN, полезное для идентификации поддельных профилей.
  ‍
• Детектор поддельных изображений: Использует метаданные и анализ уровня ошибок (ELA) для detect манипулированных изображений, но имеет ограниченную совместимость с файлами и подвержен сбоям.

По мере того, как сгенерированные ИИ медиа продолжают распространяться и развиваться, эти инструменты станут еще более эффективными в будущем.

Основные выводы

По мере того, как генеративные модели ИИ становятся все более интеллектуальными, становится все труднее отличить изображения, сгенерированные ИИ, от реальных фотографий. Это, безусловно, является захватывающим с точки зрения технологического прогресса, но также вызывает этические вопросы. ИИ действительно предлагает экономичный и инновационный способ создания визуальных материалов, но есть юридические и практические препятствия, которые необходимо учитывать. К счастью, разрабатываются методы и инструменты, которые помогут нам справиться с этой новой дилеммой. Оставаясь в курсе, мы можем гарантировать, что визуальный контент останется надежным.

Присоединяйтесь к нашему сообществу, чтобы узнать больше об ИИ! Изучите наш репозиторий GitHub, чтобы увидеть, как мы используем ИИ для создания инновационных решений в различных отраслях, таких как здравоохранение и сельское хозяйство. Откройте для себя новые возможности вместе с нами!