Как определить, сгенерировано ли изображение ИИ

Модели генерации изображений становятся все более совершенными, и мы наблюдаем рост числа реалистичных изображений, созданных искусственным интеллектом (ИИ). Дискуссия об ИИ против реальных фотографий становится все более актуальной, поскольку становится все труднее различать их. Было несколько случаев, когда изображения, сгенерированные ИИ, обманывали интернет. Мы видели Папу Франциска в пуховике и Кэти Перри на Met Gala 2024. Оба изображения были сфабрикованы генеративным ИИ. Другими словами, они не были настоящими. Однако на первый взгляд интернет поверил, что они настоящие.

Иногда эта путаница может быть забавной, но чаще она представляет собой серьезную этическую проблему. Так же, как важно следить за тем, как работает генеративный ИИ, также крайне важно знать, как определить, сгенерировано ли что-то ИИ. В этой статье мы внимательно рассмотрим изображения, сгенерированные ИИ, поймем плюсы и минусы ИИ-искусства, обсудим юридические вопросы и изучим ключевые методы и инструменты, позволяющие отличить их от реальных изображений.

Что такое изображения, сгенерированные ИИ?  

Изображения ИИ создаются с использованием моделей генерации изображений, которые используют нейронные сети, обученные на больших наборах данных, для создания реалистичных изображений. Впечатляет их способность смешивать стили, концепции и функции для создания художественных и релевантных изображений. Во время обучения модели генерации изображений изучают различные особенности и детали этих изображений. Это помогает им создавать новые изображения, которые выглядят похожими по стилю и содержанию на те, которые они изучили.

Существует много типов моделей генерации изображений, каждая из которых имеет свои особенности. Например, генеративно-состязательные сети (GAN) используют две нейронные сети, которые работают в тандеме для создания реалистичных изображений, похожих на их обучающие данные. Диффузионные модели генерируют изображения, постепенно превращая случайный шум в четкие изображения. Трансформеры, такие как те, которые используются в моделях DALL-E и CLIP, используют механизмы самообслуживания для генерации изображений из текстовых описаний. 

‍

Любой может создавать изображения ИИ с помощью таких инструментов, как GPT-4o от OpenAI, Midjourney, Gencraft или Stable Diffusion. Эти изображения сейчас появляются по всему Интернету, и часто без каких-либо пометок, указывающих на то, что они сделаны ИИ.

Плюсы и минусы ИИ-искусства

Как и фотография или живопись, создание изображений с помощью ИИ многими рассматривается как новая форма искусства. Картины, созданные ИИ, продаются за тысячи долларов и побеждают в художественных конкурсах. Это поднимает вопрос: является ли ИИ-искусство хорошей вещью и каковы плюсы и минусы такой генерации изображений?

‍

Существуют разные мнения на этот счет. Например, малые предприятия с ограниченным бюджетом могут рассматривать сгенерированное искусство как плюс. Они могут создавать собственные изображения, которые идеально соответствуют потребностям брендинга и маркетинга. Эти инструменты могут сэкономить время, быстро создавая высококачественные визуальные эффекты и помогая поддерживать творческие проекты в нужном русле. Что касается вдохновения художников, то генерация изображений может предоставить доступ к обширной библиотеке уникальных вариантов. Художник может легко визуализировать идею, прежде чем воплотить ее в жизнь. 

Однако изображениям, сгенерированным ИИ, часто не хватает эмоциональной глубины, и им трудно запечатлеть подлинные человеческие переживания. Иногда качество может быть непоследовательным, изображения выглядят пикселизированными или нереалистичными. Слишком сильная зависимость от ИИ может подавить творчество и критическое мышление. Существует также риск злоупотребления. Изображения ИИ можно легко манипулировать и использовать для дезинформации. Кроме того, использование этих инструментов может потребовать значительного времени на обучение, и они могут содержать предвзятости из своих обучающих данных. Вот еще несколько минусов ИИ-искусства:

• Этические проблемы: Вопросы об интеллектуальной собственности, такие как авторство, владение и авторские права на произведения искусства, созданные ИИ, могут быть сложными и спорными.
  ‍
• Сокращение рабочих мест: Широкое использование ИИ в искусстве может сократить возможности для художников и дизайнеров.
  ‍
• Культурная нечувствительность: ИИ-искусство может не понимать и не уважать культурные контексты, что приводит к неуместным или оскорбительным творениям.

Юридические серые зоны изображений, сгенерированных ИИ

По мере развития ИИ мы как общество все еще активно выясняем юридические последствия (например, вопросы авторского права). В отличие от традиционных творений, изображения, сгенерированные ИИ, не могут быть защищены авторским правом в некоторых странах, таких как США, поскольку они, по сути, являются ремиксами существующих работ, многие из которых уже защищены авторским правом. Все усложняется тем, что обучение ИИ часто включает в себя огромные объемы данных, собранных из Интернета, потенциально включая материалы, защищенные авторским правом. В связи с этим многие люди активно протестуют против использования контента, защищенного авторским правом, для обучения моделей ИИ и хотят улучшить регулирование.

Некоторые компании даже подали иски. Getty Images, поставщик стоковых изображений, подала иск против Stability AI, генератора ИИ-искусства, за предполагаемое дублирование и использование библиотеки изображений Getty в коммерческих целях. На нескольких изображениях, созданных моделью преобразования текста в изображение Stability AI, стоит водяной знак Getty. DeviantArt и две другие компании, занимающиеся ИИ, также подвергаются судебному преследованию со стороны художника в рамках коллективного иска, в котором утверждается, что их произведения искусства, созданные ИИ, нарушают законы об авторском праве. 

Как проверить, сгенерировано ли изображение ИИ

Умение распознавать изображения, созданные ИИ, крайне важно, поскольку их использование в фейковых новостях для введения людей в заблуждение участилось, особенно во время выборов. По данным BBC, 60% исследователей успешно использовали ИИ для создания вводящих в заблуждение изображений, касающихся избирательных бюллетеней и мест голосования. 

‍

Изображения, созданные ИИ, также влияют на потребителей. Недавнее исследование, проведенное Attest, показало, что большинство потребителей (76%) не могут отличить подлинные изображения от сгенерированных ИИ. Вот как можно определить, создано ли изображение с помощью ИИ.

Проверьте название, описание и теги изображения

Это может показаться очевидным, но самый простой способ обнаружить изображения, созданные ИИ, — проверить описание и теги на наличие пометки «Сгенерировано ИИ». Поскольку вокруг изображений, созданных ИИ, все еще много вопросов, компании, которые их генерируют и/или лицензируют, делают все возможное, чтобы быть прозрачными в отношении их происхождения. Фотобанки, которые разрешают размещать изображения, созданные ИИ, в своих библиотеках, требуют, чтобы авторы помечали файлы как «Сгенерировано ИИ» в названии, описании и тегах изображения (что упрощает поиск или исключение изображений, созданных ИИ, при просмотре их каталогов). Поиск этих меток — самый простой способ обнаружить изображение, сгенерированное ИИ. 

Ищите водяные знаки

Еще один способ идентифицировать изображения, созданные ИИ, — искать водяные знаки, поскольку многие инструменты ИИ их добавляют. Это могут быть небольшие логотипы, текст или метаданные. Например, DALL-E 3 от OpenAI использует невидимые метаданные C2PA и видимый символ Content Credentials (CR) в верхнем левом углу. Однако логотип виден только при проверке изображения на сайте проверки подлинности контента, таком как Content Credentials Verify. Компании могут по-разному маркировать свои изображения, поэтому вам может потребоваться ознакомиться с различными индикаторами.

‍

Google недавно анонсировала SynthID, инновационный способ нанесения водяных знаков на изображения, созданные ИИ. SynthID позволяет встраивать цифровой водяной знак непосредственно в пиксели контента, сгенерированного ИИ. Он невидим для человеческого глаза, но обнаруживается для идентификации. SynthID может оценить, было ли изображение создано с помощью инструмента ИИ, путем сканирования на наличие этого цифрового водяного знака.

Ищите искажения или аномалии на изображении

Изображения, сгенерированные ИИ, часто имеют дефекты из-за ограничений алгоритмов глубокого обучения. К распространенным аномалиям относятся:

• Размытый или ненормальный фон: Неровные лестницы, мебель странной формы и размытые детали.
  ‍
• Несоответствия в прическе: Неестественные текстуры, странные узоры или размытость.
  ‍
• Чрезмерно обработанный вид: Глянцевый, нереалистичный вид со смесью размытых и гладких текстур.
  ‍
• Ошибки в аксессуарах: Деформированные украшения, несочетающиеся серьги и искаженные предметы.
  ‍
• Странные пальцы: Лишние пальцы, отсутствие больших пальцев или другие аномалии рук.

‍

Эти признаки помогают идентифицировать изображения, сгенерированные ИИ. Однако достижения в области ИИ означают, что будущие изображения, созданные ИИ, могут иметь меньше видимых недостатков.

Используйте инструменты идентификации изображений, созданных ИИ

Использование инструментов идентификации изображений, созданных ИИ, — еще один вариант обнаружения изображений, созданных ИИ, хотя следует помнить, что он может быть не совсем точным. Давайте рассмотрим некоторые из самых популярных инструментов для обнаружения изображений, созданных ИИ:

• AI Or Not: Использует передовые алгоритмы и машинное обучение для быстрой аутентификации реального и поддельного контента. Особенно эффективен для поддельных NFT-изображений.
  ‍
• Content at Scale: Этот бесплатный и простой инструмент предоставляет оценку вероятности «Человек против ИИ» для изображений от популярных генераторов.
  ‍
• Illuminarty: Предлагает всесторонний анализ изображений и текста, сгенерированных ИИ, включая идентификацию моделей ИИ и конкретных областей, сгенерированных ИИ.
  ‍
• Maybe's AI Art Detector: Простой в использовании инструмент, который использует модель ViT для предоставления процентной оценки «человек против искусственного интеллекта» для художественных изображений.
  ‍
• V7 Deepfake Detector: Расширение Chrome для обнаружения дипфейк-изображений StyleGAN, полезное для идентификации поддельных профилей.
  ‍
• Детектор поддельных изображений: использует метаданные и анализ уровня ошибок (ELA) для обнаружения манипулированных изображений, но имеет ограниченную совместимость с файлами и подвержен сбоям.

По мере того, как сгенерированные ИИ медиа продолжают распространяться и развиваться, эти инструменты станут еще более эффективными в будущем.

Основные выводы

По мере того, как генеративные модели ИИ становятся все более интеллектуальными, становится все труднее отличить изображения, сгенерированные ИИ, от реальных фотографий. Это, безусловно, является захватывающим с точки зрения технологического прогресса, но также вызывает этические вопросы. ИИ действительно предлагает экономичный и инновационный способ создания визуальных материалов, но есть юридические и практические препятствия, которые необходимо учитывать. К счастью, разрабатываются методы и инструменты, которые помогут нам справиться с этой новой дилеммой. Оставаясь в курсе, мы можем гарантировать, что визуальный контент останется надежным.

Присоединяйтесь к нашему сообществу, чтобы узнать больше об ИИ! Изучите наш репозиторий GitHub, чтобы увидеть, как мы используем ИИ для создания инновационных решений в различных отраслях, таких как здравоохранение и сельское хозяйство. Откройте для себя новые возможности вместе с нами!