Как определить, создано ли изображение ИИ

Модели генерации изображений становятся всё более продвинутыми, и мы наблюдаем рост числа реалистичных изображений, созданных искусственным интеллектом (AI). Дискуссия о том, что перед нами — AI или настоящая фотография, становится всё более актуальной, поскольку различать их всё сложнее. Было немало случаев, когда изображения, созданные с помощью AI, вводили интернет в заблуждение. Мы видели Папу Римского Франциска в пуховике и Кэти Перри на гала-вечере Met Gala 2024 года. Оба изображения были сфабрикованы генеративным AI. Иными словами, они не были настоящими. Однако поначалу интернет поверил, что это реальные снимки.

Иногда такая путаница может быть забавной, но гораздо чаще она вызывает серьёзные этические вопросы. Так же как важно следить за развитием генеративного AI, необходимо уметь определять, создано ли что-то с помощью AI. В этой статье мы подробнее рассмотрим изображения, созданные с помощью AI, разберём преимущества и недостатки AI-искусства, обсудим юридические вопросы и изучим основные методы и инструменты, которые помогают отличать такие изображения от настоящих.

Что именно представляют собой изображения, созданные с помощью AI?#

AI-изображения создаются с помощью моделей генерации изображений, использующих нейронные сети, обученные на больших наборах данных для создания реалистичных изображений. Особенно впечатляет их способность смешивать стили, концепции и особенности, создавая художественные и релевантные изображения. Во время обучения модели генерации изображений изучают различные признаки и детали этих изображений. Благодаря этому они могут создавать новые изображения, похожие по стилю и содержанию на те, на которых обучались.

Существует множество типов моделей генерации изображений, и у каждой есть свои особенности. Например, генеративно-состязательные сети (GANs) используют две нейронные сети, которые работают совместно, чтобы создавать реалистичные изображения, похожие на данные, использованные для обучения. Диффузионные модели создают изображения, постепенно превращая случайный шум в чёткие изображения. Трансформеры, например используемые в таких моделях, как DALL-E и CLIP, применяют механизмы self-attention для генерации изображений по текстовым описаниям.

Рис. 1. Создано с помощью DALL-E 2. Запрос: кресло в форме авокадо.

Любой может создавать AI-изображения с помощью таких инструментов, как GPT-4o от OpenAI, Midjourney, Gencraft или Stable Diffusion. Теперь такие изображения появляются по всему интернету, часто без каких-либо пометок о том, что они созданы с помощью AI.

Преимущества и недостатки AI-искусства#

Как и фотография или живопись, генерация изображений с помощью AI для многих становится новым видом искусства. AI-картины продаются за тысячи долларов и побеждают в художественных конкурсах. Это вызывает вопрос: хорошо ли AI-искусство и каковы преимущества и недостатки такой генерации изображений?

Рис. 2. Произведение искусства, созданное с помощью AI.

Мнения по этому вопросу расходятся. Например, небольшие компании с ограниченным бюджетом могут считать сгенерированное искусство преимуществом. Они могут создавать уникальные изображения, идеально соответствующие требованиям брендинга и маркетинга. Эти инструменты экономят время, быстро создавая качественные визуальные материалы, и помогают не сбиваться с графика при работе над творческими проектами. Что касается вдохновения художников, генерация изображений даёт доступ к огромной библиотеке уникальных вариантов. Художник может легко визуализировать идею, прежде чем воплотить её в жизнь.

Однако изображения, созданные с помощью AI, часто лишены эмоциональной глубины и не всегда способны передать подлинный человеческий опыт. Иногда их качество непостоянно: изображения могут выглядеть пикселизированными или нереалистичными. Чрезмерная зависимость от AI может подавлять творческое и критическое мышление. Существует также риск злоупотреблений. AI-изображения легко подделать, что может привести к дезинформации. Кроме того, использование этих инструментов может требовать значительного времени на обучение, а сами инструменты могут унаследовать предвзятость из данных, на которых обучались. Вот ещё несколько недостатков AI-искусства:

• Этические вопросы: Вопросы интеллектуальной собственности, такие как авторство, право собственности и авторские права на искусство, созданное с помощью AI, могут быть сложными и спорными.
• Сокращение рабочих мест: Широкое использование AI в искусстве может сократить возможности для художников и дизайнеров.
• Культурная нечувствительность: AI-искусство может не понимать и не учитывать культурный контекст, создавая неуместные или оскорбительные произведения.

Правовые пробелы в вопросах изображений, созданных с помощью AI#

По мере развития AI мы как общество всё ещё активно разбираемся в юридических последствиях, например в вопросах авторского права. В отличие от традиционных произведений, изображения, созданные с помощью AI, не могут быть защищены авторским правом в некоторых странах, например в США, поскольку по сути представляют собой переработанные версии существующих произведений, многие из которых уже защищены авторским правом. Ситуация осложняется тем, что обучение AI часто предполагает сбор огромных объёмов данных из интернета, среди которых могут быть материалы, защищённые авторским правом. Поэтому многие активно протестуют против использования защищённого авторским правом контента для обучения моделей AI и требуют более эффективного регулирования.

Некоторые компании даже подали иски. Getty Images, поставщик стоковых изображений, подала иск против Stability AI, создателя AI-искусства, обвинив компанию в копировании и использовании библиотеки изображений Getty в коммерческих целях. На нескольких изображениях, созданных текстово-визуальной моделью Stability AI, присутствует водяной знак Getty. Художник также подал иск против DeviantArt и ещё двух AI-компаний в рамках коллективного иска, утверждая, что созданные ими с помощью AI произведения нарушают законы об авторском праве.

Как проверить, создано ли изображение с помощью AI#

Умение распознавать AI-изображения крайне важно, поскольку их всё чаще используют в фейковых новостях для введения людей в заблуждение, особенно во время выборов. Согласно BBC, 60% исследователей смогли использовать AI для создания вводящих в заблуждение изображений избирательных бюллетеней и мест голосования.

Рис. 3. Поддельное изображение коробок с бюллетенями в мусорном контейнере.

AI-изображения влияют и на потребителей. Недавнее исследование Attest показало, что большинство потребителей (76%) не могут отличить настоящие изображения от созданных с помощью AI. Вот как можно определить, создано ли изображение с помощью AI.

Проверьте название, описание и теги изображения#

Это может показаться очевидным, но самый простой способ распознать AI-изображение — проверить описание и теги на наличие пометки «AI-generated». Поскольку вокруг AI-изображений всё ещё остаётся много вопросов, компании, которые создают их и/или лицензируют, делают всё возможное, чтобы прозрачно сообщать об их происхождении. Стоковые фотобанки, допускающие AI-изображения в свои библиотеки, требуют от авторов помечать файлы как «AI-generated» в названии, описании и тегах изображения, что упрощает поиск AI-изображений или исключение их из результатов при просмотре каталогов. Поиск таких пометок — самый простой способ распознать изображение, созданное с помощью AI.

Ищите водяные знаки#

Ещё один способ распознать AI-изображения — искать водяные знаки, поскольку многие AI-инструменты добавляют их. Это могут быть небольшие логотипы, текст или метаданные. Например, DALL-E 3 от OpenAI использует невидимые метаданные C2PA и видимый символ Content Credentials (CR) в левом верхнем углу. Однако логотип виден только при проверке изображения на сайте верификации учётных данных контента, например Content Credentials Verify. Компании могут по-разному помечать свои изображения, поэтому тебе может потребоваться ознакомиться с различными индикаторами.

Рис. 4. Изображения, созданные ChatGPT, содержат метаданные C2PA (источник: openai.com)

Недавно Google представила SynthID — инновационный способ добавлять водяные знаки на AI-изображения. SynthID позволяет встраивать цифровой водяной знак непосредственно в пиксели контента, созданного с помощью AI. Он невидим человеческому глазу, но обнаруживается при идентификации. SynthID может определить, вероятно ли, что изображение было создано AI-инструментом, сканируя его на наличие этого цифрового водяного знака.

Ищите искажения или аномалии внутри изображения#

На изображениях, созданных с помощью AI, часто встречаются дефекты из-за ограничений алгоритмов глубокого обучения. К распространённым аномалиям относятся:

• Размытый или ненормальный фон: лестницы с нарушенной геометрией, мебель необычной формы и размытые детали.
• Несоответствия в волосах: неестественная текстура, странные узоры или размытость.
• Чрезмерно прорисованный вид: глянцевый, нереалистичный внешний вид с сочетанием размытых и сглаженных текстур.
• Ошибки в аксессуарах: деформированные украшения, разные серьги и искажённые предметы.
• Странные пальцы: лишние пальцы, отсутствие больших пальцев или другие аномалии кистей.

Рис. 5. Аномалии на изображении, созданном с помощью AI.

Эти признаки помогают выявлять изображения, созданные с помощью AI. Однако развитие AI означает, что на будущих AI-изображениях может быть меньше заметных дефектов.

Используйте инструменты для идентификации AI-изображений#

Использование инструментов для идентификации AI-изображений — ещё один способ распознать их, хотя важно помнить, что результаты могут быть не совсем точными. Рассмотрим несколько наиболее популярных инструментов для обнаружения AI-изображений:

• AI Or Not: использует передовые алгоритмы и машинное обучение для быстрой проверки подлинности настоящего и поддельного контента. Особенно эффективен для поддельных изображений NFT.
• Content at Scale: этот бесплатный и простой инструмент предоставляет оценку вероятности «человек или AI» для изображений из популярных генераторов.
• Illuminarty: предлагает комплексный анализ изображений и текста, созданных с помощью AI, включая определение AI-моделей и конкретных областей, созданных AI.
• Maybe's AI Art Detector: простой в использовании инструмент, который применяет модель ViT для расчёта процентной оценки «человек или искусственный интеллект» для художественных изображений.
• V7 Deepfake Detector: расширение Chrome для обнаружения дипфейковых изображений StyleGAN, полезное для выявления поддельных профилей.
• Fake Image Detector: использует метаданные и анализ уровня ошибок (ELA) для обнаружения изменённых изображений, но поддерживает ограниченное число форматов файлов и работает нестабильно.

По мере дальнейшего распространения и развития медиа, созданных с помощью AI, эти инструменты станут ещё эффективнее.

Основные выводы#

По мере того как генеративные AI-модели становятся умнее, отличать изображения, созданные с помощью AI, от настоящих фотографий всё сложнее. Это впечатляет с точки зрения технологического прогресса, но одновременно вызывает этические вопросы. Действительно, AI предлагает экономичный и инновационный способ создания визуальных материалов, однако необходимо учитывать юридические и практические препятствия. К счастью, уже разрабатываются методы и инструменты, которые помогают нам ориентироваться в этой новой дилемме. Оставаясь в курсе событий, мы можем поддерживать достоверность визуального контента.

Присоединяйся к нашему сообществу, чтобы узнать больше об AI! Загляни в наш репозиторий на GitHub и узнай, как мы используем AI для создания инновационных решений в различных отраслях, таких как здравоохранение и сельское хозяйство. Вместе с нами открывай новые возможности!