Как определить, создано ли изображение с помощью ИИ

Модели генерации изображений становятся всё совершеннее, и мы всё чаще видим реалистичные изображения, созданные искусственным интеллектом (ИИ). Споры о том, где ИИ, а где настоящая фотография, становятся всё актуальнее: отличить одно от другого всё сложнее. Уже не раз изображения, созданные ИИ, вводили в заблуждение пользователей интернета. Мы видели Папу Франциска в пуховике и Кэти Перри на Met Gala 2024 года. Оба изображения были созданы генеративным ИИ и не соответствовали действительности. И всё же на первый взгляд пользователи интернета считали их настоящими.

Иногда такая путаница забавна, но чаще она вызывает серьёзные этические опасения. Важно не только следить за развитием генеративного ИИ, но и уметь распознавать контент, созданный ИИ. В этой статье мы подробнее рассмотрим изображения, созданные ИИ, разберём плюсы и минусы ИИ-арта, обсудим юридические вопросы и расскажем о ключевых методах и инструментах, которые помогают отличить такие изображения от настоящих.

Что именно представляют собой изображения, созданные ИИ?#

Изображения, созданные ИИ, генерируются моделями, которые используют нейронные сети, обученные на больших наборах данных. Эти сети создают реалистичные изображения. Особенно впечатляет их способность сочетать стили, концепции и признаки, создавая выразительные и уместные изображения. Во время обучения модели генерации изображений извлекают из исходных изображений различные признаки и детали. Это помогает им создавать новые изображения, похожие по стилю и содержанию на те, на которых они обучались.

Существует множество типов моделей генерации изображений, и у каждой есть свои особенности. Например, генеративно-состязательные сети (GANs) используют две нейронные сети, работающие сообща, чтобы создавать реалистичные изображения, похожие на данные, на которых они обучались. Диффузионные модели генерируют изображения, постепенно превращая случайный шум в чёткие изображения. Трансформеры, например используемые в таких моделях, как DALL-E, применяют механизмы самообращения, чтобы создавать изображения по текстовым описаниям.

Рис. 1. Создано с помощью DALL-E 2. Запрос: кресло в форме авокадо.

Любой может создавать изображения с помощью ИИ-инструментов, таких как ChatGPT от OpenAI, Midjourney, Gencraft или Stable Diffusion. Такие изображения теперь встречаются повсюду в интернете, часто без каких-либо пометок о том, что они созданы ИИ.

Плюсы и минусы ИИ-арта#

Подобно фотографии или живописи, генерация изображений с помощью ИИ для многих становится новым видом искусства. Картины, созданные ИИ, продаются за тысячи долларов и побеждают в художественных конкурсах. Это поднимает вопрос: хорошо ли искусство, созданное ИИ, и каковы плюсы и минусы такой генерации изображений?

Рис. 2. Произведение искусства, созданное ИИ.

Мнения на этот счёт расходятся. Например, небольшие компании с ограниченным бюджетом могут считать генерацию изображений преимуществом. Они могут создавать изображения, которые точно соответствуют стилю бренда и задачам маркетинга. Эти инструменты экономят время: они быстро создают качественные визуальные материалы и помогают не сбиваться с графика творческих проектов. Для художников генерация изображений открывает доступ к огромной библиотеке уникальных вариантов и идей. Художник может легко представить себе замысел, прежде чем воплотить его в жизнь.

Однако изображения, созданные ИИ, часто лишены эмоциональной глубины и не передают подлинный человеческий опыт. Качество может быть нестабильным: изображения бывают пиксельными или нереалистичными. Чрезмерная зависимость от ИИ способна подавлять творческое мышление и способность критически оценивать информацию. Кроме того, существует риск злоупотреблений: изображения ИИ легко подделать и использовать для распространения дезинформации. Работа с такими инструментами может потребовать длительного обучения, а сами инструменты могут наследовать предвзятость обучающих данных. Вот ещё несколько минусов ИИ-арта:

• Этические вопросы: вопросы интеллектуальной собственности, такие как авторство, владение и авторские права на произведения, созданные ИИ, могут быть сложными и спорными.
• Сокращение рабочих мест: широкое применение ИИ в искусстве может уменьшить число возможностей для художников и дизайнеров.
• Культурная нечувствительность: ИИ-арт может не учитывать культурный контекст и проявлять неуважение к нему, создавая неуместные или оскорбительные произведения.

Правовые серые зоны вокруг изображений, созданных ИИ#

По мере развития ИИ общество активно разбирается в юридических последствиях, например вопросах авторского права. В отличие от традиционных произведений, изображения, созданные ИИ, в некоторых странах, например в США, не защищаются авторским правом, поскольку для такой защиты требуется автор-человек. Ситуация усложняется тем, что для обучения ИИ часто используют огромные объемы данных, собранных в интернете, среди которых могут быть материалы, защищенные авторским правом. Поэтому многие активно протестуют против использования таких материалов для обучения моделей ИИ и выступают за более строгое регулирование.

Некоторые компании даже подали иски. Getty Images, поставщик стоковых изображений, подала иск против Stability AI, генератора изображений на основе ИИ, обвинив компанию в копировании и использовании библиотеки Getty в коммерческих целях. На нескольких изображениях, созданных моделью Stability AI для генерации изображений по тексту, виден водяной знак Getty. Группа художников также подала коллективный иск против DeviantArt и двух других компаний в сфере ИИ, утверждая, что произведения, созданные их ИИ, нарушают авторские права.

Как проверить, создано ли изображение ИИ#

Важно уметь распознавать изображения, созданные ИИ: их все чаще используют для распространения фейковых новостей и введения людей в заблуждение, особенно во время выборов. В одном исследовании ученые успешно использовали популярные генераторы изображений на основе ИИ для создания дезинформации о выборах, включая вводящие в заблуждение изображения избирателей и бюллетеней, в 41% тестовых запусков.

Рис. 3. Фальшивое изображение коробок с бюллетенями в мусорном контейнере.

Изображения, созданные ИИ, влияют и на потребителей. Недавнее исследование Attest показало, что большинство потребителей (76%) не могут отличить настоящие изображения от созданных ИИ. Вот как определить, создано ли изображение ИИ.

Проверь название, описание и теги изображения#

Способ может показаться очевидным, но проще всего обнаружить изображения ИИ, проверив, есть ли в описании и тегах пометка «Создано ИИ». Вокруг изображений, созданных ИИ, по-прежнему много вопросов, поэтому компании, которые создают такие изображения и/или предоставляют лицензии на них, стараются как можно прозрачнее указывать их происхождение. Фотобанки, разрешающие размещать изображения ИИ, требуют от авторов помечать такие файлы как «Создано ИИ» в названии, описании и тегах (так изображения ИИ легче найти или исключить при поиске по каталогу). Проверить наличие этих пометок — самый простой способ распознать изображение, созданное ИИ.

Ищи водяные знаки#

Ещё один способ распознать изображения, созданные ИИ, — искать водяные знаки, которые добавляют многие инструменты ИИ. Это могут быть небольшие логотипы, текст или метаданные. Например, DALL-E 3 от OpenAI использует невидимые метаданные C2PA и видимый символ Content Credentials (CR) в левом верхнем углу. Однако логотип виден только при проверке изображения на сайте для проверки учётных данных контента, например Content Credentials Verify. Компании могут по-разному маркировать изображения, поэтому тебе может понадобиться ознакомиться с различными признаками.

Рис. 4. Изображения, созданные ChatGPT, содержат метаданные C2PA (источник: openai.com)

Google недавно представила SynthID — инновационный способ добавлять водяные знаки на изображения ИИ. SynthID позволяет встраивать цифровой водяной знак прямо в пиксели контента, созданного ИИ. Он невидим человеческому глазу, но обнаруживается при проверке. SynthID может определить, вероятно ли, что изображение создал инструмент ИИ, просканировав его на наличие цифрового водяного знака.

Ищи искажения и аномалии на изображении#

Изображения, созданные ИИ, часто имеют дефекты из-за ограничений алгоритмов глубокого обучения. К распространённым аномалиям относятся:

• Размытый или неестественный фон: ступени не на месте, мебель странной формы и нечёткие детали.
• Несоответствия в волосах: неестественная текстура, странные узоры или размытость.
• Чрезмерно обработанный вид: глянцевая, нереалистичная картинка с сочетанием размытых и гладких текстур.
• Ошибки в аксессуарах: деформированные украшения, разные серьги и искажённые предметы.
• Странные пальцы: лишние пальцы, отсутствие больших пальцев или другие аномалии кистей.

Рис. 5. Аномалии на изображении, созданном ИИ.

Эти признаки помогают распознавать изображения, созданные ИИ. Однако благодаря развитию ИИ в будущем у таких изображений может стать меньше заметных дефектов.

Используй инструменты для распознавания изображений ИИ#

Для распознавания изображений ИИ можно также использовать специальные инструменты, но стоит помнить, что они не всегда дают точный результат. Рассмотрим несколько популярных инструментов для обнаружения изображений ИИ:

• AI Or Not: использует продвинутые алгоритмы и машинное обучение, чтобы быстро проверять подлинность контента. Особенно хорошо справляется с поддельными изображениями NFT.
• Content at Scale: этот бесплатный и простой инструмент оценивает вероятность того, что изображения популярных генераторов созданы человеком или ИИ.
• Illuminarty: предлагает всесторонний анализ изображений и текста, созданных ИИ, в том числе определяет модели ИИ и конкретные области, сгенерированные ИИ.
• Maybe's AI Art Detector: простой в использовании инструмент, который применяет модель ViT для оценки доли изображения, созданной человеком или ИИ.
• V7 Deepfake Detector: расширение для Chrome, которое обнаруживает дипфейк-изображения StyleGAN и помогает выявлять поддельные профили.
• Fake Image Detector: использует метаданные и анализ уровня ошибок (ELA) для обнаружения изменённых изображений, но поддерживает ограниченное число форматов файлов и может аварийно завершать работу.

По мере распространения и развития медиа, созданных ИИ, эти инструменты будут становиться ещё эффективнее.

Главные выводы#

По мере того как модели генеративного ИИ становятся умнее, отличить созданные ИИ изображения от настоящих фотографий всё сложнее. Это впечатляющий технологический прогресс, но он также вызывает этические опасения. ИИ действительно предлагает экономичный и инновационный способ создавать визуальные материалы, однако важно учитывать юридические и практические препятствия. К счастью, разрабатываются методы и инструменты, которые помогут нам справиться с этой новой проблемой. Оставаясь в курсе событий, мы можем поддерживать доверие к визуальному контенту.

Свяжись с нашим сообществом, чтобы узнать больше об ИИ! Загляни в наш репозиторий на GitHub и посмотри, как мы используем ИИ для создания инновационных решений в таких отраслях, как здравоохранение и сельское хозяйство. Открывай новые возможности вместе с нами!