Нажав кнопку "Принять все файлы cookie", вы соглашаетесь с сохранением файлов cookie на вашем устройстве для улучшения навигации по сайту, анализа его использования и помощи в наших маркетинговых усилиях. Дополнительная информация
Настройки файлов cookie
Нажав кнопку "Принять все файлы cookie", вы соглашаетесь с сохранением файлов cookie на вашем устройстве для улучшения навигации по сайту, анализа его использования и помощи в наших маркетинговых усилиях. Дополнительная информация
По мере развития генеративного ИИ важно научиться распознавать изображения, созданные ИИ. Ознакомьтесь с советами, инструментами и методами, позволяющими эффективно выявлять подделки.
Модели создания изображений становятся все более совершенными, и мы наблюдаем рост числа изображений, созданных искусственным интеллектом (ИИ), похожих на жизнь. Спор между искусственным интеллектом и реальной фотографией становится все более актуальным, поскольку отличить одно от другого становится все сложнее. Было много случаев, когда изображения, созданные искусственным интеллектом, обманывали интернет. Мы видели Папу Франциска в пуховике и Кэти Перри на Met Gala 2024 года. Оба изображения были сфабрикованы генеративным ИИ. Другими словами, они были ненастоящими. Однако на первый взгляд интернету показалось, что это так.
Иногда такая путаница может быть забавной, но чаще всего она представляет собой серьезную этическую проблему. Как важно следить за тем, как работает генеративный ИИ, так же важно знать, как определить, что что-то сгенерировано ИИ. В этой статье мы подробнее рассмотрим изображения, сгенерированные ИИ, разберем плюсы и минусы искусственного интеллекта, обсудим юридические вопросы, а также рассмотрим основные методы и инструменты, позволяющие отличить их от настоящих изображений.
Что представляют собой изображения, созданные искусственным интеллектом?
ИИ-изображения создаются с помощью моделей генерации изображений, которые используют нейронные сети, обученные на больших массивах данных для создания реалистичных изображений. Впечатляет их способность смешивать стили, концепции и особенности для создания художественных и актуальных изображений. В процессе обучения модели генерации изображений изучают различные особенности и детали этих изображений. Это помогает им создавать новые изображения, схожие по стилю и содержанию с теми, на которых они учились.
Существует множество типов моделей генерации изображений, каждая из которых имеет свои особенности. Например, генеративные адверсарные сети (GAN) используют две нейронные сети, которые работают в тандеме для создания реалистичных изображений, похожих на обучающие данные. Диффузионные модели генерируют изображения, постепенно превращая случайный шум в четкое изображение. Трансформеры, используемые в таких моделях, как DALL-E и CLIP, используют механизмы самовнушения для создания изображений на основе текстовых описаний.
Рис 1. Сгенерировано DALL-E 2. Задание: Кресло в форме авокадо.
Любой человек может создать изображения ИИ с помощью таких инструментов, как OpenAI's GPT-4o, Midjourney, Gencraft или Stable Diffusion. Эти изображения появляются по всему интернету, причем часто без каких-либо пометок, указывающих на то, что они сделаны ИИ.
Плюсы и минусы искусственного интеллекта
Подобно фотографии или живописи, создание изображений с помощью ИИ многие считают новым видом искусства. Картины ИИ продаются за тысячи долларов и побеждают на художественных конкурсах. В связи с этим возникает вопрос: является ли искусство ИИ хорошей вещью и каковы плюсы и минусы такой генерации изображений?
Существуют разные мнения на этот счет. Например, небольшие компании с ограниченным бюджетом могут рассматривать сгенерированное искусство как плюс. Они могут создавать индивидуальные изображения, идеально соответствующие брендингу и маркетинговым потребностям. Такие инструменты позволяют экономить время за счет быстрого создания высококачественных изображений и помогают поддерживать творческие проекты на должном уровне. Что касается вдохновения художников, то генерация изображений может предоставить доступ к обширной библиотеке уникальных вариантов. Художник может легко визуализировать идею, прежде чем воплотить ее в жизнь.
Однако изображениям, созданным искусственным интеллектом, часто не хватает эмоциональной глубины, и они с трудом могут передавать необработанные человеческие переживания. Иногда качество может быть непостоянным, изображения выглядят пиксельными или нереалистичными. Слишком большая зависимость от ИИ может подавить творческий потенциал и критическое мышление. Существует также риск злоупотребления. Изображениями ИИ легко манипулировать, что может привести к дезинформации. Кроме того, использование этих инструментов может потребовать длительного обучения, и они могут нести в себе предвзятость обучающих данных. Вот еще несколько минусов искусства ИИ:
Этические проблемы: Вопросы интеллектуальной собственности, такие как авторство, право собственности и авторские права на искусство, созданное ИИ, могут быть сложными и спорными.
Вытеснение рабочих мест: Широкое использование искусственного интеллекта в искусстве может сократить возможности для художников и дизайнеров-людей.
Культурная невосприимчивость: Искусство ИИ может не понимать и не уважать культурный контекст, что приведет к созданию неуместных или оскорбительных творений.
По мере развития искусственного интеллекта мы все еще активно выясняем юридические последствия (например, вопросы авторского права) как общество. В отличие от традиционных творений, изображения, созданные ИИ, не могут быть защищены авторским правом в некоторых странах, например в США, поскольку они, по сути, являются ремиксами существующих произведений, многие из которых уже защищены авторским правом. Все усложняется тем, что для обучения ИИ часто используются огромные объемы данных, взятых из Интернета, в том числе материалы, защищенные авторским правом. В связи с этим многие люди активно протестуют против использования защищенного авторским правом контента для обучения моделей ИИ и требуют более эффективного регулирования.
Некоторые компании даже подали судебные иски. Компания Getty Images, поставщик стоковых изображений, подала иск против Stability AI, генератора искусственного интеллекта, за якобы копирование и использование библиотеки изображений Getty в коммерческих целях. Несколько изображений, созданных с помощью модели преобразования текста в изображение Stability AI, имеют водяной знак Getty. На DeviantArt и две другие компании, занимающиеся искусственным интеллектом, также подан коллективный иск от одного художника, утверждающего, что созданные искусственным интеллектом произведения нарушают законы об авторском праве.
Как проверить, является ли изображение сгенерированным искусственным интеллектом
Научиться распознавать изображения, созданные искусственным интеллектом, крайне важно, поскольку их все чаще используют в фальшивых новостях для введения людей в заблуждение, особенно во время выборов. По данным BBC, 60 % исследователей преуспели в использовании ИИ для создания вводящих в заблуждение изображений избирательных бюллетеней и мест их расположения.
Рис. 3. Поддельное изображение коробок с бюллетенями в мусорном контейнере.
ИИ-изображения также влияют на потребителей. Недавнее исследование, проведенное компанией Attest, показало, что большинство потребителей(76 %) не могут отличить подлинные изображения от изображений, сгенерированных искусственным интеллектом. Вот как можно определить, что изображение сгенерировано искусственным интеллектом.
Проверьте название, описание и теги изображений
Это может показаться очевидным, но самый простой способ обнаружить изображения с искусственным интеллектом - проверить описание и теги на наличие "AI-Generated". Поскольку в отношении изображений с искусственным интеллектом до сих пор много вопросов, компании, которые их генерируют и/или лицензируют, делают все возможное, чтобы быть прозрачными в отношении их происхождения. Стоковые фотоагентства, которые разрешают использовать изображения с искусственным интеллектом в своих библиотеках, требуют, чтобы поставщики помечали файлы как "сгенерированные искусственным интеллектом" в названии, описании и тегах изображений (это облегчает поиск или исключение изображений с искусственным интеллектом при просмотре их каталогов). Поиск этих меток - самый простой способ определить, что изображение сгенерировано искусственным интеллектом.
Ищите водяные знаки
Еще один способ распознать AI-изображения - поискать водяные знаки, так как многие AI-инструменты добавляют их. Это могут быть небольшие логотипы, текст или метаданные. Например, в OpenAI's DALL-E 3 используются невидимые метаданные C2PA и видимый символ Content Credentials (CR) в левом верхнем углу. Однако логотип виден только при проверке изображения на сайте проверки достоверности содержания, например Content Credentials Verify. Компании могут маркировать свои изображения по-разному, поэтому вам может понадобиться ознакомиться с различными индикаторами.
Рис. 4. Изображения, созданные ChatGPT, будут содержать метаданные C2PA.
Недавно компания Google анонсировала SynthID, инновационный способ нанесения водяных знаков на изображения, созданные искусственным интеллектом. SynthID позволяет встраивать цифровой водяной знак непосредственно в пиксели контента, созданного искусственным интеллектом. Он невидим для человеческого глаза, но может быть обнаружен для идентификации. SynthID может определить, что изображение, скорее всего, создал инструмент искусственного интеллекта, просканировав его на наличие этого цифрового водяного знака.
Ищите искажения или аномалии в изображении
Изображения, созданные искусственным интеллектом, часто имеют недостатки, обусловленные ограничениями алгоритмов глубокого обучения. К распространенным аномалиям относятся:
Размытые или ненормальные фоны: Неправильно расположенные лестницы, мебель странной формы и размытые детали.
Несоответствие прически: Неестественная текстура, странные узоры или размытость.
Чрезмерно прорисованный внешний вид: Глянцевый, нереалистичный вид с сочетанием размытых и гладких текстур.
Ошибки в аксессуарах: Искаженные украшения, несовпадающие серьги и перекошенные предметы.
Странные пальцы: Лишние пальцы, отсутствие больших пальцев или другие аномалии руки.
Рис. 5. Аномалии в сгенерированном ИИ изображении.
Эти признаки помогают распознать изображения, созданные искусственным интеллектом. Однако развитие искусственного интеллекта означает, что будущие изображения, созданные искусственным интеллектом, будут иметь меньше видимых недостатков.
Используйте средства идентификации изображений с помощью искусственного интеллекта
Использование инструментов для идентификации AI-изображений - еще один вариант обнаружения AI-изображений, хотя следует помнить, что он может быть не совсем точным. Давайте рассмотрим некоторые из наиболее популярных инструментов для обнаружения изображений ИИ:
ИИ или нет: Использует передовые алгоритмы и машинное обучение для быстрой проверки подлинности реального и поддельного контента. Особенно эффективен при работе с поддельными изображениями NFT.
Контент в масштабе: Этот бесплатный и простой инструмент дает оценку вероятности сравнения человека и искусственного интеллекта для изображений из популярных генераторов.
Illuminarty: Предлагает комплексный анализ изображений и текстов, созданных искусственным интеллектом, включая идентификацию моделей искусственного интеллекта и конкретных областей, созданных искусственным интеллектом.
ИИ-детектор искусства Maybe: Простой в использовании инструмент, использующий модель ViT для определения процентной оценки художественных изображений человеком и искусственным интеллектом.
V7 Deepfake Detector: Расширение для Chrome для обнаружения поддельных изображений StyleGAN, полезное для выявления фальшивых профилей.
Детектор поддельных изображений: Использует метаданные и анализ уровня ошибок (ELA) для обнаружения манипулированных изображений, но имеет ограниченную совместимость с файлами и подвержен сбоям.
По мере распространения и развития средств массовой информации, созданных искусственным интеллектом, эти инструменты станут еще более эффективными в будущем.
Основные выводы
По мере того как генеративные модели ИИ становятся все более интеллектуальными, становится все труднее отличить сгенерированные ИИ изображения от реальных фотографий. Несмотря на то, что это захватывающее явление с точки зрения технологического прогресса, оно также вызывает этические сомнения. Действительно, ИИ предлагает экономически эффективный и инновационный способ создания визуальных образов, но при этом необходимо учитывать юридические и практические препятствия. К счастью, сейчас разрабатываются методы и инструменты, которые помогут нам справиться с этой новой дилеммой. Оставаясь в курсе событий, мы можем быть уверены, что визуальный контент будет заслуживать доверия.
Присоединяйтесь к нашему сообществу, чтобы узнать больше об искусственном интеллекте! Изучите наш репозиторий GitHub, чтобы увидеть, как мы используем ИИ для создания инновационных решений в различных отраслях, таких как здравоохранение и сельское хозяйство. Открывайте новые возможности вместе с нами!