19 июня 2024 г.
По мере развития генеративного ИИ важно научиться распознавать изображения, созданные ИИ. Ознакомьтесь с советами, инструментами и методами, позволяющими эффективно выявлять подделки.
Модели создания изображений становятся все более совершенными, и мы наблюдаем рост числа изображений, созданных искусственным интеллектом (ИИ), похожих на жизнь. Спор между искусственным интеллектом и реальной фотографией становится все более актуальным, поскольку отличить одно от другого становится все сложнее. Было много случаев, когда изображения, созданные искусственным интеллектом, обманывали интернет. Мы видели Папу Франциска в пуховике и Кэти Перри на Met Gala 2024 года. Оба изображения были сфабрикованы генеративным ИИ. Другими словами, они были ненастоящими. Однако на первый взгляд интернету показалось, что это так.
Иногда такая путаница может быть забавной, но чаще всего она представляет собой серьезную этическую проблему. Как важно следить за тем, как работает генеративный ИИ, так же важно знать, как определить, что что-то сгенерировано ИИ. В этой статье мы подробнее рассмотрим изображения, сгенерированные ИИ, разберем плюсы и минусы искусственного интеллекта, обсудим юридические вопросы, а также рассмотрим основные методы и инструменты, позволяющие отличить их от настоящих изображений.
ИИ-изображения создаются с помощью моделей генерации изображений, которые используют нейронные сети, обученные на больших массивах данных для создания реалистичных изображений. Впечатляет их способность смешивать стили, концепции и особенности для создания художественных и актуальных изображений. В процессе обучения модели генерации изображений изучают различные особенности и детали этих изображений. Это помогает им создавать новые изображения, схожие по стилю и содержанию с теми, на которых они учились.
Существует множество типов моделей генерации изображений, каждая из которых имеет свои особенности. Например, генеративные адверсарные сети (GAN) используют две нейронные сети, которые работают в тандеме для создания реалистичных изображений, похожих на обучающие данные. Диффузионные модели генерируют изображения, постепенно превращая случайный шум в четкое изображение. Трансформеры, используемые в таких моделях, как DALL-E и CLIP, используют механизмы самовнушения для создания изображений на основе текстовых описаний.
Любой человек может создать изображения ИИ с помощью таких инструментов, как OpenAI's GPT-4o, Midjourney, Gencraft или Stable Diffusion. Эти изображения появляются по всему интернету, причем часто без каких-либо пометок, указывающих на то, что они сделаны ИИ.
Подобно фотографии или живописи, создание изображений с помощью ИИ многие считают новым видом искусства. Картины ИИ продаются за тысячи долларов и побеждают на художественных конкурсах. В связи с этим возникает вопрос: является ли искусство ИИ хорошей вещью и каковы плюсы и минусы такой генерации изображений?
Существуют разные мнения на этот счет. Например, небольшие компании с ограниченным бюджетом могут рассматривать сгенерированное искусство как плюс. Они могут создавать индивидуальные изображения, идеально соответствующие брендингу и маркетинговым потребностям. Такие инструменты позволяют экономить время за счет быстрого создания высококачественных изображений и помогают поддерживать творческие проекты на должном уровне. Что касается вдохновения художников, то генерация изображений может предоставить доступ к обширной библиотеке уникальных вариантов. Художник может легко визуализировать идею, прежде чем воплотить ее в жизнь.
Однако изображениям, созданным искусственным интеллектом, часто не хватает эмоциональной глубины, и они с трудом могут передавать необработанные человеческие переживания. Иногда качество может быть непостоянным, изображения выглядят пиксельными или нереалистичными. Слишком большая зависимость от ИИ может подавить творческий потенциал и критическое мышление. Существует также риск злоупотребления. Изображениями ИИ легко манипулировать, что может привести к дезинформации. Кроме того, использование этих инструментов может потребовать длительного обучения, и они могут нести в себе предвзятость обучающих данных. Вот еще несколько минусов искусства ИИ:
По мере развития искусственного интеллекта мы все еще активно выясняем юридические последствия (например, вопросы авторского права) как общество. В отличие от традиционных творений, изображения, созданные ИИ, не могут быть защищены авторским правом в некоторых странах, например в США, поскольку они, по сути, являются ремиксами существующих произведений, многие из которых уже защищены авторским правом. Все усложняется тем, что для обучения ИИ часто используются огромные объемы данных, взятых из Интернета, в том числе материалы, защищенные авторским правом. В связи с этим многие люди активно протестуют против использования защищенного авторским правом контента для обучения моделей ИИ и требуют более эффективного регулирования.
Некоторые компании даже подали судебные иски. Компания Getty Images, поставщик стоковых изображений, подала иск против Stability AI, генератора искусственного интеллекта, за якобы копирование и использование библиотеки изображений Getty в коммерческих целях. Несколько изображений, созданных с помощью модели преобразования текста в изображение Stability AI, имеют водяной знак Getty. На DeviantArt и две другие компании, занимающиеся искусственным интеллектом, также подан коллективный иск от одного художника, утверждающего, что созданные искусственным интеллектом произведения нарушают законы об авторском праве.
Научиться распознавать изображения, созданные искусственным интеллектом, крайне важно, поскольку их все чаще используют в фальшивых новостях для введения людей в заблуждение, особенно во время выборов. По данным BBC, 60 % исследователей преуспели в использовании ИИ для создания вводящих в заблуждение изображений избирательных бюллетеней и мест их расположения.
ИИ-изображения также влияют на потребителей. Недавнее исследование, проведенное компанией Attest, показало, что большинство потребителей(76 %) не могут отличить подлинные изображения от изображений, сгенерированных искусственным интеллектом. Вот как можно определить, что изображение сгенерировано искусственным интеллектом.
Это может показаться очевидным, но самый простой способ обнаружить изображения с искусственным интеллектом - проверить описание и теги на наличие "AI-Generated". Поскольку в отношении изображений с искусственным интеллектом до сих пор много вопросов, компании, которые их генерируют и/или лицензируют, делают все возможное, чтобы быть прозрачными в отношении их происхождения. Стоковые фотоагентства, которые разрешают использовать изображения с искусственным интеллектом в своих библиотеках, требуют, чтобы поставщики помечали файлы как "сгенерированные искусственным интеллектом" в названии, описании и тегах изображений (это облегчает поиск или исключение изображений с искусственным интеллектом при просмотре их каталогов). Поиск этих меток - самый простой способ определить, что изображение сгенерировано искусственным интеллектом.
Еще один способ распознать AI-изображения - поискать водяные знаки, так как многие AI-инструменты добавляют их. Это могут быть небольшие логотипы, текст или метаданные. Например, в OpenAI's DALL-E 3 используются невидимые метаданные C2PA и видимый символ Content Credentials (CR) в левом верхнем углу. Однако логотип виден только при проверке изображения на сайте проверки достоверности содержания, например Content Credentials Verify. Компании могут маркировать свои изображения по-разному, поэтому вам может понадобиться ознакомиться с различными индикаторами.
Недавно компания Google анонсировала SynthID, инновационный способ нанесения водяных знаков на изображения, созданные искусственным интеллектом. SynthID позволяет встраивать цифровой водяной знак непосредственно в пиксели контента, созданного искусственным интеллектом. Он невидим для человеческого глаза, но может быть обнаружен для идентификации. SynthID может определить, что изображение, скорее всего, создал инструмент искусственного интеллекта, просканировав его на наличие этого цифрового водяного знака.
Изображения, созданные искусственным интеллектом, часто имеют недостатки, обусловленные ограничениями алгоритмов глубокого обучения. К распространенным аномалиям относятся:
Эти признаки помогают распознать изображения, созданные искусственным интеллектом. Однако развитие искусственного интеллекта означает, что будущие изображения, созданные искусственным интеллектом, будут иметь меньше видимых недостатков.
Использование инструментов для идентификации AI-изображений - еще один вариант обнаружения AI-изображений, хотя следует помнить, что он может быть не совсем точным. Давайте рассмотрим некоторые из наиболее популярных инструментов для обнаружения изображений ИИ:
По мере распространения и развития средств массовой информации, созданных искусственным интеллектом, эти инструменты станут еще более эффективными в будущем.
По мере того как генеративные модели ИИ становятся все более интеллектуальными, становится все труднее отличить сгенерированные ИИ изображения от реальных фотографий. Несмотря на то, что это захватывающее явление с точки зрения технологического прогресса, оно также вызывает этические сомнения. Действительно, ИИ предлагает экономически эффективный и инновационный способ создания визуальных образов, но при этом необходимо учитывать юридические и практические препятствия. К счастью, сейчас разрабатываются методы и инструменты, которые помогут нам справиться с этой новой дилеммой. Оставаясь в курсе событий, мы можем быть уверены, что визуальный контент будет заслуживать доверия.
Присоединяйтесь к нашему сообществу, чтобы узнать больше об искусственном интеллекте! Изучите наш репозиторий GitHub, чтобы увидеть, как мы используем ИИ для создания инновационных решений в различных отраслях, таких как здравоохранение и сельское хозяйство. Открывайте новые возможности вместе с нами!
