Comment savoir si une image est générée par IA

Les modèles de génération d'images se perfectionnent de plus en plus, et nous constatons une augmentation du nombre d'images réalistes générées par intelligence artificielle (IA). Le débat entre photos réelles et IA devient de plus en plus pertinent à mesure qu'il est difficile de les distinguer. De multiples scénarios ont montré des images générées par IA qui ont trompé Internet. Nous avons vu le pape François en doudoune et Katy Perry au Met Gala 2024. Toutes deux étaient des images fabriquées par l'IA générative. En d'autres termes, elles n'étaient pas réelles. Pourtant, au premier coup d'œil, Internet a cru qu'elles l'étaient.

Parfois, cette confusion peut être amusante, mais le plus souvent, elle soulève un sérieux problème éthique. Tout comme il est important de se tenir au courant du fonctionnement de l'IA générative, il est crucial de savoir comment déterminer si quelque chose est généré par IA. Dans cet article, nous examinerons de plus près les images générées par IA, comprendrons les avantages et les inconvénients de l'art par IA, aborderons les questions juridiques et explorerons les méthodes et outils clés pour les distinguer des images réelles.

Que sont exactement les images générées par IA ?#

Les images IA sont créées à l'aide de modèles de génération d'images qui utilisent des réseaux de neurones entraînés sur de vastes jeux de données pour produire des images réalistes. Ce qui est impressionnant, c'est leur capacité à mélanger les styles, les concepts et les caractéristiques pour créer des images artistiques et pertinentes. Durant l'entraînement, les modèles de génération d'images apprennent différentes caractéristiques et détails à partir de ces images. Cela les aide à créer de nouvelles images qui ressemblent, en style et en contenu, à celles sur lesquelles ils ont été formés.

Il existe de nombreux types de modèles de génération d'images, chacun avec ses propres fonctionnalités. Par exemple, les réseaux antagonistes génératifs (GAN) utilisent deux réseaux de neurones qui travaillent en tandem pour créer des images réalistes ressemblant à leurs données d'entraînement. Les modèles de diffusion génèrent des images en transformant progressivement un bruit aléatoire en images claires. Les Transformers, comme ceux utilisés dans des modèles tels que DALL-E et CLIP, utilisent des mécanismes d'auto-attention pour générer des images à partir de descriptions textuelles.

Fig 1. Généré par DALL-E 2. Prompt : Un fauteuil en forme d'avocat.

Tout le monde peut créer des images par IA à l'aide d'outils tels que OpenAI’s GPT-4o, Midjourney, Gencraft ou Stable Diffusion. Ces images apparaissent désormais partout sur Internet, et souvent sans aucune mention indiquant qu'elles ont été créées par l'IA.

Les avantages et les inconvénients de l'art par IA#

À l'instar de la photographie ou de la peinture, la génération d'images par IA est considérée par beaucoup comme une nouvelle forme d'art. Les peintures créées par l'IA se vendent pour des milliers de dollars et remportent des concours artistiques. Cela soulève la question suivante : l'art de l'IA est-il une bonne chose, et quels sont les avantages et les inconvénients de cette génération d'images ?

Fig 2. Une œuvre d'art générée par IA.

Les avis sont partagés à ce sujet. Par exemple, les petites entreprises avec un budget limité pourraient considérer l'art généré comme un atout. Elles peuvent créer des images personnalisées qui correspondent parfaitement à leurs besoins de marque et de marketing. Ces outils peuvent faire gagner du temps en produisant rapidement des visuels de haute qualité et aider à maintenir les projets créatifs sur la bonne voie. En ce qui concerne l'inspiration des artistes, la génération d'images peut donner accès à une vaste bibliothèque d'options uniques. Un artiste peut facilement visualiser une idée avant de lui donner vie.

Cependant, les images générées par IA manquent souvent de profondeur émotionnelle et peuvent avoir du mal à capturer des expériences humaines brutes. Parfois, la qualité peut être incohérente, les images paraissant pixélisées ou irréalistes. Se reposer trop sur l'IA peut étouffer la créativité et l'esprit critique. Il existe aussi un risque de mauvaise utilisation. Les images IA peuvent être facilement manipulées et conduire à la désinformation. De plus, l'utilisation de ces outils peut impliquer une courbe d'apprentissage abrupte, et ils peuvent comporter des biais issus de leurs données d'entraînement. Voici quelques autres inconvénients de l'art par IA :

• Préoccupations éthiques : Les questions sur la propriété intellectuelle, telles que la paternité, la propriété et le droit d'auteur de l'art généré par IA, peuvent être complexes et controversées.
• Déplacement d'emplois : L'utilisation généralisée de l'IA dans l'art pourrait réduire les opportunités pour les artistes et designers humains.
• Insensibilité culturelle : L'art par IA peut échouer à comprendre et respecter les contextes culturels, conduisant à des créations inappropriées ou offensantes.

Les zones grises juridiques des images générées par IA#

À mesure que l'IA progresse, nous cherchons encore activement à en cerner les implications juridiques (telles que les questions de droits d'auteur) en tant que société. Contrairement aux créations traditionnelles, les images générées par l'IA ne peuvent pas être protégées par le droit d'auteur dans certains pays comme les États-Unis, car elles sont essentiellement des remixes d'œuvres existantes, dont beaucoup sont déjà protégées. La situation se complique du fait que l'entraînement de l'IA implique souvent des volumes massifs de données collectées sur Internet, incluant potentiellement des contenus protégés. À cet égard, de nombreuses personnes protestent activement contre l'utilisation de contenus protégés pour l'entraînement de modèles d'IA et réclament de meilleures réglementations.

Certaines entreprises ont même engagé des poursuites judiciaires. Getty Images, un fournisseur d'images d'archives, a intenté un procès contre Stability AI, un générateur d'art par IA, l'accusant d'avoir copié et utilisé la bibliothèque d'images de Getty à des fins commerciales. Plusieurs images produites par le modèle texte-image de Stability AI portent le filigrane de Getty. DeviantArt et deux autres entreprises d'IA font également l'objet de poursuites de la part d'un artiste dans le cadre d'un recours collectif affirmant que leurs œuvres générées par IA enfreignent les lois sur les droits d'auteur.

Comment vérifier si une image est générée par IA#

Apprendre à repérer les images d'IA est essentiel car leur utilisation dans de fausses informations pour tromper les gens a augmenté, en particulier lors des élections. Selon la BBC, 60% des chercheurs ont réussi à utiliser l'IA pour créer des images trompeuses concernant des bulletins de vote et des lieux.

Fig 3. Une fausse image d'urnes de vote dans une benne à ordures.

Les images générées par l'IA affectent également les consommateurs. Une étude récente menée par Attest a révélé que la plupart des consommateurs (76%) ne parviennent pas à faire la différence entre des images authentiques et des images générées par l'IA. Voici comment tu peux savoir si une image a été générée par l'IA.

Vérifie le titre, la description et les tags de l'image#

Cela peut sembler évident, mais le moyen le plus simple de repérer des images IA est de vérifier la description et les tags pour « Généré par IA ». Comme il y a encore beaucoup d'interrogations concernant les images IA, les entreprises qui les génèrent et/ou les autorisent font tout ce qu'elles peuvent pour être transparentes sur leur origine. Les agences de photos d'archives qui autorisent les images IA dans leurs bibliothèques demandent aux contributeurs d'étiqueter les fichiers comme « générés par IA » dans le titre, la description et les tags de l'image (ce qui facilite la recherche ou l'exclusion des images IA lors de la navigation dans leurs catalogues). Chercher ces étiquettes est le moyen le plus simple de repérer une image générée par IA.

Cherche des filigranes#

Une autre façon d'identifier les images d'IA est de chercher des filigranes, car de nombreux outils d'IA en intègrent. Il peut s'agir de petits logos, de texte ou de métadonnées. Par exemple, DALL-E 3 d'OpenAI utilise des métadonnées invisibles C2PA et un symbole visible Content Credentials (CR) dans le coin supérieur gauche. Cependant, le logo n'est visible que lors de la vérification de l'image sur un site de vérification des informations d'identification de contenu, tel que Content Credentials Verify. Les entreprises peuvent marquer leurs images différemment, tu devras donc peut-être te familiariser avec divers indicateurs.

Fig 4. Les images générées par ChatGPT incluront des métadonnées C2PA (Source : openai.com)

Google a récemment annoncé SynthID, un moyen innovant de filigraner les images IA. SynthID permet d'intégrer un filigrane numérique directement dans les pixels du contenu généré par IA. Il est invisible à l'œil nu mais détectable pour identification. SynthID peut évaluer si un outil d'IA a probablement créé une image en recherchant ce filigrane numérique.

Cherche des distorsions ou des anomalies dans l'image#

Les images générées par IA présentent souvent des imperfections dues aux limites des algorithmes d'apprentissage profond. Les anomalies courantes incluent :

• Arrière-plans flous ou anormaux : Escaliers mal alignés, meubles aux formes étranges et détails flous.
• Incohérences dans les cheveux : Textures non naturelles, motifs étranges ou flou.
• Apparence trop rendue : Un aspect brillant et irréaliste avec un mélange de textures floues et lisses.
• Erreurs d'accessoires : Bijoux déformés, boucles d'oreilles dépareillées et objets distordus.
• Doigts bizarres : Doigts supplémentaires, pouces manquants ou autres anomalies au niveau des mains.

Fig 5. Anomalies dans une image générée par l'IA.

Ces signes aident à identifier les images générées par IA. Cependant, les avancées dans l'IA signifient que les futures images IA pourraient présenter moins de défauts visibles.

Utilise des outils d'identification d'images par IA#

Utiliser des outils d'identification d'images par IA est une autre option pour repérer les images IA, bien que tu doives garder à l'esprit qu'ils ne sont pas forcément entièrement précis. Jetons un coup d'œil à certains des outils les plus populaires pour détecter les images IA :

• AI Or Not : Utilise des algorithmes avancés et du machine learning pour authentifier rapidement du contenu réel et faux. Il est particulièrement efficace avec les fausses images NFT.
• Content at Scale : Cet outil gratuit et simple fournit un score de probabilité humain vs IA pour les images provenant de générateurs populaires.
• Illuminarty : Offre une analyse complète des images et du texte générés par l'IA, y compris l'identification des modèles d'IA et des zones spécifiques générées par l'IA.
• Maybe's AI Art Detector : Un outil facile à utiliser qui emploie un modèle ViT pour fournir un score en pourcentage humain vs artificiel pour les images artistiques.
• V7 Deepfake Detector : Une extension Chrome pour détecter les images deepfake générées par StyleGAN, utile pour identifier les faux profils.
• Fake Image Detector : Utilise les métadonnées et l'analyse du niveau d'erreur (ELA) pour détecter les images manipulées, mais présente une compatibilité de fichiers limitée et subit des plantages.

À mesure que les médias générés par IA continuent de se diffuser et d'avancer, ces outils deviendront encore plus efficaces à l'avenir.

Points clés#

À mesure que les modèles d'IA générative deviennent plus intelligents, il devient plus difficile de distinguer les images générées par IA des photos réelles. Bien que cela soit passionnant en termes de progrès technologique, c'est aussi éthiquement préoccupant. Il est vrai que l'IA offre un moyen rentable et innovant de créer des visuels, mais il y a des obstacles juridiques et pratiques à prendre en compte. Heureusement, des méthodes et des outils sont en cours de développement pour nous aider à naviguer dans ce nouveau dilemme. En restant informé, nous pouvons nous assurer que le contenu visuel reste digne de confiance.

Rejoins notre communauté pour en savoir plus sur l'IA ! Explore notre dépôt GitHub pour voir comment nous utilisons l'IA afin de créer des solutions innovantes dans divers secteurs tels que la santé et l'agriculture. Débloque de nouvelles opportunités avec nous !