Comment savoir si une image est générée par IA

Les modèles de génération d'images deviennent de plus en plus avancés, et nous voyons une augmentation des images créées par intelligence artificielle (IA) plus vraies que nature. Le débat entre IA et vraie photo devient plus pertinent à mesure qu'il devient difficile de les distinguer. Il y a eu plusieurs scénarios où des images générées par IA ont trompé Internet. Nous avons vu le pape François en doudoune et Katy Perry au Met Gala 2024. Il s'agissait dans les deux cas d'images fabriquées par une IA générative. En d'autres termes, elles n'étaient pas réelles. Pourtant, au premier coup d'œil, Internet a cru qu'elles l'étaient.

Parfois, cette confusion peut être amusante, mais le plus souvent, elle soulève un sérieux problème éthique. Tout comme il est important de se tenir au courant du fonctionnement de l'IA générative, il est crucial de savoir comment déterminer si quelque chose est généré par IA. Dans cet article, nous examinerons de plus près les images générées par IA, comprendrons les avantages et les inconvénients de l'art par IA, aborderons les questions juridiques et explorerons les méthodes et outils clés pour les distinguer des images réelles.

Link to this sectionQue sont exactement les images générées par IA ?#

Les images IA sont créées à l'aide de modèles de génération d'images qui utilisent des réseaux de neurones entraînés sur de vastes jeux de données pour produire des images réalistes. Ce qui est impressionnant, c'est leur capacité à mélanger les styles, les concepts et les caractéristiques pour créer des images artistiques et pertinentes. Durant l'entraînement, les modèles de génération d'images apprennent différentes caractéristiques et détails à partir de ces images. Cela les aide à créer de nouvelles images qui ressemblent, en style et en contenu, à celles sur lesquelles ils ont été formés.

Il existe de nombreux types de modèles de génération d'images, chacun avec ses propres fonctionnalités. Par exemple, les réseaux antagonistes génératifs (GAN) utilisent deux réseaux de neurones qui travaillent en tandem pour créer des images réalistes ressemblant à leurs données d'entraînement. Les modèles de diffusion génèrent des images en transformant progressivement un bruit aléatoire en images claires. Les Transformers, comme ceux utilisés dans des modèles tels que DALL-E et CLIP, utilisent des mécanismes d'auto-attention pour générer des images à partir de descriptions textuelles.

Fig 1. Générée par DALL-E 2. Invite : Un fauteuil en forme d'avocat.

Tout le monde peut créer des images IA en utilisant des outils comme GPT-4o d'OpenAI, Midjourney, Gencraft ou Stable Diffusion. Ces images apparaissent désormais partout sur Internet, et souvent sans aucune étiquette indiquant qu'elles sont créées par une IA.

Link to this sectionLes avantages et les inconvénients de l'art par IA#

Comme la photographie ou la peinture, la génération d'images par IA est considérée par beaucoup comme une nouvelle forme d'art. Les peintures par IA sont vendues pour des milliers de dollars et gagnent des concours artistiques. Cela soulève la question suivante : l'art par IA est-il une bonne chose, et quels sont les avantages et les inconvénients d'une telle génération d'images ?

Fig 2. Une œuvre d'art générée par IA.

Les avis sont partagés à ce sujet. Par exemple, les petites entreprises avec un budget limité pourraient considérer l'art généré comme un atout. Elles peuvent créer des images personnalisées qui correspondent parfaitement à leurs besoins de marque et de marketing. Ces outils peuvent faire gagner du temps en produisant rapidement des visuels de haute qualité et aider à maintenir les projets créatifs sur la bonne voie. En ce qui concerne l'inspiration des artistes, la génération d'images peut donner accès à une vaste bibliothèque d'options uniques. Un artiste peut facilement visualiser une idée avant de lui donner vie.

Cependant, les images générées par IA manquent souvent de profondeur émotionnelle et peuvent avoir du mal à capturer des expériences humaines brutes. Parfois, la qualité peut être incohérente, les images paraissant pixélisées ou irréalistes. Se reposer trop sur l'IA peut étouffer la créativité et l'esprit critique. Il existe aussi un risque de mauvaise utilisation. Les images IA peuvent être facilement manipulées et conduire à la désinformation. De plus, l'utilisation de ces outils peut impliquer une courbe d'apprentissage abrupte, et ils peuvent comporter des biais issus de leurs données d'entraînement. Voici quelques autres inconvénients de l'art par IA :

• Préoccupations éthiques : Les questions sur la propriété intellectuelle, telles que la paternité, la propriété et le droit d'auteur de l'art généré par IA, peuvent être complexes et controversées.
• Déplacement d'emplois : L'utilisation généralisée de l'IA dans l'art pourrait réduire les opportunités pour les artistes et designers humains.
• Insensibilité culturelle : L'art par IA peut échouer à comprendre et respecter les contextes culturels, conduisant à des créations inappropriées ou offensantes.

Link to this sectionLes zones grises juridiques des images générées par IA#

À mesure que l'IA progresse, nous cherchons encore activement, en tant que société, à comprendre les implications juridiques (comme les problèmes de droit d'auteur). Contrairement aux créations traditionnelles, les images générées par IA ne peuvent pas être protégées par le droit d'auteur dans certains pays comme les États-Unis car elles sont essentiellement des remixes d'œuvres existantes, dont beaucoup sont déjà protégées par le droit d'auteur. Cela devient compliqué car l'entraînement de l'IA implique souvent des quantités massives de données récupérées sur Internet, incluant potentiellement du contenu protégé par le droit d'auteur. À cet effet, de nombreuses personnes protestent activement contre l'utilisation de contenu protégé par le droit d'auteur pour l'entraînement de modèles d'IA et souhaitent de meilleures réglementations.

Certaines entreprises ont même intenté des poursuites. Getty Images, un fournisseur d'images d'archives, a déposé une plainte contre Stability AI, un générateur d'art par IA, pour avoir prétendument dupliqué et utilisé la bibliothèque d'images de Getty à des fins commerciales. Plusieurs images produites par le modèle texte-image de Stability AI portent le filigrane de Getty. DeviantArt et deux autres entreprises d'IA sont également poursuivies par un artiste dans le cadre d'un recours collectif affirmant que leurs œuvres générées par IA enfreignent les lois sur le droit d'auteur.

Link to this sectionComment vérifier si une image est générée par IA#

Apprendre à repérer les images IA est essentiel car leur utilisation dans de fausses informations pour tromper les gens a augmenté, surtout pendant les élections. Selon la BBC, 60 % des chercheurs ont réussi à utiliser l'IA pour créer des images trompeuses sur des bulletins de vote et des lieux.

Fig 3. Une fausse image de boîtes de bulletins de vote dans une benne.

Les images IA affectent aussi les consommateurs. Une étude récente menée par Attest a révélé que la plupart des consommateurs (76 %) ne peuvent pas faire la différence entre des images authentiques et des images générées par IA. Voici comment tu peux savoir si une image est générée par IA.

Link to this sectionVérifie le titre, la description et les tags de l'image#

Cela peut sembler évident, mais le moyen le plus simple de repérer des images IA est de vérifier la description et les tags pour « Généré par IA ». Comme il y a encore beaucoup d'interrogations concernant les images IA, les entreprises qui les génèrent et/ou les autorisent font tout ce qu'elles peuvent pour être transparentes sur leur origine. Les agences de photos d'archives qui autorisent les images IA dans leurs bibliothèques demandent aux contributeurs d'étiqueter les fichiers comme « générés par IA » dans le titre, la description et les tags de l'image (ce qui facilite la recherche ou l'exclusion des images IA lors de la navigation dans leurs catalogues). Chercher ces étiquettes est le moyen le plus simple de repérer une image générée par IA.

Link to this sectionCherche des filigranes#

Un autre moyen d'identifier les images IA est de chercher des filigranes, car de nombreux outils d'IA en ajoutent. Ceux-ci peuvent inclure de petits logos, du texte ou des métadonnées. Par exemple, DALL-E 3 d'OpenAI utilise des métadonnées invisibles C2PA et un symbole visible de Content Credentials (CR) dans le coin supérieur gauche. Cependant, le logo n'est visible que lors de la vérification de l'image sur un site de vérification des identifiants de contenu, tel que Content Credentials Verify. Les entreprises peuvent marquer leurs images différemment, donc tu devras peut-être te familiariser avec divers indicateurs.

Fig 4. Les images générées par ChatGPT incluront des métadonnées C2PA (Source : openai.com)

Google a récemment annoncé SynthID, un moyen innovant de filigraner les images IA. SynthID permet d'intégrer un filigrane numérique directement dans les pixels du contenu généré par IA. Il est invisible à l'œil nu mais détectable pour identification. SynthID peut évaluer si un outil d'IA a probablement créé une image en recherchant ce filigrane numérique.

Link to this sectionCherche des distorsions ou des anomalies dans l'image#

Les images générées par IA présentent souvent des imperfections dues aux limites des algorithmes d'apprentissage profond. Les anomalies courantes incluent :

• Arrière-plans flous ou anormaux : Escaliers mal alignés, meubles aux formes étranges et détails flous.
• Incohérences dans les cheveux : Textures non naturelles, motifs étranges ou flou.
• Apparence trop rendue : Un aspect brillant et irréaliste avec un mélange de textures floues et lisses.
• Erreurs d'accessoires : Bijoux déformés, boucles d'oreilles dépareillées et objets distordus.
• Doigts bizarres : Doigts supplémentaires, pouces manquants ou autres anomalies au niveau des mains.

Fig 5. Anomalies dans une image générée par IA.

Ces signes aident à identifier les images générées par IA. Cependant, les avancées dans l'IA signifient que les futures images IA pourraient présenter moins de défauts visibles.

Link to this sectionUtilise des outils d'identification d'images par IA#

Utiliser des outils d'identification d'images par IA est une autre option pour repérer les images IA, bien que tu doives garder à l'esprit qu'ils ne sont pas forcément entièrement précis. Jetons un coup d'œil à certains des outils les plus populaires pour détecter les images IA :

• AI Or Not : Utilise des algorithmes avancés et l'apprentissage automatique pour authentifier rapidement le contenu réel et faux. Il est particulièrement efficace avec les fausses images NFT.
• Content at Scale : Cet outil gratuit et simple fournit un score de probabilité Humain vs IA pour les images provenant de générateurs populaires.
• Illuminarty : Offre une analyse complète des images et du texte générés par IA, y compris l'identification des modèles d'IA et des zones spécifiques générées par IA.
• Maybe's AI Art Detector : Un outil facile à utiliser qui utilise un modèle ViT pour fournir un score de pourcentage humain vs artificiel pour les images artistiques.
• V7 Deepfake Detector : Une extension Chrome pour détecter les images deepfake StyleGAN, utile pour identifier les faux profils.
• Fake Image Detector : Utilise les métadonnées et l'analyse de niveau d'erreur (ELA) pour détecter les images manipulées mais a une compatibilité de fichiers limitée et subit des plantages.

À mesure que les médias générés par IA continuent de se diffuser et d'avancer, ces outils deviendront encore plus efficaces à l'avenir.

Link to this sectionPoints clés#

À mesure que les modèles d'IA générative deviennent plus intelligents, il devient plus difficile de distinguer les images générées par IA des photos réelles. Bien que cela soit passionnant en termes de progrès technologique, c'est aussi éthiquement préoccupant. Il est vrai que l'IA offre un moyen rentable et innovant de créer des visuels, mais il y a des obstacles juridiques et pratiques à prendre en compte. Heureusement, des méthodes et des outils sont en cours de développement pour nous aider à naviguer dans ce nouveau dilemme. En restant informé, nous pouvons nous assurer que le contenu visuel reste digne de confiance.

Rejoins notre communauté pour en apprendre plus sur l'IA ! Explore notre dépôt GitHub pour voir comment nous utilisons l'IA pour créer des solutions innovantes dans divers secteurs comme la santé et l'agriculture. Débloque de nouvelles opportunités avec nous !