Comment savoir si une image a été générée par l’IA

Les modèles de génération d’images deviennent de plus en plus avancés, et nous voyons davantage d’images d’intelligence artificielle (AI) très réalistes. Le débat entre les photos générées par l’IA et les vraies photos gagne en importance, car il devient plus difficile de les distinguer. Plusieurs cas ont montré que des images générées par l’IA ont trompé les internautes. Nous avons vu le pape François en doudoune et Katy Perry au Met Gala 2024. Ces deux images avaient été fabriquées par une IA générative. Autrement dit, elles n’étaient pas réelles. Pourtant, au premier regard, les internautes les ont crues authentiques.

Cette confusion peut parfois être amusante, mais elle soulève plus souvent un problème éthique sérieux. Tout comme il est important de suivre l’évolution du fonctionnement de l’IA générative, il est également essentiel de savoir reconnaître ce qui a été généré par l’IA. Dans cet article, nous allons examiner de plus près les images générées par l’IA, comprendre les avantages et les inconvénients de l’art généré par l’IA, aborder les questions juridiques et explorer les principales méthodes et outils permettant de les distinguer des vraies images.

Que sont exactement les images générées par l’IA ?#

Les images générées par l’IA sont créées à l’aide de modèles de génération d’images qui utilisent des réseaux neuronaux entraînés sur de vastes jeux de données pour produire des images réalistes. Ce qui est impressionnant, c’est leur capacité à combiner des styles, des concepts et des caractéristiques afin de créer des images artistiques et pertinentes. Pendant l’entraînement, les modèles de génération d’images apprennent différentes caractéristiques et différents détails à partir de ces images. Cela les aide à créer de nouvelles images dont le style et le contenu ressemblent à ceux des images utilisées pour leur apprentissage.

Il existe de nombreux types de modèles de génération d’images, chacun ayant ses propres caractéristiques. Par exemple, les réseaux antagonistes génératifs (GANs) utilisent deux réseaux neuronaux qui fonctionnent ensemble pour créer des images réalistes ressemblant à leurs données d’entraînement. Les modèles de diffusion génèrent des images en transformant progressivement du bruit aléatoire en images nettes. Les Transformers, comme ceux utilisés dans des modèles tels que DALL-E et CLIP, s’appuient sur des mécanismes d’auto-attention pour générer des images à partir de descriptions textuelles.

Fig. 1 Générée par DALL-E 2. Prompt : un fauteuil en forme d’avocat.

Tout le monde peut créer des images générées par l’IA à l’aide d’outils comme GPT-4o d’OpenAI, Midjourney, Gencraft ou Stable Diffusion. Ces images apparaissent désormais partout sur Internet, souvent sans aucune indication permettant de savoir qu’elles ont été créées par l’IA.

Les avantages et les inconvénients de l’art généré par l’IA#

Comme la photographie ou la peinture, la génération d’images par l’IA est considérée par beaucoup comme une nouvelle forme d’art. Des peintures générées par l’IA sont vendues plusieurs milliers de dollars et remportent des concours artistiques. Cela soulève la question suivante : l’art généré par l’IA est-il une bonne chose, et quels sont les avantages et les inconvénients de cette génération d’images ?

Fig. 2 Une œuvre d’art générée par l’IA.

Les avis divergent à ce sujet. Par exemple, les petites entreprises disposant d’un budget limité peuvent considérer l’art généré comme un atout. Elles peuvent créer des images personnalisées qui correspondent parfaitement à leurs besoins en matière d’image de marque et de marketing. Ces outils permettent de gagner du temps en produisant rapidement des visuels de haute qualité et contribuent à maintenir les projets créatifs sur la bonne voie. Pour ce qui est de l’inspiration des artistes, la génération d’images peut donner accès à une vaste bibliothèque d’options uniques. Un artiste peut facilement visualiser une idée avant de lui donner vie.

Cependant, les images générées par l’IA manquent souvent de profondeur émotionnelle et peuvent avoir du mal à restituer les expériences humaines brutes. La qualité peut parfois être inégale, certaines images paraissant pixellisées ou irréalistes. Une dépendance excessive à l’IA peut étouffer la créativité et la pensée critique. Il existe également un risque de détournement. Les images générées par l’IA peuvent être facilement manipulées et contribuer à la désinformation. De plus, l’utilisation de ces outils peut nécessiter un apprentissage important, et ils peuvent reproduire les biais présents dans leurs données d’entraînement. Voici quelques autres inconvénients de l’art généré par l’IA :

• Préoccupations éthiques : Les questions de propriété intellectuelle, notamment la paternité, la propriété et les droits d’auteur des œuvres générées par l’IA, peuvent être complexes et controversées.
• Suppression d’emplois : L’utilisation généralisée de l’IA dans l’art pourrait réduire les opportunités pour les artistes et les designers humains.
• Insensibilité culturelle : L’art généré par l’IA peut ne pas comprendre ni respecter les contextes culturels, ce qui peut conduire à des créations inappropriées ou offensantes.

Les zones grises juridiques des images générées par l’IA#

À mesure que l’IA progresse, nous continuons à déterminer activement, en tant que société, ses implications juridiques, notamment les questions de droits d’auteur. Contrairement aux créations traditionnelles, les images générées par l’IA ne peuvent pas être protégées par le droit d’auteur dans certains pays comme les États-Unis, car elles sont essentiellement des remix d’œuvres existantes, dont beaucoup sont déjà protégées par le droit d’auteur. La situation se complique parce que l’entraînement de l’IA implique souvent d’énormes quantités de données récupérées sur Internet, qui peuvent inclure du contenu protégé par le droit d’auteur. C’est pourquoi de nombreuses personnes protestent activement contre l’utilisation de contenus protégés par le droit d’auteur pour l’entraînement des modèles d’IA et demandent une meilleure réglementation.

Certaines entreprises ont même intenté des procès. Getty Images, un fournisseur d’images libres de droits, a intenté une action en justice contre Stability AI, un générateur d’art par IA, l’accusant d’avoir dupliqué et utilisé sa bibliothèque d’images à des fins commerciales. Plusieurs images produites par le modèle texte-image de Stability AI portent le filigrane de Getty. DeviantArt et deux autres entreprises d’IA font également l’objet d’une poursuite intentée par un artiste dans le cadre d’une action collective, qui affirme que leurs œuvres générées par l’IA enfreignent les lois sur le droit d’auteur.

Comment vérifier si une image a été générée par l’IA#

Apprendre à repérer les images générées par l’IA est essentiel, car leur utilisation dans les fausses informations pour tromper les gens a augmenté, notamment pendant les élections. Selon la BBC, 60 % des chercheurs ont réussi à utiliser l’IA pour créer des images trompeuses concernant les bulletins de vote et les lieux de vote.

Fig. 3 Une fausse image représentant des urnes dans une benne à ordures.

Les images générées par l’IA affectent également les consommateurs. Une étude récente menée par Attest a révélé que la plupart des consommateurs (76 %) ne savent pas faire la différence entre les images authentiques et celles générées par l’IA. Voici comment savoir si une image a été générée par l’IA.

Vérifie le titre, la description et les tags de l’image#

Cela peut sembler évident, mais le moyen le plus simple de repérer les images générées par l’IA consiste à vérifier si la description et les tags contiennent la mention « AI-Generated ». Comme les images générées par l’IA suscitent encore de nombreuses interrogations, les entreprises qui les créent et/ou les distribuent sous licence font tout leur possible pour être transparentes quant à leur origine. Les agences de photos libres de droits qui autorisent les images générées par l’IA dans leurs bibliothèques exigent des contributeurs qu’ils indiquent « AI-generated » dans le titre, la description et les tags de l’image, ce qui facilite la recherche ou l’exclusion de ces images lors de la consultation de leurs catalogues. Rechercher ces mentions est le moyen le plus simple de repérer une image générée par l’IA.

Cherche les filigranes#

Une autre façon d’identifier les images générées par l’IA consiste à rechercher les filigranes, car de nombreux outils d’IA en ajoutent. Il peut s’agir de petits logos, de texte ou de métadonnées. Par exemple, DALL-E 3 d’OpenAI utilise des métadonnées C2PA invisibles ainsi qu’un symbole visible Content Credentials (CR) dans le coin supérieur gauche. Cependant, le logo n’est visible que lorsque l’image est vérifiée sur un site de vérification des Content Credentials, comme Content Credentials Verify. Les entreprises peuvent marquer leurs images différemment ; tu devras donc peut-être te familiariser avec différents indicateurs.

Fig. 4. Les images générées par ChatGPT incluent des métadonnées C2PA (source : openai.com)

Google a récemment annoncé SynthID, une méthode innovante pour filigraner les images générées par l’IA. SynthID permet d’intégrer un filigrane numérique directement dans les pixels du contenu généré par l’IA. Il est invisible à l’œil humain, mais détectable à des fins d’identification. SynthID peut déterminer si un outil d’IA a probablement créé une image en recherchant ce filigrane numérique.

Cherche les déformations ou les anomalies dans l’image#

Les images générées par l’IA présentent souvent des imperfections dues aux limites des algorithmes d’apprentissage profond. Les anomalies courantes comprennent :

• Arrière-plans flous ou anormaux : escaliers mal alignés, meubles aux formes étranges et détails flous.
• Incohérences au niveau des cheveux : textures artificielles, motifs étranges ou flou.
• Aspect excessivement rendu : apparence brillante et irréaliste, avec un mélange de textures floues et lisses.
• Erreurs au niveau des accessoires : bijoux déformés, boucles d’oreilles dépareillées et objets déformés.
• Doigts étranges : doigts supplémentaires, pouces manquants ou autres anomalies des mains.

Fig. 5 Anomalies dans une image générée par l’IA.

Ces signes permettent d’identifier les images générées par l’IA. Cependant, les progrès de l’IA signifient que les futures images générées par l’IA pourraient présenter moins de défauts visibles.

Utilise des outils d’identification des images générées par l’IA#

Utiliser des outils d’identification des images générées par l’IA est une autre option pour repérer ces images, mais tu dois garder à l’esprit que leurs résultats peuvent manquer de précision. Examinons quelques-uns des outils les plus populaires pour détecter les images générées par l’IA :

• AI Or Not : utilise des algorithmes avancés et l’apprentissage automatique pour authentifier rapidement les contenus réels et les faux contenus. Il est particulièrement efficace avec les fausses images NFT.
• Content at Scale : cet outil gratuit et simple fournit un score de probabilité « humain contre IA » pour les images provenant de générateurs populaires.
• Illuminarty : offre une analyse complète des images et des textes générés par l’IA, notamment l’identification des modèles d’IA et des zones spécifiques générées par l’IA.
• Maybe's AI Art Detector : un outil facile à utiliser qui s’appuie sur un modèle ViT pour fournir un pourcentage indiquant la probabilité qu’une image artistique soit humaine ou artificielle.
• V7 Deepfake Detector : une extension Chrome qui détecte les images deepfake générées par StyleGAN, utile pour identifier les faux profils.
• Fake Image Detector : utilise les métadonnées et l’analyse du niveau d’erreur (ELA) pour détecter les images manipulées, mais sa compatibilité avec les fichiers est limitée et l’outil plante parfois.

À mesure que les contenus générés par l’IA se répandent et progressent, ces outils deviendront encore plus efficaces.

Points clés à retenir#

À mesure que les modèles d’IA générative deviennent plus intelligents, il est de plus en plus difficile de distinguer les images générées par l’IA des vraies photos. Bien que cette évolution soit enthousiasmante sur le plan technologique, elle soulève également des préoccupations éthiques. Il est vrai que l’IA offre un moyen économique et innovant de créer des visuels, mais des obstacles juridiques et pratiques doivent être pris en compte. Heureusement, des méthodes et des outils sont en cours de développement pour nous aider à faire face à ce nouveau dilemme. En restant informés, nous pouvons garantir la fiabilité des contenus visuels.

Rejoins notre communauté pour en savoir plus sur l’IA ! Explore notre dépôt GitHub pour découvrir comment nous utilisons l’IA afin de créer des solutions innovantes dans différents secteurs, comme les soins de santé et l’agriculture. Ouvre de nouvelles perspectives avec nous !