Comment savoir si une image a été générée par l’IA

Les modèles de génération d’images gagnent en sophistication, et nous voyons augmenter le nombre d’images d’intelligence artificielle (IA) réalistes. Le débat entre les images générées par l’IA et les vraies photos prend de l’ampleur, car il devient plus difficile de les distinguer. À plusieurs reprises, des images générées par l’IA ont trompé les internautes. Nous avons vu le pape François en doudoune et Katy Perry au Met Gala 2024. Ces deux images ont été fabriquées par l’IA générative. Autrement dit, elles n’étaient pas réelles. Pourtant, au premier coup d’œil, les internautes les ont crues authentiques.

Parfois, cette confusion peut être amusante, mais le plus souvent, elle pose un sérieux problème éthique. Tout comme il est important de suivre l’évolution de l’IA générative, il est également essentiel de savoir reconnaître les contenus générés par l’IA. Dans cet article, nous allons examiner de plus près les images générées par l’IA, comprendre les avantages et les inconvénients de l’art créé par l’IA, aborder les questions juridiques et explorer des méthodes et outils clés pour les distinguer des images réelles.

Qu’est-ce qu’une image générée par l’IA, exactement ?#

Les images générées par l’IA sont créées à l’aide de modèles de génération d’images qui s’appuient sur des réseaux neuronaux entraînés sur de grands jeux de données afin de produire des images réalistes. Leur capacité à combiner styles, concepts et caractéristiques pour créer des images artistiques et pertinentes est remarquable. Pendant l’entraînement, les modèles de génération d’images apprennent différents traits et détails à partir de ces images. Cela leur permet de créer de nouvelles images dont le style et le contenu ressemblent à ceux des images apprises.

Il existe de nombreux types de modèles de génération d’images, chacun ayant ses propres caractéristiques. Par exemple, les réseaux antagonistes génératifs (GANs) utilisent deux réseaux neuronaux qui travaillent de concert pour créer des images réalistes ressemblant à leurs données d’entraînement. Les modèles de diffusion génèrent des images en transformant progressivement du bruit aléatoire en images nettes. Les Transformers, comme ceux utilisés dans des modèles tels que DALL-E, s’appuient sur des mécanismes d’auto-attention pour générer des images à partir de descriptions textuelles.

Fig. 1 Générée par DALL-E 2. Prompt : un fauteuil en forme d’avocat.

Tout le monde peut créer des images avec l’IA à l’aide d’outils comme ChatGPT d’OpenAI, Midjourney, Gencraft ou Stable Diffusion. Ces images apparaissent désormais partout sur Internet, souvent sans étiquette indiquant qu’elles ont été créées par l’IA.

Les avantages et les inconvénients de l’art créé par l’IA#

Comme la photographie ou la peinture, la génération d’images par IA est considérée par beaucoup comme une nouvelle forme d’art. Des peintures créées par l’IA sont vendues pour des milliers de dollars et remportent des concours artistiques. Cela soulève la question suivante : l’art créé par l’IA est-il une bonne chose, et quels sont les avantages et les inconvénients de cette génération d’images ?

Fig. 2. Une œuvre d’art générée par l’IA.

Les avis divergent sur la question. Par exemple, les petites entreprises disposant d’un budget limité peuvent considérer l’art généré comme un avantage. Elles peuvent créer des images personnalisées qui correspondent parfaitement à leur image de marque et à leurs besoins en marketing. Ces outils peuvent faire gagner du temps en produisant rapidement des visuels de haute qualité et aider à mener à bien les projets créatifs. Pour trouver l’inspiration, les artistes peuvent accéder à une vaste bibliothèque d’options uniques grâce à la génération d’images. Un artiste peut facilement visualiser une idée avant de lui donner vie.

Cependant, les images générées par l’IA manquent souvent de profondeur émotionnelle et peinent à saisir les expériences humaines brutes. Leur qualité peut parfois être inégale, avec des images pixélisées ou peu réalistes. Une dépendance excessive à l’IA peut étouffer la créativité et l’esprit critique. Il existe aussi un risque d’utilisation abusive. Les images générées par l’IA peuvent être facilement manipulées et contribuer à la désinformation. De plus, ces outils peuvent être difficiles à prendre en main et reproduire les biais présents dans leurs données d’entraînement. Voici d’autres inconvénients de l’art créé par l’IA :

• Préoccupations éthiques : Les questions de propriété intellectuelle, notamment l’auteur, la propriété et les droits d’auteur des œuvres générées par l’IA, peuvent être complexes et controversées.
• Suppression d’emplois : L’utilisation généralisée de l’IA dans l’art pourrait réduire les débouchés pour les artistes et les designers.
• Manque de sensibilité culturelle : L’art créé par l’IA peut ne pas comprendre ni respecter les contextes culturels, ce qui risque de produire des créations inappropriées ou offensantes.

Les zones d’incertitude juridique entourant les images générées par l’IA#

À mesure que l’IA progresse, nous cherchons toujours activement à comprendre ses implications juridiques en tant que société, notamment en matière de droits d’auteur. Contrairement aux créations traditionnelles, les images générées par l’IA ne peuvent pas être protégées par le droit d’auteur dans certains pays, comme les États-Unis, car cette protection exige une création humaine. La question se complique, car l’entraînement de l’IA repose souvent sur d’immenses volumes de données récupérées sur Internet, qui peuvent inclure du contenu protégé par le droit d’auteur. C’est pourquoi de nombreuses personnes protestent activement contre l’utilisation de contenus protégés pour entraîner des modèles d’IA et réclament une meilleure réglementation.

Certaines entreprises ont même intenté des procès. Getty Images, une banque d’images, a intenté une action en justice contre Stability AI, un générateur d’images par IA, l’accusant d’avoir copié et utilisé sa bibliothèque d’images à des fins commerciales. Plusieurs images produites par le modèle de génération d’images à partir de texte de Stability AI portent le filigrane de Getty. DeviantArt et deux autres entreprises d’IA font également l’objet de poursuites intentées par un groupe d’artistes dans le cadre d’un recours collectif, qui affirme que les œuvres générées par leur IA enfreignent les lois sur le droit d’auteur.

Comment vérifier si une image a été générée par l’IA#

Il est essentiel de savoir repérer les images générées par l’IA, car leur utilisation dans les fausses informations pour induire le public en erreur a augmenté, notamment pendant les élections. Dans une étude, des chercheurs ont réussi à utiliser des générateurs d’images populaires basés sur l’IA pour créer de la désinformation électorale, notamment des images trompeuses d’électeurs et de bulletins de vote, dans 41 % des essais.

Fig. 3. Fausse image de boîtes de bulletins de vote dans une benne à ordures.

Les images générées par l’IA ont également un impact sur les consommateurs. Une étude récente menée par Attest a révélé que la plupart des consommateurs (76 %) ne savent pas faire la différence entre des images authentiques et des images générées par l’IA. Voici comment déterminer si une image a été générée par l’IA.

Vérifier le titre, la description et les tags de l’image#

Cela peut sembler évident, mais le moyen le plus simple de repérer les images générées par l’IA consiste à vérifier si leur description ou leurs tags portent la mention « générée par l’IA ». Comme de nombreuses questions restent en suspens au sujet de ces images, les entreprises qui les génèrent et/ou les concèdent sous licence font tout leur possible pour faire preuve de transparence sur leur origine. Les banques d’images qui acceptent les images générées par l’IA exigent que les contributeurs indiquent « générée par l’IA » dans le titre, la description et les tags des images (ce qui facilite la recherche ou l’exclusion de ces images dans leurs catalogues). Rechercher ces mentions est le moyen le plus simple de repérer une image générée par l’IA.

Rechercher les filigranes#

Une autre façon d’identifier des images générées par l’IA consiste à rechercher des filigranes, ajoutés par de nombreux outils d’IA. Il peut s’agir de petits logos, de texte ou de métadonnées. Par exemple, le DALL-E 3 d’OpenAI utilise des métadonnées C2PA invisibles et un symbole Content Credentials (CR) visible dans le coin supérieur gauche. Cependant, le logo n’est visible que lorsqu’on vérifie l’image sur un site de vérification des informations d’identification du contenu, comme Content Credentials Verify. Les entreprises peuvent marquer leurs images différemment ; tu devras donc peut-être te familiariser avec divers indicateurs.

Fig. 4. Les images générées par ChatGPT contiennent des métadonnées C2PA (source : openai.com)

Google a récemment annoncé SynthID, une méthode innovante pour ajouter un filigrane aux images générées par l’IA. SynthID permet d’intégrer un filigrane numérique directement dans les pixels du contenu généré par l’IA. Ce filigrane est invisible à l’œil humain, mais détectable à des fins d’identification. SynthID peut déterminer si un outil d’IA a probablement créé une image en recherchant ce filigrane numérique.

Rechercher des déformations ou des anomalies dans l’image#

Les images générées par l’IA présentent souvent des imperfections dues aux limites des algorithmes d’apprentissage profond. Les anomalies courantes comprennent :

• Arrière-plans flous ou anormaux : escaliers mal alignés, meubles aux formes étranges et détails flous.
• Incohérences dans les cheveux : textures peu naturelles, motifs étranges ou flou.
• Rendu excessif : aspect brillant et irréaliste, avec un mélange de textures floues et lisses.
• Erreurs dans les accessoires : bijoux déformés, boucles d’oreilles dépareillées et objets déformés.
• Doigts étranges : doigts en trop, pouces manquants ou autres anomalies des mains.

Fig. 5 Anomalies dans une image générée par l’IA.

Ces indices permettent d’identifier les images générées par l’IA. Cependant, les progrès de l’IA pourraient rendre les défauts visibles moins nombreux dans les images à venir.

Utiliser des outils de détection des images générées par l’IA#

Les outils de détection des images générées par l’IA constituent une autre option pour repérer ces images, même s’il faut garder à l’esprit que leurs résultats ne sont pas toujours entièrement fiables. Découvrons quelques-uns des outils les plus populaires pour détecter les images générées par l’IA :

• AI Or Not : utilise des algorithmes avancés et l’apprentissage automatique pour authentifier rapidement les contenus réels et faux. Cet outil est particulièrement efficace pour les images NFT falsifiées.
• Content at Scale : cet outil gratuit et simple fournit un score de probabilité humain ou IA pour les images issues de générateurs populaires.
• Illuminarty : propose une analyse complète des images et des textes générés par l’IA, et permet notamment d’identifier les modèles d’IA et les zones précises générées par l’IA.
• Maybe's AI Art Detector : un outil facile à utiliser qui s’appuie sur un modèle ViT pour fournir un score en pourcentage indiquant si une image artistique a été créée par un humain ou par une IA.
• V7 Deepfake Detector : une extension Chrome qui détecte les images deepfake créées avec StyleGAN et aide à repérer les faux profils.
• Fake Image Detector : utilise les métadonnées et l’analyse du niveau d’erreur (ELA) pour détecter les images manipulées, mais sa compatibilité avec les fichiers est limitée et il plante parfois.

À mesure que les médias générés par l’IA se répandent et progressent, ces outils gagneront encore en efficacité.

Points clés à retenir#

À mesure que les modèles d’IA générative deviennent plus intelligents, il devient plus difficile de distinguer les images générées par l’IA des vraies photos. Cette évolution est enthousiasmante sur le plan technologique, mais elle soulève aussi des préoccupations éthiques. L’IA permet effectivement de créer des visuels de manière économique et innovante, mais il faut tenir compte des obstacles juridiques et pratiques. Heureusement, des méthodes et des outils sont en cours de développement pour nous aider à faire face à ce nouveau dilemme. En restant bien informés, nous pouvons veiller à ce que les contenus visuels restent fiables.

Rejoins notre communauté pour en savoir plus sur l’IA ! Explore notre dépôt GitHub pour découvrir comment nous utilisons l’IA afin de créer des solutions innovantes dans divers secteurs, comme la santé et l’agriculture. Saisis de nouvelles opportunités avec nous !