L’IA constitutionnelle vise à aligner les modèles d’IA sur les valeurs humaines

L’intelligence artificielle (AI) devient rapidement un élément clé de notre quotidien. Elle est intégrée à des outils utilisés dans des domaines comme la santé, le recrutement, la finance et la sécurité publique. À mesure que ces systèmes se développent, les préoccupations concernant leur éthique et leur fiabilité se font également entendre.

Par exemple, les systèmes d’IA conçus sans tenir compte de l’équité ou de la sécurité peuvent parfois produire des résultats biaisés ou peu fiables. Cela s’explique par le fait que de nombreux modèles ne disposent toujours pas d’un moyen clair de refléter les valeurs humaines et de s’y aligner.

Pour relever ces défis, les chercheurs étudient actuellement une approche appelée IA constitutionnelle. En termes simples, elle introduit un ensemble écrit de principes dans le processus d’entraînement du modèle. Ces principes aident le modèle à évaluer son propre comportement, à moins dépendre des retours humains et à produire des réponses plus sûres et plus faciles à comprendre.

Jusqu’à présent, cette approche a principalement été utilisée dans le contexte des grands modèles de langage (LLMs). Cependant, la même structure pourrait aider à orienter les systèmes de vision par ordinateur afin qu’ils prennent des décisions éthiques lors de l’analyse de données visuelles.

Dans cet article, nous allons examiner le fonctionnement de l’IA constitutionnelle, étudier des exemples concrets et discuter de ses applications potentielles dans les systèmes de vision par ordinateur.

Fig. 1. Caractéristiques de l’IA constitutionnelle. Image réalisée par l’auteur.

Qu’est-ce que l’IA constitutionnelle ?#

L’IA constitutionnelle est une méthode d’entraînement de modèle qui oriente le comportement des modèles d’IA en fournissant un ensemble clair de règles éthiques. Ces règles font office de code de conduite. Au lieu de laisser le modèle déduire ce qui est acceptable, elles lui demandent de suivre un ensemble écrit de principes qui façonnent ses réponses pendant l’entraînement.

Ce concept a été introduit par Anthropic, une entreprise de recherche axée sur la sécurité de l’IA qui a développé la famille de LLM Claude comme méthode visant à rendre les systèmes d’IA plus autonomes dans leur prise de décision.

Plutôt que de s’appuyer uniquement sur les retours humains, le modèle apprend à critiquer et à affiner ses propres réponses en fonction d’un ensemble prédéfini de principes. Cette approche ressemble à un système juridique, dans lequel un juge se réfère à une constitution avant de rendre son jugement.

Dans ce cas, le modèle devient à la fois le juge et l’élève, en utilisant le même ensemble de règles pour examiner et affiner son propre comportement. Ce processus renforce l’alignement du modèle d’IA et favorise le développement de systèmes d’IA sûrs et responsables.

Comment fonctionne l’IA constitutionnelle ?#

L’objectif de l’IA constitutionnelle est d’apprendre à un modèle d’IA à prendre des décisions sûres et équitables en suivant un ensemble clair de règles écrites. Voici une explication simple du fonctionnement de ce processus :

• Définition de la constitution : Une liste écrite de principes éthiques que le modèle doit suivre est créée. La constitution précise ce que l’IA doit éviter et les valeurs qu’elle doit refléter.
• Entraînement avec des exemples supervisés : Des exemples de réponses conformes à la constitution sont présentés au modèle. Ces exemples aident l’IA à comprendre à quoi ressemble un comportement acceptable.
• Reconnaissance et application des schémas : Au fil du temps, le modèle commence à repérer ces schémas. Il apprend à appliquer les mêmes valeurs lorsqu’il répond à de nouvelles questions ou gère de nouvelles situations.
• Critique et affinement des sorties : Le modèle examine ses propres réponses et les ajuste en fonction de la constitution. Cette phase d’auto-évaluation l’aide à s’améliorer sans dépendre uniquement des retours humains.
• Production de réponses alignées et plus sûres : Le modèle apprend à partir de règles cohérentes, ce qui contribue à réduire les biais et à améliorer la fiabilité dans les situations réelles. Cette approche l’aligne davantage sur les valeurs humaines et facilite sa gouvernance.

Fig. 2. Vue d’ensemble de l’utilisation de l’IA constitutionnelle pour entraîner des modèles.

Principes fondamentaux de la conception éthique de l’IA#

Pour qu’un modèle d’IA suive des règles éthiques, celles-ci doivent d’abord être clairement définies. Dans le cas de l’IA constitutionnelle, ces règles reposent sur un ensemble de principes fondamentaux.

Par exemple, voici quatre principes qui constituent la base d’une constitution efficace pour l’IA :

• Transparence : Il doit être facile de comprendre comment un modèle est parvenu à une réponse. Si une réponse repose sur des faits, des estimations ou des schémas, cela doit être transparent pour l’utilisateur. Cela renforce la confiance et aide les utilisateurs à déterminer s’ils peuvent se fier à la sortie du modèle.
• Égalité : Les réponses doivent rester cohérentes d’un utilisateur à l’autre. Le modèle ne doit pas modifier sa sortie en fonction du nom, des antécédents ou du lieu de résidence d’une personne. L’égalité contribue à prévenir les biais et favorise un traitement équitable.
• Responsabilité : Il doit être possible de retracer la manière dont un modèle a été entraîné et ce qui a influencé son comportement. Lorsqu’un problème survient, les équipes doivent pouvoir en identifier la cause et l’améliorer. Cela favorise la transparence et la responsabilité à long terme.
• Sécurité : Les modèles doivent éviter de produire du contenu susceptible de causer des dommages. Si une demande entraîne des sorties risquées ou dangereuses, le système doit le reconnaître et s’arrêter. Cela protège à la fois l’utilisateur et l’intégrité du système.

Exemples d’IA constitutionnelle dans les grands modèles de langage#

L’IA constitutionnelle est passée de la théorie à la pratique et est désormais progressivement utilisée dans de grands modèles qui interagissent avec des millions d’utilisateurs. Deux des exemples les plus courants sont les LLM d’OpenAI et d’Anthropic.

Bien que les deux organisations aient adopté des approches différentes pour créer des systèmes d’IA plus éthiques, elles partagent une idée commune : apprendre au modèle à suivre un ensemble de principes directeurs écrits. Examinons ces exemples de plus près.

L’approche de l’IA constitutionnelle d’OpenAI#

OpenAI a introduit un document appelé Model Spec dans le cadre du processus d’entraînement de ses modèles ChatGPT. Ce document fait office de constitution. Il définit ce que le modèle doit viser dans ses réponses, notamment des valeurs telles que l’utilité, l’honnêteté et la sécurité. Il précise également ce qui constitue une sortie nuisible ou trompeuse.

Ce cadre a été utilisé pour affiner les modèles d’OpenAI en évaluant les réponses selon leur degré de conformité aux règles. Au fil du temps, cela a contribué à façonner ChatGPT afin qu’il produise moins de sorties nuisibles et corresponde davantage à ce que les utilisateurs souhaitent réellement.

Fig. 3. Exemple de ChatGPT utilisant le Model Spec d’OpenAI pour répondre.

Les modèles d’IA éthique d’Anthropic#

La constitution suivie par le modèle Claude d’Anthropic repose sur des principes éthiques issus de sources telles que la Déclaration universelle des droits de l’homme, de directives de plateforme comme les conditions d’utilisation d’Apple, ainsi que de travaux menés par d’autres laboratoires d’IA. Ces principes contribuent à garantir que les réponses de Claude sont sûres, équitables et alignées sur des valeurs humaines importantes.

Claude utilise également l’apprentissage par renforcement à partir des retours de l’IA (RLAIF), dans lequel il examine et ajuste ses propres réponses en fonction de ces directives éthiques, plutôt que de s’appuyer sur les retours humains. Ce processus permet à Claude de s’améliorer au fil du temps, d’être plus évolutif et de mieux fournir des réponses utiles, éthiques et inoffensives, même dans des situations délicates.

Fig. 4. Comprendre l’approche d’Anthropic en matière d’IA constitutionnelle.

Appliquer l’IA constitutionnelle à la vision par ordinateur#

Puisque l’IA constitutionnelle influence positivement le comportement des modèles de langage, une question se pose naturellement : une approche similaire pourrait-elle aider les systèmes fondés sur la vision à répondre de manière plus équitable et plus sûre ?

Même si les modèles de vision par ordinateur traitent des images plutôt que du texte, le besoin de recommandations éthiques est tout aussi important. Par exemple, l’équité et les biais sont des facteurs essentiels à prendre en compte, car ces systèmes doivent être entraînés à traiter tout le monde de manière égale et à éviter les résultats nuisibles ou injustes lors de l’analyse de données visuelles.

Fig. 5. Défis éthiques liés à la vision par ordinateur. Image réalisée par l’auteur.

Pour le moment, l’utilisation de méthodes d’IA constitutionnelle dans la vision par ordinateur est encore à l’étude et se trouve à ses débuts, tandis que les recherches se poursuivent dans ce domaine.

Par exemple, Meta a récemment présenté CLUE, un cadre qui applique un raisonnement de type constitutionnel aux tâches de sécurité des images. Il transforme de larges règles de sécurité en étapes précises que l’IA multimodale (des systèmes d’IA qui traitent et comprennent plusieurs types de données) peut suivre. Cela aide le système à raisonner plus clairement et à réduire les résultats nuisibles.

De plus, CLUE rend les évaluations de la sécurité des images plus efficaces en simplifiant des règles complexes, ce qui permet aux modèles d’IA d’agir rapidement et précisément sans nécessiter une intervention humaine importante. En utilisant un ensemble de principes directeurs, CLUE rend les systèmes de modération d’images plus évolutifs tout en garantissant des résultats de haute qualité.

Points clés à retenir#

À mesure que les systèmes d’IA assument davantage de responsabilités, l’attention se déplace de ce qu’ils peuvent faire vers ce qu’ils devraient faire. Ce changement est essentiel, car ces systèmes sont utilisés dans des domaines qui ont un impact direct sur la vie des personnes, comme la santé, l’application de la loi et l’éducation.

Pour garantir que les systèmes d’IA agissent de manière appropriée et éthique, ils ont besoin d’une base solide et cohérente. Cette base doit accorder la priorité à l’équité, à la sécurité et à la confiance.

Une constitution écrite peut fournir cette base pendant l’entraînement en guidant le processus de prise de décision du système. Elle peut également offrir aux développeurs un cadre pour examiner et ajuster le comportement du système après son déploiement, afin de garantir qu’il reste aligné sur les valeurs qu’il a été conçu pour défendre et de faciliter son adaptation lorsque de nouveaux défis apparaissent.

Rejoins dès aujourd’hui notre communauté grandissante ! Approfondis tes connaissances en IA en explorant notre dépôt GitHub. Tu souhaites créer tes propres projets de vision par ordinateur ? Découvre nos options de licence. Découvre comment la vision par ordinateur dans le domaine de la santé améliore l’efficacité et explore l’impact de l’IA dans l’industrie manufacturière en consultant nos pages consacrées aux solutions !