L'IA constitutionnelle vise à aligner les modèles d'IA sur les valeurs humaines

L'intelligence artificielle (IA) devient rapidement un élément clé de notre quotidien. Elle est intégrée dans des outils utilisés dans des domaines comme la santé, le recrutement, la finance et la sécurité publique. À mesure que ces systèmes se développent, des inquiétudes concernant leur éthique et leur fiabilité se font également entendre.

Par exemple, les systèmes d'IA conçus sans tenir compte de l'équité ou de la sécurité peuvent parfois produire des résultats biaisés ou peu fiables. C'est parce que de nombreux modèles ne disposent toujours pas d'un moyen clair de refléter et de s'aligner sur les valeurs humaines.

Pour relever ces défis, les chercheurs explorent désormais une approche appelée IA constitutionnelle. Pour faire simple, elle introduit un ensemble écrit de principes dans le processus d'entraînement du modèle. Ces principes aident le modèle à juger son propre comportement, à moins dépendre des retours humains et à rendre ses réponses plus sûres et plus faciles à comprendre.

Jusqu'à présent, cette approche a été principalement utilisée pour les grands modèles de langage (LLM). Cependant, la même structure pourrait aider à guider les systèmes de vision par ordinateur à prendre des décisions éthiques lors de l'analyse de données visuelles.

Dans cet article, nous explorerons le fonctionnement de l'IA constitutionnelle, nous examinerons des exemples concrets et nous discuterons de ses applications potentielles dans les systèmes de vision par ordinateur.

Fig 1. Caractéristiques de l'IA constitutionnelle. Image de l'auteur.

Link to this sectionQu'est-ce que l'IA constitutionnelle ?#

L'IA constitutionnelle est une méthode d'entraînement de modèle qui guide le comportement des modèles d'IA en fournissant un ensemble clair de règles éthiques. Ces règles agissent comme un code de conduite. Au lieu de compter sur le modèle pour déduire ce qui est acceptable, il suit un ensemble écrit de principes qui façonnent ses réponses pendant l'entraînement.

Ce concept a été introduit par Anthropic, une société de recherche axée sur la sécurité de l'IA qui a développé la famille de LLM Claude comme méthode pour rendre les systèmes d'IA plus auto-supervisés dans leur prise de décision.

Plutôt que de dépendre uniquement des retours humains, le modèle apprend à critiquer et à affiner ses propres réponses en fonction d'un ensemble prédéfini de principes. Cette approche est similaire à un système juridique, où un juge se réfère à une constitution avant de rendre un jugement.

Dans ce cas, le modèle devient à la fois juge et étudiant, utilisant le même ensemble de règles pour examiner et affiner son propre comportement. Ce processus renforce l'alignement du modèle d'IA et soutient le développement de systèmes d'IA sûrs et responsables.

Link to this sectionComment fonctionne l'IA constitutionnelle ?#

L'objectif de l'IA constitutionnelle est d'apprendre à un modèle d'IA à prendre des décisions sûres et équitables en suivant un ensemble clair de règles écrites. Voici une explication simple du fonctionnement de ce processus :

• Définition de la constitution : Une liste écrite de principes éthiques que le modèle doit suivre est créée. La constitution décrit ce que l'IA doit éviter et quelles valeurs elle doit refléter.
• Entraînement avec des exemples supervisés : Le modèle reçoit des exemples de réponses qui suivent la constitution. Ces exemples aident l'IA à comprendre ce qu'est un comportement acceptable.
• Reconnaissance et application des modèles : Au fil du temps, le modèle commence à identifier ces modèles. Il apprend à appliquer les mêmes valeurs lorsqu'il répond à de nouvelles questions ou gère de nouvelles situations.
• Critique et raffinement des résultats : Le modèle examine ses propres réponses et les ajuste en fonction de la constitution. Cette phase d'auto-examen l'aide à s'améliorer sans dépendre uniquement des retours humains.
• Production de réponses alignées et plus sûres : Le modèle apprend à partir de règles cohérentes, ce qui contribue à réduire les biais et à améliorer la fiabilité dans les applications réelles. Cette approche le rend plus aligné sur les valeurs humaines et plus facile à gouverner.

Fig 2. Un aperçu de l'utilisation de l'IA constitutionnelle pour entraîner des modèles.

Link to this sectionPrincipes fondamentaux de la conception d'une IA éthique#

Pour qu'un modèle d'IA suive des règles éthiques, ces règles doivent d'abord être clairement définies. Lorsqu'il s'agit d'IA constitutionnelle, ces règles sont basées sur un ensemble de principes fondamentaux.

Par exemple, voici quatre principes qui constituent le fondement d'une constitution d'IA efficace :

• Transparence : Il doit être facile de comprendre comment un modèle est parvenu à une réponse. Si une réponse est basée sur des faits, des estimations ou des modèles, elle sera transparente pour l'utilisateur. Cela renforce la confiance et aide les gens à juger s'ils peuvent se fier aux résultats du modèle.
• Égalité : Les réponses doivent rester cohérentes pour tous les utilisateurs. Le modèle ne doit pas modifier ses résultats en fonction du nom, de l'origine ou de la localisation d'une personne. L'égalité aide à prévenir les biais et favorise un traitement équitable.
• Responsabilisation : Il doit exister un moyen de tracer comment un modèle a été entraîné et ce qui a influencé son comportement. Lorsque quelque chose ne va pas, les équipes doivent pouvoir identifier la cause et l'améliorer. Cela soutient la transparence et la responsabilité à long terme.
• Sécurité : Les modèles doivent éviter de produire du contenu susceptible de causer des dommages. Si une demande conduit à des résultats risqués ou dangereux, le système doit le reconnaître et s'arrêter. Cela protège à la fois l'utilisateur et l'intégrité du système.

Link to this sectionExemples d'IA constitutionnelle dans les grands modèles de langage#

L'IA constitutionnelle est passée de la théorie à la pratique et est désormais lentement utilisée dans de grands modèles qui interagissent avec des millions d'utilisateurs. Deux des exemples les plus courants sont les LLM d'OpenAI et d'Anthropic.

Bien que les deux organisations aient adopté des approches différentes pour créer des systèmes d'IA plus éthiques, elles partagent une idée commune : enseigner au modèle à suivre un ensemble de principes directeurs écrits. Examinons ces exemples de plus près.

Link to this sectionL'approche de l'IA constitutionnelle d'OpenAI#

OpenAI a introduit un document appelé Model Spec dans le cadre du processus d'entraînement de ses modèles ChatGPT. Ce document agit comme une constitution. Il décrit ce que le modèle doit viser dans ses réponses, y compris des valeurs telles que l'utilité, l'honnêteté et la sécurité. Il définit également ce qui compte comme un résultat préjudiciable ou trompeur.

Ce cadre a été utilisé pour affiner les modèles d'OpenAI en évaluant les réponses selon leur conformité aux règles. Au fil du temps, cela a aidé à façonner ChatGPT afin qu'il produise moins de résultats préjudiciables et s'aligne mieux sur ce que les utilisateurs attendent réellement.

Fig 3. Un exemple de ChatGPT utilisant le Model Spec d'OpenAI pour répondre.

Link to this sectionLes modèles d'IA éthique d'Anthropic#

La constitution que suit le modèle d'Anthropic, Claude, est basée sur des principes éthiques issus de sources telles que la Déclaration universelle des droits de l'homme, les directives de plateforme comme les conditions d'utilisation d'Apple, et les recherches d'autres laboratoires d'IA. Ces principes aident à garantir que les réponses de Claude sont sûres, équitables et alignées sur des valeurs humaines importantes.

Claude utilise également l'apprentissage par renforcement à partir de retours d'IA (RLAIF), où il examine et ajuste ses propres réponses en fonction de ces directives éthiques, plutôt que de s'appuyer sur des retours humains. Ce processus permet à Claude de s'améliorer au fil du temps, le rendant plus évolutif et meilleur pour fournir des réponses utiles, éthiques et non préjudiciables, même dans des situations délicates.

Fig 4. Comprendre l'approche d'Anthropic vis-à-vis de l'IA constitutionnelle.

Link to this sectionAppliquer l'IA constitutionnelle à la vision par ordinateur#

Puisque l'IA constitutionnelle influence positivement le comportement des modèles de langage, cela soulève naturellement la question : une approche similaire pourrait-elle aider les systèmes basés sur la vision à répondre de manière plus équitable et plus sûre ?

Bien que les modèles de vision par ordinateur travaillent avec des images plutôt qu'avec du texte, le besoin de conseils éthiques est tout aussi important. Par exemple, l'équité et les biais sont des facteurs clés à prendre en compte, car ces systèmes doivent être entraînés à traiter tout le monde sur un pied d'égalité et à éviter des résultats préjudiciables ou injustes lors de l'analyse de données visuelles.

Fig 5. Défis éthiques liés à la vision par ordinateur. Image de l'auteur.

À l'heure actuelle, l'utilisation des méthodes d'IA constitutionnelle dans la vision par ordinateur est encore à l'étude et en est à ses débuts, avec des recherches en cours dans ce domaine.

Par exemple, Meta a récemment introduit CLUE, un cadre qui applique un raisonnement de type constitutionnel aux tâches de sécurité des images. Il transforme des règles de sécurité générales en étapes précises que l'IA multimodale (systèmes d'IA qui traitent et comprennent plusieurs types de données) peut suivre. Cela aide le système à raisonner plus clairement et à réduire les résultats préjudiciables.

De plus, CLUE rend les jugements de sécurité des images plus efficaces en simplifiant des règles complexes, permettant aux modèles d'IA d'agir rapidement et précisément sans nécessiter une intervention humaine importante. En utilisant un ensemble de principes directeurs, CLUE rend les systèmes de modération d'images plus évolutifs tout en garantissant des résultats de haute qualité.

Link to this sectionPoints clés#

À mesure que les systèmes d'IA assument davantage de responsabilités, l'attention se déplace de ce qu'ils peuvent faire vers ce qu'ils devraient faire. Ce changement est essentiel car ces systèmes sont utilisés dans des domaines qui ont un impact direct sur la vie des gens, tels que la santé, l'application de la loi et l'éducation.

Pour garantir que les systèmes d'IA agissent de manière appropriée et éthique, ils ont besoin d'une base solide et cohérente. Cette base doit donner la priorité à l'équité, à la sécurité et à la confiance.

Une constitution écrite peut fournir cette base pendant l'entraînement, guidant le processus de prise de décision du système. Elle peut également donner aux développeurs un cadre pour examiner et ajuster le comportement du système après le déploiement, en veillant à ce qu'il continue de s'aligner sur les valeurs qu'il a été conçu pour respecter et en facilitant l'adaptation à mesure que de nouveaux défis surgissent.

Rejoins notre communauté grandissante dès aujourd'hui ! Approfondis tes connaissances en IA en explorant notre dépôt GitHub. Tu cherches à développer tes propres projets de vision par ordinateur ? Découvre nos options de licence. Apprends comment la vision par ordinateur dans la santé améliore l'efficacité et explore l'impact de l'IA dans la fabrication en visitant nos pages de solutions !