用語集

憲法AI

コンスティテューショナルAIが、モデルを事前に定義された原則と人間の価値観に合わせることで、倫理的で安全かつ公平なAIの出力を保証する方法をご覧ください。

Ultralytics HUB で
を使ってYOLO モデルをシンプルにトレーニングする。

さらに詳しく

コンスティテューショナルAIとは、人工知能(AI)モデル、特に大規模言語モデル(LLM)を人間の価値観や倫理原則に合わせるために考案されたアプローチである。この手法では、人間の直接的なフィードバックだけに頼って行動を導くのではなく、事前に定義されたルールや原則のセット、つまり「憲法」を使用して、AIが学習プロセス中に自身の反応を評価し、修正するのを助ける。目標は、役に立ち、無害で、正直なAIシステムを作ることであり、偏った、有害な、あるいはその他の望ましくない出力を生成するリスクを減らすことである。この技術は、以下の研究者たちによって開拓された。 Anthropicの研究者たちによって開拓されたこの技術は、AIのアライメントをよりスケーラブルにし、大規模な人間の監督に依存しないようにすることを目的としている。

憲法AIの仕組み

コンスティテューショナルAIの核となる考え方には、2段階のトレーニング・プロセスが含まれる:

  1. 教師あり学習段階:最初に、標準的な事前訓練された言語モデルは、潜在的に有害または望ましくない応答を引き出すように設計されたシナリオでプロンプトされます。モデルはいくつかの応答を生成する。これらの応答は、憲法に概説された原則に基づいて、別のAIモデルによって批評される。AIは自らの応答を批評し、なぜその応答が原則に反するのか(例えば、非同意的である、有害である)を特定する。そして、自己批評された応答に基づいてモデルを微調整し、より憲法に沿った出力を生成するように学習する。この段階では、教師あり学習技術を使用する。
  2. 強化学習フェーズ:教師あり段階の後、強化学習(RL)を用いてモデルをさらに改良する。この段階では、AIが応答を生成し、AIモデル(憲法を使用して訓練された)がこれらの応答を評価し、憲法の原則にどれだけ準拠しているかに基づいて報酬信号を提供する。このプロセスは、しばしばAIフィードバックからの強化学習(RLAIF)と呼ばれ、憲法に沿った出力を一貫して生成するようにモデルを最適化し、本質的に憲法に沿った行動を好むようにAIに教える。

明示的な原則に導かれたこの自己修正メカニズムは、人間のフィードバックによる強化学習(Reinforcement Learning from Human Feedback:RLHF)のような、モデルの出力を評価する人間のラベラーに大きく依存する手法と、コンスティテューショナルAIを区別している。

キーコンセプト

  • 憲法:これは文字通りの法的文書ではなく、AIの行動を導く明確な倫理原則やルールの集合です。これらの原則は、(国連人権宣言のような)普遍的な宣言、利用規約、または特定のアプリケーションに合わせたカスタム倫理ガイドラインなど、さまざまなソースから導き出すことができます。その有効性は、これらの原則の質と包括性に大きく依存します。
  • AIの自己批判と修正:基本的な側面であり、AIモデルは自身の出力を憲法に照らして評価し、修正を生成することを学習する。この内部フィードバック・ループにより、人間が常に介入する必要性を減らすことができる。
  • AIアライメント:コンスティテューショナルAIは、AIシステムの目標や行動が人間の意図や価値観と一致することを目指す、より広範なAIアライメントの分野に貢献する技術である。AIの安全性や予期せぬ結果の可能性に関する懸念に対処するものである。
  • スケーラビリティ:この方法は、体質に基づいたAIを使ってフィードバックプロセスを自動化することで、手間がかかり、人間のバイアス(アルゴリズムによる偏り)が生じる可能性のあるRLHFよりも、スケーラブルであることを目指している。

実例

  1. Anthropicクロードモデル:最も顕著な例は、AnthropicクロードLLMの家族である。Anthropic 、これらのモデルが "役に立ち、無害で、正直 "であるように訓練するために、特にConstitutional AIを開発した。使用されている憲法には、有害、差別的、違法なコンテンツ生成を抑制する原則が含まれており、その一部は国連人権宣言やその他の倫理的な情報源に基づいている。詳しくは、Collective Constitutional AIに関する論文をご覧ください。
  2. AIコンテンツモデレーションシステム:コンテンツ・モデレーション・プラットフォームのモデル学習に、憲法に基づくAIの原則を適用することができる。人間のモデレーターや厳格なキーワードフィルターだけに頼るのではなく、AIが有害なコンテンツ(ヘイトスピーチや誤報など)を定義する憲法を利用して、ユーザーが作成したテキストや画像を評価することで、プラットフォームのポリシーやAIの倫理ガイドラインに沿った、より微妙で一貫性のあるモデレーションが可能になる。

立憲AIと関連用語の比較

  • 人間のフィードバックからの強化学習(RLHF)どちらもAIを協調させることを目的としているが、RLHFは人間がモデルの出力を評価することによって生成されたフィードバックを使用する。コンスティテューショナルAIは、主に事前に定義された憲法に基づいてAIが生成したフィードバックを使用するため、よりスケーラブルで一貫性のあるものになる可能性があるが、品質は憲法自体に大きく依存する。
  • AI倫理と 責任あるAIAI倫理は、AIの道徳的意味を研究する幅広い分野である。責任あるAIは、AIシステムを安全かつ倫理的に開発・展開するための原則と実践(公平性、透明性(XAI)、説明責任、データプライバシーなど)を包含する。コンスティテューショナルAIは、特定の倫理原則を実装し、責任あるAI開発に貢献するために、モデルトレーニング中に使用される特定の技術的手法です。

アプリケーションと将来の可能性

現在、コンスティテューショナルAIは、主に対話生成やテキスト要約のようなタスクのためにLLMに適用されている。しかし、その根底にある原理は、コンピュータ・ビジョン(CV)を含む他のAI領域にも拡張できる可能性がある。例えば

  • 画像生成モデルStable Diffusionや DALL-Eのような)をガイドし、憲法上の規則に基づいて、有害、偏向、または非同意的な画像を作成しないようにする。
  • 自律走行車やロボット工学における意思決定に情報を提供し、憲法で定義された安全プロトコルに沿った行動を保証する。
  • 顔認識や 物体検出のようなCVタスクにおいて、人口統計学的バイアスに対する原則を組み込むことで公平性を確保し、以下のようなモデルを改善する可能性があります。 Ultralytics YOLO11.

Google AIや AIセーフティ・インスティテュートのような組織では、効果的な憲法を開発・改良し、AIが多様なコンテクストで憲法を忠実に守るようにすることが、依然として活発な研究分野となっている。Ultralytics HUBのようなツールは、様々なAIモデルの訓練と配備を容易にし、責任ある配備を保証するために、憲法AIのような原則を組み込むことがますます重要になる可能性がある。

すべて読む