憲法AIは、AIモデルを人間の価値観に合わせることを目指しています

人工知能（AI）は急速に私たちの日常生活に欠かせないものとなりつつあります。ヘルスケア、採用、金融、公共の安全などの分野で使用されるツールに組み込まれています。これらのシステムが拡大するにつれて、その倫理と信頼性に対する懸念も高まっています。

たとえば、公平性や安全性を考慮せずに構築されたAIシステムは、偏った、または信頼できない結果を生み出すことがあります。これは、多くのモデルが依然として人間の価値観を明確に反映し、整合させる方法を持っていないためです。

これらの課題に対処するために、研究者たちは現在、憲法AIとして知られるアプローチを模索しています。簡単に言うと、モデルのトレーニングプロセスに書かれた一連の原則を導入します。これらの原則は、モデルが自身の行動を判断し、人間のフィードバックへの依存を減らし、応答をより安全で理解しやすいものにするのに役立ちます。

これまでのところ、このアプローチは主に大規模言語モデル（LLM）に関して使用されてきました。ただし、同じ構造が、コンピュータビジョンシステムが視覚データを分析する際に倫理的な意思決定を行うのを支援する可能性があります。 

この記事では、憲法AIの仕組みを探り、実際の例を見て、コンピュータビジョンシステムにおける潜在的な応用について説明します。

‍

憲法AIとは？

憲法AIは、明確な倫理規則のセットを提供することにより、AIモデルの動作を導くモデルトレーニング手法です。これらの規則は、行動規範として機能します。モデルが何が許容されるかを推測するのではなく、トレーニング中にその応答を形作る書かれた一連の原則に従います。

この概念は、AIシステムの意思決定における自己監督性を高める方法として、Claude LLMファミリーを開発したAIの安全性に焦点を当てた研究会社であるAnthropicによって導入されました。 

人間のフィードバックだけに頼るのではなく、モデルは事前に定義された一連の原則に基づいて、自身の応答を批判し、改善することを学習します。このアプローチは、裁判官が判決を下す前に憲法を参照する法制度に似ています。

この場合、モデルは裁判官と生徒の両方になり、同じ規則セットを使用して自身の行動をレビューおよび改善します。このプロセスは、AIモデルのアラインメントを強化し、安全で責任あるAIシステムの開発をサポートします。

憲法AIはどのように機能するのか？

コンスティチューショナルAIの目標は、明確に定められた一連のルールに従うことで、AIモデルが安全かつ公正な判断を下せるように学習させることです。以下に、このプロセスの簡単な内訳を示します。

• 憲法の定義：モデルが従うべき倫理原則を記述したリストを作成します。この憲法は、AIが避けるべきこと、反映すべき価値観の概要を示します。
  
  
• 教師ありサンプルを用いたトレーニング：モデルには、憲法に準拠した応答例が示されます。これらの例は、AIが許容される行動を理解するのに役立ちます。
  
  
• パターンの認識と適用：時間をかけて、モデルはこれらのパターンを認識し始めます。新しい質問に答えたり、新しい状況に対処したりする際に、同じ価値観を適用することを学習します。
  
  
• 出力の批判と改善：モデルは自身の応答をレビューし、憲法に基づいて調整します。この自己レビュー段階は、人間のフィードバックのみに頼ることなく、改善するのに役立ちます。
  
  
• 整合性のとれた、より安全な応答の生成：モデルは一貫したルールから学習するため、現実世界での使用における偏りを減らし、信頼性を向上させるのに役立ちます。このアプローチにより、人間の価値観との整合性が高まり、管理が容易になります。

‍

倫理的なAI設計の中核原則

AIモデルが倫理的なルールに従うためには、まずそれらのルールを明確に定義する必要があります。コンスティチューショナルAIの場合、これらのルールは一連の中核原則に基づいています。 

たとえば、効果的なAI憲法の基礎となる4つの原則を以下に示します。

• 透明性：モデルがどのようにして答えにたどり着いたかを理解しやすい必要があります。応答が事実、推定、またはパターンに基づいている場合、ユーザーに対して透過的になります。これにより、信頼が構築され、人々がモデルの出力に依存できるかどうかを判断するのに役立ちます。
  
  
• 平等性：応答は、異なるユーザー間で一貫性を保つ必要があります。モデルは、人の名前、背景、または場所に基づいて出力を変更しないでください。平等性は、偏見を防ぎ、平等な扱いを促進するのに役立ちます。
  
  
• 説明責任：モデルがどのようにトレーニングされ、何がその動作に影響を与えたかを追跡する方法が必要です。問題が発生した場合、チームは原因を特定して改善できる必要があります。これにより、透明性と長期的な説明責任がサポートされます。
  
  
• 安全性：モデルは、危害を引き起こす可能性のあるコンテンツを生成することを避ける必要があります。リクエストが危険または安全でない出力につながる場合、システムはそれを認識して停止する必要があります。これにより、ユーザーとシステムの完全性の両方が保護されます。

大規模言語モデルにおけるコンスティチューショナルAIの例

コンスティチューショナルAIは理論から実践へと移行し、現在では数百万人のユーザーと対話する大規模モデルで徐々に使用されています。最も一般的な例の2つは、OpenAIとAnthropicのLLMです。 

どちらの組織も、より倫理的なAIシステムを作成するために異なるアプローチを採用していますが、共通の考え方を共有しています。それは、モデルに一連の書かれた指針原則に従うように教えることです。これらの例を詳しく見てみましょう。

OpenAIのコンスティチューショナルAIアプローチ

OpenAIは、ChatGPTモデルのトレーニングプロセスの一環として、Model Specと呼ばれるドキュメントを導入しました。このドキュメントは憲法のように機能します。役立つ、正直、安全などの価値観を含め、モデルが応答で目指すべきことを概説しています。また、有害または誤解を招く出力と見なされるものも定義しています。 

このフレームワークは、ルールにどれだけ適合しているかに応じて応答を評価することにより、OpenAIのモデルを微調整するために使用されてきました。時間をかけて、これはChatGPTを形成し、有害な出力を減らし、ユーザーが実際に望むものとの整合性を高めるのに役立ちました。 

‍

Anthropicの倫理的なAIモデル

AnthropicのモデルであるClaudeが従う憲法は、世界人権宣言、Appleの利用規約のようなプラットフォームガイドライン、他のAI研究所の研究など、倫理原則に基づいています。これらの原則は、Claudeの応答が安全で公正であり、重要な人間の価値観と一致していることを保証するのに役立ちます。

Claudeは、人間のフィードバックに頼るのではなく、AIフィードバックからの強化学習（RLAIF）も使用します。ここでは、これらの倫理ガイドラインに基づいて自身の応答をレビューおよび調整します。このプロセスにより、Claudeは時間の経過とともに改善し、トリッキーな状況でも、よりスケーラブルになり、役立つ、倫理的、および無害な回答を提供できるようになります。

‍

コンスティチューショナルAIのコンピュータビジョンへの応用

コンスティチューショナルAIが言語モデルの挙動に良い影響を与えていることから、同様のアプローチが、画像に基づくシステムがより公平かつ安全に対応するのに役立つのではないかという疑問が生じるのは自然な流れです。 

コンピュータビジョンモデルはテキストではなく画像を扱うものですが、倫理的な指針の必要性は同様に重要です。例えば、公平性とバイアスは考慮すべき重要な要素であり、これらのシステムは、すべての人を平等に扱い、視覚データを分析する際に有害または不当な結果を避けるように訓練される必要があります。

‍

現時点では、コンピュータビジョンにおけるコンスティチューショナルAIの利用はまだ研究段階であり、この分野では継続的な研究が行われています。

例えば、Metaは最近、コンスティチューショナルAIのような推論を画像安全タスクに適用するフレームワークであるCLUEを発表しました。これは、広範な安全ルールを、マルチモーダルAI（複数の種類のデータを処理および理解するAIシステム）が従うことができる正確なステップに変換します。これにより、システムはより明確に推論し、有害な結果を減らすことができます。 

また、CLUEは複雑なルールを簡素化することで、画像安全性の判断をより効率的にし、AIモデルが広範な人的入力を必要とせずに、迅速かつ正確に行動できるようにします。一連の指針となる原則を使用することで、CLUEは画像モデレーションシステムをよりスケーラブルにすると同時に、高品質の結果を保証します。

主なポイント

AIシステムがより多くの責任を担うようになるにつれて、焦点は単に何ができるかから、何をすべきかに移行しています。この移行は、これらのシステムが医療、法執行、教育など、人々の生活に直接影響を与える分野で使用されているため、非常に重要です。 

AIシステムが適切かつ倫理的に行動することを保証するためには、強固で一貫性のある基盤が必要です。この基盤は、公平性、安全性、信頼性を優先する必要があります。 

書かれた憲章は、トレーニング中にその基盤を提供し、システムの意思決定プロセスを導くことができます。また、開発者に対して、展開後にシステムの挙動をレビューおよび調整するためのフレームワークを提供し、システムが当初意図した価値観に沿い続け、新たな課題が発生した場合にも適応しやすくすることができます。

成長を続けるコミュニティに今すぐ参加しましょう！GitHubリポジトリを探索して、AIについてさらに深く掘り下げてください。独自のコンピュータビジョンプロジェクトを構築してみませんか？ライセンスオプションをご覧ください。医療におけるコンピュータビジョンがどのように効率を改善しているか、ソリューションページにアクセスして製造業におけるAIの影響について学びましょう！