プロンプトチューニング

プロンプトチューニングは、リソース効率の高い手法であり、ネットワーク全体を再トレーニングする計算コストなしに、事前学習済みの基盤モデルを特定のダウンストリームタスクに適応させるために使用されます。モデルのパラメータのすべてまたはほとんどを更新する従来のファインチューニングとは異なり、プロンプトチューニングは、事前学習済みのモデルウェイトを固定し、入力データに前置される「ソフトプロンプト」と呼ばれる学習可能な少数のベクトルのみを最適化します。このアプローチにより、単一の巨大なバックボーンが複数の特殊なアプリケーションに同時に対応できるようになり、ストレージ要件と推論レイテンシの切り替えコストを大幅に削減します。

プロンプトチューニングのメカニズム

標準的な機械学習（ML）ワークフローでは、テキストや画像などの入力は、埋め込み（embeddings）として知られる数値表現に変換されます。プロンプトチューニングは、追加の学習可能な埋め込みベクトルをこの入力シーケンスに挿入します。トレーニングフェーズ中、システムはバックプロパゲーションを使用して勾配を計算しますが、最適化アルゴリズムはソフトプロンプトの値のみを更新し、大規模なモデル構造は手付かずのままにします。

この手法は、Parameter-Efficient Fine-Tuning (PEFT)の一種です。これらの連続ベクトルを学習することで、モデルは望ましい出力へと「誘導」されます。この概念は自然言語処理 (NLP)で生まれたものですが、コンピュータビジョン (CV)タスクにもうまく適用されており、Visual Prompt Tuning (VPT) と呼ばれることもよくあります。

関連概念の区別

プロンプトチューニングの有用性を理解するには、AI分野における類似の用語と区別することが不可欠です。

• プロンプトエンジニアリング: これは、生成AIモデルを誘導するために、人間が読めるテキスト指示（ハードプロンプト）を手動で作成することを含みます。コーディングやトレーニングは不要です。対照的に、プロンプトチューニングは、自動化された教師あり学習を使用して、自然言語の単語に対応しない可能性のある最適な数値埋め込みを見つけます。
• Full Fine-Tuning: 従来の方法ではニューラルネットワーク全体を更新するため、元のトレーニングの「壊滅的な忘却」につながることがよくあります。プロンプトチューニングはモデルの元の機能を維持し、異なるタスク間で転移学習を活用しやすくします。
• Few-Shot Learning: これは通常、LLMのコンテキストウィンドウで少数の例を提供することを指します。プロンプトチューニングは、一時的なコンテキストを提供するだけでなく、保存および再利用されるパラメータを永続的に学習するため、これとは異なります。

実際のアプリケーション

プロンプトチューニングは、リソース制約のある環境でのAIのスケーラブルな展開を可能にします。これは、モデル管理のためのUltralytics Platformが共有する核となる哲学です。

1. Multilingual Customer Support: グローバル企業は、1つの中央集約された固定言語モデルを使用できます。スペイン語、日本語、ドイツ語の軽量なソフトプロンプトを学習させることで、システムは瞬時に言語を切り替えることができます。これにより、3つの別々のギガバイトサイズのモデルをホストする莫大なコストを回避し、代わりにキロバイトサイズのプロンプトファイルに依存します。
2. 医療分野におけるAI: 医用画像処理はデータ不足に悩まされることが多いです。研究者は汎用ビジョンバックボーン（Vision Transformerなど）を使用し、プロンプトチューニングによって網膜疾患や腫瘍などの特定の異常をdetectするために適応させることができます。これにより、患者のデータプライバシーが維持され、モデルの完全な再学習なしに新しい医療機器への迅速な適応が可能になります。

実施例

以下のPyTorchの例は、核となる機械的コンセプトを示しています。モデルの主要層をフリーズし、出力に影響を与えるように最適化された別個の学習可能なパラメータ（「ソフトプロンプト」）を作成します。

import torch
import torch.nn as nn

# 1. Define a dummy backbone (e.g., a pre-trained layer)
backbone = nn.Linear(10, 5)

# 2. Freeze the backbone weights (crucial for prompt tuning)
for param in backbone.parameters():
    param.requires_grad = False

# 3. Create a 'soft prompt' vector that IS trainable
# This represents the learnable embeddings prepended to inputs
soft_prompt = nn.Parameter(torch.randn(1, 10), requires_grad=True)

# 4. Initialize an optimizer that targets ONLY the soft prompt
optimizer = torch.optim.SGD([soft_prompt], lr=0.1)

# Verify that only the prompt is being trained
trainable_params = sum(p.numel() for p in [soft_prompt] if p.requires_grad)
print(f"Optimizing {trainable_params} parameters (Soft Prompt only)")

現代エッジAIへの関連性

モデルが大規模になるにつれて、それらを安価に適応させる能力が重要になります。YOLO26のようなアーキテクチャはすでに効率のために高度に最適化されていますが、バックボーンの凍結と効率的な適応の原則は、エッジAIの未来にとって不可欠です。プロンプトチューニングに似た技術は、限られたメモリを持つデバイスが、大規模なニューラルネットワークを再ロードするのではなく、小さな設定ファイルを交換するだけで、object detectionからsegmentationまで、多様なタスクを実行することを可能にします。

効率的にトレーニングとデプロイを行おうとしている開発者にとって、Ultralytics Platformのようなツールを利用することで、最新のMLOpsのベストプラクティスを活用しながら、モデルが特定のハードウェアターゲット向けに最適化されることが保証されます。