ハイパーパラメータチューニング

ハイパーパラメータのチューニングとは、外部構成変数の最適なセットを発見する系統的なプロセスである、 機械学習（ML）モデルの学習を支配するハイパーパラメータとして知られる 機械学習（ML）モデルの学習を支配する。内部 学習段階で学習データから直接学習されるweights and biases 学習段階で学習データから直接学習される ハイパーパラメータは学習前に設定され、学習プロセスを通して一定に保たれます。この最適化ステップは非常に重要である。 なぜなら ニューラルネットワークのデフォルト設定では、特定のデータセットに対して この最適化ステップは極めて重要である。これらの制御を微調整することで、データサイエンティストはモデルの精度を大幅に向上させることができる。 精度を大幅に向上させ、収束時間を短縮し、オーバーフィッ オーバーフィッティング

ハイパーパラメータの役割

チューニングを理解するためには、モデルをさまざまなダイヤルやスイッチを備えた複雑な機械としてイメージすることが役に立つ。一方 機械は、原料（データ）を最終製品（予測）に加工する方法を自ら学習するが、オペレーターはまず、速度、温度、圧力を設定しなければならない。 はまず速度、温度、圧力を設定しなければならない。これらの「ダイヤル」がハイパーパラメータである。

最適化の対象となることが多い一般的なハイパーパラメータには、以下のようなものがある：

• 学習率：多くの場合 最適化アルゴリズムが移動する間に取るステップサイズを決定します。 最適化アルゴリズムが 最適化アルゴリズムが損失関数の最小値に向かって移動する間のステップサイズを決定する。学習率 が高すぎるとモデルが最適解をオーバーシュートしてしまう可能性があります。 トレーニングが遅くなります。
• バッチサイズ：これは 1回の反復で使用される訓練例の数を定義する。これを調整することで、勾配推定の安定性と のメモリ要件に影響します。 GPU.
• エポック：学習アルゴリズムがデータセット全体を通して 学習アルゴリズムがデータセット全体を処理する回数。適切なバランスを見つけることで アンダーフィッティング（エポック数が少なすぎる）と オーバーフィッティング（エポックが多すぎる）を避けることができる。
• ネットワーク・アーキテクチャ：隠れ層の数、1層あたりのニューロン数、または特定の に関する決定、または特定のタイプの活性化関数 活性化関数（ReLU、SiLUなど）に関する決定も、アーキテクチャのハイパーパラメータである。 も、アーキテクチャのハイパーパラメータである。

一般的なチューニング・テクニック

セッティングの完璧な組み合わせを見つけることは、膨大な探索空間のために困難である。実務家は この高次元空間をナビゲートするために を採用している：

• グリッド検索：この網羅的 グリッドで指定されたアルゴリズムとパラメータのすべての組み合わせについてモデルを評価する。徹底的ではあるが は計算コストが高く、大規模なパラメータセットでは非効率的であることが多い。
• ランダム検索：すべての組み合わせをテストするのではなく この手法では、すべての組み合わせをテストするのではなく、ハイパーパラメータのランダムな組み合わせを選択してモデルを学習します。研究結果 すべてのハイパーパラメータがモデルの性能に等しく重要であるとは限らないため、グリッド探索よりもランダム探索の方が効率的であることが多い。 モデルの性能にとって重要だからです。
• ベイズ最適化：これは 目的関数の代理モデルを構築する確率モデルベースのアプローチである。これは 過去の評価に基づいて、どのハイパーパラメータが最良の結果をもたらすかを予測し、探索空間の最も有望な領域に焦点を当てる。 に焦点を当てる。
• 進化的アルゴリズム： 生物学的進化にヒントを得たこの方法は、突然変異や交叉のようなメカニズムを使用して、ハイパーパラメータセットの母集団を何世代にもわたって進化させる。 世代にわたってハイパーパラメーターセットを進化させる。これは、Ultralytics のようなモデルを最適化するチューナーで使用される主な手法です。 YOLO11.

ハイパーパラメータのチューニングとモデルトレーニングの比較

チューニングと トレーニングは、MLOPSのライフサイクルにおいて異なる段階であるため、区別することが重要である。 MLOPSのライフサイクルにおいて、チューニングとトレーニングを区別することが重要である：

• モデルのトレーニング：モデルがラベル付けされたデータを繰り返し学習し バックプロパゲーションによって内部パラメータ（重みとバイアス とバイアス）を学習するプロセス。目標は 学習セットの誤差を最小化すること。
• ハイパーパラメーターのチューニング：ハイパーパラメータのチューニング：トレーニングを開始する前に、構造設定と操作設定を選択するメタプロセス。 メタプロセス。目標は、次のような検証指標を最大化することである。 平均平均精度(mAP) を最大化することである。

実際のアプリケーション

効果的にチューニングされたモデルは、さまざまな業界で堅牢なAIソリューションを展開する上で非常に重要です。 AIソリューションの導入に不可欠です。

精密農業

農業AIでは、コンピューター・ビジョン・モデルを搭載したドローンが作物の健康状態を監視する。 コンピュータビジョンモデルが作物の健康状態を監視する。これらのモデルは エッジ・コンピューティング・デバイスで実行される。 で実行される。ハイパーパラメータのチューニングは、モデルのアーキテクチャ（レイヤーの深さを減らすなど）と入力解像度を最適化するために使用される。 と入力解像度を最適化する。これにより、システムは高い推論速度と十分な検知能力のバランスをとることができる。 推論速度と、雑草や害虫を識別するのに十分な検出精度 雑草や害虫をリアルタイムで識別するのに十分な検出精度を保証します。

医療診断

ヘルスケアにおけるAI、特に医療画像解析では 医療画像分析では、偽陰性は 命に関わる。X線やMRIスキャンで異常を検出する場合、エンジニアは積極的にハイパーパラメータを調整する。 を積極的に調整する。 クラス重み付けに関連するハイパーパラメータを積極的にチューニングします。このチューニングにより、モデルの を最大化し、病理の微妙な徴候でさえも人間のレビューのためにフラグを立てることを保証します。 フラグを立てる。

Ultralytics自動チューニング

について ultralytics ライブラリは、組み込みの tuner 遺伝的アルゴリズムを利用したもの。これにより、ユーザは学習実行のたびに手動で値を調整することなく、カスタムデータセットに最適な を自動的に探索することができる。

次の例は、YOLO11 モデルのハイパーパラメータのチューニングを開始する方法を示しています。チューナーは ハイパーパラメータ（学習率、運動量、ウェイト減衰など）を数回の繰り返しで変更し、パフォーマンスを最大化します。

from ultralytics import YOLO

# Initialize a YOLO11 model (using the 'nano' weight for speed)
model = YOLO("yolo11n.pt")

# Start tuning hyperparameters on the COCO8 dataset
# This will run for 10 epochs per iteration, for a total of 30 iterations
model.tune(data="coco8.yaml", epochs=10, iterations=30, optimizer="AdamW", plots=False)

大規模な実験を管理する上級ユーザーには、次のような専用プラットフォームと統合することもできます。 レイ・チューン Weights & Biasesを利用することで チューニング・ワークフローをさらに合理化することができます。YOLO26.のようなアーキテクチャの今後の研究開発により、自動チューニングは最先端の性能を効率的に達成するための要であり続ける、 自動チューニングは、最先端の性能を効率的に達成するための要であり続けます。