ラベルスムージングによりAIモデルの精度とロバスト性を向上-汎化を改善し、過信を減らす実証済みのテクニック。
ラベルスムージングは、主に機械学習（ML）や深層学習（DL）の分類タスクで使用される正則化手法である。その主な目的は、学習データに基づく予測においてモデルが過信するのを防ぐことである。教師あり学習を用いた標準的な分類学習では、モデルは「ハード」ラベルを用いて学習されることが多く、通常、正しいクラスには確率1、それ以外のクラスには確率0が割り当てられるワンホットエンコード形式で表現される。ラベルスムージングは、これらのハードターゲットを「ソフト」ターゲットに変更し、正しいクラスに割り当てられる信頼度をわずかに下げ、誤ったクラスに少量の確率の塊を分散させる。これによってモデルの確信度が下がり、未知のデータに対してより良く一般化できる可能性がある。
ラベル・スムージングは、正しいクラスには厳密に1を、それ以外には0を使う（ワンホット・エンコーディング）代わりに、これらのターゲット確率を調整する。例えば K クラスと平滑化係数 alpha正しいクラスの目標確率は次のようになる。 1 - alphaとなり、各誤りのクラスの確率は次のようになる。 alpha / (K-1).この小さな調整は、ターゲット・ラベル自体が絶対的な確実性を表現しないため、学習中に1つのクラスに極端に高い確率（1に近い）を割り当てた場合、モデルがペナルティを受けることを意味する。このテクニックは、高度な画像分類モデルの学習という文脈で、特に以下の論文で議論されている。 "コンピュータ・ビジョンのためのインセプション・アーキテクチャ再考" 論文
ラベル・スムージングを導入すると、いくつかの利点がある：
ラベルスムージングは、様々な領域の分類シナリオに広く適用されている：
すべてのアーキテクチャについて常に明確に詳述されているわけではないが、ラベルスムージングのようなテクニックは、最先端のモデルの標準的な学習レシピの一部であることが多い。 Ultralytics YOLOのような物体検出モデルも含まれる可能性があります。
ラベルの平滑化は有益ではあるが、適用には注意が必要である。平滑化係数（アルファ）はチューニングが必要なハイパーパラメータであり、値が小さすぎるとほとんど効果がなく、逆に大きすぎるとラベルの情報が少なすぎて学習の妨げになる可能性がある。モデル・キャリブレーションへの影響は、多くの場合プラスに働きますが、特定のアプリケーションに対して評価されるべきであり、場合によってはポストホック・キャリブレーション手法が必要になる可能性があります。PyTorchのような最新のディープラーニングフレームワークでは、シンプルで効果的なツールです。 PyTorchや TensorFlow.
JA
EN
ZH
KO
RU
DE
FR
ES
PT
IT
AR
TR
VI
