焦点損失

フォーカルロスは、機械学習モデルの学習におけるクラスの不均衡の問題に対処するために設計された特殊な損失関数である。この問題は物体検出タスクで特によく見られるもので、背景の例（ネガティブクラス）の数が前景の物体（ポジティブクラス）の数を大きく上回ることがあります。各例の重みを動的に調整することで、フォーカルロスは、分類しやすい大量のネガティブ例に圧倒されることなく、分類しにくい例に学習努力を集中するようモデルを促します。このアプローチは、不均衡なデータセットで学習されたモデルの精度と性能を大幅に向上させる。

フォーカルロスの仕組み

Focal Lossは、画像分類タスクに広く使われている標準的なCross-Entropy Lossを強化したものである。Meta AI（旧Facebook AI Research）の研究者によりRetinaNetの論文で導入された重要な革新は、よく分類された例からの損失寄与を減少させる調整因子である。これにより、モデルのバックプロパゲーション更新は、主に分類しにくい例からの誤差によって駆動される。この関数には「フォーカシングパラメータ」が含まれており、簡単な例に対する損失が重み付けされる割合を制御する。これらの困難な例を優先することで、最適化アルゴリズムはモデルの重みをより有意義に調整することができ、特にRetinaNetやYOLOのいくつかのバージョンのような1段階の物体検出器では、全体的なパフォーマンスの向上につながります。フォーカルロスの技術的な実装については、Ultralyticsのドキュメントをご覧ください。

実際のアプリケーション

フォーカルロスは、クラスの不均衡が大きな課題である様々な実世界のシナリオにおいて、ロバストなモデルを学習するのに役立つ。

• 自律走行：自律走行車の開発では、モデルはさまざまな物体を検出しなければならないが、その中には歩行者や自転車、遠くの交通標識など、出現頻度が低いものもある。画像の大部分は道路や空（背景）かもしれません。フォーカルロスは、モデルがこれらの重要だがまれなオブジェクトにより注意を払い、見落としがないようにするのに役立つ。これは、車載ソリューションにおいて安全で信頼性の高いAIを構築するために極めて重要です。この分野における課題の概要は、カーネギーメロン大学などの機関が提供している。
• 医療診断：医療画像解析では、スキャン画像から腫瘍や病変のような異常を検出するためのモデルが学習される。多くの場合、異常領域は周囲の健康な組織に比べて非常に小さい。フォーカルロスは、このような微妙で検出が困難な領域の識別にモデルを集中させることを可能にする。これは、医療データセット上の腫瘍を検出するアプリケーションに見られるように、より正確で信頼性の高い診断ツールにつながる。

他の損失関数との比較

フォーカルロスは、コンピュータビジョンで使用される他の関連損失関数と区別することが重要である。

• クロスエントロピー損失：Focal LossはCross-Entropy Lossを直接修正したものである。Cross-Entropyはすべての例を平等に扱いますが、Focal Lossは簡単な例の影響を減らすための項を導入しており、不均衡な学習データに適しています。Cross-Entropyをより深く理解するために、StanfordのCS231nノートに良い説明があります。
• Varifocal Loss：これはFocal Lossの原理をベースにした、より新しい損失関数である。Focal Lossがすべての肯定的な例を平等に扱うのに対し、Varifocal Lossは分類スコアに基づいて重み付けを行い、質の高い肯定的な例により多くの重みを与えます。具体的な実装については、Ultralyticsの損失関数のリファレンスで詳しく説明されています。
• IoUベースの損失：IoU（Generalized Intersection over Union）、DIoU、CIoUなどの関数は、予測されたバウンディングボックスのローカライズ精度を測定するために使用されます。これらはオブジェクトがどこにあるかに関係するのに対し、フォーカルロスはオブジェクトが何であるか（その分類）に関係します。Ultralytics YOLOv8のような最新のディテクターでは、（Focal Lossのような）分類損失と（IoUベースの損失のような）回帰損失がモデルを訓練するために一緒に使用されます。