Logistic Regression

ロジスティック回帰（Logistic Regression）は、主に二値分類タスクに使用される基本的な統計手法であり、機械学習アルゴリズムです。「回帰」という名前がついているにもかかわらず（通常、回帰は気温や株価などの連続値を予測することを意味します）、ロジスティック回帰は、特定の入力が特定のカテゴリに属する確率を予測するように設計されています。これにより、メールが「スパム」か「スパムではない」か、あるいは医療用の腫瘍が「良性」か「悪性」かを判定するなど、結果が二者択一である問題において極めて重要なツールとなります。これは従来の統計学と現代の教師あり学習の架け橋となり、シンプルさと解釈性のバランスを提供し、ニューラルネットワークのようなより複雑なモデルを実装する前のベースラインとしてよく使用されます。

中心となるメカニズムと確率#

連続出力を予測するためにデータポイントに直線フィッティングを行う線形回帰とは異なり、ロジスティック回帰はデータに「S字型」の曲線をフィッティングします。この曲線は、任意の実数を0から1の間の値にマッピングする数学的変換であるシグモイド関数を使用して生成されます。この出力は確率スコアを表し、インスタンスが正のクラスに属する確信度を示します。

トレーニングプロセスにおいて、アルゴリズムは誤差を最小化するために最適な重みとバイアスを学習します。これは通常、予測された確率と実際のクラスラベルの差を減らすためにモデルパラメータを反復的に調整する勾配降下法などの最適化アルゴリズムを使用して達成されます。パフォーマンスは、対数損失（Log Loss）または二値交差エントロピーと呼ばれる特定の損失関数を使用して評価されることがよくあります。モデルが確率を出力すると、決定境界（通常0.5に設定）によって入力が分類されます。閾値より上の値は正のクラスになり、下の値は負のクラスになります。

関連用語との違い#

混乱を避けるため、ロジスティック回帰を類似の概念と区別することが重要です。

• 線形回帰とロジスティック回帰の比較: 線形回帰が（住宅価格などの）連続的な数値出力を予測するのに対し、ロジスティック回帰は確率を介してカテゴリカルな結果を予測します。
• 分類と回帰の比較: 機械学習において、分類タスクは離散的なラベルの予測を伴い、回帰タスクは連続的な量の予測を行います。ロジスティック回帰はその名前にもかかわらず、分類アルゴリズムです。
• パーセプトロン: 単純なパーセプトロンはステップ関数を使用してバイナリの0または1を直接出力しますが、ロジスティック回帰は滑らかなシグモイド関数を使用して確率を出力し、よりニュアンスのある結果を提供します。

実社会での応用#

ロジスティック回帰は、その効率性と結果の解釈のしやすさから、さまざまな業界で広く使用され続けています。

• 医療と診断: 医療従事者は、年齢、BMI、血圧などの要因に基づいて、患者が糖尿病や心疾患などの特定の疾患を発症する確率を予測するためにこれらのモデルを使用します。これは、初期の医用画像解析と意思決定を支援します。
• 信用スコアリングと金融: 銀行は顧客への融資リスクを評価するためにロジスティック回帰を導入しています。クレジット履歴や収入などの特徴量を分析することで、モデルは借い手がローンをデフォルトする確率を予測し、金融セキュリティのための予測モデリングを自動化します。
• マーケティングと解約予測: 企業は顧客行動を分析して、ユーザーがサービスに加入するか、製品の利用を停止（解約）するかを予測します。この洞察は、顧客維持戦略を洗練させ、マーケティングキャンペーンを効果的にターゲットにするのに役立ちます。

現代の実装#

オブジェクト検出などの複雑なタスクにはYOLO26のようなディープラーニングモデルが好まれますが、ロジスティック回帰は多くの場合、二値画像分類ネットワークの最終層となります。たとえば、畳み込みニューラルネットワークが特徴量を抽出し、最終層がロジスティック回帰分類器として機能して、画像に「猫」または「犬」が含まれているかどうかを判断します。

Ultralytics Platformのようなツールは、これらの基礎原理を利用する複雑な分類モデルをトレーニングするためのワークフローを簡素化します。ただし、生の概念を理解するためには、単純なライブラリで仕組みを実証できます。

以下は、torchを使用して単層ロジスティック回帰モデル構造を定義する基本的な例です:

import torch
import torch.nn as nn


# Define a simple Logistic Regression model class
class LogisticRegression(nn.Module):
    def __init__(self, input_dim):
        super().__init__()
        # A single linear layer maps input features to a single output
        self.linear = nn.Linear(input_dim, 1)

    def forward(self, x):
        # The sigmoid function transforms the linear output to a probability (0 to 1)
        return torch.sigmoid(self.linear(x))


# Example usage: Initialize model for 10 input features
model = LogisticRegression(input_dim=10)
print(model)

利点と制限#

このアルゴリズムの長所と短所を理解することは、目的に合った適切なツールを選択するのに役立ちます。

• 解釈性: モデルの係数（重み）は、入力特徴量とターゲット変数の関係を直接示します。正の重みは、特徴量が増加するにつれて正の結果の確率が増加することを意味します。この透明性は、AI倫理やステークホルダーへの決定の説明において不可欠です。
• 効率性: 複雑なディープラーニングアーキテクチャと比較して計算能力が少なくて済むため、低遅延の要件があるアプリケーションや限られたハードウェアに適しています。
• データの線形性: 主な制限事項は、入力変数と結果の対数オッズの間に線形関係を仮定していることです。サポートベクターマシン (SVM)やランダムフォレストなどの高度な技術が優れているような、非常に複雑で非線形なデータパターンには苦戦する可能性があります。
• 過学習: トレーニング例が少ない高次元データセットでは、ロジスティック回帰は過学習を起こしやすいですが、正則化技術を使用することでこれを軽減できます。