Linear Regression

Linear Regression ist eine fundamentale statistische Methode und ein grundlegender Algorithmus im überwachten Lernen, der verwendet wird, um die Beziehung zwischen einer abhängigen Variablen (Zielvariable) und einer oder mehreren unabhängigen Variablen (Merkmalen) zu modellieren. Im Gegensatz zu Klassifizierungsalgorithmen, die diskrete Kategorien vorhersagen, sagt Linear Regression einen kontinuierlichen Wert voraus, was sie für Aufgaben unverzichtbar macht, bei denen das Ziel darin besteht, spezifische numerische Werte zu prognostizieren. Ihre Einfachheit und Interpretierbarkeit dienen als Einstieg zum Verständnis komplexerer Machine Learning (ML)-Konzepte, da sie die Kernmechanismen vermittelt, wie Modelle durch die Minimierung von Fehlern aus Daten lernen.

Kernmechanismen und Training#

Das primäre Ziel dieser Technik besteht darin, die „Ausgleichsgerade“ – oder eine Hyperebene in höheren Dimensionen – zu finden, die das Datenmuster am besten beschreibt. Um dies zu erreichen, berechnet der Algorithmus eine gewichtete Summe der Eingabefunktionen plus einen Bias-Term (Versatz). Während des Trainingsprozesses passt das Modell diese internen Parameter, bekannt als Gewichte und Biases, iterativ an, um die Abweichung zwischen seinen Vorhersagen und der tatsächlichen Ground Truth zu verringern.

Diese Abweichung wird mithilfe einer Loss-Funktion quantifiziert, wobei die gängigste Wahl der Mean Squared Error (MSE) ist. Um den Verlust effektiv zu minimieren, wird ein Optimierungsalgorithmus wie Gradientenabstiegsverfahren eingesetzt, um die Gewichte zu aktualisieren. Wenn sich das Modell zu stark an das Rauschen in den Trainingsdaten anpasst, riskiert es Overfitting, während ein Modell, das zu einfach ist, um den zugrunde liegenden Trend zu erfassen, unter Underfitting leidet.

Reale Anwendungen in der KI#

Obwohl sie oft mit einfacher Vorhersagemodellierung in der Datenanalyse assoziiert wird, sind die Prinzipien der Linear Regression tief in fortgeschrittenen Deep Learning (DL)-Architekturen verankert.

• Finanzprognosen: Analysten verwenden Regression, um Immobilienpreise, Aktienwerte oder Umsatzerlöse auf Basis historischer Datenpunkte wie Quadratmeterzahl, Standort oder früherer Markttrends vorherzusagen.
• Computer Vision und Objekterkennung: Moderne Objektdetektoren wie die YOLO26-Modellfamilie nutzen Regression in ihren Erkennungsköpfen (Detection Heads). Genauer gesagt führt das Modell eine „Bounding-Box-Regression“ durch, um die präzisen kontinuierlichen Koordinaten (Mittelpunkt x, Mittelpunkt y, Breite, Höhe) eines Objekts in einem Bild vorherzusagen.

Lineare Regression vs. Logistische Regression#

Es ist wichtig, diesen Begriff von der Logistischen Regression zu unterscheiden. Obwohl beides lineare Modelle sind, unterscheiden sich ihre Ausgaben erheblich. Linear Regression sagt einen kontinuierlichen numerischen Wert voraus (z. B. den Preis eines Autos). Im Gegensatz dazu wird die logistische Regression für Klassifizierungsaufgaben verwendet und sagt die Wahrscheinlichkeit voraus, dass eine Eingabe zu einer bestimmten Kategorie gehört (z. B. ob eine E-Mail „Spam“ oder „kein Spam“ ist), indem die lineare Ausgabe durch eine Aktivierungsfunktion wie die Sigmoid-Funktion geleitet wird.

Beispiel: Regression in der Objekterkennung#

Im Kontext der Computer Vision, wenn ein Modell wie Ultralytics YOLO26 ein Objekt erkennt, sind die Koordinaten des Bounding Box das Ergebnis einer Regressionsaufgabe. Das Modell prognostiziert kontinuierliche Werte, um das Objekt präzise zu lokalisieren.

from ultralytics import YOLO

# Load the YOLO26 model (nano version)
model = YOLO("yolo26n.pt")

# Run inference on an image
# The model uses regression to determine the exact box placement
results = model("https://ultralytics.com/images/bus.jpg")

# Display the continuous regression outputs (x, y, width, height)
for box in results[0].boxes:
    print(f"Box Regression Output (xywh): {box.xywh.numpy()}")

Benutzer, die benutzerdefinierte Modelle trainieren möchten, die diese Regressionsfunktionen für spezialisierte Datensätze nutzen, können die Ultralytics Platform für optimierte Annotationen und Cloud-Training verwenden. Das Verständnis dieser grundlegenden Regressionsprinzipien bildet eine solide Grundlage für die Bewältigung komplexer Aufgaben in den Bereichen Künstliche Intelligenz (KI) und Computer Vision.