Linear Regression

Die lineare Regression ist eine grundlegende statistische Methode und ein elementarer Algorithmus des überwachten Lernens, mit dem die Beziehung zwischen einer abhängigen Variable (Zielvariable) und einer oder mehreren unabhängigen Variablen (Merkmalen) modelliert wird. Im Gegensatz zu Klassifikationsalgorithmen, die diskrete Kategorien vorhersagen, prognostiziert die lineare Regression eine kontinuierliche Ausgabe und ist daher unverzichtbar für Aufgaben, bei denen bestimmte numerische Werte vorhergesagt werden sollen. Ihre Einfachheit und Interpretierbarkeit erleichtern den Zugang zu komplexeren Konzepten des maschinellen Lernens (ML), da sie die grundlegenden Mechanismen veranschaulicht, mit denen Modelle durch die Minimierung von Fehlern aus Daten lernen.

Grundlegende Mechanismen und Training#

Das Hauptziel dieser Technik besteht darin, die „Ausgleichsgerade“ – oder in höheren Dimensionen eine Hyperebene – zu finden, die das Datenmuster am besten beschreibt. Dazu berechnet der Algorithmus eine gewichtete Summe der Eingabemerkmale zuzüglich eines Bias-Terms. Während des Trainings passt das Modell diese internen Parameter, die als Gewichte und Bias-Werte bezeichnet werden, schrittweise an, um die Abweichung zwischen seinen Vorhersagen und den tatsächlichen Referenzwerten zu verringern.

Diese Abweichung wird mithilfe einer Verlustfunktion quantifiziert; am häufigsten wird dafür der mittlere quadratische Fehler (MSE) verwendet. Um den Verlust wirksam zu minimieren, wird ein Optimierungsalgorithmus wie der Gradientenabstieg eingesetzt, um die Gewichte zu aktualisieren. Passt sich das Modell zu stark an das Rauschen in den Trainingsdaten an, besteht die Gefahr des Overfittings, während ein zu einfaches Modell, das den zugrunde liegenden Trend nicht erfassen kann, unter Underfitting leidet.

Praktische Anwendungen in der KI#

Obwohl die lineare Regression häufig mit einfachem prädiktivem Modellieren in der Datenanalyse in Verbindung gebracht wird, sind ihre Prinzipien tief in fortgeschrittenen Architekturen des tiefen Lernens (DL) verankert.

• Finanzprognosen: Analysten verwenden Regressionen, um auf Grundlage historischer Daten wie Wohnfläche, Lage oder früherer Markttrends Immobilienpreise, Aktienwerte oder Umsatzerlöse vorherzusagen.
• Computer Vision und Objekterkennung: Moderne Objekterkennungsmodelle wie die YOLO26-Modellfamilie verwenden Regression in ihren Erkennungsköpfen. Konkret führt das Modell eine „Regression von Begrenzungsrahmen“ durch, um die präzisen kontinuierlichen Koordinaten (Mittelpunkt x, Mittelpunkt y, Breite, Höhe) eines Objekts innerhalb eines Bildes vorherzusagen.

Lineare Regression im Vergleich zur logistischen Regression#

Es ist wichtig, diesen Begriff von der logistischen Regression zu unterscheiden. Obwohl es sich bei beiden um lineare Modelle handelt, unterscheiden sich ihre Ausgaben erheblich. Die lineare Regression sagt einen kontinuierlichen numerischen Wert voraus (z. B. den Preis eines Autos). Die logistische Regression wird dagegen für Klassifikationsaufgaben verwendet und sagt die Wahrscheinlichkeit voraus, dass eine Eingabe zu einer bestimmten Kategorie gehört (z. B. ob eine E-Mail „Spam“ oder „kein Spam“ ist), indem sie die lineare Ausgabe durch eine Aktivierungsfunktion wie die Sigmoidfunktion leitet.

Beispiel: Regression bei der Objekterkennung#

Im Kontext von Computer Vision sind die Koordinaten des Begrenzungsrahmens das Ergebnis einer Regressionsaufgabe, wenn ein Modell wie Ultralytics YOLO26 ein Objekt erkennt. Das Modell sagt kontinuierliche Werte voraus, um das Objekt präzise zu lokalisieren.

from ultralytics import YOLO

# Load the YOLO26 model (nano version)
model = YOLO("yolo26n.pt")

# Run inference on an image
# The model uses regression to determine the exact box placement
results = model("https://ultralytics.com/images/bus.jpg")

# Display the continuous regression outputs (x, y, width, height)
for box in results[0].boxes:
    print(f"Box Regression Output (xywh): {box.xywh.numpy()}")

Nutzer, die benutzerdefinierte Modelle trainieren möchten, welche diese Regressionsfunktionen für spezialisierte Datensätze nutzen, können die Ultralytics Platform für eine optimierte Annotation und das Training in der Cloud verwenden. Das Verständnis dieser grundlegenden Regressionsprinzipien bietet eine solide Grundlage für die Beherrschung komplexer Aufgaben im Bereich der künstlichen Intelligenz (AI) und Computer Vision.