Linear Regression

Die lineare Regression ist eine grundlegende statistische Methode und ein Basisalgorithmus im supervised learning, der verwendet wird, um die Beziehung zwischen einer abhängigen Variable (Ziel) und einer oder mehreren unabhängigen Variablen (Features) zu modellieren. Im Gegensatz zu Klassifizierungsalgorithmen, die diskrete Kategorien vorhersagen, sagt die lineare Regression einen kontinuierlichen Ausgabewert voraus. Das macht sie essenziell für Aufgaben, bei denen das Ziel darin besteht, spezifische numerische Werte vorherzusagen. Ihre Einfachheit und Interpretierbarkeit dienen als Einstieg zum Verständnis komplexerer machine learning (ML)-Konzepte, da sie die Kernmechanismen einführt, wie Modelle durch Fehlerminimierung aus Daten lernen.

Link to this sectionKernmechanismen und Training#

Das Hauptziel dieser Technik ist es, die "Linie der besten Anpassung" – oder in höheren Dimensionen eine Hyperebene – zu finden, die das Datenmuster am besten beschreibt. Um dies zu erreichen, berechnet der Algorithmus eine gewichtete Summe der Eingabefeatures plus einen Bias-Term. Während des Trainingsprozesses passt das Modell diese internen Parameter, bekannt als weights and biases, iterativ an, um die Diskrepanz zwischen seinen Vorhersagen und der tatsächlichen Ground Truth zu verringern.

Diese Diskrepanz wird mithilfe einer loss function quantifiziert, wobei die gängigste Wahl der Mean Squared Error (MSE) ist. Um den Loss effektiv zu minimieren, wird ein optimization algorithm wie gradient descent eingesetzt, um die Gewichte zu aktualisieren. Wenn das Modell zu stark auf das Rauschen in den training data ausgerichtet ist, riskiert es overfitting, während ein Modell, das zu einfach ist, um den zugrunde liegenden Trend zu erfassen, unter underfitting leidet.

Link to this sectionReale Anwendungen in der KI#

Obwohl sie oft mit einfacher predictive modeling in der data analytics assoziiert wird, sind Prinzipien der linearen Regression tief in fortgeschrittenen deep learning (DL)-Architekturen verwurzelt.

• Finanzprognosen: Analysten verwenden Regression, um Immobilienpreise, Aktienwerte oder Umsatzerlöse auf Basis historischer Datenpunkte wie Quadratmeterzahl, Standort oder früherer Markttrends vorherzusagen.
• Computer Vision und Objekterkennung: Moderne Objekterkenner, wie die YOLO26-Modellfamilie, nutzen Regression in ihren Erkennungsköpfen. Speziell führt das Modell eine "BBox-Regression" durch, um die präzisen kontinuierlichen Koordinaten (Center x, Center y, Breite, Höhe) eines Objekts innerhalb eines Bildes vorherzusagen.

Link to this sectionLineare Regression vs. Logistische Regression#

Es ist wichtig, diesen Begriff von der Logistic Regression zu unterscheiden. Obwohl beide lineare Modelle sind, unterscheiden sich ihre Ausgaben signifikant. Die lineare Regression sagt einen kontinuierlichen numerischen Wert vorher (z. B. den Preis eines Autos). Im Gegensatz dazu wird die logistische Regression für Klassifizierungsaufgaben verwendet und sagt die Wahrscheinlichkeit voraus, dass eine Eingabe zu einer bestimmten Kategorie gehört (z. B. ob eine E-Mail "Spam" oder "kein Spam" ist), indem die lineare Ausgabe durch eine activation function wie die Sigmoid-Funktion geleitet wird.

Link to this sectionBeispiel: Regression in der Objekterkennung#

Im Kontext von Computer Vision sind die BBox-Koordinaten bei der Objekterkennung durch ein Modell wie YOLO26 das Ergebnis einer Regressionsaufgabe. Das Modell sagt kontinuierliche Werte voraus, um das Objekt präzise zu lokalisieren.

from ultralytics import YOLO

# Load the YOLO26 model (nano version)
model = YOLO("yolo26n.pt")

# Run inference on an image
# The model uses regression to determine the exact box placement
results = model("https://ultralytics.com/images/bus.jpg")

# Display the continuous regression outputs (x, y, width, height)
for box in results[0].boxes:
    print(f"Box Regression Output (xywh): {box.xywh.numpy()}")

Benutzer, die eigene Modelle trainieren möchten, welche diese Regressionsfähigkeiten für spezialisierte Datensätze nutzen, können die Ultralytics Platform für optimierte Annotation und Cloud-Training verwenden. Das Verständnis dieser grundlegenden Regressionsprinzipien bietet ein solides Fundament für die Beherrschung komplexer Aufgaben in den Bereichen artificial intelligence (AI) und computer vision.