Model Weights

Modellgewichte sind die lernbaren Parameter innerhalb eines Machine-Learning-Modells, die Eingabedaten in vorhergesagte Ausgaben umwandeln. In einem neuronalen Netz stellen diese Gewichte die Stärke der Verbindungen zwischen Neuronen über verschiedene Schichten hinweg dar. Bei der Initialisierung eines Modells werden diese Gewichte normalerweise auf zufällige, kleine Werte gesetzt, sodass das Modell zunächst „nichts weiß“. Durch einen als Training bezeichneten Prozess passt das Modell diese Gewichte anhand der Fehler, die es macht, iterativ an und lernt so allmählich, Muster, Merkmale und Beziehungen innerhalb der Daten zu erkennen. Du kannst dir Modellgewichte als das „Gedächtnis“ oder „Wissen“ der KI vorstellen; sie speichern, was das System aus seinen Trainingsdaten gelernt hat.

Die Rolle von Gewichten beim Lernen#

Das Hauptziel beim Training eines neuronalen Netzes besteht darin, den optimalen Satz an Modellgewichten zu finden, der den Fehler zwischen den Vorhersagen des Modells und den tatsächlichen Referenzwerten minimiert. Dazu werden Daten durch das Netz geleitet – ein Schritt, der als Vorwärtsdurchlauf bezeichnet wird – und anschließend wird mithilfe einer bestimmten Verlustfunktion ein Verlustwert berechnet. Ist die Vorhersage falsch, berechnet ein Optimierungsalgorithmus wie der stochastische Gradientenabstieg (SGD) oder der neuere Muon-Optimierer, der in YOLO26 verwendet wird, wie stark jedes Gewicht zum Fehler beigetragen hat.

Mithilfe einer als Backpropagation bezeichneten Technik aktualisiert der Algorithmus die Gewichte geringfügig, um den Fehler beim nächsten Durchlauf zu reduzieren. Dieser Zyklus wiederholt sich tausende oder Millionen Male, bis sich die Modellgewichte stabilisieren und das System eine hohe Genauigkeit erreicht. Sobald das Training abgeschlossen ist, werden die Gewichte „eingefroren“ und gespeichert, sodass das Modell für die Inferenz auf neuen, bisher unbekannten Daten eingesetzt werden kann.

Modellgewichte im Vergleich zu Bias-Werten#

Es ist wichtig, zwischen Gewichten und Bias-Werten zu unterscheiden, da sie zusammenwirken, aber unterschiedlichen Zwecken dienen. Während Modellgewichte die Stärke und Richtung der Verbindung zwischen Neuronen bestimmen (und damit die Steigung der Aktivierung steuern), ermöglichen Bias-Werte, die Aktivierungsfunktion nach links oder rechts zu verschieben. Dieser Versatz stellt sicher, dass das Modell die Daten besser abbilden kann, selbst wenn alle Eingabemerkmale null sind. Zusammen bilden Gewichte und Bias-Werte die lernbaren Parameter, die das Verhalten von Architekturen wie Faltungsneuronalen Netzen (CNNs) bestimmen.

Anwendungen in der Praxis#

Modellgewichte sind die zentrale Komponente, die den Einsatz von KI-Systemen in verschiedenen Branchen ermöglicht. Hier sind zwei konkrete Beispiele für ihre Anwendung:

• Computer Vision im Einzelhandel: In einem intelligenten Supermarktsystem verwendet ein Modell wie YOLO26 seine trainierten Gewichte, um Produkte in einem Regal zu erkennen. Die Gewichte haben visuelle Merkmale wie die Form einer Müslischachtel oder die Farbe einer Getränkedose „gelernt“, sodass das System Artikel erkennen, den Bestand verwalten und sogar automatisierte Bezahlvorgänge effizient unterstützen kann.
• Medizinische Bildanalyse: Im Gesundheitswesen verwenden Deep-Learning-Modelle spezielle Gewichte zur Analyse von Röntgenaufnahmen oder MRT-Scans. Beispielsweise nutzt ein für die Tumorerkennung trainiertes Modell seine Gewichte, um zwischen gesundem Gewebe und möglichen Anomalien zu unterscheiden. Diese Gewichte erfassen komplexe, nichtlineare Muster in Pixeldaten, die für das menschliche Auge möglicherweise kaum erkennbar sind, und unterstützen Radiologen dabei, schneller Diagnosen zu stellen.

Gewichte speichern und laden#

In der Praxis bedeutet die Arbeit mit Modellgewichten, die trainierten Parameter in einer Datei zu speichern und sie später für Vorhersagen oder Feinabstimmung zu laden. Im Ultralytics-Ökosystem werden sie typischerweise als .pt-Dateien (PyTorch) gespeichert.

Hier ist ein einfaches Beispiel dafür, wie du vortrainierte Gewichte in ein YOLO-Modell lädst und eine Vorhersage ausführst:

from ultralytics import YOLO

# Load a model with pre-trained weights (e.g., YOLO26n)
model = YOLO("yolo26n.pt")

# Run inference on an image using the loaded weights
results = model("https://ultralytics.com/images/bus.jpg")

# Print the number of detected objects
print(f"Detected {len(results[0].boxes)} objects.")

Transferlernen und Feinabstimmung#

Einer der leistungsfähigsten Aspekte von Modellgewichten ist ihre Übertragbarkeit. Anstatt ein Modell von Grund auf zu trainieren – was sehr große Datensätze und erhebliche Rechenleistung erfordert – verwenden Entwickler häufig Transferlernen. Dabei wird ein Modell verwendet, dessen Gewichte auf einem großen Datensatz wie COCO oder ImageNet vortrainiert wurden, und für eine bestimmte Aufgabe angepasst.

Du könntest beispielsweise die Gewichte eines allgemeinen Objekterkennungsmodells übernehmen und sie mit einem kleineren Datensatz von Solarmodulen feinabstimmen. Da die vortrainierten Gewichte bereits Kanten, Formen und Texturen erkennen, konvergiert das Modell deutlich schneller und benötigt weniger annotierte Daten. Tools wie die Ultralytics Platform vereinfachen diesen Prozess, indem sie Teams ermöglichen, Datensätze zu verwalten, Modelle in der Cloud zu trainieren und optimierte Gewichte nahtlos auf Edge-Geräten bereitzustellen.

Komprimierung und Optimierung#

Die moderne KI-Forschung konzentriert sich häufig darauf, die Dateigröße von Modellgewichten zu reduzieren, ohne die Leistung zu beeinträchtigen – ein Prozess, der als Modellquantisierung bezeichnet wird. Durch die Verringerung der Präzision der Gewichte (beispielsweise von 32-Bit-Gleitkommazahlen auf 8-Bit-Ganzzahlen) können Entwickler den Speicherbedarf deutlich senken und die Inferenzgeschwindigkeit erhöhen. Dies ist entscheidend für die Bereitstellung von Modellen auf Hardware mit begrenzten Ressourcen, etwa Mobiltelefonen oder Raspberry Pi-Geräten. Außerdem entfernen Techniken wie Pruning Gewichte, die nur wenig zur Ausgabe beitragen, und optimieren das Modell dadurch weiter für Echtzeitanwendungen.