Liquid Neural Networks (LNNs)

Flüssige neuronale Netze (LNNs) sind eine äußerst dynamische und flexible Unterklasse kontinuierlicher rekurrenter neuronaler Netze (RNNs), die von der Struktur des Nervensystems einfacher Organismen wie des Wurms C. elegans inspiriert ist. Im Gegensatz zu herkömmlichen Deep-Learning-Modellen, bei denen die Gewichte (oder Parameter) nach dem Training feststehen, können LNNs ihre Parameter in Echtzeit kontinuierlich anpassen, während sie neue Eingabeströme verarbeiten. Diese Anpassungsfähigkeit, die oft als „flüssiges“ Verhalten bezeichnet wird, ermöglicht es dem Netzwerk, seine Robustheit zu bewahren und sich unmittelbar an veränderte Bedingungen anzupassen. Dadurch eignen sich LNNs besonders gut für die Verarbeitung von Zeitreihendaten und die Steuerung dynamischer Systeme.

Ein wesentlicher Vorteil von LNNs ist ihre Parametereffizienz. Während große Modelle wie Transformer oder große Sprachmodelle (LLMs) Milliarden von Parametern und enorme Rechenressourcen benötigen, um komplexe Aufgaben auszuführen, können LNNs bei bestimmten sequenziellen Aufgaben mit nur einigen Dutzend bis wenigen hundert Neuronen oft eine vergleichbare oder bessere Leistung erzielen. Forschungen von Einrichtungen wie dem Labor für Informatik und künstliche Intelligenz des MIT (CSAIL) haben gezeigt, dass diese kompakten Netzwerke eine hohe Interpretierbarkeit und Effizienz bieten und den Rechenaufwand für Training und Bereitstellung reduzieren.

LNNs im Vergleich zu herkömmlichen Netzwerken#

Obwohl sowohl LNNs als auch standardmäßige RNNs sequenzielle Daten verarbeiten, gehen sie unterschiedlich mit dem Zeitbegriff um. Standardmäßige RNNs und Langzeit-Kurzzeitgedächtnis-Netzwerke (LSTM) arbeiten in diskreten Zeitschritten, das heißt, sie verarbeiten Daten Bild für Bild oder Schritt für Schritt. LNNs hingegen verarbeiten Eingaben kontinuierlich, ähnlich wie Differentialgleichungen, die physikalische Phänomene modellieren. Diese kontinuierliche Zeitdynamik ermöglicht es LNNs, mit unregelmäßig abgetasteten Daten problemlos umzugehen, ohne auf feste Abtastraten angewiesen zu sein. Während herkömmliche Modelle ihre erlernten Parameter nach dem Training einfrieren, passen sich die verborgenen Zustände in LNNs dynamisch an. Dadurch bleibt das Modell während der Echtzeitinferenz gegenüber neuen, bislang unbekannten Anomalien reaktionsfähig.

Anwendungen von LNNs in der Praxis#

Aufgrund ihrer Robustheit, Interpretierbarkeit und geringen Parameteranzahl werden LNNs vor allem in Anwendungen eingesetzt, die kontinuierliche Datenströme und sich verändernde Umgebungen umfassen. Zwei bemerkenswerte Beispiele sind:

• Autonome Fahrzeuge und Drohnen: LNNs haben bei der Steuerung autonomer Drohnen in unvorhersehbaren Umgebungen bemerkenswerte Erfolge erzielt. Ihre Fähigkeit, Entscheidungsprozesse auf Grundlage kontinuierlicher sensorischer Rückmeldungen anzupassen, ermöglicht es Drohnen, wechselnde Windbedingungen oder dynamische Hindernisse deutlich besser zu bewältigen als statisch trainierte Modelle. Ihr geringer Rechenaufwand macht sie außerdem ideal für Edge-KI-Geräte mit begrenzter Leistung, die Daten direkt auf der Drohne verarbeiten.
• Medizinische Zeitreihenanalyse: In der medizinischen Diagnostik werden LNNs eingesetzt, um Vitalwerte von Patienten wie EKG- oder EEG-Messwerte kontinuierlich zu überwachen. Da medizinische Daten häufig unregelmäßig abgetastet werden, ist die kontinuierliche Zeitverarbeitung von LNNs besonders vorteilhaft, um plötzliche Veränderungen des Zustands eines Patienten zu erkennen und in Echtzeit Vorhersagemodelle für Erkrankungen wie Herzrhythmusstörungen oder Krampfanfälle bereitzustellen.

LNNs im Ökosystem#

Während LNNs auf zeitliche, sequenzielle Entscheidungsfindung spezialisiert sind, können sie effektiv mit räumlichen Computer-Vision-Modellen zu umfassenden Wahrnehmungs- und Aktionssystemen kombiniert werden. Beispielsweise könnte Ultralytics YOLO26 zur Verarbeitung von Videobildern für die Echtzeit-Objekterkennung eingesetzt werden und Koordinaten von Begrenzungsrahmen sowie Klassifizierungsdaten in ein nachgelagertes Flüssiges neuronales Netz einspeisen. Das LNN würde diese kontinuierlichen Koordinatenströme anschließend über die Zeit interpretieren, um die Navigation eines KI-Agenten oder robotische Steuerungsmechanismen zu steuern.

Um effiziente KI-Pipelines für die Echtzeitverarbeitung zu entwickeln, kannst du mit dem Training und der Bereitstellung von Bildverarbeitungsmodellen über die Ultralytics Platform beginnen und so sicherstellen, dass deine Modelle leichtgewichtig und für die Bereitstellung am Randnetzwerk geeignet sind.

from ultralytics import YOLO

# Load an Ultralytics YOLO26 nano model for spatial perception
model = YOLO("yolo26n.pt")

# Perform inference on a video stream to feed data to a sequential model
results = model.predict(source="path/to/video.mp4", stream=True)

for result in results:
    # Extract object coordinates to be passed to an LNN for temporal processing
    boxes = result.boxes.xyxy
    # (Here, 'boxes' would stream into your Liquid Neural Network for control logic)

Die laufende Forschung zu LNNs, die von Gruppen wie Liquid AI vorangetrieben wird, erweitert kontinuierlich die Grenzen der Anpassungsfähigkeit, Effizienz und Interpretierbarkeit von Systemen der künstlichen Intelligenz (AI), wenn diese in der komplexen, dynamischen realen Welt eingesetzt werden.