TinyML

Tiny Machine Learning, allgemein als TinyML bezeichnet, ist ein spezialisiertes Teilgebiet des maschinellen Lernens, das sich auf die Bereitstellung von Modellen auf Geräten mit extrem niedrigem Energieverbrauch und begrenzten Ressourcen wie Mikrocontrollern und kleinen IoT-Geräten konzentriert. Im Gegensatz zu herkömmlichen cloudbasierten Systemen, die auf immense Rechenressourcen angewiesen sind, arbeitet TinyML vollständig am Edge. Durch die lokale Ausführung intelligenter Algorithmen auf Geräten mit oft nur in Milliwatt gemessenem Energiebedarf minimiert dieser Ansatz die Latenz, gewährleistet den Datenschutz und reduziert den Bandbreitenverbrauch drastisch – ein Paradigma, das von Gemeinschaften wie der TinyML Foundation unterstützt und weiterentwickelt wird.

Damit komplexe neuronale Netzwerkarchitekturen auf stark eingeschränkter Hardware wie ARM Cortex-M-Prozessoren eingesetzt werden können, müssen Modelle umfassend optimiert werden. Techniken wie die Modellquantisierung, bei der 32-Bit-Gleitkomma-Gewichte in 8-Bit-Ganzzahlen umgewandelt werden, und das Beschneiden von Modellen werden eingesetzt, um den gesamten Speicherbedarf deutlich zu reduzieren. Spezialisierte Frameworks wie Googles TensorFlow Lite for Microcontrollers und das ExecuTorch von PyTorch ermöglichen heute diese präzisen Komprimierungsabläufe und bringen fortschrittliche visuelle und akustische Intelligenz auf alltägliche eingebettete Hardware.

TinyML im Vergleich zu Edge AI#

Obwohl TinyML eng mit Edge AI verbunden ist, liegt der wesentliche Unterschied im Maßstab der Hardware und im verfügbaren Energiebudget. Edge AI ist ein umfassenderer Begriff, der jede lokale Ausführung von KI-Modellen umfasst und häufig Einplatinencomputer wie einen Raspberry Pi oder leistungsfähige eingebettete GPUs wie eine NVIDIA Jetson nutzt. Im Gegensatz dazu richtet sich TinyML speziell an tief eingebettete Systeme, die monatelang oder jahrelang mit Batterien betrieben werden, etwa Arduino-Boards oder Chips von STMicroelectronics. Diese Geräte verfügen typischerweise nur über wenige hundert Kilobyte RAM, weshalb eine aggressive Modellkomprimierung zwingend erforderlich ist.

Anwendungen in der Praxis#

Die Möglichkeit, Intelligenz direkt auf minimaler Hardware bereitzustellen, hat zahlreiche praktische Anwendungsfälle in verschiedenen Branchen ermöglicht:

• Vorausschauende Wartung in der intelligenten Fertigung: Fabriken bringen Vibrations- und Audiosensoren mit extrem niedrigem Energieverbrauch direkt an Maschinen an. Diese TinyML-Sensoren analysieren kontinuierlich Motorfrequenzen, um subtile Anomalien zu erkennen, die auf einen bevorstehenden Ausfall hindeuten, sodass Wartungsteams Probleme beheben können, bevor kostspielige Stillstandszeiten entstehen.
• Intelligente Präzisionslandwirtschaft: Batteriebetriebene TinyML-Geräte werden über weitläufige Anbauflächen verteilt, um lokale Umweltbedingungen zu überwachen und mithilfe einfacher Kameramodule frühe Anzeichen von Schädlingsbefall oder Krankheiten zu erkennen. Dabei übertragen sie nur kompakte Warnmeldungen statt großer Bilddateien.
• Akustische Überwachung zum Schutz von Wildtieren: Forschende setzen versteckte, mit TinyML betriebene akustische Sensorarrays ein, um in dichten Wäldern die charakteristischen Laute bedrohter Arten oder illegale Abholzung (etwa durch Kettensägen) zu erkennen. Die solar- oder batteriebetriebenen Geräte analysieren Audiodaten lokal und lösen sofort Warnmeldungen über große Entfernungen aus.

Modelle für TinyML exportieren#

Die Vorbereitung eines Modells für einen Mikrocontroller erfordert ein strikt festgelegtes Exportformat. Mit Ultralytics YOLO26 können Entwickler robuste Pipelines zur Objekterkennung erstellen und für eingebettete Zielsysteme komprimieren. Datensatz und Modellversionen lassen sich vor dem lokalen Export nahtlos auf der Ultralytics Platform verwalten. Die native TFLite-Integration ermöglicht die mühelose Konvertierung in die für Mikrocontroller erforderlichen 8-Bit-Ganzzahlformate und ergänzt andere hardwarespezifische Optionen zur Modellbereitstellung wie Apples CoreML, Googles Edge TPU und NVIDIAs TensorRT.

Das folgende Beispiel zeigt, wie du ein leichtgewichtiges Ultralytics YOLO26-Modell exportierst, das speziell mit INT8-Quantisierung optimiert wurde und sich dadurch für die Bereitstellung auf TinyML-kompatiblen Edge-Plattformen eignet:

from ultralytics import YOLO

# Initialize the lightweight YOLO26 Nano model for edge use cases
model = YOLO("yolo26n.pt")

# Export to TFLite format with INT8 quantization and a reduced image size
# This minimizes the memory footprint and accelerates inference on microcontrollers
model.export(format="tflite", int8=True, imgsz=160)