TinyML

Tiny Machine Learning, allgemein als TinyML bezeichnet, repräsentiert ein spezialisiertes Teilgebiet des maschinellen Lernens, das sich auf die Bereitstellung von Modellen auf Geräten mit extrem niedrigem Stromverbrauch und begrenzten Ressourcen wie Mikrocontrollern und kleinen IoT-Geräten konzentriert. Im Gegensatz zu traditionellen cloudbasierten Systemen, die auf immense Rechenressourcen angewiesen sind, operiert TinyML vollständig am Edge. Indem intelligente Algorithmen lokal auf Geräten mit einer Leistungsbeschränkung ausgeführt werden, die oft nur in Milliwatt gemessen wird, minimiert dieser Ansatz die Latenz, gewährleistet den Datenschutz und reduziert drastisch die Bandbreitennutzung – ein Paradigma, das von Gemeinschaften wie der TinyML Foundation unterstützt und vorangetrieben wird.

Um komplexe neuronale Netzwerkarchitekturen erfolgreich auf stark eingeschränkter Hardware wie ARM Cortex-M Prozessoren unterzubringen, müssen Modelle einer rigorosen Optimierung unterzogen werden. Techniken wie Modellquantisierung – die 32-Bit-Gleitkommagewichte in 8-Bit-Ganzzahlen umwandelt – und Modell-Pruning werden verwendet, um den gesamten Speicherbedarf erheblich zu reduzieren. Heute erleichtern spezialisierte Frameworks wie Googles TensorFlow Lite for Microcontrollers und PyTorths ExecuTorch diese präzisen Komprimierungs-Workflows und bringen fortgeschrittene visuelle und auditive Intelligenz auf alltägliche eingebettete Hardware.

Link to this sectionTinyML vs. Edge AI#

Während TinyML eng mit Edge AI verwandt ist, liegt der Hauptunterschied im Hardwaremaßstab und im Energiebudget. Edge AI ist ein breiterer Begriff, der jede lokale Ausführung von KI-Modellen umfasst und oft Einplatinencomputer wie einen Raspberry Pi oder robuste eingebettete GPUs wie ein NVIDIA Jetson nutzt. Im Gegensatz dazu zielt TinyML spezifisch auf tief eingebettete Systeme ab, die monate- oder jahrelang mit Batterien betrieben werden, wie Arduino-Boards oder STMicroelectronics-Chips. Diese Geräte besitzen typischerweise nur einige hundert Kilobyte RAM, was eine aggressive Modellkomprimierung zwingend erforderlich macht.

Link to this sectionPraxisanwendungen#

Die Fähigkeit, Intelligenz direkt auf minimaler Hardware bereitzustellen, hat zahlreiche praktische Anwendungsfälle in verschiedenen Branchen erschlossen:

• Vorausschauende Wartung in der intelligenten Fertigung: Fabriken setzen Schwingungs- und Audiosensoren mit extrem niedrigem Stromverbrauch direkt an Maschinen ein. Diese TinyML-Sensoren analysieren kontinuierlich Motorfrequenzen, um subtile Anomalien zu erkennen, die auf einen drohenden Ausfall hindeuten, wodurch Wartungsteams Probleme beheben können, bevor kostspielige Ausfallzeiten entstehen.
• Intelligente Präzisionslandwirtschaft: Batteriebetriebene TinyML-Geräte sind über weite Ackerflächen verteilt, um lokale Umweltbedingungen zu überwachen und frühe Anzeichen von Schädlingsbefall oder Krankheiten mithilfe einfacher Kameramodule zu erkennen, wobei sie lediglich leichtgewichtige Warnungen statt schwerer Bilddateien übertragen.
• Akustische Überwachung im Wildtierschutz: Forscher nutzen versteckte akustische Sensor-Arrays, die von TinyML betrieben werden, um die spezifischen Geräusche bedrohter Arten oder illegaler Abholzungsaktivitäten (wie Kettensägen) in dichten Wäldern zu erkennen. Diese Geräte werden mit Solarstrom oder Batterien betrieben, analysieren Audio lokal und lösen sofort weitreichende Warnmeldungen aus.

Link to this sectionModelle für TinyML exportieren#

Die Vorbereitung eines Modells für einen Mikrocontroller erfordert eine strikte Exportformatierung. Mit Ultralytics YOLO26 können Entwickler robuste Objekterkennungs-Pipelines erstellen und diese für eingebettete Ziele komprimieren. Du kannst dein Dataset und deine Modellversionierung nahtlos auf der Ultralytics Platform verwalten, bevor du lokal exportierst. Die native TFLite-Integration ermöglicht die mühelose Konvertierung in die für Mikrocontroller erforderlichen 8-Bit-Ganzzahlformate und ergänzt andere hardwarespezifische Modellbereitstellungsoptionen wie Apples CoreML, Googles Edge TPU und NVIDIAs TensorRT.

Das folgende Beispiel zeigt, wie ein leichtgewichtiges YOLO26-Modell exportiert wird, das speziell mit INT8-Quantisierung optimiert wurde, wodurch es für die Bereitstellung auf TinyML-kompatiblen Edge-Plattformen geeignet ist:

from ultralytics import YOLO

# Initialize the lightweight YOLO26 Nano model for edge use cases
model = YOLO("yolo26n.pt")

# Export to TFLite format with INT8 quantization and a reduced image size
# This minimizes the memory footprint and accelerates inference on microcontrollers
model.export(format="tflite", int8=True, imgsz=160)