TinyML

Yaygın olarak TinyML olarak adlandırılan küçük makine öğrenimi, modelleri mikrodenetleyiciler ve küçük IoT cihazları gibi ultra düşük güç tüketimli, kaynakları kısıtlı cihazlarda dağıtmaya odaklanan, makine öğreniminin uzmanlaşmış bir alt alanını temsil eder. Muazzam hesaplama kaynaklarına dayanan geleneksel bulut tabanlı sistemlerin aksine TinyML tamamen uçta çalışır. Akıllı algoritmaları, güç kısıtları genellikle yalnızca miliwattlarla ölçülen cihazlarda yerel olarak çalıştıran bu yaklaşım; gecikmeyi en aza indirir, veri gizliliğini güvence altına alır ve bant genişliği kullanımını büyük ölçüde azaltır. Bu paradigma, TinyML Foundation gibi topluluklar tarafından desteklenip geliştirilmektedir.

Karmaşık sinir ağı mimarilerini ARM Cortex-M işlemciler gibi son derece kısıtlı donanımlara başarıyla sığdırmak için modellerin titiz bir optimizasyondan geçirilmesi gerekir. 32 bit kayan noktalı ağırlıkları 8 bit tam sayılara dönüştüren model niceleme ve model budama gibi teknikler, toplam bellek ayak izini önemli ölçüde azaltmak için kullanılır. Günümüzde Google'ın TensorFlow Lite for Microcontrollers ve PyTorch'un ExecuTorch gibi özel çerçeveleri, bu hassas sıkıştırma iş akışlarını kolaylaştırarak gelişmiş görsel ve işitsel zekâyı günlük gömülü donanımlara taşır.

TinyML ve Edge AI karşılaştırması#

TinyML, Edge AI ile yakından ilişkili olsa da temel fark donanım ölçeğinde ve güç bütçesinde yatar. Edge AI, bir Raspberry Pi gibi tek kartlı bilgisayarlar veya NVIDIA Jetson gibi güçlü gömülü GPU'lar kullanarak yapay zekâ modellerinin yerel olarak çalıştırılmasını kapsayan daha geniş bir terimdir. Buna karşılık TinyML, Arduino kartları veya STMicroelectronics yongaları gibi aylarca ya da yıllarca pille çalışan, derinlemesine gömülü sistemleri özellikle hedefler. Bu cihazlar genellikle yalnızca birkaç yüz kilobayt RAM'e sahiptir; bu da agresif model sıkıştırmayı zorunlu kılar.

Gerçek Dünya Uygulamaları#

Zekâyı doğrudan minimum donanıma dağıtabilme yeteneği, çeşitli sektörlerde çok sayıda pratik kullanım alanının önünü açmıştır:

• Akıllı Üretimde Kestirimci Bakım: Fabrikalar, ultra düşük güç tüketimli titreşim ve ses sensörlerini doğrudan makinelerin üzerine yerleştirir. Bu TinyML sensörleri, yaklaşan arızaya işaret eden ince anormallikleri tespit etmek için motor frekanslarını sürekli analiz eder ve bakım ekiplerinin maliyetli duruşlar meydana gelmeden önce sorunları gidermesine olanak tanır.
• Akıllı Hassas Tarım: Pil ile çalışan TinyML cihazları, yerel çevre koşullarını izlemek ve temel kamera modüllerini kullanarak haşere istilalarının veya hastalıkların erken belirtilerini tespit etmek için geniş ekim alanlarına dağıtılır; ağır görüntü dosyaları yerine yalnızca hafif uyarılar iletilir.
• Yaban Hayatı Koruma için Ses İzleme: Araştırmacılar, yoğun ormanlarda nesli tükenmekte olan türlerin kendine özgü seslerini veya yasa dışı ağaç kesme faaliyetlerini (motorlu testereler gibi) tespit etmek için TinyML ile çalışan, gizlenmiş akustik sensör dizilerini kullanır. Güneş enerjisiyle veya pille çalışan bu cihazlar, sesleri yerel olarak analiz eder ve uzun menzilli uyarıları anında tetikler.

TinyML için Model Dışa Aktarma#

Bir modeli mikrodenetleyici için hazırlamak, katı dışa aktarma biçimlendirme kuralları gerektirir. Geliştiriciler, Ultralytics YOLO26 kullanarak güçlü nesne algılama iş akışları oluşturabilir ve bunları gömülü hedefler için sıkıştırabilir. Yerel olarak dışa aktarmadan önce veri kümeni ve model sürümlerini Ultralytics Platform üzerinde sorunsuz bir şekilde yönetebilirsin. Yerel TFLite entegrasyonu, mikrodenetleyiciler için gereken 8 bit tam sayı biçimlerine zahmetsizce dönüştürme olanağı sunar ve Apple'ın CoreML, Google'ın Edge TPU ve NVIDIA'nın TensorRT gibi donanıma özgü diğer model dağıtım seçeneklerini tamamlar.

Aşağıdaki örnek, INT8 nicelemesiyle özel olarak optimize edilmiş ve TinyML uyumlu uç platformlarda dağıtıma uygun hâle getirilmiş hafif bir Ultralytics YOLO26 modelinin nasıl dışa aktarılacağını gösterir:

from ultralytics import YOLO

# Initialize the lightweight YOLO26 Nano model for edge use cases
model = YOLO("yolo26n.pt")

# Export to TFLite format with INT8 quantization and a reduced image size
# This minimizes the memory footprint and accelerates inference on microcontrollers
model.export(format="tflite", int8=True, imgsz=160)