TinyML

TinyML (التعلّم الآلي فائق الصغر) هو تشغيل نماذج التعلّم الآلي على المتحكمات الدقيقة والشرائح الأخرى فائقة الانخفاض في استهلاك الطاقة، وعادةً ما تكون بذاكرة لا تتجاوز بضع مئات من الكيلوبايتات، ومن دون نظام تشغيل، وبميزانية طاقة تُقاس بالملي واط. يتيح تشغيل الاستدلال على شريحة بجوار المستشعر مباشرةً للأجهزة العاملة بالبطارية الاستماع إلى محيطها أو مشاهدته أو استشعاره باستمرار لأشهر أو سنوات، مع إرسال النتائج فقط، مثل «سُمعت الكلمة المفتاحية» أو «اهتزاز الآلة غير طبيعي»، بدلًا من البيانات الخام. وهذا يُبقي زمن الاستجابة منخفضًا والبيانات خاصة، ويوفّر طاقة الاتصال اللاسلكي التي يتطلبها البث. وكانت المنظمة المجتمعية لهذا المجال، EDGE AI FOUNDATION، تُعرف سابقًا باسم tinyML Foundation.

كيفية ملاءمة النماذج للمتحكم الدقيق#

يخزّن المتحكم الدقيق أوزان النموذج في ذاكرة فلاش إلى جانب البرنامج، ويحتفظ بالتفعيلات الجاري حسابها في SRAM، التي تكون عادةً العامل الأكثر تقييدًا. يقلّص تكميم النموذج إلى أعداد صحيحة من 8 بت حجم الأوزان إلى ربع حجمها بصيغة FP32، ويستبدل الحساب بالفاصلة العائمة بعمليات حسابية صحيحة تنفذها النوى الصغيرة بكفاءة. وتقلّص البنى المدمجة المبنية على التفافات قابلة للفصل عميقًا وتقليم النموذج ودقة الإدخال الأقل بقية المكونات، كما يستطيع البحث عن البنية العصبية تصميم شبكات تناسب ذاكرة شريحة معينة. جمع MCUNet بين هذا البحث وبيئة تشغيل تراعي الذاكرة، ليحقق دقة أعلى من 70% في أعلى 1 من ImageNet على متحكم دقيق جاهز للاستخدام. ويُترجم النموذج المكتمل إلى البرنامج الثابت، ثم ينفذه مفسّر صغير أو شيفرة مترجمة:

يمكن تقدير الميزانية قبل استخدام أي عتاد. تحسب هذه الشبكة لاكتشاف الكلمات المفتاحية، وهي شبكة CNN ذات التفافات قابلة للفصل عميقًا من النوع المستخدم في التعرّف على الأوامر المنطوقة من السمات الصوتية، بايتًا واحدًا لكل وزن INT8 لذاكرة الفلاش، وأكبر زوج من تفعيلات الإدخال والإخراج لذاكرة SRAM:

import torch
from torch import nn

# A depthwise-separable CNN for keyword spotting on 49x10 MFCC audio features
model = nn.Sequential(
    nn.Conv2d(1, 64, (10, 4), stride=2, padding=(5, 1)),
    nn.ReLU(),
    nn.Conv2d(64, 64, 3, padding=1, groups=64),
    nn.Conv2d(64, 64, 1),
    nn.ReLU(),
    nn.Conv2d(64, 64, 3, padding=1, groups=64),
    nn.Conv2d(64, 64, 1),
    nn.ReLU(),
    nn.AdaptiveAvgPool2d(1),
    nn.Flatten(),
    nn.Linear(64, 12),
)

# At INT8, flash stores one byte per weight and SRAM holds activations in flight
weights = sum(p.numel() for p in model.parameters())
x, peak = torch.randn(1, 1, 49, 10), 0
for layer in model:
    y = layer(x)
    peak = max(peak, x.numel() + y.numel())  # a layer's input and output coexist
    x = y
print(f"Flash: {weights / 1024:.1f} KB, peak SRAM: {peak / 1024:.1f} KB")

يطبع البرنامج 12.7 KB من ذاكرة الفلاش و15.6 KB كحد أقصى لذاكرة SRAM، وهما جزء ضئيل من 1 MB من الفلاش و256 KB من RAM المتاحين في المتحكم الدقيق nRF52840 بلوحة Arduino Nano 33 BLE Sense، ما يترك مساحة كافية لمسار معالجة الصوت وبيئة التشغيل نفسها.

بيئات التشغيل والعتاد#

• LiteRT للمتحكمات الدقيقة: لا يحتاج مفسّر Google، المعروف سابقًا باسم TensorFlow Lite for Microcontrollers، إلى نظام تشغيل أو مكتبة قياسية أو تخصيص ديناميكي للذاكرة، وتناسب بيئة التشغيل الأساسية منه 16 KB على Arm Cortex-M3.
• ExecuTorch: بيئة التشغيل على الجهاز من PyTorch، ويشغّل خلفها البرمجي Arm Ethos-U النماذج المكمّمة على وحدات NPU من Arm Ethos-U، الموجودة بجوار أنوية Cortex-M في كثير من الشرائح منخفضة الطاقة.
• Arm Cortex-M: عائلة المعالجات الموجودة في معظم المتحكمات الدقيقة التي تشغّل TinyML، بدءًا من أجزاء Cortex-M0+ ذات بضعة كيلوبايتات من RAM، وصولًا إلى Cortex-M55 وCortex-M85 المزودين بتعليمات متجهية للتعلّم الآلي.
• Coral NPU: تصميم مفتوح المصدر لمسرّع RISC-V من Google، أُعلن عنه في أكتوبر 2025 للأجهزة القابلة للارتداء الدائمة التشغيل، ويستهدف نحو 512 مليار عملية في الثانية مع استهلاك بضعة ملي واط.

TinyML مقابل Edge AI#

يشمل الذكاء الاصطناعي الطرفي أي استدلال على الجهاز الذي تُنتج عليه البيانات، بما في ذلك الهواتف وأجهزة الحاسوب أحادية اللوحة مثل Raspberry Pi، ووحدات GPU المضمّنة مثل NVIDIA Jetson، التي تمتلك ذاكرة بسعة غيغابايتات وتستهلك طاقة بالواط. أما TinyML فهو أصغر فئاته، إذ تُقاس النماذج فيه بالكيلوبايتات. وتتغير الحدود باستمرار مع تزويد المتحكمات الدقيقة بمسرّعات: إذ تجمع STM32N6 من ST بين Cortex-M55 ووحدة معالجة عصبية بقدرة 600 GOPS وذاكرة RAM بسعة 4.2 MB. ويحتوي أصغر كاشف Ultralytics YOLO26 على 2.4 مليون معلمة، أي نحو 2.4 MB بصيغة INT8، لذا يستهدف تصدير LiteRT بصيغة INT8 (format="litert", quantize=8) الفئة الأعلى من TinyML التقليدي: الهواتف وأجهزة الحاسوب أحادية اللوحة واللوحات المزودة بمسرّعات.

تطبيقات TinyML#

• اكتشاف الكلمات المفتاحية: تستمع كواشف كلمات التنبيه الدائمة التشغيل في الهواتف وسماعات الأذن ومكبرات الصوت الذكية إلى عبارة واحدة على نواة منخفضة الطاقة، ولا توقظ المعالج الرئيسي إلا عند سماعها.
• الصيانة التنبؤية: تتعلم مستشعرات الاهتزاز والصوت المثبتة على المحركات والمضخات أنماط التشغيل الطبيعية، وترصد الحالات الشاذة التي تسبق الأعطال، وتعمل لسنوات على البطارية.
• رصد الحياة البرية والبيئة: تتعرف المستشعرات الصوتية العاملة بالطاقة الشمسية أو البطارية على نداءات الحيوانات أو المناشير في الغابات النائية، وترسل تنبيهات قصيرة عبر الاتصالات اللاسلكية بعيدة المدى.
• كلمات التنبيه المرئية: تحدد الكاميرات منخفضة الدقة على المتحكمات الدقيقة ما إذا كان شخص ما ضمن مجال الرؤية، ولا توقظ نظامًا أكبر إلا عند وجوده.

يقيس MLPerf Tiny، وهو معيار MLCommons لهذه الفئة من العتاد، الدقة وزمن الاستجابة والطاقة في مهام مستمدة من هذه التطبيقات، مثل اكتشاف الكلمات المفتاحية وكلمات التنبيه المرئية وتصنيف الصور في CIFAR-10 واكتشاف الحالات الشاذة في أصوات الآلات.