Half-Precision

الدقة النصفية (Half-precision)، والتي يُشار إليها غالباً بـ FP16، هي تنسيق بيانات بنقطة عائمة يشغل 16 بتاً من ذاكرة الحاسوب، بخلاف التنسيق القياسي أحادي الدقة (FP32) الذي يستخدم 32 بتاً. في سياق الذكاء الاصطناعي والتعلم الآلي، تُعد الدقة النصفية تقنية تحسين بالغة الأهمية تُستخدم لتسريع تدريب النماذج والاستدلال مع تقليل استهلاك الذاكرة بشكل كبير. من خلال تخزين القيم العددية - مثل model weights الخاصة بالشبكات العصبية والتدرجات - باستخدام عدد أقل من البتات، يمكن للمطورين ملاءمة النماذج الأكبر حجماً على GPU graphics processing units أو تشغيل النماذج الحالية بشكل أسرع بكثير. يُعد مكسب الكفاءة هذا أساسياً لن نشر البنى الحديثة والمعقدة مثل YOLO26 على الأجهزة محدودة الموارد دون التضحية بدقة جوهرية.

آليات تنسيقات الفاصلة العائمة#

لفهم الدقة النصفية، من المفيد مقارنتها بالدقة الكاملة. يخصص الرقم القياسي ذو النقطة العائمة 32 بتاً (FP32) المزيد من البتات للمُّس أس والكسر العشري، مما يوفر نطاقاً ديناميكياً واسعاً للغاية ودقة عددية عالية. ومع ذلك، تشتهر نماذج التعلم العميق بمقاومتها للأخطاء العددية الصغيرة. غالباً ما تستطيع Neural networks التعلم بفعالية حتى مع النطاق الديناميكي والدقة المنخفضين اللذين يوفرهما تنسيق 16 بتاً.

الإنْتِقَال إلى الدقة النصفية يقلل من متطلبات نطاق تردد الذاكرة إلى النصف. يتيح ذلك batch sizes أكبر أثناء التدريب، مما يمكن أن يثبت تحديثات التدرج ويسرع training process العام. تسارعات الأجهزة الحديثة، مثل نوى Tensor الخاصة بـ NVIDIA، مُحسَّنة خصيصاً لإجراء عمليات ضرب المصفوفات بتنسيق FP16 بسرعات أعلى بكثير من FP32.

الفوائد الرئيسية في سير عمل الذكاء الاصطناعي#

يوفر اعتماد نصف الدقة العديد من المزايا الملموسة لممارسي الذكاء الاصطناعي:

• بصمة ذاكرة مخفضة: تتطلب النماذج نصف ذاكرة VRAM (ذاكرة الوصول العشوائي للفيديو)، مما يسمح للمطورين بتدريب شبكات أكبر أو استخدام training data عالية الدقة على نفس الأجهزة.
• استدلال أسرع: بالنسبة للتطبيقات في الوقت الفعلي، مثل autonomous vehicles أو تحليل الفيديو، يمكن لـ FP16 مضاعفة الإنتاجية (الإطارات في الثانية)، مما يقلل من inference latency.
• كفاءة الطاقة: تتطلب معالجة بتات أقل طاقة أقل، وهو أمر بالغ الأهمية لأجهزة edge AI والهواتف المحمولة حيث يُعد عمر البطارية قيداً أساسياً.
• التدريب بدقة مختلطة: تستخدم العديد من الأطر الحديثة mixed precision، حيث يحتفظ النموذج بنسخة رئيسية من الأوزان بتنسيق FP32 لضمان الاستقرار ولكنه ينفذ العمليات الحسابية الثقيلة بتنسيق FP16. يوفر هذا "أفضل ما في العالم من الجانبين" - السرعة واستقرار التقارب.

تطبيقات العالم الحقيقي#

تنتشر نصف الدقة بشكل واسع في أنظمة الذكاء الاصطناعي المخصصة للإنتاج. وإليك مثالان ملموسان:

1. اكتشاف الكائنات في الوقت الفعلي على الأجهزة الطرفية: ضع في اعتبارك نظام كاميرا أمان يعمل بـ Ultralytics YOLO26 لاكتشاف المتسللين. يتيح نشر النموذج بتنسيق FP16 تشغيله بسلاسة على شريحة مدمجة مثل NVIDIA Jetson أو Raspberry Pi AI Kit. يضمن عبء العمل الحسابي المخفض قدرة النظام على معالجة تدفقات الفيديو في وضع real-time inference دون تأخير، وهو أمر حيوي للحصول على تنبيهات في الوقت المناسب.

2. نشر نماذج اللغات الكبيرة (LLM): تحتوي نماذج الذكاء الاصطناعي التوليدي، مثل GPT-4 أو متغيرات Llama، على مليارات المعلمات. يتطلب تحميل هذه النماذج بالدقة الكاملة (FP32) كميات هائلة من ذاكرة الخادم والتي غالباً ما تكون باظة الثمن. من خلال تحويل هذه النماذج إلى FP16 (أو حتى تنساقات أدنى)، يمكن لمقدمي خدمات السحابة تقديم foundation models لآلاف المستخدمين في وقت واحد، مما يجعل خدمات مثل برامج الدردشة الآلية وتوليد المحتوى التلقائي قابلة للتطبيق اقتصادياً.

نصف الدقة مقابل التكميم#

بينما تهدف كلتا التقنيتين إلى تقليل حجم النموذج، فمن المهم التمييز بين "الدقة النصفية" وmodel quantization.

• الدقة النصفية (FP16): يقلل عرض البت من 32 إلى 16 ولكنه يحافظ على البيانات كرقم ذي نقطة عائمة. وهو يحتفظ بنطاق ديناميكي معقول وغالباً ما يكون الخيار الافتراضي لـ GPU training والاستدلال.
• التقييس أو التكميم (INT8): يحول الأرقام ذات النقطة العائمة إلى أعداد صحيحة (عادةً 8 بت). يوفر هذا سرعة أكبر وتوفيراً في الذاكرة ولكنه قد يؤدي أحياناً إلى انخفاض أكثر وضوحاً في accuracy إذا لم يُنفذ بعناية (على سبيل المثال، عبر quantization-aware training). يُعد FP16 أكثر أماناً بشكل عام للحفاظ على أداء النموذج، بينما يُستخدم INT8 للتحسين الشديد.

تنفيذ نصف الدقة مع Ultralytics#

مكتبة ultralytics تجعل استخدام الدقة النصفية أمراً مباشراً. أثناء التنبؤ، يمكن للنموذج التبديل تلقائياً إلى الدقة النصفية إذا كان الجهاز يدعمها، أو يمكن طلبها صراحةً.

إليك مثال بلغة Python يوضح كيفية تحميل نموذج YOLO26 وإجراء الاستدلال باستخدام الدقة النصفية. لاحظ أن التشغيل في half=True يتطلب عادةً وحدة معالجة رسومات تدعم CUDA.

import torch
from ultralytics import YOLO

# Check if CUDA (GPU) is available, as FP16 is primarily for GPU acceleration
device = "cuda" if torch.cuda.is_available() else "cpu"

# Load the latest YOLO26n model
model = YOLO("yolo26n.pt")

# Run inference on an image with half-precision enabled
# The 'half=True' argument tells the engine to use FP16
results = model.predict("https://ultralytics.com/images/bus.jpg", device=device, half=True)

# Print the device and precision status
print(f"Inference device: {results[0].orig_img.shape}, Speed: {results[0].speed}")

بالنسبة للمستخدمين الذين يديرون مجموعات البيانات وخطوط أنابيب التدريب، تتعامل Ultralytics Platform مع العديد من هذه التحسينات تلقائياً في السحابة، مما يبسط الانتقال من التعليق التوضيحي إلى نشر النموذج المُحسَّن.

مزيد من القراءة والموارد#

لاستكشاف المزيد حول التنسيقات العددية وتأثيرها على الذكاء الاصطناعي، راجع NVIDIA Deep Learning Performance Documentation فيما يتعلق بنوى Tensor. للحصول على فهم أوسع لكيفية ملاءمة هذه التحسينات لدورة حياة التطوير، اقرأ عن machine learning operations (MLOps).

بالإضافة إلى ذلك، قد يدرس المهتمون بالمفاضلات بين استراتيجيات التحسين المختلفة pruning، والذي يزيل الاتصالات بدلاً من تقليل دقة البت، أو استكشاف IEEE Standard for Floating-Point Arithmetic (IEEE 754) للمواصفات التقنية للحساب الرقمي. يساعد فهم هذه الأساسيات في اتخاذ قرارات مستنيرة عند تصدير النماذج إلى تنسيقات مثل ONNX أو TensorRT لبيئات الإنتاج.