FP4

FP4 هي عائلة من تنسيقات الفاصلة العائمة ذات 4 بت تُستخدم لضغط نماذج الذكاء الاصطناعي وتسريعها من خلال تكميم النماذج. وتمثّل عادةً كل قيمة باستخدام بت إشارة واحد، وبتَّي أسّ، وبت مانتيسا واحد، ويُطلق على ذلك E2M1. وبالمقارنة مع FP16، يمكن لـ FP4 تقليل حركة البيانات في الذاكرة ومساحة التخزين بدرجة كبيرة، ما يساعد وحدات GPU المدعومة على معالجة النماذج الكبيرة بسرعة أكبر. ويُعد تنسيق NVFP4 منخفض الدقة من NVIDIA تطبيقًا بارزًا صُمم للأجهزة من جيل Blackwell. (developer.nvidia.com)

كيفية عمل FP4#

نظرًا إلى أنماط البتات الممكنة البالغ عددها 16 فقط، لا يستطيع FP4 الأساسي تمثيل النطاق الواسع للقيم الموجودة في الشبكات العصبية بدقة. لذلك، تقسم التطبيقات الحديثة الموترات إلى كتل صغيرة وتخزن مقياسًا مشتركًا لكل كتلة. فعلى سبيل المثال، يستخدم مخطط تكميم NVFP4 من NVIDIA كتلًا تضم 16 قيمة من نوع E2M1، بينما تحدد مواصفة OCP لتنسيقات القياس المجهري المفتوحة تنسيق MXFP4 مع بيانات وصفية للقياس المجهري.

أثناء الحساب، يقوم محرك الاستدلال بتكميم القيم ذات الدقة الأعلى، وينفذ عمليات المصفوفات المدعومة باستخدام FP4، ويعيد النتائج بدقة أعلى عند الضرورة. ويستخدم دعم الاستدلال بـ NVFP4 في TorchAO حاليًا تكميمًا ديناميكيًا للتنشيطات وتحجيمًا مزدوجًا للأوزان والتنشيطات. (docs.nvidia.com)

مقارنة FP4 بالتنسيقات ذات الصلة#

• FP16 أو الدقة النصفية: يوفر نطاقًا عدديًا أوسع بكثير، ويكون نشره أسهل عمومًا، لكنه يستخدم أربعة أضعاف عدد البتات لكل قيمة.
• FP8: يوفر عادةً دقة واستقرارًا أفضل أثناء التدريب مقارنةً بـ FP4، مع احتياجه إلى مساحة تخزين تعادل ضعفي المساحة تقريبًا.
• BF16: يُستخدم عادةً للتدريب لأن نطاق الأسّ الكبير فيه يقلل مخاطر تجاوز السعة. وأظهرت دراسة «FP4 حتى النهاية» لعام 2025 أن التدريب باستخدام FP4 المُقاس بعناية يمكن أن يقترب من أداء BF16.
• INT4: يستخدم مستويات صحيحة بدلًا من الأسس ذات الفاصلة العائمة. ويمكن لـ FP4 تمثيل القيم عبر مقادير مختلفة بصورة أكثر طبيعية، بينما قد يكون INT4 مناسبًا لضغط الأوزان فقط.
• NVFP4 مقابل MXFP4: يستخدم NVFP4 كتلًا أصغر ومقاييس أعلى دقة، مما يحسن الدقة عادةً مقابل تكلفة متواضعة للبيانات الوصفية.

قد يشير FP4 أيضًا إلى مقبس معالج AMD FP4 لا علاقة له بذلك. وفي مجال الذكاء الاصطناعي، يعني FP4 العمليات الحسابية بالفاصلة العائمة ذات 4 بت، وليس حزمة معالج الحاسوب المحمول الأقدم.

التطبيقات الواقعية#

1. استدلال الصور التوليدية: عرضت NVIDIA توليد الصور باستخدام FP4 على وحدات GPU من سلسلة RTX 50، مما يقلل استخدام الذاكرة ويسرّع أحمال الانتشار المستخدمة في الذكاء الاصطناعي التوليدي.

2. تدريب النماذج الكبيرة وخدمتها: استخدمت أنظمة Blackwell NVFP4 في تدريب MLPerf لتحسين معدل معالجة نماذج اللغة الكبيرة. ويمكن لـ FP4 أن يفيد بالمثل أنظمة الرؤية الحاسوبية المستقبلية المقيدة بالذاكرة، والتي تتطلب استدلالًا في الوقت الفعلي. (developer.nvidia.com)

استخدام FP4 بفعالية#

اعتبارًا من يوليو 2026، تتطلب عمليات المصفوفات باستخدام FP4 المُسرَّعة عتاديًا وحدات GPU من NVIDIA Blackwell أو أحدث؛ إذ يعتمد H100 على Hopper ولا يوفر تسريعًا أصليًا لـ FP4. ينبغي للمطورين التحقق من التوافق من خلال مصفوفة دعم الأجهزة في TensorRT، والتحقق من الدقة بعد التحويل، والنظر في التدريب المُراعي للتكميم باستخدام سير عمل TorchAO QAT عندما يتسبب التكميم بعد التدريب في تدهور مفرط. (docs.nvidia.com)

توفر Ultralytics حاليًا تصديرًا جاهزًا للإنتاج باستخدام FP16 وINT8 لنموذج YOLO26. وينشئ سير العمل المماثل هذا محرك TensorRT مُحسّنًا:

from ultralytics import YOLO

model = YOLO("yolo26n.pt")
engine = model.export(format="engine", quantize=16)
results = YOLO(engine).predict("https://ultralytics.com/images/bus.jpg")

يوضح تكامل Ultralytics مع TensorRT خيارات الدقة المدعومة، بينما يساعد وضع قياس أداء YOLO على مقارنة الدقة وزمن الاستجابة. وللنشر التجريبي باستخدام FP4، اتبع أفضل ممارسات الدقة في TensorRT-RTX وتقنيات خاصة بالتنسيق مثل Micro-Rotated GPTQ، إذ لا يكون FP4 تلقائيًا أكثر دقة أو سرعة من سير عمل INT4 أو FP8 المحسّن جيدًا.