Vector Quantization

تكميم المتجهات هو تقنية قوية لضغط البيانات وتقطيعها، تُستخدم على نطاق واسع في التعلم الآلي (ML) الحديث ومعالجة الإشارات الرقمية. في جوهرها، تعمل هذه التقنية على تقسيم مجموعة كبيرة من النقاط أو المتجهات المستمرة إلى مجموعات، وتمثيل كل مجموعة بمتجه «نموذجي» واحد، لتشكيل بنية تُعرف مجتمعةً باسم دفتر الرموز. ومن خلال تعيين المتجهات المستمرة عالية الأبعاد إلى إدخالات دفتر الرموز المتقطعة، يمكن للأنظمة تقليل استخدام الذاكرة بدرجة كبيرة، مع الحفاظ على الخصائص الدلالية الأساسية للبيانات من أجل إجراء خفض الأبعاد بفعالية.

دور التقطيع في التعلم العميق#

في التعلم العميق (DL) المعاصر، اشتهر هذا المفهوم بفضل المُرمّز التلقائي التبايني المُكمَّم متجهيًا (VQ-VAE). وعلى خلاف المُرمّزات التلقائية القياسية التي تتعلم فضاءً كامنًا مستمرًا لإجراء استخراج السمات، تتعلم نماذج VQ-VAE تمثيلًا متقطعًا. ويتيح ذلك للنماذج التوليدية التعامل مع الصور أو الصوت أو الفيديو كسلسلة من الرموز المتقطعة، على نحو مشابه لطريقة معالجة نماذج اللغة الكبيرة (LLMs) لمدخلات النصوص. ويمكنك استكشاف الأبحاث التأسيسية حول تعلم التمثيلات المتقطعة لمعرفة كيف مهدت التطبيقات المبكرة الطريق أمام أنظمة الرؤية الحديثة القائمة على الرموز.

التطبيقات الواقعية#

يؤدي تكميم المتجهات دورًا حاسمًا في العديد من تطبيقات الذكاء الاصطناعي الواقعية، حيث تكون الكفاءة والأداء من حيث الذاكرة أمرين بالغي الأهمية:

• الذكاء الاصطناعي التوليدي وضغط الوسائط: من خلال ضغط البيانات المرئية المعقدة في رموز كامنة متقطعة، يتيح تكميم المتجهات توليد الصور والفيديو بكفاءة عالية. وتعمل النماذج التي تعين وحدات البكسل المستمرة إلى رموز متقطعة على تقليل العبء الحسابي بدرجة كبيرة، مما يدعم البنى المتقدمة مثل نماذج الانتشار الكامن.
• استرجاع المتجهات عالي السرعة: لإجراء بحث سريع عن التشابه، يجب على الأنظمة الحديثة الاستعلام عن ملايين التمثيلات. يضغط تكميم المتجهات مجموعات البيانات الضخمة هذه، مما يتيح لمحركات الاسترجاع تنفيذ عمليات بحث سريعة عن أقرب الجيران التقريبيين (ANN)، وهو أمر مفيد للغاية في الذكاء الاصطناعي في قطاع التجزئة وأنظمة توصية المنتجات. اطّلع على دليل OpenAI حول التمثيلات لمزيد من السياق حول التعامل مع البيانات عالية الأبعاد.

التمييز بين المفاهيم ذات الصلة#

يساعد فهم الفروق الدقيقة بين تكميم المتجهات والمصطلحات المشابهة على تصميم بنية فعّالة لـالرؤية الحاسوبية (CV):

• تكميم المتجهات مقابل تكميم النموذج: يشير تكميم النموذج عمومًا إلى تقليل الدقة العددية لأوزان الشبكة العصبية، مثل الانتقال من أعداد الفاصلة العائمة ذات 32 بت إلى أعداد صحيحة ذات 8 بت، لتسريع الاستدلال عند نشر نماذج مثل Ultralytics YOLO26 على الأجهزة. أما تكميم المتجهات، فيجمع متجهات البيانات في مفردات ثابتة من النماذج الأولية المتقطعة.
• تكميم المتجهات مقابل قاعدة بيانات المتجهات: قاعدة بيانات المتجهات هي البنية التحتية الفعلية التي تخزن البيانات عالية الأبعاد. أما تكميم المتجهات فهو تقنية خوارزمية أساسية غالبًا ما تستخدمها قواعد البيانات هذه لتقليل بصمتها من الذاكرة، كما هو موضح بالتفصيل في شرح Qdrant لمعالجة المتجهات.
• تكميم المتجهات مقابل البحث المتجهي: البحث المتجهي هو العملية النشطة للعثور على العناصر المتشابهة استنادًا إلى تقارب المتجهات. ويعمل التكميم كطبقة تحسين بنيوية تجعل تنفيذ هذا البحث ممكنًا حسابيًا على نطاق هائل.

مثال أساسي على التنفيذ#

لمعرفة كيفية تعيين تكميم المتجهات للمدخلات المستمرة إلى رموز متقطعة عمليًا، يمكنك استخدام PyTorch لحساب المسافات الإقليدية والعثور على أقرب نموذج أولي في دفتر رموز مُعرَّف مسبقًا:

import torch

# Define a continuous input batch and a discrete codebook vocabulary
inputs = torch.randn(4, 128)  # 4 input vectors of dimension 128
codebook = torch.randn(10, 128)  # 10 discrete prototype vectors

# Compute distances and find the nearest codebook index for each input
distances = torch.cdist(inputs, codebook)
quantized_indices = torch.argmin(distances, dim=1)

# Retrieve the discrete quantized vectors corresponding to the inputs
quantized_vectors = codebook[quantized_indices]

للاطلاع المتعمق على حساب مسافات الموترات أصلًا وتحسين هذه العمليات، راجع وثائق PyTorch cdist الرسمية.

تحسين سير العمل باستخدام منصة Ultralytics#

يتطلب دمج التمثيلات المحسّنة في مسار المعالجة لديك أدوات قوية. توفر منصة Ultralytics بيئة متكاملة لإعداد بيانات التدريب وتدريب نماذج الرؤية المتقدمة. ومن خلال تبسيط إدارة البيانات وتسهيل نشر النماذج، يستطيع المطورون إنشاء سمات مرئية عالية الجودة مناسبة لتكميم المتجهات بسهولة، مما يؤدي إلى تسريع تطبيقات اكتشاف الأجسام واسترجاع الوسائط على نطاق واسع.