Semantic Caching

التخزين المؤقت الدلالي هو تقنية تحسين متقدمة تُستخدم بشكل أساسي في الذكاء الاصطناعي التوليدي ولـ نماذج اللغات الكبيرة (LLMs)، حيث تقوم بتخزين واسترجاع الردود بناءً على معنى (دلالة) الاستعلام بدلاً من نصه الحرفي. ومن خلال تحديد ما إذا كان المطالبة الجديدة تطرح نفس السؤال الجوهري الذي تمت الإجابة عليه مسبقاً، يتجاوز التخزين المؤقت الدلالي الحاجة إلى استدعاء نموذج الذكاء الاصطناعي مرة أخرى، مما يقلل بشكل كبير من وقت المعالجة و تكاليف API.

Link to this sectionكيف يعمل التخزين المؤقت الدلالي#

على عكس التخزين المؤقت التقليدي الذي يتطلب تطابقاً نصياً مطابقاً، يقوم التخزين المؤقت الدلالي بتحويل الاستعلامات الواردة إلى متجهات عددية عالية الأبعاد تُعرف بـ التضمينات. عندما يرسل المستخدم مطالبة، تقوم الأنظمة التي تستخدم التخزين المؤقت الدلالي عبر Redis أو مخازن البيانات في الذاكرة المماثلة بإجراء بحث متجه لمقارنة المتجه الجديد بالمتجهات المخزنة مسبقاً داخل قاعدة بيانات متجهة.

تعتمد هذه المقارنة على مقاييس المسافة الرياضية، وأكثرها شيوعاً هو تشابه جيب التمام. إذا تجاوزت درجة التشابه بين الاستعلام الجديد والاستعلام المخزن عتبة محددة مسبقاً (على سبيل المثال، 0.95)، يتم تسجيل ذلك كـ "نجاح في التخزين المؤقت" (cache hit). يعيد النظام الرد المخزن فوراً، متخطياً محرك الاستدلال بالكامل. إذا انخفضت الدرجة عن العتبة، يؤدي ذلك إلى "فشل في التخزين المؤقت" (cache miss)، مما يدفع النموذج لإنشاء رد جديد وتخزين زوج التضمين-الإجابة الجديد للتفاعلات المستقبلية. يعد هذا سير العمل فعالاً للغاية في البنى السحابية الحديثة لتوسيع نطاق تطبيقات الذكاء الاصطناعي.

Link to this sectionتطبيقات العالم الحقيقي#

يُعد التخزين المؤقت الدلالي أمراً بالغ الأهمية لنشر حلول الذكاء الاصطناعي الفعالة من حيث التكلفة عبر مجالات مختلفة.

• روبوتات الدردشة لدعم العملاء: في مكتب دعم تكنولوجيا المعلومات، قد يطرح مئات المستخدمين تنويعات لنفس السؤال (على سبيل المثال، "كيف أعيد تعيين كلمة المرور الخاصة بي؟" مقابل "خطوات نسيان كلمة المرور"). يدرك التخزين المؤقت الدلالي أن هذه النوايا متطابقة، مما يضمن أن النموذج يقوم بحساب الإجابة مرة واحدة فقط. وهذا يقلل بشكل كبير من زمن استجابة الاستدلال ويقلل من استهلاك الرموز لـ حلول إدارة API.
• الاكتشاف المرئي و RAG: في خطوط المعالجة متعددة الوسائط، تستخدم المنصات استخراج الميزات لتخزين تضمينات الصور المرجعية مؤقتاً. عندما يقوم المستخدم بتحميل صورة للعثور على عناصر متشابهة بصرياً، يمكن للنظام استرداد النتائج المخزنة مؤقتاً والمتطابقة دلالياً على الفور، مما يسرع نظام التوصيات المرئية بسرعة دون الحاجة إلى تشفير المدخلات المرئية الكبيرة بشكل متكرر. يقوم المطورون غالباً بدمج أدوات مثل LangChain لتنظيم طبقات التخزين المؤقت هذه.

Link to this sectionالتمييز بين مصطلحات التخزين المؤقت ذات الصلة#

لفهم تحسين الذكاء الاصطناعي بشكل كامل، من المفيد التمييز بين التخزين المؤقت الدلالي وأشكال أخرى من إدارة الذاكرة:

• مقابل التخزين المؤقت للمطالبات: يتضمن التخزين المؤقت للمطالبات حفظ الحالات الرياضية المحسوبة مسبقاً لـ سياق ثابت (مثل بادئة مستند طويل) أثناء جلسة نشطة لتسريع الاستعلامات اللاحقة. بينما يقوم التخزين المؤقت الدلالي بتخزين المخرجات النصية أو المرئية النهائية لتفاعل كامل لخدمة نوايا جديدة تماماً ولكنها متطابقة.
• مقابل KV Cache: يُعد KV Cache آلية ذاكرة منخفضة المستوى داخل بنية Transformer التي تحفظ حالات الانتباه الوسيطة أثناء توليد النص رمزاً برمز لتسهيل الاستدلال في الوقت الفعلي. يعمل التخزين المؤقت الدلالي في طبقة التطبيق، حيث يخزن تبادل المدخلات والمخرجات بالكامل قبل أن يصل إلى طبقات النموذج.

Link to this sectionمحاكاة التخزين المؤقت الدلالي في الرؤية الحاسوبية#

يوضح مقتطف Python التالي كيفية محاكاة الآلية الأساسية للتخزين المؤقت الدلالي باستخدام PyTorch وحزمة ultralytics. من خلال حساب التشابه بين صورة مخزنة مؤقتاً سابقاً وصورة استعلام جديدة باستخدام نموذج تصنيف Ultralytics YOLO26، يمكن للنظام تحديد ما إذا كان تمرير الاستدلال الكامل ضرورياً.

import torch
from ultralytics import YOLO

# Load an Ultralytics YOLO26 classification model for embedding generation
model = YOLO("yolo26n-cls.pt")

# Extract the embedding for a previously 'cached' reference image
cached_embed = model.embed("reference_shoe.jpg")[0].flatten()

# Extract the embedding for a new user query image
new_embed = model.embed("user_uploaded_shoe.jpg")[0].flatten()

# Calculate cosine similarity to check for a semantic cache hit
similarity = torch.nn.functional.cosine_similarity(cached_embed, new_embed, dim=0)

# Apply a threshold to determine if the images are semantically equivalent
if similarity > 0.90:
    print(f"Cache hit! Similarity: {similarity.item():.2f}. Returning cached response.")
else:
    print(f"Cache miss! Similarity: {similarity.item():.2f}. Running full inference.")

بالنسبة للفرق التي تتطلع إلى إدارة مجموعات البيانات ونشر نماذج رؤية حاسوبية عالية التحسين يمكنها التكامل بسلاسة مع بنيات التخزين المؤقت المتقدمة، توفر منصة Ultralytics بيئة بديهية شاملة للتدريب والتتبع وتقديم النماذج على نطاق واسع.