استكشف أساسيات نماذج اللغة الكبيرة (LLMs). تعرف على بنية Transformer، والترميز، وكيفية دمج نماذج اللغة الكبيرة مع Ultralytics .
نموذج اللغة الكبيرة (LLM) هو نوع متطور من الذكاء الاصطناعي (AI) الذي تم تدريبه على مجموعات بيانات ضخمة لفهم اللغة البشرية وتوليدها ومعالجتها. تمثل هذه النماذج تطوراً هاماً في التعلم العميق (DL)، حيث تستخدم شبكات عصبية بمليارات المعلمات لالتقاط الأنماط اللغوية المعقدة والقواعد النحوية والعلاقات الدلالية. في جوهرها، تعتمد معظم نماذج LLM الحديثة على بنية Transformer، التي تسمح لها بمعالجة تسلسلات البيانات بشكل متوازٍ بدلاً من معالجتها بشكل متسلسل. تستخدم هذه البنية آلية الانتباه الذاتي، مما يمكّن النموذج من تقييم أهمية الكلمات المختلفة في الجملة بالنسبة لبعضها البعض، بغض النظر عن المسافة بينها في النص.
تبدأ وظيفة LLM بالترميز، وهي عملية يتم فيها تقسيم النص الخام إلى وحدات أصغر تسمى الرموز (الكلمات أو الكلمات الفرعية). خلال مرحلة تدريب النموذج، يحلل النظام بيتابايت من النصوص من الإنترنت والكتب والمقالات. ويشارك في التعلم غير الخاضع للإشراف للتنبؤ بالرمز التالي في التسلسل، مما يؤدي إلى تعلم البنية الإحصائية للغة بشكل فعال.
بعد هذا التدريب الأولي، غالبًا ما يقوم المطورون بإجراء تعديلات دقيقة لتخصيص النموذج لمهام محددة، مثل التحليل الطبي أو المساعدة في الترميز. هذه القدرة على التكيف هي السبب في أن منظمات مثل مركز ستانفورد لأبحاث النماذج الأساسية classify "نماذج أساسية" — قواعد واسعة يتم بناء تطبيقات محددة عليها.
لقد تجاوزت نماذج اللغة الكبيرة (LLMs) مرحلة البحث النظري لتصل إلى تطبيقات عملية عالية التأثير في مختلف الصناعات:
بينما تعالج نماذج اللغة الكبيرة القياسية النصوص، تتجه الصناعة نحو الذكاء الاصطناعي متعدد الوسائط. يوضح المثال التالي كيف يمكن للمطالبات اللغوية التحكم في مهام الرؤية الحاسوبية باستخدام YOLO وهو نموذج يفهم واصفات النصوص للكشف عن المفردات المفتوحة.
from ultralytics import YOLOWorld
# Load a model capable of understanding natural language prompts
model = YOLOWorld("yolov8s-world.pt")
# Define custom classes using text descriptions rather than fixed labels
model.set_classes(["person wearing a red helmet", "blue industrial machine"])
# Run inference to detect these specific text-defined objects
results = model.predict("https://ultralytics.com/images/bus.jpg")
# Show results
results[0].show()
من المهم التمييز بين مصطلح LLM ومصطلحات أوسع أو موازية:
على الرغم من قدراتها، تواجه نماذج اللغة الكبيرة (LLMs) تحديات تتعلق بالتحيز في الذكاء الاصطناعي، حيث يمكنها أن تعيد إنتاج التحيزات الموجودة في بيانات التدريب الخاصة بها دون قصد. علاوة على ذلك، فإن القوة الحاسوبية الهائلة المطلوبة لتدريب نماذج مثل GPT-4 أو Google تثير مخاوف بشأن استهلاك الطاقة. تركز الأبحاث حاليًا على تكمية النماذج لجعل هذه الأنظمة فعالة بما يكفي لتشغيلها على أجهزة الحافة.
للحصول على رؤى تقنية أعمق، توفر الورقة الأصلية Attention Is All You Need النظرية الأساسية لـ Transformers. يمكنك أيضًا استكشاف كيفية عمل NVIDIA تقوم بتحسين الأجهزة لهذه الأحمال الضخمة.