Natural Language Processing (NLP)

معالجة اللغة الطبيعية (NLP) هي فرع الذكاء الاصطناعي (AI) الذي يتيح للحواسيب تحليل اللغة البشرية وفهمها وتوليدها نصيًا وصوتيًا. وتتراوح مهامها بين العثور على الأسماء في جملة وترجمة كتاب أو إجراء محادثة، وهي تجمع بين اللسانيات الحاسوبية والتعلّم الآلي والتعلّم العميق. وتعتمد عليها عمليات البحث على الويب ومرشحات البريد العشوائي والمساعدات الصوتية واقتراحات لوحة مفاتيح الهاتف وروبوتات المحادثة المبنية على النماذج اللغوية الكبيرة (LLMs).

من القواعد إلى النماذج اللغوية الكبيرة#

ترجمت تجربة جورجتاون-IBM عام 1954 أكثر من ستين جملة روسية إلى الإنجليزية باستخدام مفردات من 250 كلمة وست قواعد نحوية، وقلّد ELIZA لجوزيف وايزنباوم (1966) معالجًا نفسيًا عبر مطابقة الكلمات المفتاحية بردود مكتوبة مسبقًا. ولم تصمد القواعد المكتوبة يدويًا أمام غموض النصوص الفعلية وتنوعها، لذا تعلّمت معالجة اللغة الطبيعية الإحصائية، منذ أواخر ثمانينيات القرن العشرين، الاحتمالات من نصوص موسومة بدلًا من ذلك: فقد صنّفت نماذج ماركوف المخفية أقسام الكلام، وتعلّمت الترجمة الآلية الإحصائية من ملايين أزواج الجمل المترجمة.

هيمنت الشبكات العصبية في العقد الثاني من القرن الحادي والعشرين. تعلّم Word2vec (2013) تضمينات تضع الكلمات المترابطة بالقرب بعضها من بعض، وقرأت الشبكات العصبية المتكررة (RNNs) الجمل كلمةً تلو الأخرى. واستبدل المحوّل (2017) التكرار بـالانتباه الذاتي، الذي يربط كل كلمة بكل كلمة أخرى بالتوازي. وتعلّمت المحوّلات المدرَّبة مسبقًا، مثل BERT وGPT، اللغة من نصوص غير موسومة، ثم لم تحتج إلا إلى مجموعات بيانات صغيرة موسومة لكل مهمة. ومنذ إطلاق ChatGPT في نوفمبر 2022، تتولى النماذج اللغوية الكبيرة تنفيذ مهام كثيرة لمعالجة اللغة الطبيعية انطلاقًا من تعليمات مكتوبة فقط.

كيفية تمثيل أنظمة معالجة اللغة الطبيعية للنصوص#

يقسم نظام معالجة اللغة الطبيعية الحديث النص أولًا إلى رموز، وهي كلمات كاملة أو أجزاء من كلمات تنتجها عملية تقسيم النص إلى رموز، ثم يحوّل كل رمز إلى متجه تضمين. وتحول شبكة عصبية، عادةً ما تكون محوّلًا، هذا التسلسل إلى متجهات سياقية يعكس فيها متجه كل رمز الكلمات المجاورة، ثم تقرأ مخرجات خاصة بالمهمة هذه المتجهات: تسمية واحدة للنص بأكمله، أو وسم لكل رمز، أو بداية مقطع إجابة ونهايته، أو رموز جديدة مولّدة. ولأن المعنى يكمن في المتجهات، يمكن لجمل ذات كلمات مختلفة أن تقع متقاربة، كما يوضح مُشفِّر الجمل all-MiniLM-L6-v2:

from sentence_transformers import SentenceTransformer

# A small sentence encoder maps each text to a 384-dimensional vector
model = SentenceTransformer("sentence-transformers/all-MiniLM-L6-v2")

query = "How do I reset my password?"
candidates = ["I forgot my login credentials", "How do I reset my router?"]

# Encode all texts, then compare the query with each candidate by cosine similarity
embeddings = model.encode([query, *candidates])
scores = model.similarity(embeddings[0], embeddings[1:])[0]

for text, score in zip(candidates, scores):
    print(f"{score:.2f}  {text}")

تحصل إعادة الصياغة «لقد نسيت بيانات تسجيل الدخول» على درجة 0.68 مقابل السؤال، بينما تحصل عبارة «كيف أعيد ضبط جهاز التوجيه؟»، التي تكرر خمس كلمات من كلمات السؤال الست، على درجة 0.53. ويستخدم كل من البحث الدلالي وخطوة الاسترجاع في التوليد المعزز بالاسترجاع (RAG) المقارنة نفسها لترتيب المستندات.

مهام معالجة اللغة الطبيعية الشائعة#

• تحليل المشاعر: يصنّف الرأي الوارد في مراجعة أو منشور أو إجابة استطلاع إلى إيجابي أو سلبي أو محايد.
• التعرّف على الكيانات المسماة (NER): يوسم كل إشارة إلى شخص أو مؤسسة أو مكان أو تاريخ.
• الإجابة عن الأسئلة: يعيد إجابة عن سؤال بدلًا من قائمة مستندات.
• تلخيص النصوص: يختزل مستندًا في نص أقصر يحافظ على نقاطه الرئيسية.
• توليد النصوص: يكتب نصًا جديدًا رمزًا تلو الآخر، وهي المهمة التي تقوم عليها روبوتات المحادثة ومساعدات البرمجة.

معالجة اللغة الطبيعية في الرؤية الحاسوبية#

تُعد اللغة أيضًا وسيلة لإخبار نماذج الرؤية الحاسوبية بما ينبغي البحث عنه، وقد أدى دمج معالجة اللغة الطبيعية بالرؤية إلى نماذج تقرأ عن الصور وتكتب عنها. تجيب النماذج البصرية اللغوية (VLMs) عن أسئلة حول الصور وتكتب تعليقات توضيحية لها، وتعلّم CLIP فضاء تضمين مشتركًا للصور والنصوص من 400 مليون زوج من الصور والتعليقات التوضيحية. وتأخذ الكواشف ذات المفردات المفتوحة قائمة فئاتها نصيًا: يؤدي استدعاء set_classes(["double-decker bus", "person"]) على نموذج Ultralytics YOLOE-26 إلى تقسيم كل اسم إلى رموز باستخدام مُقسِّم CLIP وترميزه باستخدام مُشفِّر النصوص MobileCLIP2 من Apple، ثم يطابق الكاشف تضمينات النصوص مع مناطق الصور للعثور على فئات لم يسبق له التدريب عليها وتقسيمها.

معالجة اللغة الطبيعية مقارنةً بالمصطلحات ذات الصلة#

• فهم اللغة الطبيعية (NLU): الجزء من معالجة اللغة الطبيعية الذي يهتم بالمعنى، مثل مقصد المستخدم أو مرجع الضمير. أما توليد اللغة الطبيعية (NLG)، الذي ينتج النصوص، فهو الجزء الرئيسي الآخر.
• النماذج اللغوية الكبيرة: نماذج لغوية قائمة على المحوّلات وتضم مليارات المعاملات، وتؤدي مهامًا كثيرة لمعالجة اللغة الطبيعية عبر التوجيهات، بتكلفة لكل طلب أعلى من تكلفة نموذج صغير دُرِّب لمهمة واحدة.
• التعرّف على الكلام: يحوّل الصوت المنطوق إلى نص تفسره نماذج معالجة اللغة الطبيعية بعد ذلك.
• التعرّف الضوئي على الحروف (OCR): يحوّل صور النصوص المطبوعة أو المكتوبة بخط اليد إلى أحرف، وهي الخطوة الأولى قبل أن يتمكن نظام معالجة اللغة الطبيعية من قراءة مستند ممسوح ضوئيًا.