Singularity

التفرّد التكنولوجي نقطة مستقبلية مفترضة تصبح عندها الذكاء الاصطناعي (AI) قادرًا على تحسين نفسه بوتيرة أسرع مما يستطيع البشر متابعتها، ما يطلق نموًا متسارعًا للذكاء الآلي وتغيرات حضارية لا يمكن التنبؤ بها استنادًا إلى ما قبل تلك النقطة. يستعير الاسم معناه من الرياضيات والفيزياء، حيث يكون التفرّد نقطة تنهار عندها دالة أو نظرية فيزيائية، مثل مركز الثقب الأسود. لم يتمكن أي نظام ذكاء اصطناعي حتى الآن من تحسين ذكائه ذاتيًا من دون توجيه بشري، لذا يظل التفرّد فرضية، لكنه يؤثر في طريقة تفكير الباحثين وصانعي السياسات بشأن الذكاء الاصطناعي العام (AGI) وسلامة الذكاء الاصطناعي.

أصول الفكرة#

• John von Neumann (الخمسينيات): استذكر عالم الرياضيات Stanislaw Ulam محادثة وصف فيها von Neumann التقدم المتسارع للتكنولوجيا بأنه يقترب من «تفرّد جوهري في تاريخ الجنس البشري، لا يمكن بعده أن تستمر الشؤون البشرية كما نعرفها».
• I. J. Good (1965): وصف الإحصائي في مقالته "Speculations Concerning the First Ultraintelligent Machine" «انفجارًا للذكاء» تصمم فيه آلة أذكى من أي إنسان آلات أفضل منها، ما يجعل الآلة الأولى من هذا النوع «آخر اختراع يحتاج الإنسان إلى صنعه على الإطلاق».
• Vernor Vinge (1993): شاع عالم الرياضيات وكاتب الخيال العلمي المصطلح في مقالته "The Coming Technological Singularity"، التي كتبها لندوة NASA وافتتحها بالقول: «خلال ثلاثين عامًا، ستكون لدينا الوسائل التكنولوجية اللازمة لإنشاء ذكاء يفوق الذكاء البشري».
• Ray Kurzweil (2005): استقرأ كتاب المستقبلي The Singularity Is Near الاتجاهات الأسية في الحوسبة ليتنبأ بحدوث التفرّد عام 2045، ويحافظ الجزء اللاحق الصادر عام 2024 بعنوان The Singularity Is Nearer على هذا الموعد، إلى جانب عام 2029 موعدًا لظهور ذكاء اصطناعي بمستوى الإنسان.

كيف سيحدث انفجار الذكاء#

الآلية الكامنة وراء الفرضية هي التحسين الذاتي التكراري. يصمم المهندسون البشر اليوم معماريات الشبكات العصبية، وينتقون بيانات التدريب، ويكتبون شيفرة التدريب. ويمكن لنظام قادر على إجراء هذا البحث بنفسه أن يبني نظامًا لاحقًا أكثر قدرة، يجري البحث على نحو أفضل وأسرع، وهكذا دواليك. ويتوقف تسارع هذه الحلقة أو استقرارها على عوائد كل دورة: فإذا أدت كل زيادة في القدرة إلى زيادة أكبر في سرعة البحث، تسارع النمو بلا ضابط؛ أما إذا أصبحت القدرة الحاسوبية أو البيانات أو الطاقة أو التجارب الواقعية عوائق، تباطأ النمو واستقر عند مستوى ثابت.

يصف الباحثون سرعة الانتقال بأنها سرعة الإقلاع. ينقل الإقلاع السريع، أو الحاد، الذكاء الاصطناعي من مستوى الإنسان إلى مستوى يفوقه كثيرًا خلال ساعات أو أيام، من دون ترك وقت لتصحيح الأخطاء؛ أما الإقلاع البطيء، أو اللين، فيتطور على مدى سنوات أو عقود. تصف قوانين التوسع المرصودة في التعلم العميق مكاسب مطّردة تتبع قانون القوة مع زيادة القدرة الحاسوبية والبيانات والمعاملات، لذا يتبع التقدم الناتج عن التوسع وحده نمو الأجهزة والاستثمار.

التفرّد مقابل الذكاء الاصطناعي العام والذكاء الفائق#

• AGI: مستوى من القدرات يطابق فيه النظام البشر في جميع المهام المعرفية تقريبًا. ويمكن أن يوجد الذكاء الاصطناعي العام من دون تفرّد إذا كان تحسين النظام لذاته بطيئًا أو محدودًا.
• الذكاء الاصطناعي الفائق (ASI): مستوى من القدرات يتجاوز الذكاء الاصطناعي العام. ويعرّف الفيلسوف Nick Bostrom الذكاء الفائق بأنه عقل يتجاوز الأداء المعرفي البشري بدرجة كبيرة في جميع المجالات المهمة تقريبًا.
• التفرّد: حدثٌ، وهو الانتقال الذي ينتقل فيه الذكاء الاصطناعي ذاتي التحسين من مستوى الذكاء الاصطناعي العام إلى الذكاء الفائق، وتتوقف فيه التنبؤات البشرية عن العمل.

يُعرف الحفاظ على توافق الأنظمة الأذكى من الجهات المشرفة عليها مع الأهداف البشرية بمشكلة البحث المسماة التوافق الفائق.

بوادر في الذكاء الاصطناعي اليوم#

يؤتمت الذكاء الاصطناعي بالفعل أجزاءً محدودة من تطويره. تبحث تعلم الآلة المؤتمت (AutoML) والبحث عن البنى العصبية (NAS) في تصاميم النماذج التي كان الناس يختارونها يدويًا. ويُعد ضبط المعلمات الفائقة في Ultralytics YOLO نسخةً محدودة النطاق من الفكرة نفسها: إذ تُجري خوارزمية جينية طفرات على إعدادات التدريب، مثل معدل التعلّم وقوة الزيادة، ثم تعيد تدريب النموذج وتحتفظ بمجموعة الإعدادات الأعلى تقييمًا. وعلى نطاق أكبر، وجد وكيل البرمجة AlphaEvolve من Google DeepMind طريقة أسرع لتقسيم عملية ضرب المصفوفات، مما سرّع نواة أساسية في بنية Gemini بنسبة 23% وخفّض وقت تدريب Gemini بنسبة 1%.

النقد والجدل#

يرى المشككون أن الذكاء لا ينمو بالطريقة التي نما بها عدد ترانزستورات المعالجات. في كتاب «التفرّد ليس قريبًا» (2011)، اقترح بول ألين، الشريك المؤسس لشركة Microsoft، ومارك غريفز «كابح التعقيد»: فكل تقدم في فهم الإدراك يكشف عن مزيد من التعقيد، ولذلك يتباطأ التقدم. ويشير آخرون إلى الحدود الفيزيائية للرقائق والطاقة، وإلى أن الأبحاث تتطلب تجارب بطيئة في العالم الواقعي. ويرى الباحثون الذين يأخذون هذا السيناريو بجدية ضرورة حل مشكلة التوافق قبل ظهور هذه الأنظمة، وفي مايو 2023 وقّع مئات من علماء الذكاء الاصطناعي والمديرين التنفيذيين بيانًا من جملة واحدة ينص على أن الحد من خطر الانقراض الناجم عن الذكاء الاصطناعي ينبغي أن يكون أولوية عالمية، إلى جانب الأوبئة والحرب النووية. وقد حدد تنبؤ فينغ نفسه موعدًا نهائيًا: «سأُفاجأ إن وقع هذا الحدث قبل عام 2005 أو بعد عام 2030».