Singularity

Teknolojik tekillik, yapay zekânın (AI) insanların takip edebileceğinden daha hızlı biçimde kendini geliştirebildiği; makine zekâsında kontrolsüz büyümeyi ve bu noktadan önceden öngörülemeyecek uygarlık değişimlerini başlattığı varsayımsal bir gelecek noktasıdır. Bu ad, matematik ve fizikten gelir; bu alanlarda tekillik, kara deliğin merkezi gibi bir fonksiyonun veya fizik kuramının geçerliliğini yitirdiği noktadır. Henüz hiçbir AI sistemi, insan yönlendirmesi olmadan kendi zekâsını geliştirmedi; bu nedenle tekillik bir varsayım olmaya devam ediyor. Ancak bu fikir, araştırmacıların ve politika yapıcıların yapay genel zekâ (AGI) ve AI güvenliği üzerine düşünme biçimini şekillendiriyor.

Fikrin Kökenleri#

• John von Neumann (1950'ler): Matematikçi Stanislaw Ulam, von Neumann'ın teknolojinin hızlanan ilerlemesini, “bildiğimiz hâliyle insan ilişkilerinin sürdürülemeyeceği bir noktayı aşan, insanlık tarihinde esaslı bir tekilliğe” yaklaşmak olarak tanımladığı bir konuşmayı hatırladı.
• I. J. Good (1965): İstatistikçi, “İlk Üstün Zeki Makine Üzerine Spekülasyonlar” adlı eserinde, herhangi bir insandan daha zeki bir makinenin daha da iyi makineler tasarladığı bir “zekâ patlamasını” anlattı; böyle bir ilk makineyi “insanın yapması gereken son icat” olarak nitelendirdi.
• Vernor Vinge (1993): Matematikçi ve bilim kurgu yazarı, NASA sempozyumu için kaleme aldığı “Yaklaşan Teknolojik Tekillik” yazısında terimi yaygınlaştırdı. Yazı şu sözlerle başlıyordu: “Otuz yıl içinde insanüstü zekâ yaratmaya yönelik teknolojik araçlara sahip olacağız.”
• Ray Kurzweil (2005): Fütüristin Tekillik Yaklaşıyor kitabı, hesaplamadaki üstel eğilimleri ileri taşıyarak tekilliğin 2045'te gerçekleşeceğini öngördü. 2024 tarihli devam kitabı Tekillik Daha da Yakın, insan düzeyinde AI için 2029 tarihini de koruyor.

Bir Zekâ Patlaması Nasıl Gerçekleşebilir#

Bu varsayımın arkasındaki mekanizma, yinelemeli öz gelişimdir. Günümüzde mühendisler sinir ağı mimarileri tasarlar, eğitim verilerini derler ve eğitim kodunu yazar. Bu araştırmayı kendi başına yapabilen bir sistem, daha yetenekli bir halef oluşturabilir; halef de araştırmayı daha iyi ve hızlı yapar ve bu böyle sürer. Bu döngünün hızlanıp hızlanmayacağı veya yavaşlayıp yavaşlamayacağı her döngünün getirisine bağlıdır: Yeteneklerdeki her artış araştırma hızında daha büyük bir artış sağlıyorsa büyüme kontrolden çıkar; hesaplama kaynakları, veri, enerji veya gerçek dünya deneyleri darboğaz oluşturursa büyüme yavaşlayıp dengelenir.

Araştırmacılar geçişin hızını kalkış olarak tanımlar. Hızlı ya da sert bir kalkışta insan düzeyinden çok üstün AI'ya saatler veya günler içinde geçilir ve hataları düzeltmeye zaman kalmaz; yavaş ya da yumuşak bir kalkış ise yıllar veya on yıllar sürer. Derin öğrenmede gözlemlenen ölçekleme yasaları, daha fazla hesaplama kaynağı, veri ve parametreyle istikrarlı, kuvvet yasasına uygun kazanımlar sağlar; dolayısıyla yalnızca ölçeklemeden gelen ilerleme, donanım ve yatırım artışını izler.

Tekillik, AGI ve Süperzekâ#

• AGI: Bir yetenek düzeyi; neredeyse tüm bilişsel görevlerde insanlarla aynı düzeye gelen sistem. Öz gelişimi yavaş veya sınırlıysa AGI, tekillik olmadan da var olabilir.
• Yapay süperzekâ (ASI): AGI'nin ötesinde bir yetenek düzeyi. Filozof Nick Bostrom, süperzekâyı neredeyse tüm ilgi alanlarında insanın bilişsel performansını büyük ölçüde aşan bir zekâ olarak tanımlar.
• Tekillik: Kendini geliştiren yapay zekânın AGI düzeyinden süperzekâya geçtiği ve insanların geleceği öngörme becerisinin işe yaramaz hâle geldiği olay.

Gözetmenlerinden daha akıllı sistemleri insan hedefleriyle uyumlu tutmak, süper hizalama olarak bilinen araştırma problemidir.

Günümüz Yapay Zekâsındaki Öncüller#

Yapay zekâ, kendi geliştirme sürecinin dar kapsamlı bazı kısımlarını şimdiden otomatikleştiriyor. Otomatik makine öğrenimi (AutoML) ve sinir ağı mimarisi arama (NAS), insanların eskiden elle seçtiği model tasarımlarını arıyor. Ultralytics YOLO'daki hiperparametre ayarı, aynı fikrin küçük ölçekli bir örneğidir: Bir genetik algoritma, öğrenme oranı ve artırma gücü gibi eğitim ayarlarını değiştirir, modeli yeniden eğitir ve en yüksek puanı alan ayar kümesini saklar. Daha büyük ölçekte Google DeepMind'ın AlphaEvolve kodlama aracısı, matris çarpımını daha hızlı gerçekleştirmenin bir yolunu buldu; bu yöntem Gemini mimarisindeki önemli bir çekirdeği %23 hızlandırdı ve Gemini'nin eğitim süresini %1 kısalttı.

Eleştiriler ve Tartışmalar#

Şüpheciler, zekânın işlemci transistör sayıları gibi artmadığını savunuyor. Microsoft'un kurucu ortağı Paul Allen ve Mark Greaves, 2011 tarihli «The Singularity Isn't Near» adlı yazılarında bir «karmaşıklık freni» öne sürdü: Bilişi anlamadaki her ilerleme daha fazla karmaşıklığı ortaya çıkarır ve bu nedenle ilerleme yavaşlar. Diğerleri çiplerin ve enerjinin fiziksel sınırlarına, ayrıca yavaş gerçek dünya deneyleri gerektiren araştırmalara dikkat çekiyor. Bu senaryoyu ciddiye alan araştırmacılar, böyle sistemler ortaya çıkmadan önce hizalama problemini çözmeyi savunuyor. Mayıs 2023'te yüzlerce yapay zekâ bilim insanı ve yöneticisi, yapay zekâ kaynaklı yok olma riskini azaltmanın pandemiler ve nükleer savaşla birlikte küresel bir öncelik olması gerektiğini belirten tek cümlelik bir bildiriyi imzaladı. Vinge'nin kendi öngörüsü bir son tarih koyuyordu: «Bu olayın 2005'ten önce ya da 2030'dan sonra gerçekleşmesine şaşırırım.»