Anayasal yapay zeka, yapay zeka modellerini insan değerleri ile hizalamayı amaçlar

Yapay zeka (YZ) hızla günlük yaşamımızın önemli bir parçası haline geliyor. Sağlık hizmetleri, işe alım, finans ve kamu güvenliği gibi alanlarda kullanılan araçlara entegre ediliyor. Bu sistemler genişledikçe, etik ve güvenilirlikleri hakkındaki endişeler de dile getiriliyor.

Örneğin, bazen adalet veya güvenlik gözetilmeden oluşturulan YZ sistemleri, önyargılı veya güvenilmez sonuçlar üretebilir. Bunun nedeni, birçok modelin insan değerlerini yansıtmak ve bunlarla uyumlu hale gelmek için hala net bir yola sahip olmamasıdır.

Bu zorlukların üstesinden gelmek için araştırmacılar artık constitutional AI olarak bilinen bir yaklaşımı araştırıyor. Basitçe söylemek gerekirse, modelin eğitim sürecine yazılı bir ilkeler seti dâhil eder. Bu ilkeler, modelin kendi davranışını değerlendirmesine, insan geri bildirimine daha az bağımlı olmasına ve yanıtların daha güvenli ve anlaşılması daha kolay olmasına yardımcı olur.

Şimdiye kadar bu yaklaşım çoğunlukla large language models (LLMs) ile ilgili olarak kullanıldı. Ancak aynı yapı, computer vision sistemlerinin görsel verileri analiz ederken etik kararlar almasına rehberlik etmeye yardımcı olabilir.

Bu makalede, anayasal YZ'nin nasıl çalıştığını keşfedeceğiz, gerçek hayattan örneklere bakacağız ve bilgisayarlı görü sistemlerindeki potansiyel uygulamalarını tartışacağız.

Şekil 1. Anayasal YZ'nin özellikleri. Görsel: yazar.

Anayasal YZ nedir?#

Constitutional AI, net bir etik kurallar seti sağlayarak AI modellerinin nasıl davranacağına rehberlik eden bir model training yöntemidir. Bu kurallar bir davranış kuralları bütünü görevi görür. Modelin neyin kabul edilebilir olduğunu çıkarım etmesine güvenmek yerine, training sırasında yanıtlarını şekillendiren yazılı bir ilkeler setini takip eder.

Bu kavram, AI sistemlerini karar alma süreçlerinde daha öz denetimli hale getirmek için Claude LLM ailesini geliştiren, yapay zeka güvenliği odaklı bir araştırma şirketi olan Anthropic tarafından tanıtıldı.

Model, yalnızca insan geri bildirimine güvenmek yerine, önceden tanımlanmış bir ilkeler dizisine dayanarak kendi yanıtlarını eleştirmeyi ve iyileştirmeyi öğrenir. Bu yaklaşım, bir hakimin hüküm vermeden önce anayasaya başvurduğu hukuk sistemine benzer.

Bu durumda model, kendi davranışını gözden geçirmek ve iyileştirmek için aynı kural setini kullanarak hem hakem hem de öğrenci olur. Bu süreç, AI model uyumunu güçlendirir ve güvenli, responsible AI sistemlerinin geliştirilmesini destekler.

Anayasal YZ nasıl çalışır?#

Anayasal YZ'nin amacı, net bir yazılı kurallar dizisini takip ederek bir YZ modeline nasıl güvenli ve adil kararlar alacağını öğretmektir. Bu sürecin nasıl çalıştığına dair basit bir döküm şöyledir:

• Anayasayı tanımlama: Modelin uyması gereken yazılı bir etik ilkeler listesi oluşturulur. Anayasa, YZ'nin nelerden kaçınması gerektiğini ve hangi değerleri yansıtması gerektiğini ana hatlarıyla belirtir.
• supervised örneklerle eğitim: Modelin anayasaya uyan örnek yanıtları gösterilir. Bu örnekler, AI'ın kabul edilebilir davranışın neye benzediğini anlamasına yardımcı olur.
• Örüntüleri tanıma ve uygulama: Zamanla model bu örüntüleri yakalamaya başlar. Yeni soruları yanıtlarken veya yeni durumlarla başa çıkarken aynı değerleri uygulamayı öğrenir.
• Çıktıları eleştirme ve iyileştirme: Model, kendi yanıtlarını gözden geçirir ve anayasaya dayanarak bunları ayarlar. Bu öz değerlendirme aşaması, yalnızca insan geri bildirimine güvenmeden gelişmesine yardımcı olur.
• Uyumlu ve daha güvenli yanıtlar üretme: Model, tutarlı kurallardan öğrenir; bu da gerçek dünya kullanımında önyargıyı azaltmaya ve güvenilirliği artırmaya yardımcı olur. Bu yaklaşım, onu insan değerleriyle daha uyumlu ve yönetilmesi daha kolay hale getirir.

Şekil 2. Modelleri eğitmek için constitutional AI kullanımına genel bir bakış.

Etik YZ tasarımının temel ilkeleri#

Bir AI modelinin ethical rules kurallarına uyması için öncelikle bu kuralların net bir şekilde tanımlanması gerekir. Constitutional AI söz konusu olduğunda, bu kurallar bir dizi temel ilkeye dayanır.

Örneğin, etkili bir YZ anayasasının temelini oluşturan dört ilke şunlardır:

• Transparency: Bir modelin bir sonuca nasıl ulaştığını anlamak kolay olmalıdır. Bir yanıt gerçeklere, tahminlere veya örüntülere dayanıyorsa, kullanıcı için şeffaf olacaktır. Bu, güven oluşturur ve insanların modelin çıktısına güvenip güvenemeyeceklerini değerlendirmelerine yardımcı olur.
• Eşitlik: Yanıtlar farklı kullanıcılar arasında tutarlı kalmalıdır. Model, bir kişinin ismine, geçmişine veya konumuna göre çıktısını değiştirmemelidir. Eşitlik, önyargıyı önlemeye yardımcı olur ve eşit muameleyi teşvik eder.
• Hesap verebilirlik: Bir modelin nasıl eğitildiğini ve davranışını nelerin etkilediğini izlemenin bir yolu olmalıdır. Bir şeyler ters gittiğinde, ekipler nedeni belirleyebilmeli ve iyileştirme yapabilmelidir. Bu, şeffaflığı ve uzun vadeli hesap verebilirliği destekler.
• Güvenlik: Modeller zarar verebilecek içerikler üretmekten kaçınmalıdır. Bir istek riskli veya güvensiz çıktılara yol açarsa, sistem bunu tanımalı ve durdurmalıdır. Bu, hem kullanıcıyı hem de sistemin bütünlüğünü korur.

Büyük dil modellerinde anayasal YZ örnekleri#

Constitutional AI teoriden uygulamaya geçmiştir ve şu anda milyonlarca kullanıcıyla etkileşime giren büyük modellerde yavaş yavaş kullanılmaktadır. En yaygın iki örnek OpenAI ve Anthropic'in LLM'leridir.

Her iki kuruluş da daha etik YZ sistemleri oluşturmak için farklı yaklaşımlar benimsemiş olsa da, ortak bir fikri paylaşıyorlar: modele bir dizi yazılı rehber ilkeyi takip etmeyi öğretmek. Bu örneklere daha yakından bakalım.

OpenAI'ın anayasal YZ yaklaşımı#

OpenAI, ChatGPT modellerinin eğitim sürecinin bir parçası olarak Model Spec adında bir belge tanıttı. Bu belge bir anayasa gibi işlev görür. Modelin yanıtlarında neler hedeflemesi gerektiğini (yardımseverlik, dürüstlük ve güvenlik gibi değerler dahil) ana hatlarıyla belirtir. Ayrıca neyin zararlı veya yanıltıcı çıktı olarak sayıldığını da tanımlar.

Bu çerçeve, OpenAI'ın modellerini kurallarla ne kadar iyi eşleştiklerine göre yanıtları derecelendirerek ince ayarlamak için kullanılmiştir. Zaman içinde bu, ChatGPT'nin daha az zararlı çıktı üretmesine ve kullanıcıların gerçekten istedikleriyle daha iyi uyum sağlamasına yardımcı olmuştur.

Fig 3. ChatGPT'nin yanıt vermek için OpenAI Model Spec'i kullandığı bir örnek.

Anthropic'in etik YZ modelleri#

Anthropic'in modeli Claude'un izlediği anayasa, İnsan Hakları Evrensel Beyannamesi gibi kaynaklardan, Apple'ın hizmet şartları gibi platform kurallarından ve diğer YZ laboratuvarlarının araştırmalarından alınan etik ilkelere dayanır. Bu ilkeler, Claude'un yanıtlarının güvenli, adil ve önemli insan değerleriyle uyumlu olmasını sağlamaya yardımcı olur.

Claude ayrıca human feedback güvenmek yerine, bu etik kılavuzlara dayanarak kendi yanıtlarını incelediği ve ayarladığı Yapay Zeka Geri Bildiriminden Güçlendirmeli Öğrenme (RLAIF) kullanır. Bu süreç, Claude'un zamanla gelişmesini sağlayarak onu daha ölçeklenebilir hale getirir ve zor durumlarda bile yararlı, etik ve zararlı olmayan yanıtlar vermede daha başarılı kılar.

Fig 4. Anthropic'in constitutional AI yaklaşımını anlamak.

Anayasal YZ'yi bilgisayarlı görüye uygulama#

Anayasal YZ, dil modellerinin davranışını olumlu yönde etkilediğinden, doğal olarak şu soruya yol açar: Benzer bir yaklaşım, görme tabanlı sistemlerin daha adil ve güvenli yanıtlar vermesine yardımcı olabilir mi?

computer vision models metinler yerine görsellerle çalışırken, etik rehberliğe duyulan ihtiyaç da aynı derecede önemlidir. Örneğin, adalet ve önyargı dikkate alınması gereken temel faktörlerdir; çünkü bu sistemlerin, görsel verileri analiz ederken herkese eşit davranması ve zararlı veya adil olmayan sonuçlardan kaçınması için eğitilmesi gerekir.

Şekil 5. Bilgisayarlı görü ile ilgili etik zorluklar. Görsel: yazar.

Şu an itibarıyla, bilgisayarlı görüde anayasal YZ yöntemlerinin kullanımı hala araştırılmakta olup, bu alandaki çalışmalar devam etmektedir.

Örneğin Meta, geçtiğimiz günlerde görsel güvenliği görevlerine anayasa benzeri muhakeme uygulayan bir çerçeve olan CLUE'yu tanıttı. Geniş güvenlik kurallarını, çok modlu AI'ın (birden fazla veri türünü işleyen ve anlayan AI sistemleri) takip edebileceği kesin adımlara dönüştürür. Bu, sistemin daha net muhakeme yapmasına ve zararlı sonuçları azaltmasına yardımcı olur.

Ayrıca CLUE, karmaşık kuralları basitleştirerek görsel güvenliği kararlarını daha verimli hale getirir ve YZ modellerinin yoğun insan girdisine ihtiyaç duymadan hızlı ve doğru bir şekilde hareket etmesini sağlar. Bir rehber ilkeler dizisi kullanarak, CLUE görsel denetim sistemlerini daha ölçeklenebilir hale getirirken yüksek kaliteli sonuçlar sağlar.

Öne çıkanlar#

YZ sistemleri daha fazla sorumluluk üstlendikçe, odak noktası sadece ne yapabileceklerinden ne yapmaları gerektiğine doğru kayıyor. Bu sistemler sağlık, kolluk kuvvetleri ve eğitim gibi insanların yaşamlarını doğrudan etkileyen alanlarda kullanıldığından bu değişim anahtardır.

YZ sistemlerinin uygun ve etik davranmasını sağlamak için sağlam ve tutarlı bir temele ihtiyaçları vardır. Bu temel adalete, güvenliğe ve güvene öncelik vermelidir.

Yazılı bir anayasa, eğitim sırasında bu temeli sağlayabilir ve sistemin karar verme sürecine rehberlik edebilir. Ayrıca, geliştiricilere dağıtımdan sonra sistemin davranışını gözden geçirme ve ayarlama konusunda bir çerçeve sunarak, tasarlanmış olduğu değerlerle uyumlu kalmaya devam etmesini ve yeni zorluklar ortaya çıktığında adapte olmasını kolaylaştırabilir.

Büyüyen community topluluğumuza bugün katılın! GitHub repository sayfamızı keşfederek AI dünyasına daha derinlemesine dalın. Kendi bilgisayarla görü projelerinizi kurmak mı istiyorsunuz? licensing options seçeneklerimizi inceleyin. Çözüm sayfalarımızı ziyaret ederek computer vision in healthcare alanındaki bilgisayarla görü uygulamalarının verimliliği nasıl artırdığını öğrenin ve AI in manufacturing alanındaki yapay zekanın etkisini keşfedin!