Ensemble öğrenmeyi ve yapay zekâ ile makine öğrenmesindeki rolünü keşfet

Bu makalede ele alınan kavramları görsel olarak adım adım görmek için aşağıdaki videoyu izle.

Öneri motorları ve dolandırıcılık tespit sistemleri gibi yapay zekâ yenilikleri, verilere dayalı tahminler ve kararlar üretmek için makine öğrenmesi algoritmalarına ve modellerine dayanır. Bu modeller örüntüleri belirleyebilir, eğilimleri öngörebilir ve karmaşık görevlerin otomatikleştirilmesine yardımcı olabilir.

Ancak tek bir model, gerçek dünya verilerindeki tüm ayrıntıları yakalamakta zorlanabilir. Bazı durumlarda iyi performans gösterirken, yeni işlem türlerini gözden kaçıran bir dolandırıcılık tespit modeli gibi başka durumlarda yetersiz kalabilir.

Bu sınırlama, makine öğrenmesi modelleri oluşturup dağıtırken yapay zekâ mühendislerinin sıkça karşılaştığı bir durumdur. Bazı modeller eğitim verisini gereğinden fazla öğrenerek aşırı uyum sağlarken, diğerleri önemli örüntüleri kaçırarak yetersiz uyum gösterir. Topluluk öğrenmesi, temel öğreniciler olarak bilinen birden fazla modeli tek ve daha güçlü bir sistemde birleştirerek bu zorlukların üstesinden gelmeye yardımcı olan bir yapay zekâ tekniğidir.

Bunu, bir problemi çözmek için birlikte çalışan uzmanlardan oluşan bir ekip gibi düşünebilirsin. Bu makalede topluluk öğreniminin ne olduğunu, nasıl çalıştığını ve nerelerde kullanılabileceğini inceleyeceğiz.

Topluluk öğrenmesi nedir?#

Topluluk öğrenmesi, aynı problemi çözmek ve tek, iyileştirilmiş bir sonuç üretmek için birden fazla modeli birleştiren teknikler kümesini ifade eder. Hem denetimli öğrenmede (modeller etiketli verilerden öğrenir) hem de denetimsiz öğrenmede (modeller etiketsiz verilerde örüntüler bulur) kullanılabilir.

Tahmin yapmak için tek bir modele güvenmek yerine topluluk, her biri verilere kendi açısından bakan birkaç model kullanır. Modellerin çıktıları birleştirildiğinde ortaya çıkan sonuç, genellikle herhangi bir modelin tek başına elde edebileceğinden daha doğru, kararlı ve genellenebilir olur.

Bunu, aynı problemi ele alan bir analist paneline benzetebilirsin. Her analist veya tekil model, verileri farklı yorumlar.

Biri örüntülere, diğeri aykırı değerlere, bir başkası da bağlama odaklanabilir. Farklı bakış açılarını bir araya getiren grup, herhangi bir kişinin tek başına vereceği karardan daha dengeli ve güvenilir bir karar alabilir.

Bu yaklaşım, makine öğrenmesindeki en büyük iki zorluğun üstesinden gelmeye de yardımcı olur: yanlılık ve varyans. Yüksek yanlılığa sahip bir model fazla basittir ve önemli örüntüleri gözden kaçırır; yüksek varyansa sahip bir model ise aşırı duyarlıdır ve eğitim verisine gereğinden fazla uyar. Topluluk öğrenmesi, modelleri birleştirerek ikisi arasında denge kurar ve sistemin yeni, görülmemiş verilerdeki performansını iyileştirir.

Topluluk öğrenmesinin nasıl çalıştığını anlama#

Bir topluluktaki her modele temel öğrenici veya temel model denir. Kullanılan topluluk tekniğine bağlı olarak bu modeller aynı algoritma türünden olabilir ya da farklı algoritmaların bir karışımını içerebilir.

Topluluk öğrenmesinde kullanılan farklı model türlerine ilişkin yaygın örnekler şunlardır:

• Karar ağaçları: Bu modeller karar vermek için verileri özellik değerlerine göre dallara ayırır. Örneğin bir müşterinin ürün satın alıp almayacağını tahmin etme gibi sınıflandırma problemlerinde yaş, gelir ve gezinme geçmişi gibi etkenleri dikkate alırlar.
• Sinir ağları: İnsan beyninin bilgiyi işleme biçiminden esinlenen sinir ağları, modern yapay zekâ ve makine öğrenimi modellerinin çoğunun temel mimarisini oluşturur.
• Destek vektör makineleri (SVMs): Bu algoritmalar, farklı sınıflar arasındaki marjı en üst düzeye çıkaran ve hiper düzlem adı verilen en uygun karar sınırını bularak verileri sınıflandırır. Başka bir deyişle SVM, grupları aralarında mümkün olan en geniş boşluk kalacak şekilde ayıran en iyi çizgiyi çizer. Örneğin, sözcük sıklığı ve yapı gibi örüntülere dayanarak bir e-postanın istenmeyen olup olmadığını belirleyebilir.
• Lojistik regresyon modelleri: Bu modeller olasılıkları tahmin eder ve sıklıkla ikili sınıflandırma görevlerinde kullanılır. Bir işlemin dolandırıcılık olup olmadığını tahmin etmek tipik bir örnektir.

Bir araya getirilmiş model topluluğu, temel öğrenicilerin (zayıf modeller olarak da adlandırılır) güçlü yönlerini birleştirirken zayıf yönlerini en aza indirdiği için genellikle güçlü öğrenici olarak adlandırılır. Bunu, her modelin tahminlerini yapılandırılmış bir biçimde birleştirerek yapar; sınıflandırma görevlerinde çoğunluk oylamasından, regresyon görevlerinde ise ağırlıklı ortalamadan yararlanarak daha doğru bir nihai sonuç üretir.

Şekil 1. Topluluk öğrenmesine bir örnek (Kaynak)

Topluluk öğrenmesi ne zaman kullanılmalı?#

Çeşitli topluluk öğrenmesi tekniklerine geçmeden önce bir adım geri çekilip bu yaklaşımın bir makine öğrenmesi veya yapay zekâ projesinde ne zaman kullanılması gerektiğini anlayalım.

Topluluk öğrenmesi, tek bir modelin doğru veya tutarlı tahminler yapmakta zorlandığı durumlarda en etkili hâle gelir. Verilerin karmaşık, gürültülü veya öngörülemez olduğu durumlarda da kullanılabilir.

Topluluk yöntemlerinin özellikle etkili olduğu yaygın durumlar şunlardır:

• Düşük model doğruluğu: Tek bir modelin tahminleri yeterince güvenilir olmadığında, birden fazla modeli birleştirmek doğruluğu ve performansı önemli ölçüde iyileştirebilir. Örneğin kredi puanlaması veya tıbbi teşhislerde, tahmin doğruluğundaki küçük iyileşmeler bile büyük fark yaratabilir.
• Gürültülü veya tutarsız veriler: Bir veri kümesinde aykırı değerler, hatalar veya rastgele dalgalanmalar varsa topluluk öğrenmesi, birden fazla modelin tahminlerinin ortalamasını alarak veya oylamasını kullanarak bu düzensizlikleri yumuşatmaya yardımcı olur.
• Sağlamlık ihtiyacı: Topluluk modelleri küçük veri değişikliklerine daha az duyarlıdır. Bu özellik, gerçek dünya girdilerinin değişkenlik gösterebildiği üretim ortamlarında modelleri daha kararlı ve güvenilir kılar.
• Karmaşık tahmin görevleri: Görüntü tanıma, dolandırıcılık tespiti veya zaman serisi tahmini gibi görevlerde topluluklar, tek bir modelin kendi başına yakalayabileceğinden daha geniş bir örüntü ve ilişki yelpazesini yakalar.

Bununla birlikte, tek bir model zaten iyi performans gösteriyorsa genellikle daha iyi bir seçenektir: eğitimi daha basit, yorumlanması daha kolay ve bakımı daha hızlıdır. Topluluk yöntemi kullanmadan önce daha yüksek doğruluğun sağlayacağı faydayı, gerektirdiği ek süre, işlem gücü ve karmaşıklıkla karşılaştırmak önemlidir.

Topluluk öğrenmesi tekniklerine genel bakış#

Şimdi, topluluk öğrenmesinin makine öğrenmesi projelerinde uygulanabileceği temel yöntemlere bakalım. Modelleri birleştirmek için kullanılan ve her biri performansı kendi yöntemiyle iyileştiren birkaç temel teknik vardır. En yaygın topluluk yöntemleri bagging, boosting, stacking ve blending'dir.

Bagging#

Bootstrap aggregating ifadesinin kısaltması olan bagging, verilerin farklı bölümleri üzerinde aynı modelin birden fazla sürümünü eğiterek model kararlılığını ve doğruluğunu artırmaya yardımcı olan bir topluluk öğrenmesi yöntemidir.

Her alt küme, veri noktalarının yerine koymalı olarak rastgele seçildiği bootstrap örneklemesi adlı bir süreçle oluşturulur. Bu, bir veri noktası seçildikten sonra bir sonraki nokta seçilmeden önce havuza geri konduğu anlamına gelir; böylece aynı nokta birden fazla kez yer alabilirken bazı noktalar hiç seçilmeyebilir. Bu rastgelelik, her modelin veri kümesinin biraz farklı bir sürümü üzerinde eğitilmesini sağlar.

Çıkarım sırasında eğitilmiş tüm modeller, yeni ve görülmemiş veriler üzerinde tahmin yapmak için paralel olarak çalışır. Her model öğrendiklerine dayanarak kendi çıktısını üretir ve bu tekil tahminler nihai sonucu oluşturmak üzere birleştirilir.

Ev fiyatlarını veya satış tahminlerini öngörmek gibi regresyon görevlerinde, daha düzgün bir tahmin elde etmek için genellikle tüm modellerin çıktılarının ortalaması alınır. Bir işlemin dolandırıcılık olup olmadığını belirlemek gibi sınıflandırma görevlerinde ise topluluk, nihai sınıfa karar vermek için çoğunlukla oylama yapar.

Uygulamada bagging: Random Forest algoritması#

Bagging'in iyi sonuç verdiği örneklerden biri, tek bir veri kümesi üzerinde eğitildiğinde kolayca aşırı uyum sağlayabilen karar ağaçlarıdır. Birçok ağacı biraz farklı örnekler üzerinde eğitip sonuçlarını birleştirmek, aşırı uyumu azaltır ve güvenilirliği artırır.

Random Forest algoritmasını ele alalım. Bu, her ağacın eğitim veri kümesinin rastgele bir alt kümesinin yanı sıra özelliklerin rastgele bir alt kümesi üzerinde eğitildiği bir karar ağacı topluluğudur.

Özelliklerdeki bu rastgelelik, ağaçların birbiriyle daha az ilişkili olmasına ve genel modelin daha kararlı ve doğru olmasına yardımcı olur. Random Forest algoritması görüntüleri sınıflandırmak, dolandırıcılığı tespit etmek, müşteri kaybını tahmin etmek, satışları öngörmek veya mülk fiyatlarını tahmin etmek için kullanılabilir.

Şekil 2. Random Forest algoritmasına bakış (Kaynak)

Boosting#

Boosting, zayıf öğrenicileri (modelleri) paralel olarak değil, art arda eğiterek iyileştirmeye odaklanan bir başka topluluk öğrenmesi tekniğidir. Boosting'in temel fikri, her yeni modelin önceki modellerin hatalarından öğrenerek genel model performansını aşamalı olarak iyileştirmesidir.

Bağımsız modellerin ortalamasını alarak varyansı azaltan bagging'in aksine boosting, her yeni modelin önceki modellerin zorlandığı örneklere daha fazla odaklanmasını sağlayarak yanlılığı azaltır.

Boosting modelleri art arda eğitildiğinden tahminlerinin sonda birleştirilme biçimi diğer topluluk yöntemlerinden biraz farklıdır. Her model, eğitim sırasındaki performansıyla orantılı olarak nihai tahmine katkıda bulunur; daha doğru modellere daha yüksek ağırlık verilir.

Regresyon görevlerinde nihai sonuç genellikle tüm model tahminlerinin ağırlıklı toplamıdır. Sınıflandırma görevlerinde algoritma, nihai sınıfa karar vermek için modellerin ağırlıklı oylarını birleştirir. Bu yaklaşım, daha doğru modellere daha fazla ağırlık verirken diğer modellerden öğrenmeye de devam ederek boosting'in genel olarak güçlü bir model oluşturmasına yardımcı olur.

Yaygın boosting algoritması türlerinden bazıları şunlardır:

• AdaBoost (Uyarlamalı Boosting): Bu yöntem, küçük bir karar ağacı gibi basit bir modeli eğiterek başlar ve ardından yanlış sınıflandırılan veri noktalarının ağırlığını artırır. Bu ağırlıklar, bir sonraki modelin zor örneklere daha fazla odaklanmasını sağlar. Birden fazla yinelemede modeller birbirinin üzerine inşa edilir ve tahminlerinin birleştirilmesiyle daha güçlü ve doğru bir sonuç elde edilir. Örneğin AdaBoost, istenmeyen e-posta tespitini veya yüz tanıma doğruluğunu iyileştirebilir.
• Gradyan Boosting: Gradyan Boosting, örnekleri yeniden ağırlıklandırmak yerine her yeni modeli; önceki modellerin oluşturduğu, gerçek değerlerle tahmin edilen değerler arasındaki farklar olan artık hataları düzeltmek üzere eğitir. Bu yinelemeli yaklaşım, satış tahmini ve kredi puanlaması gibi hem regresyon hem de sınıflandırma görevlerinde etkili olmasını sağlar.
• XGBoost (Aşırı Gradyan Artırma): Gradyan artırmanın bu gelişmiş sürümü hem hızı hem de doğruluğu iyileştirir. Eğitim sırasında aşırı karmaşık modelleri hafifçe cezalandıran düzenlileştirme kullanır; böylece modeller verileri ezberlemek yerine anlamlı örüntülere odaklanır. Modeller yine sıralı biçimde eğitilse de XGBoost, ağaç oluşturma sırasında paralelleştirme kullanarak süreci hızlandırır. Farklı CPU çekirdeklerinde çok sayıda olası bölme noktasını aynı anda değerlendirebilir. Bu, özellikle büyük veri kümelerinde yüksek tahmin performansını korurken eğitimi çok daha hızlı hâle getirir.

Şekil 3. Diyabet riskini tahmin etmek için boosting yaklaşımıyla eğitilmiş, Karar Ağacı Tabanlı (DTB) sınıflandırıcı örneği. (Kaynak)

Stacking#

Yığınlanmış genelleme olarak da adlandırılan stacking, meta öğrenici olarak bilinen nihai bir model için çeşitli modellerin tahminlerini girdi olarak kullanarak işi bir adım ileri taşır. Bunu, her birinin görüşünü paylaştığı bir uzman grubu gibi düşünebilirsin; ardından son kararı veren kişi, mümkün olan en iyi kararı almak için bu görüşlere nasıl ağırlık vereceğini öğrenir.

Örneğin, bir model dolandırıcılığı tespit etmede çok başarılıyken diğeri müşteri kaybını tahmin etmede daha iyi olabilir. Meta öğrenici, her modelin performansını inceler ve daha doğru bir nihai tahmin yapmak için modellerin güçlü yönlerini birlikte kullanır.

Harmanlama#

Blending, nihai bir karar vermek için birden fazla modelin tahminlerini birleştirdiğinden stacking'e benzer şekilde çalışır; ancak daha basit ve hızlı bir yaklaşım izler. Stacking'in yaptığı gibi çapraz doğrulama (modeli daha güvenilir kılmak için verileri birkaç parçaya ayırıp bu parçaları eğitim ve test arasında dönüşümlü kullanan bir yöntem) kullanmak yerine blending, holdout kümesi adı verilen küçük bir veri bölümünü ayırır.

Temel modeller kalan verilerle eğitilir ve ardından daha önce görmedikleri elde tutulan küme üzerinde tahminler yapar. Böylece iki önemli bilgi elde edilir: gerçek yanıtlar ya da doğru etiketler ve her temel modelin yaptığı tahminler.

Bu tahminler daha sonra harmanlama modeli veya meta model adı verilen başka bir modele aktarılır. Bu nihai model, her temel modelin tahminlerinin ne kadar doğru olduğunu inceler ve bunları mümkün olan en iyi şekilde nasıl birleştireceğini öğrenir.

Harmanlama, süreci birkaç kez tekrarlamak yerine yalnızca bir eğitim-test ayrımına dayandığından daha hızlı çalışır ve kurulumu daha kolaydır. Bunun karşılığında, öğrenebileceği bilgi biraz daha azdır; bu da yöntemin biraz daha az hassas olmasına yol açabilir.

Ensemble algoritmalarını değerlendirme#

Ensemble öğrenmenin önemli bir parçası, bir modelin daha önce görmediği verilerde ne kadar iyi performans gösterdiğini değerlendirmektir. Bir teknik ne kadar gelişmiş olursa olsun, genelleme yapabildiğinden emin olmak için test edilmelidir. Yani model, yalnızca eğitim verilerini ezberlemek yerine yeni ve gerçek dünyadan örneklerde doğru tahminler yapmalıdır.

AI modellerini değerlendirmek için kullanılan yaygın performans ölçütlerinden bazıları şunlardır:

• Doğruluk: Bu ölçüt, modelin yaptığı tüm tahminler içindeki doğru tahminlerin oranını ölçer. Genel performansa hızlıca göz atmanı sağlar.
• Kesinlik: Pozitif olarak tahmin edilen örneklerin kaçının gerçekten pozitif olduğunu gösterir. Yüksek kesinlik, modelin az sayıda yanlış pozitif hata yaptığı anlamına gelir.
• Duyarlılık: Bu ölçüt, gerçek pozitif vakaların kaçının model tarafından doğru tespit edildiğine odaklanır. Hastalık tanısı gibi pozitif bir vakanın gözden kaçmasının ciddi sonuçlar doğurabileceği sağlık hizmetleri gibi alanlarda özellikle önemlidir.

Ensemble öğrenmenin gerçek dünyadaki uygulamaları#

Şimdiye kadar ensemble öğrenmenin nasıl çalıştığını ve arkasındaki teknikleri ele aldık. Şimdi bu yaklaşımın nerelerde etkili olduğuna bakalım.

Ensemble öğrenmenin yaygın olarak kullanıldığı bazı önemli alanlar şunlardır:

• Veri analizi ve tahmin: İş dünyasında ve analitikte ensemble modeller, birden fazla modelden gelen içgörüleri birleştirerek kuruluşların daha iyi tahminler yapmasına yardımcı olur. Böylece satış tahminleri daha doğru, talep planlaması daha akıllı ve müşteri davranışları daha anlaşılır hâle gelir.
• İkili sınıflandırma: Spam tespiti, dolandırıcılığın önlenmesi ve tıbbi teşhis gibi görevlerde genellikle iki olası sonuç arasında ayrım yapmak gerekir. Ensemble modeller, yanlış pozitifleri ve yanlış negatifleri azaltmaya yardımcı olur. Bu, özellikle siber güvenlik ve sağlık hizmetleri gibi alanlarda büyük önem taşır.
• Regresyon problemleri: Ev fiyatları, satış geliri veya kredi riski gibi sürekli değerleri tahmin ederken ensemble yöntemleri verilerdeki karmaşık ilişkileri yakalar. Böylece finansal ve operasyonel kararların iyileştirilmesine yardımcı olan daha hassas tahminler elde edilir.

Ensemble öğrenmeyle yapılandırılmış verilerin ötesine geçmek#

Ensemble öğrenme en çok sayısal veya kategorik bilgiler içeren elektronik tablolar gibi yapılandırılmış ya da tablosal verilerle kullanılsa da metin, görüntü, ses ve video gibi yapılandırılmamış verilere de uygulanabilir.

Bu veri türleri daha karmaşık olduğundan modellerin yorumlaması daha zordur; ancak ensemble yöntemleri doğruluğu ve güvenilirliği artırmaya yardımcı olur. Örneğin ensemble yöntemleri, bilgisayarlı görü alanında görüntü sınıflandırma ve nesne algılama gibi görevleri iyileştirebilir.

Evrişimli sinir ağları (CNNs) gibi birden fazla görü modelinin tahminleri birleştirildiğinde sistem, nesneleri daha doğru tanıyabilir ve tek bir modeli yanıltabilecek ışık, açı veya arka plan farklılıklarını daha iyi yönetebilir.

Ultralytics YOLOv5 model ensemble yaklaşımına bir bakış#

Bilgisayarlı görüde ensemble öğrenmenin ilginç bir örneği, bir mühendisin doğruluğu artırmak için birden fazla nesne algılama modelini birleştirmesidir. Bir inşaat sahasındaki güvenlik izleme sistemi üzerinde çalışan bir mühendis düşün. Bu sahada ışık, açılar ve nesnelerin boyutları sürekli değişir.

Tek bir model gölgelerdeki bir çalışanı kaçırabilir veya hareket hâlindeki makineleri karıştırabilir. Her biri farklı güçlü yönlere sahip modellerden oluşan bir ensemble kullanıldığında sistem daha güvenilir olur ve bu tür hataları yapma olasılığı azalır.

Özellikle Ultralytics YOLOv5 gibi modeller, model ensemble yaklaşımıyla birlikte kullanıma çok uygundur. Mühendisler, YOLOv5x ve YOLOv5l6 gibi farklı YOLOv5 varyantlarını birleştirerek ortak tahminler elde edebilir. Her model aynı görüntüyü analiz edip kendi tespitlerini üretir; bu tespitlerin ortalaması alınarak daha güçlü ve doğru bir nihai sonuç oluşturulur.

Şekil 4. YOLOv5 kullanarak görüntüdeki nesneleri algılama. (Kaynak)

Ensemble öğrenmenin artıları ve eksileri#

Ensemble öğrenme kullanmanın bazı önemli avantajları şunlardır:

• Gürültülü verilere karşı dayanıklılık: Birden fazla modele dayandıkları için ensemble yöntemleri, veri kümesindeki aykırı değerlerden veya rastgele gürültüden daha az etkilenir.
• Daha iyi genelleme: Ensemble yöntemleri aşırı öğrenmeyi azaltır ve modellerin yalnızca eğitim örneklerini ezberlemek yerine daha önce görmedikleri verilerde de iyi performans göstermesine yardımcı olur.
• Algoritmalar arasında esneklik: Kendilerine özgü güçlü yönlerden yararlanmak için karar ağaçları, sinir ağları ve doğrusal modeller gibi farklı model türlerini birleştirebilirsin.

Ensemble öğrenmenin çeşitli avantajları olsa da göz önünde bulundurulması gereken bazı zorluklar da vardır. Dikkate alman gereken birkaç nokta şöyle:

• Daha yüksek hesaplama maliyeti: Birden fazla modeli eğitmek ve sürdürmek, tek bir modele kıyasla daha fazla bellek, işlem gücü ve zaman gerektirir.
• Yorumlanabilirliğin azalması: Nihai çıktı birden fazla modelin birleştirilmesiyle elde edildiğinden, belirli bir kararın neden verildiğini anlamak zor olabilir. Ancak bu durum kullanılan modellere bağlıdır; çünkü karar ağaçları veya destek vektör makineleri gibi yorumlanabilir modeller kullandığında sonuçları anlamak genellikle daha kolaydır.
• Ensemble tasarımında dikkat edilmesi gerekenler: Bir ensemble oluştururken doğru model bileşimini seçmen ve modellerin birlikte iyi çalıştığından emin olman gerekir. Ancak bazı durumlarda bu süreç daha basit olabilir; çünkü her bir modelin hiperparametrelerini ayrı ayrı ince ayarlaman gerekmez.

Önemli çıkarımlar#

Ensemble öğrenme, birden fazla modeli birleştirmenin AI sistemlerini nasıl daha doğru ve güvenilir hâle getirebileceğini gösterir. Hataları azaltmaya ve farklı türdeki görevlerde performansı artırmaya yardımcı olur. Makine öğrenimi ve AI gelişmeye devam ettikçe, bu tür teknikler daha yaygın kullanımı ve daha pratik, yüksek performanslı AI çözümlerini mümkün kılıyor.

Görü yapay zekâsı hakkında daha fazla bilgi edinmek için büyüyen topluluğumuza ve GitHub depomuza katıl. Tarımda bilgisayarlı görü ve lojistikte AI uygulamalarını öğrenmek için çözümler sayfalarımızı incele. Kendi bilgisayarlı görü modelini bugün kullanmaya başlamak için lisans seçeneklerimize göz at!