Topluluk öğrenimini ve bunun yapay zeka ile makine öğrenimindeki rolünü keşfetmek

Bu makalede ele alınan kavramların görsel bir anlatımı için aşağıdaki videoyu izle.

Öneri motorları ve dolandırıcılık tespit sistemleri gibi yapay zeka inovasyonları, veriye dayalı tahminler ve kararlar almak için makine öğrenimi algoritmalarına ve modellerine güvenir. Bu modeller kalıpları tanımlayabilir, eğilimleri tahmin edebilir ve karmaşık görevleri otomatikleştirmeye yardımcı olabilir.

Bununla birlikte, tek bir model gerçek dünya verilerindeki tüm detayları yakalamakta zorlanabilir. Bazı durumlarda iyi performans gösterirken, yeni işlem türlerini kaçıran bir dolandırıcılık tespit modeli gibi diğerlerinde yetersiz kalabilir.

Bu sınırlama, yapay zeka mühendislerinin makine öğrenimi modelleri oluştururken ve dağıtırken sıklıkla karşılaştığı bir durumdur. Bazı modeller eğitim verilerini çok yakından öğrenerek aşırı uyum (overfit) sağlarken, diğerleri önemli kalıpları kaçırarak eksik uyum (underfit) gösterir. Ensemble learning, temel öğreniciler olarak bilinen birden fazla modeli tek ve daha güçlü bir sistemde birleştirerek bu zorlukların üstesinden gelmeye yardımcı olan bir yapay zeka tekniğidir.

Bunu, bir sorunu çözmek için birlikte çalışan bir uzmanlar ekibi gibi düşünebilirsin. Bu makalede ensemble learning'in ne olduğunu, nasıl çalıştığını ve nerede kullanılabileceğini keşfedeceğiz. Hadi başlayalım!

Link to this sectionEnsemble learning nedir?#

Ensemble learning, aynı sorunu çözmek ve tek bir geliştirilmiş sonuç üretmek için birden fazla modeli birleştiren bir dizi tekniği ifade eder. Hem denetimli öğrenmede (modellerin etiketli verilerden öğrendiği durumlar) hem de denetimsiz öğrenmede (modellerin etiketlenmemiş verilerdeki kalıpları bulduğu durumlar) uygulanabilir.

Tahmin yapmak için tek bir modele güvenmek yerine, bir ensemble, veriye kendi yollarıyla bakan birkaç model kullanır. Çıktıları birleştirildiğinde sonuç, genellikle tek bir modelin tek başına başarabileceğinden daha doğru, istikrarlı ve genellenebilir olur.

Bunu aynı sorunu ele alan bir analist paneli ile karşılaştırabilirsin. Her analist veya bireysel model veriyi farklı şekilde yorumlar.

Biri kalıplara, diğeri anomalilere, bir başkası ise bağlama odaklanabilir. Bakış açılarını bir araya getirerek grup, bireysel yargılardan daha dengeli ve güvenilir bir karar verebilir.

Bu yaklaşım aynı zamanda makine öğrenimindeki en büyük iki zorluğu çözmeye yardımcı olur: bias ve variance. Yüksek bias'a sahip bir model çok basittir ve önemli kalıpları gözden kaçırır, yüksek variance'a sahip bir model ise aşırı duyarlıdır ve eğitim verilerine çok yakın uyum sağlar. Ensemble learning, modelleri birleştirerek bu ikisi arasında bir denge bulur ve sistemin yeni, görülmemiş veriler üzerindeki performansını artırır.

Link to this sectionEnsemble learning'in nasıl çalıştığını anlamak#

Ensemble'daki her bir modele temel öğrenici veya temel model denir. Bunlar, kullanılan ensemble tekniğine bağlı olarak aynı tür algoritma veya farklı algoritmaların bir karışımı olabilir.

İşte ensemble learning'de kullanılan farklı modellerin bazı yaygın örnekleri:

• Karar ağaçları: Bu modeller, kararlar almak için verileri özellik değerlerine göre dallara ayırır. Örneğin, bir müşterinin ürün satın alıp almayacağını tahmin etmek gibi sınıflandırma sorunlarında yaş, gelir ve tarama geçmişi gibi faktörleri değerlendirirler.
• Sinir ağları: İnsan beyninin bilgiyi işleme biçiminden esinlenmişlerdir ve modern yapay zeka ve makine öğrenimi modellerinin çoğunun arkasındaki temel mimariyi oluştururlar.
• Destek vektör makineleri (SVMs): Bu algoritmalar, farklı sınıflar arasındaki marjı maksimize eden ve hiper düzlem olarak adlandırılan optimal bir karar sınırı bularak verileri sınıflandırır. Başka bir deyişle, SVM, gruplar arasında olabildiğince büyük bir boşluk bırakarak onları ayıran mümkün olan en iyi çizgiyi çizer. Örneğin, kelime sıklığı ve yapı gibi kalıplara dayanarak bir e-postanın spam olup olmadığını anlamak için kullanılabilir.
• Lojistik regresyon modelleri: Olasılıkları tahmin ederler ve genellikle ikili sınıflandırma görevleri için kullanılırlar. Tipik bir örnek, bir işlemin hileli mi yoksa meşru mu olduğunu tahmin etmektir.

Birleşik bir model ensemble, genel olarak güçlü bir öğrenici olarak adlandırılır çünkü temel öğrenicilerin (zayıf modeller olarak da bilinir) güçlü yanlarını entegre ederken zayıf yanlarını en aza indirir. Bunu, her bir modelin tahminlerini yapılandırılmış bir şekilde birleştirerek yapar; sınıflandırma görevleri için çoğunluk oylaması veya regresyon görevleri için ağırlıklı ortalama kullanarak daha doğru bir nihai sonuç üretir.

Şekil 1. Ensemble learning örneği (Kaynak)

Link to this sectionEnsemble learning ne zaman kullanılır#

Çeşitli ensemble learning tekniklerine dalmadan önce, bir adım geri çekilelim ve bir makine öğrenimi veya yapay zeka projesinde bu tür bir yaklaşımın ne zaman kullanılması gerektiğini anlayalım.

Ensemble learning, tek bir model doğru veya tutarlı tahminler yapmakta zorlandığında en etkili sonucu verir. Ayrıca verinin karmaşık, gürültülü veya öngörülemez olduğu durumlarda da kullanılabilir.

İşte ensemble yöntemlerinin özellikle etkili olduğu bazı yaygın durumlar:

• Düşük model doğruluğu: Tek bir modelin tahminleri yeterince güvenilir olmadığında, birden fazla modeli birleştirmek doğruluğu ve performansı önemli ölçüde artırabilir. Örneğin, kredi puanlaması veya tıbbi teşhislerde tahmin doğruluğundaki küçük iyileştirmeler bile büyük bir fark yaratabilir.
• Gürültülü veya tutarsız veri: Bir veri kümesi aykırı değerler, hatalar veya rastgele dalgalanmalar içeriyorsa, ensemble learning birden fazla model arasında ortalama alma veya oylama yaparak bu düzensizlikleri gidermeye yardımcı olur.
• Dayanıklılık ihtiyacı: Ensemble modeller, küçük veri değişikliklerine karşı daha az duyarlıdır; bu da onları gerçek dünya girdilerinin değişebildiği üretim ortamları için daha istikrarlı ve güvenilir kılar.
• Karmaşık tahmin görevleri: Görüntü tanıma, dolandırıcılık tespiti veya zaman serisi tahmini gibi görevlerde ensemble'lar, tek bir modelin tek başına yapabileceğinden daha geniş bir kalıp ve ilişki yelpazesini yakalar.

Ayrıca eğitimi daha basit, yorumlaması daha kolay ve bakımı daha hızlıdır. Bir ensemble kullanmadan önce, daha yüksek doğruluğun sağladığı faydayı, gerektirdiği ek süre, işlem gücü ve karmaşıklıkla dengelemek önemlidir.

Link to this sectionEnsemble learning tekniklerine genel bakış#

Sırada, ensemble learning'in makine öğrenimi projelerinde uygulanabileceği ana yollara bakalım. Modelleri birleştirmek için kullanılan birkaç temel teknik vardır ve her biri performansı kendi yöntemiyle artırır. En yaygın ensemble yöntemleri bagging, boosting, stacking ve blending'dir.

Link to this sectionBagging#

Bootstrap aggregating'in kısaltması olan Bagging, aynı modelin birden fazla sürümünü verilerin farklı kısımları üzerinde eğiterek model kararlılığını ve doğruluğunu artırmaya yardımcı olan bir ensemble learning yöntemidir.

Her alt küme, veri noktalarının yerine koymalı olarak rastgele seçildiği bootstrap örnekleme adı verilen bir süreç kullanılarak oluşturulur. Bu, bir veri noktası seçildikten sonra bir sonraki seçilmeden önce havuza geri konulduğu anlamına gelir, böylece aynı nokta birden fazla kez görünebilirken diğerleri dışarıda kalabilir. Bu rastgelelik, her modelin veri kümesinin biraz farklı bir sürümü üzerinde eğitilmesini sağlar.

Çıkarım sırasında, eğitilmiş tüm modeller yeni, görülmemiş veriler üzerinde tahmin yapmak için paralel olarak çalışır. Her model öğrendiklerine dayalı olarak kendi çıktısını üretir ve bu bireysel tahminler daha sonra nihai sonucu oluşturmak üzere birleştirilir.

Konut fiyatlarını tahmin etmek veya satış tahminleri yapmak gibi regresyon görevleri için bu, genellikle daha pürüzsüz bir tahmin elde etmek için tüm modellerin çıktılarının ortalamasının alınması anlamına gelir. Bir işlemin hileli olup olmadığını tanımlamak gibi sınıflandırma görevleri için ise ensemble genellikle nihai sınıfa karar vermek için çoğunluk oylaması kullanır.

Link to this sectionİş başında Bagging: Random Forest algoritması#

Bagging'in iyi çalıştığı yerlere iyi bir örnek, tek bir veri kümesinde eğitildiğinde kolayca aşırı uyum sağlayabilen karar ağaçlarıdır. Birçok ağacı biraz farklı örnekler üzerinde eğiterek ve sonuçlarını birleştirerek, bagging aşırı uyumu azaltır ve güvenilirliği artırır.

Random Forest algoritmasını düşün. Bu, her bir ağacın eğitim veri kümesinin rastgele bir alt kümesinin yanı sıra rastgele bir özellik alt kümesi üzerinde eğitildiği bir karar ağaçları ensemble'ıdır.

Bu özellik rastgeleliği, ağaçların daha az ilişkili olmasını ve genel modelin daha kararlı ve doğru olmasını sağlamaya yardımcı olur. Random Forest algoritması görüntüleri sınıflandırmak, dolandırıcılığı tespit etmek, müşteri kaybını tahmin etmek, satışları öngörmek veya mülk fiyatlarını tahmin etmek için kullanılabilir.

Şekil 2. Random Forest algoritmasına bir bakış (Kaynak)

Link to this sectionBoosting#

Boosting, zayıf öğrenicileri (modelleri) paralel yerine birbirini izleyen bir şekilde eğiterek iyileştirmeye odaklanan bir başka ensemble learning tekniğidir. Boosting'in temel kavramı, her yeni modelin bir öncekilerin hatalarından ders çıkararak genel model performansını kademeli olarak artırmasıdır.

Bağımsız modellerin ortalamasını alarak variance'ı azaltan bagging'in aksine, boosting her yeni modelin önceki modellerin zorlandığı durumlara daha fazla dikkat etmesini sağlayarak bias'ı azaltır.

Boosting modelleri sıralı olarak eğitildiğinden, tahminlerinin sonunda birleştirilme biçimi diğer ensemble yöntemlerinden biraz farklıdır. Her model, daha doğru olan modellerin daha fazla ağırlık almasıyla, eğitim sırasındaki performansıyla orantılı olarak nihai tahmine katkıda bulunur.

Regresyon görevleri için nihai sonuç genellikle tüm model tahminlerinin ağırlıklı toplamıdır. Sınıflandırma görevleri için algoritma, nihai sınıfa karar vermek amacıyla modellerden gelen ağırlıklı oyları birleştirir. Bu yaklaşım, boosting'in daha doğru olan modellere daha fazla ağırlık vererek diğerlerinden öğrenmeye devam etmesini ve böylece güçlü bir genel model oluşturmasını sağlar.

İşte bazı yaygın boosting algoritması türleri:

• AdaBoost (Adaptive Boosting): Bu yöntem, küçük bir karar ağacı gibi basit bir model eğiterek başlar ve ardından yanlış sınıflandırılmış veri noktalarının ağırlığını artırır. Bu ağırlıklar, bir sonraki modelin zor örnekler üzerinde daha fazla odaklanmasını sağlar. Birden fazla iterasyon boyunca modeller birbirinin üzerine inşa edilir ve birleştirilmiş tahminleri daha güçlü ve doğru bir sonuç oluşturur. Örneğin, AdaBoost spam tespiti veya yüz tanıma doğruluğunu artırabilir.
• Gradient Boosting: Örnekleri yeniden ağırlıklandırmak yerine, Gradient Boosting her yeni modeli, önceki modeller tarafından yapılan gerçek ve tahmin edilen değerler arasındaki farklar olan kalıntı hataları düzeltmek için eğitir. Bu yinelemeli yaklaşım, onu satış tahmini ve kredi puanlaması gibi hem regresyon hem de sınıflandırma görevleri için etkili kılar.
• XGBoost (Extreme Gradient Boosting): Gradient boosting'in bu gelişmiş sürümü hem hızı hem de doğruluğu artırır. Eğitim sırasında aşırı karmaşık modelleri hafifçe cezalandıran regularization kullanır, böylece modeller verileri ezberlemek yerine anlamlı kalıplara odaklanır. Modeller hala sıralı olarak eğitilse de XGBoost, ağaç oluşturma sırasında paralelleştirme kullanarak süreci hızlandırır. Farklı CPU çekirdekleri arasında aynı anda birçok olası bölünme noktasını değerlendirebilir. Bu, özellikle büyük veri kümelerinde eğitim performansını yüksek tutarken süreci çok daha hızlı hale getirir.

Şekil 3. Diyabet riski tahmini için boosting yaklaşımıyla eğitilmiş Karar Ağacı Tabanlı (DTB) sınıflandırıcı örneği. (Kaynak)

Link to this sectionStacking#

Stacked generalization olarak da adlandırılan Stacking, birkaç modelden gelen tahminleri meta öğrenici olarak bilinen nihai bir model için girdi olarak kullanarak işleri bir adım öteye taşır. Bunu, her biri fikrini paylaşan bir grup uzmanınızın olması ve ardından nihai karar vericinin en iyi kararı vermek için bu fikirleri nasıl ağırlıklandıracağını öğrenmesi gibi düşünebilirsiniz.

Örneğin, bir model dolandırıcılığı tespit etmede harikayken diğeri müşteri kaybını tahmin etmede daha iyi olabilir. Meta öğrenici, her birinin nasıl performans gösterdiğini inceler ve daha doğru bir nihai tahmin yapmak için güçlü yanlarını birlikte kullanır.

Link to this sectionBlending#

Blending, birkaç modelden gelen tahminleri birleştirerek nihai bir karar vermesi nedeniyle stacking ile benzer şekilde çalışır, ancak daha basit ve hızlı bir yaklaşım benimser. Stacking gibi cross-validation (veriyi birkaç parçaya bölen ve modeli daha güvenilir hale getirmek için eğitim ve test arasında döndüren bir yöntem) kullanmak yerine, blending verilerin küçük bir kısmını kenara ayırır, buna holdout seti denir.

Temel modeller kalan veriler üzerinde eğitilir ve ardından daha önce görmedikleri holdout seti üzerinde tahminler yaparlar. Bu, iki temel bilgi parçası üretir: gerçek yanıtlar veya doğru etiketler ve her bir temel model tarafından yapılan tahminler.

Bu tahminler daha sonra blending modeli veya meta model adı verilen başka bir modele iletilir. Bu nihai model, her temel modelin tahminlerinin ne kadar doğru olduğunu inceler ve bunları en iyi şekilde nasıl birleştireceğini öğrenir.

Blending, süreci birkaç kez tekrarlamak yerine yalnızca bir eğitim-test bölünmesine dayandığından, daha hızlı çalışır ve kurulumu daha kolaydır. Bunun dezavantajı, öğrenmek için biraz daha az bilgiye sahip olmasıdır, bu da onu biraz daha az hassas hale getirebilir.

Link to this sectionEnsemble algoritmalarını değerlendirme#

Ensemble learning'in önemli bir parçası, bir modelin daha önce görmediği veriler üzerinde ne kadar iyi performans gösterdiğini değerlendirmektir. Teknik ne kadar gelişmiş olursa olsun, sadece eğitim verilerini ezberlemek yerine yeni, gerçek dünya örnekleri üzerinde doğru tahminler yapabildiğinden emin olmak için test edilmelidir.

İşte yapay zeka modellerini değerlendirmek için kullanılan bazı yaygın performans metrikleri:

• Doğruluk (Accuracy): Bu metrik, model tarafından yapılan tüm tahminler içindeki doğru tahminlerin oranını ölçer. Genel performansa dair hızlı bir genel bakış sunar.
• Kesinlik (Precision): Pozitif olarak tahmin edilen örneklerin gerçekte kaçının pozitif olduğunu gösterir. Yüksek kesinlik, modelin az sayıda yanlış pozitif hatası yaptığı anlamına gelir.
• Duyarlılık (Recall): Bu ölçüm, gerçek pozitif vakaların kaçının model tarafından doğru bir şekilde tanımlandığına odaklanır. Özellikle hastalık teşhisi gibi pozitif bir vakanın kaçırılmasının ciddi sonuçlar doğurabileceği sağlık gibi alanlarda önemlidir.

Link to this sectionEnsemble learning'in gerçek dünya uygulamaları#

Şimdiye kadar ensemble learning'in nasıl çalıştığını ve arkasındaki teknikleri keşfettik. Şimdi bu yaklaşımın nerede bir etki yarattığına bakalım.

İşte ensemble learning'in yaygın olarak uygulandığı bazı önemli alanlar:

• Veri analizi ve tahminleme: İş dünyasında ve analitik alanında ensemble modeller, birden fazla modelden gelen içgörüleri birleştirerek kurumların daha iyi tahminler yapmasına yardımcı olur. Bu, daha doğru satış tahminleri, daha akıllı talep planlaması ve müşteri davranışlarının daha net anlaşılmasını sağlar.
• İkili sınıflandırma: Spam tespiti, dolandırıcılık önleme ve tıbbi teşhis gibi görevler genellikle iki olası sonuç arasında ayrım yapmayı gerektirir. Ensemble modeller, özellikle siber güvenlik ve sağlık gibi alanlarda hayati önem taşıyan yanlış pozitif ve yanlış negatif oranlarını azaltmaya yardımcı olur.
• Regresyon problemleri: Konut fiyatları, satış gelirleri veya kredi riski gibi sürekli değerleri tahmin ederken, ensemble yöntemleri verilerdeki karmaşık ilişkileri yakalar. Bu, daha iyi finansal ve operasyonel kararları destekleyen daha hassas tahminlerle sonuçlanır.

Link to this sectionEnsemble learning ile yapılandırılmış verilerin ötesine geçmek#

Ensemble learning en yaygın olarak sayısal veya kategorik bilgiler içeren elektronik tablolar gibi yapılandırılmış veya tabüler verilerle kullanılsa da, metin, görüntü, ses ve video gibi yapılandırılmamış verilere de uygulanabilir.

Bu veri türleri daha karmaşıktır ve modellerin yorumlaması daha zordur, ancak ensemble yöntemleri doğruluğu ve güvenilirliği artırmaya yardımcı olur. Örneğin, bilgisayarlı görü alanında ensemble'lar, görüntü sınıflandırma ve nesne tespiti gibi görevleri geliştirebilir.

Evrişimli sinir ağları (CNN'ler) gibi birden fazla görü modelinin tahminlerini birleştirerek sistem, nesneleri daha doğru bir şekilde tanıyabilir ve tek bir modeli yanıltabilecek ışık, açı veya arka plan değişimlerini yönetebilir.

Link to this sectionUltralytics YOLOv5 model ensemble'ına bir bakış#

Bilgisayarlı görüde ensemble learning kullanımına dair ilginç bir örnek, bir mühendisin doğruluğu artırmak için birden fazla nesne tespiti modelini birleştirmesidir. Işığın, açıların ve nesne boyutlarının sürekli değiştiği bir şantiye için güvenlik izleme sistemi üzerinde çalışan bir mühendis düşün.

Tek bir model, gölgelerdeki bir işçiyi kaçırabilir veya hareket halindeki makineleri karıştırabilir. Farklı güçlü yanlara sahip modellerden oluşan bir ensemble kullanarak sistem daha güvenilir hale gelir ve bu hataları yapma olasılığı azalır.

Özellikle Ultralytics YOLOv5 gibi modeller, model ensemble'ı ile el ele gider. Mühendisler, birlikte tahminler yapmak için YOLOv5x ve YOLOv5l6 gibi farklı YOLOv5 varyantlarını birleştirebilirler. Her model aynı görüntüyü analiz eder ve kendi tespitlerini üretir, bunlar daha sonra daha güçlü ve doğru bir nihai sonuç oluşturmak için ortalaması alınarak işlenir.

Şekil 4. YOLOv5 kullanarak bir görüntüdeki nesneleri tespit etme. (Kaynak)

Link to this sectionEnsemble learning'in artıları ve eksileri#

İşte ensemble learning kullanmanın bazı temel faydaları:

• Gürültülü verilere karşı direnç: Ensemble'lar birden fazla modele dayandıkları için veri kümesindeki aykırı değerlerden veya rastgele gürültüden daha az etkilenirler.
• Daha iyi genelleme: Ensemble'lar aşırı uyumu azaltarak modellerin sadece eğitim örneklerini ezberlemek yerine görülmemiş veriler üzerinde iyi performans göstermesine yardımcı olur.
• Algoritmalar arası esneklik: Benzersiz güçlü yanlarından yararlanmak için karar ağaçları, sinir ağları ve doğrusal modeller gibi farklı türdeki modelleri birleştirebilirsin.

Ensemble learning masaya çeşitli avantajlar getirse de, göz önünde bulundurulması gereken bazı zorluklar da vardır. İşte aklında tutman gereken birkaç faktör:

• Daha yüksek hesaplama maliyeti: Birden fazla modeli eğitmek ve sürdürmek, tek bir modele kıyasla daha fazla bellek, işlem gücü ve zaman gerektirir.
• Azalan yorumlanabilirlik: Nihai çıktı birden fazla modelin birleştirilmesinden geldiği için, belirli bir kararın neden verildiğini anlamak zor olabilir. Bununla birlikte, bu kullanılan modellere bağlıdır çünkü karar ağaçları veya destek vektör makineleri gibi yorumlanabilir modeller kullandığında, sonuçları anlamak genellikle daha kolaydır.
• Ensemble tasarım hususları: Bir ensemble oluşturmak, doğru model karışımını seçmeyi ve birlikte iyi çalıştıklarından emin olmayı içerir. Bununla birlikte, bazı durumlarda her bir modelin hiperparametrelerini ince ayarlaman gerekmediğinden daha basit de olabilir.

Link to this sectionÖne çıkanlar#

Ensemble learning, birden fazla modeli birleştirmenin yapay zeka sistemlerini nasıl daha doğru ve güvenilir hale getirebileceğini gösterir. Hataları azaltmaya ve farklı görev türlerinde performansı artırmaya yardımcı olur. Makine öğrenimi ve yapay zeka büyümeye devam ettikçe, bu gibi teknikler daha geniş çapta benimsenmeyi ve daha pratik, yüksek performanslı yapay zeka çözümlerini teşvik etmektedir.

Görüntüleme yapay zekası hakkında daha fazla bilgi edinmek için büyüyen topluluğumuza ve GitHub depomuza katıl. Tarımda bilgisayarlı görü ve lojistikte yapay zeka uygulamaları hakkında bilgi edinmek için çözüm sayfalarımızı keşfet. Bugün kendi bilgisayarlı görü modelinle başlamak için lisans seçeneklerimize göz at!