Ultralytics Platform'da görüntü yapay zekâ eğitimi için bulut GPU'su nasıl seçilir?

Geçen ay, veri kümesi yönetiminden model eğitimi ve dağıtımına kadar tüm bilgisayarlı görü iş akışını kolaylaştırmak üzere tasarlanmış uçtan uca bir ortam olan Ultralytics Platform'u tanıttık. Ultralytics Platform, görüntü işleme yapay zekâ modellerini geliştirmek ve ölçeklendirmek için gereken her şeyi tek ve bütünleşik bir deneyimde bir araya getiriyor.

Bu iş akışının önemli bir parçası, sinir ağlarının doğru tahminler yapmak için verilerden örüntüler öğrendiği model eğitimidir ve doğru işlem kaynaklarına erişim burada kritik rol oynar. Daha önce, kullanıcıların yerel altyapıyı yönetmeden bilgisayarlı görü modellerini eğitmesine olanak tanıyan bulut grafik işlem birimi (GPU) destekli model eğitiminde Ultralytics Platform'un sunduğu desteği incelemiştik.

Güçlü NVIDIA GPU'larına isteğe bağlı erişim sayesinde öğrencilerden girişimlere, araştırmacılardan büyük kuruluşlara kadar farklı kullanıcılar yapay zekâ iş yüklerini hiç olmadığı kadar verimli biçimde çalıştırabilir. Bulutta eğitime başlamak kolay olsa da doğru GPU'yu seçerken veri kümesi boyutu, model karmaşıklığı ve maliyet gibi etkenleri göz önünde bulundurmak gerekir.

Bugün uygun maliyetli RTX GPU'larından yüksek performanslı NVIDIA H100 ve yeni nesil Blackwell donanımlarına kadar geniş bir seçenek yelpazesi bulunuyor. Doğru yapılandırmayı seçmek, hem model geliştirme sürecini hem de maliyeti önemli ölçüde etkileyebilir.

Bu makalede, Ultralytics Platform'da bilgisayarlı görü için bulut GPU eğitimi konusuna ve iş yüküne uygun donanımın nasıl seçileceğine bakacağız. Hadi başlayalım!

Ultralytics Platform'da bulut eğitimi hakkında genel bakış#

Ultralytics Platform'da bulut eğitimi için GPU seçimine geçmeden önce bir adım geri çekilip bulut eğitiminin nasıl çalıştığına bakalım.

Bulut GPU eğitimi nedir?#

Bulut GPU eğitimi, makine öğrenimi ve derin öğrenme modellerini eğitmek için kendi yerel donanımına veya iş istasyonuna güvenmek yerine bulut bilişim ortamında barındırılan GPU'ları kullanmayı ifade eder. Ultralytics Platform'da bu sayede güçlü GPU'lara isteğe bağlı erişebilir ve kendi kurulumuna ihtiyaç duymadan eğitim işlerini uzaktan çalıştırabilirsin.

Bu sayede kaynaklarını iş yüküne göre kolayca ölçeklendirebilirsin. Sisteminin kapasitesiyle sınırlı kalmadan daha güçlü GPU'lar seçebilir veya gerektiğinde kapasiteyi artırabilirsin. Bunu, gerektiğinde ölçeğini büyütüp küçültebildiğin uzak veri merkezlerindeki güçlü makinelere ya da düğümlere erişmek gibi düşünebilirsin.

Ayrıca pahalı donanımları kurup bakımını yapma gereğini ortadan kaldırır. GPU satın alman, sürücü yüklemen veya uyumluluk sorunlarıyla uğraşman gerekmez.

Ultralytics Platform; kaynakları tahsis etme, ortamı kurma, orkestrasyon ve eğitim işlerini çalıştırma dâhil her şeyi yönetilen bulut hizmetleri aracılığıyla halleder. Böylece sen de modellerini eğitmeye, denemeler yapmaya ve geliştirmeye odaklanabilirsin.

Ultralytics Platform'da model eğitimi nasıl çalışır?#

Ultralytics Platform'daki GPU hızlandırmalı eğitim iş akışı oldukça basittir. Önce veri kümeni birkaç farklı şekilde platforma ekleyebilirsin.

Mevcut çalışmalar üzerine ilerlemek için kendi verilerini yükleyebilir, platformdaki herkese açık veri kümelerini kullanabilir veya topluluğun paylaştığı veri kümelerini klonlayabilirsin. Bir veri kümesini klonladığında çalışma alanında bir kopya oluşturulur; böylece orijinali değiştirmeden kopyayı düzenleyip genişletebilirsin.

Bir veri kümesi seçtikten sonra her şeyin doğru yapılandırıldığından emin olmak için görüntülerini ve anotasyonlarını inceleyip düzenleyebilirsin. Platformda ayrıca nesne algılama, segmentasyon ve sınıflandırma gibi görevler için verileri etiketleyebileceğin yerleşik anotasyon araçları bulunur; yapay zekâ destekli özelliklerle süreci hızlandırman da mümkündür.

Şekil 1. Ultralytics Platform içinde bir veri kümesini görüntüleme (Kaynak)

Ardından eğitim çalışmalarını yönetmek için bir proje seçebilir veya oluşturabilirsin. Projeler modelleri düzenlemene ve karşılaştırmana, performans ölçütlerini takip etmene ve birbiriyle ilişkili denemeleri tek bir yerde tutmana yardımcı olur.

Buradan bulut eğitimine geçebilir, bir model seçebilir, parametreleri yapılandırabilir ve performans ile bütçe gereksinimlerine göre bir GPU belirleyebilirsin. Temel bulut altyapısını platform senin için yönetir.

Platform seçilen GPU örneğini kullanıma hazır hâle getirir, veri kümeni hazırlar ve eğitim işini bulutta çalıştırır. Eğitim ilerledikçe kurulum, CUDA ortamları, PyTorch veya TensorFlow gibi çerçeveler ya da donanımla uğraşmadan ölçütleri, günlükleri ve sistem performansını gerçek zamanlı izleyebilirsin.

Ultralytics Platform'da GPU eğitiminin temel özellikleri#

Ultralytics Platform'daki bulut GPU eğitiminin bazı temel özellikleri şunlardır:

• Tek tıkla eğitim: Eğitim işlerini minimum kurulumla başlat ve karmaşık yapılandırmalarla uğraşmadan veri kümesinden model eğitimine hızla geç.
• İsteğe bağlı GPU'lar: İhtiyaçlarına göre çeşitli GPU seçenekleri arasından seçim yap ve uzun vadeli taahhütlerde bulunmadan kaynakları gerektiği gibi ölçeklendir.
• Gerçek zamanlı izleme: Canlı grafikler ve günlüklerle eğitimin ilerleyişini takip et; GPU kullanımı ve bellek gibi sistem ölçütlerini gerçek zamanlı görüntüle.
• Otomatik kontrol noktaları: Eğitim ilerlemesi düzenli aralıklarla kaydedilir; böylece gerekirse çalışmaya devam etmek veya çalışmayı kurtarmak kolaylaşır.
• Kolay dağıtım: Eğitim tamamlandığında eğitilmiş modellerini dağıtabilir ve bunları paylaşılan çıkarım API'leri, özel uç noktalar aracılığıyla uygulamalarda veya iş akışlarında kullanabilir ya da harici sistemlerde kullanmak üzere dışa aktarabilirsin. Bu dağıtım seçenekleri düşük gecikmeli çıkarım sağlayarak video analitiği, otomasyon sistemleri ve etkileşimli yapay zekâ çözümleri gibi gerçek zamanlı uygulamaları desteklemeyi mümkün kılar.

Ultralytics Platform'daki farklı bulut GPU seçenekleri#

Artık platformda eğitimin nasıl işlediğini gördüğümüze göre, sunulan farklı GPU seçeneklerine bakalım. Seçtiğin GPU, modelinin ne kadar hızlı eğitileceğini, ne kadar iyi performans göstereceğini ve maliyetini etkileyebilir.

Ultralytics Platform, RTX 2000 Ada ve RTX A4500 gibi seçeneklerden başlayıp RTX 4000 Ada, RTX A5000, RTX 3090 ve RTX A6000 gibi GPU'larla devam ederek RTX 4090 ve RTX PRO 6000 gibi daha güçlü seçeneklere uzanan geniş bir GPU yelpazesi sunar.

Şekil 2. Ultralytics Platform tarafından desteklenen farklı GPU seçeneklerine örnek (Kaynak)

Çoğu kullanıcı için RTX PRO 6000 dengeli bir varsayılan seçenektir. Çok fazla ayar gerektirmeden çeşitli iş yüklerinde güvenilir performans sunar. RTX 4090 da fiyatına göre güçlü performans sunan popüler bir seçenektir.

Hızlı denemeler, prototip oluşturma veya hafif veri kümeleriyle çalışma gibi daha küçük görevler için RTX 2000 Ada ve RTX A4500 gibi GPU'lar iyi bir başlangıç noktasıdır. İş yükün büyüdükçe RTX 4000 Ada, RTX A5000 ve RTX 3090 gibi seçenekler genel eğitim işlerinde daha tutarlı performans sunar.

Üst segmentteki A100 (Ampere), H100 ve H200 (Hopper) ile B200 (Blackwell) gibi GPU'lar büyük ölçekli iş yükleri için tasarlanmıştır. Çok büyük modelleri eğitmek, devasa veri kümelerini işlemek veya hız ile performansın kritik olduğu işleri çalıştırmak için en uygun seçeneklerdir.

Farklı GPU türlerini ve kullanım alanlarını anlama#

Şimdi farklı GPU türlerini karşılaştıralım ve her birinin hangi kullanım alanlarına uygun olduğuna bakalım.

NVIDIA'nın RTX GPU'ları genellikle daha uygun maliyetlidir ve çoğunlukla günlük eğitim, deneme ve küçük ila orta ölçekli iş yüklerinde kullanılır. Performans ile erişilebilirlik arasında denge sunmaları, onları çok çeşitli kullanım alanlarına uygun hâle getirir.

Buna karşılık A100, A40 ve L40 gibi GPU'lar daha ağır iş yükleri ve büyük ölçekli eğitim için tasarlanmıştır. Özellikle büyük veri kümeleri veya daha karmaşık modellerle çalışırken daha yüksek kararlılık ve ölçeklenebilirlik sağlarlar.

Üst segmentteki H100 gibi GPU'lar ve NVIDIA'nın Blackwell mimarisini temel alan GPU'lar, daha yeni yapay zekâ donanımlarını temsil eder. Yüksek performans gerektiren iş yükleri için tasarlanmışlardır ve genellikle büyük ölçekli eğitim, ileri düzey araştırmalar veya zamana duyarlı görevlerde kullanılırlar.

Ultralytics Platform'da sunulan GPU seçenekleri, farklı iş yükleri için esneklik sağlar. Gereksinimlerine göre daha küçük kurulumlarla başlayıp ihtiyaç duydukça ölçeklendirebilirsin.

Projen için doğru bulut GPU'su nasıl seçilir?#

Ultralytics Platform'da bulut eğitimi için GPU seçerken veri kümesi boyutu, model karmaşıklığı ve maliyet gibi çeşitli etkenleri göz önünde bulundurmalısın. Şimdi bu etkenlerin her birine bakalım.

GPU gücünü veri kümesi boyutuna göre belirleme#

GPU seçerken göz önünde bulundurman gereken temel etkenlerden biri veri kümesinin boyutudur; çünkü bu, eğitimin ne kadar süreceğini ve ne kadar işlem gücüne ihtiyaç duyacağını etkiler.

Genellikle 1.000'den az görüntü içeren küçük veri kümeleri için RTX 2000 gibi hafif bir GPU çoğu zaman yeterlidir. Hızlı denemelerde ve kısa eğitim çalışmalarında iyi sonuç verir.

Yaklaşık 1.000 ila 10.000 görüntü içeren orta boyutlu veri kümelerinde RTX 4090 veya RTX A6000 gibi GPU'lar performans ile verimlilik arasında daha iyi bir denge sunar ve uzun gecikmeler olmadan daha sorunsuz eğitim yapmana yardımcı olur.

10.000'den fazla görüntü içeren büyük veri kümelerinde, eğitim sürelerini makul düzeyde tutmak için muhtemelen daha güçlü donanıma ihtiyaç duyarsın. H100 gibi GPU'lar daha ağır iş yüklerini işlemek ve verimli biçimde ölçeklendirmek için daha uygundur.

Genel olarak amaç, veri kümesi boyutunu ihtiyaç duyduğun işlem gücü ve paralel işleme kapasitesiyle eşleştirmektir.

Model boyutuna ve karmaşıklığına göre GPU seçme#

GPU seçerken önemli bir diğer etken, görüntü işleme yapay zekâ modelinin boyutu ve karmaşıklığıdır. Farklı boyutlardaki modellerin hesaplama için ihtiyaç duyduğu güç miktarı da farklıdır.

Örneğin küçük modeller daha az GPU işlem gücüne ihtiyaç duyar ve RTX 2000 Ada, RTX A4500, hatta daha hızlı sonuçlar istiyorsan RTX 4090 gibi GPU'larda verimli biçimde çalışabilir. Bunlar hızlı denemeler, prototip oluşturma ve daha basit görevler için idealdir; yüksek işlem maliyetleri olmadan daha hızlı yineleme yapmana ve fikirleri test etmene olanak tanır.

Öte yandan, daha büyük ve karmaşık modeller önemli ölçüde daha fazla bellek ve işlem gücü gerektirir. RTX A6000, RTX PRO 6000 ve H100 gibi üst düzey GPU'lar bu iş yükleri için daha uygundur. Daha büyük mimarileri işleyebilir, eğitim süresini kısaltabilir ve özellikle yüksek çözünürlüklü görüntüler, büyük yığın boyutları veya daha gelişmiş model tasarımlarıyla çalışırken önem taşıyan bellek sorunlarını önleyebilirler.

Yığın boyutunu ve GPU belleğini karşılaştırma#

Benzer şekilde, yığın boyutu model eğitiminde önemli bir rol oynar. Bir adımda modelin aynı anda işlediği eğitim örneği sayısını ifade eder.

Daha büyük yığın boyutları aynı anda daha fazla veri işleyerek eğitim verimliliğini artırabilir; ancak daha fazla GPU belleği (VRAM) gerektirir. Genel olarak bellek bant genişliği daha yüksek GPU'lar daha büyük yığın boyutlarını destekleyebilirken daha az belleğe sahip GPU'larda daha küçük yığınlar kullanmak gerekebilir.

Örneğin RTX A6000, RTX PRO 6000 veya A100 gibi GPU'lar daha yüksek bellek kapasiteleri sayesinde büyük yığın boyutlarını daha kolay işleyebilirken RTX 4090 veya RTX 2000 Ada gibi seçeneklerde iş yüküne bağlı olarak daha küçük yığın boyutları gerekebilir.

Ancak en büyük GPU'yu kullanmak her zaman gerekli değildir. Üst segment GPU'lar hızı ve kapasiteyi artırabilir, ancak maliyetleri de daha yüksektir. Birçok durumda, daha küçük bir GPU'da yığın boyutunu ayarlamak daha verimli bir seçenek olabilir.

Sonuç olarak amaç, modeline ve veri kümesine göre yığın boyutu, kullanılabilir GPU belleği ve maliyet arasında doğru dengeyi bulmaktır.

Eğitim yapılandırmasının GPU performansına etkisi#

GPU performansını etkileyen bir diğer etken de eğitim yapılandırmasıdır. Bu yapılandırma; dönem sayısı, görüntü boyutu ve modelin nasıl eğitileceğini belirleyen diğer ayarlar gibi parametreleri içerir.

Örneğin, görüntü boyutlarının büyümesi her adımda gereken hesaplama miktarını artırır. Bu, eğitimi yavaşlatabilir ve iyi performansı korumak için daha fazla işlem gücü veya bellek gerektirebilir.

Benzer şekilde dönem sayısını artırmak, özellikle daha az güçlü donanımlarda toplam eğitim süresini uzatır. Dönem, eğitim sırasında veri kümesinin tamamının bir kez işlenmesini ifade eder.

Veri artırma gibi teknikler de eğitim sırasında ek işlem gerektirir. Veri artırma; veri çeşitliliğini artırmak ve model performansını iyileştirmek için görüntüleri çevirme, döndürme veya ölçeklendirme gibi dönüşümler uygular. Bu, modelin dayanıklılığını artırabilse de eğitim hızını düşürebilir.

Genel olarak daha güçlü GPU'lar bu artan gereksinimleri daha verimli biçimde karşılayabilir; ancak etkisi genel yapılandırmaya ve iş yüküne bağlıdır.

Maliyet ve eğitim süresi arasında denge kurma#

Projen için GPU seçerken eğitim hızı ile GPU fiyatı arasında çoğu zaman bir ödünleşim vardır.

Ultralytics Platform, bir eğitim işine başlamadan önce maliyetleri tahmin edip anlamanı kolaylaştırır. Veri kümesi boyutu, model ve GPU dâhil yapılandırmana göre tahmini maliyeti ve eğitim süresini önceden görebilirsin.

Şekil 3. Ultralytics Platform, bulut maliyetlerini tahmin etmeyi ve anlamayı kolaylaştırır. (Kaynak)

Daha hızlı GPU'ların saatlik maliyeti genellikle daha yüksektir, ancak toplam eğitim süresini kısaltabilirler. RTX 4090, RTX PRO 6000 ve H100 gibi GPU'lar daha yüksek performansları sayesinde eğitimi genellikle daha hızlı tamamlar.

Daha yavaş GPU'ların saatlik maliyeti genellikle daha düşüktür, ancak eğitimi tamamlamaları daha uzun sürer. Örneğin RTX 2000 Ada ve RTX A4500 gibi GPU'lar, düşük maliyetin öncelikli olduğu daha küçük iş yüklerinde veya uzun süren işlerde sıklıkla kullanılır.

Buna ek olarak H200 ve B200 gibi en üst düzey GPU'lardan bazıları yalnızca Pro veya Enterprise planlarında kullanılabilirken diğer seçeneklerin çoğuna Free planında da erişilebilir.

Maliyet optimizasyonu stratejilerine bakış#

Doğru GPU'yu seçmenin yanı sıra eğitim maliyetlerini kontrol altında tutmak için uygulayabileceğin birkaç yöntem daha var. En etkili yaklaşımlardan biri, ölçeği büyütmeden önce küçük test çalışmalarıyla başlamaktır.

Doğrudan tam eğitime geçmek yerine, kurulumunun beklendiği gibi çalıştığından emin olmak için daha az epoch ile başla. Bu, verilerini, açıklamalarını ve model yapılandırmanı hızlıca doğrulamaya yardımcı olur; ayrıca yararlı sonuçlar vermeyebilecek çalıştırmalar için zaman ve işlem gücü harcamanı önler.

Eğitim ilerledikçe metriklerini takip et ve performans sabitlenirse ya da iyileşmeyi bırakırsa çalıştırmaları erken durdur. Eğitim eğrilerini izlemek, devam edip etmeyeceğine veya kurulumunu değiştirip değiştirmeyeceğine karar vermene yardımcı olabilir.

Batch boyutu ve görüntü boyutu gibi parametreleri de ayarlayabilirsin. Daha küçük değerler bellek ve işlem gücü kullanımını azaltır; böylece ölçeği büyütmeden önce denemeler yapmak, farklı yapılandırmaları test etmek veya küçük ölçekli simülasyonlar çalıştırmak daha pratik hale gelir.

Şekil 4. Ultralytics Platform'daki eğitim metriklerinin görselleştirmeleri (Kaynak)

Bunlara ek olarak Ultralytics Platform, maliyet yönetimini kolaylaştırır. Bir işi başlatmadan önce beklenen giderleri anlaman için yerleşik maliyet tahmini sunar.

Kullandığın kadar öde esasına dayalı, kredi tabanlı sistemle yalnızca gerçekten kullandığın işlem süresi için ödeme yaparsın. Bu, bütçeni aşmamayı ve eğitim kurulumundan emin olduğunda ölçeği büyütmeyi kolaylaştırır.

Bilgisayarlı görü için bulut GPU eğitiminde en iyi uygulamalar#

Ultralytics Platform'da bulut GPU eğitimi yaparken göz önünde bulundurman gereken bazı en iyi uygulamalar şunlardır:

• Eğitimden önce veri kümelerini doğrula: Başlamadan önce veri kümenin temiz, iyi açıklanmış ve tutarlı olduğundan emin ol. Sorunları erkenden yakalamak, işlem gücünün boşa harcanmasını önlemeye ve model performansını artırmaya yardımcı olur.
• Önce hızlı denemeler yap: Kurulumunu doğrulamak için küçük test çalıştırmalarıyla ve daha az epoch ile başla. Bu, uzun ve maliyetli eğitim işlerine girişmeden önce sorunları erkenden belirlemene yardımcı olur. Bir bakıma, her şey beklendiği gibi çalıştığında yeniden kullanıp ölçeklendirebileceğin bir şablon oluşturmuş olursun.
• Önemli metrikleri izle: Eğitim boyunca loss, mAP, precision ve recall gibi metrikleri takip et. Bu metrikler, model performansını değerlendirmek için ölçüt görevi görür ve ne zaman ayarlama yapacağına ya da eğitimi durduracağına karar vermene yardımcı olur.
• Veri işleme işlem hatlarını verimli tut: Veri yükleme ve ön işlemenin verimli olduğundan emin ol; çünkü bu işlevler CPU kaynaklarına dayanır ve genel eğitim performansını etkileyen darboğazlara dönüşebilir.
• Yerleşik araçları kullan: Eğitimi gerçek zamanlı izlemek ve hızlıca bilinçli kararlar vermek için grafikleri, konsol günlüklerini ve sistem metriklerini kullan.

Önemli çıkarımlar#

Ultralytics Platform'da bilgisayarlı görü için doğru bulut GPU'sunu seçmek; veri kümesi boyutu, model karmaşıklığı ve eğitim yapılandırması dahil olmak üzere iş yükünü anlamaya bağlıdır. Bulut altyapısı ve sanal makinelerle desteklenen çeşitli GPU seçenekleri arasından dengeli bir seçimle başlayabilir, model eğitimi veya ince ayar ihtiyaçların arttıkça ölçeği büyütebilirsin. Doğru donanımı izleme ve maliyet kontrolü gibi iyi uygulamalarla birleştirerek yüksek performanslı bilgi işlemin esnekliğinden en iyi şekilde yararlanırken son teknoloji yapay zekâ modellerini verimli biçimde eğitebilirsin.

Bilgisayarlı görü hakkında daha fazla bilgi edinmek için büyüyen topluluğumuza ve GitHub depomuza göz at. Görüntü işleme çözümleri geliştirmek istiyorsan lisans seçeneklerimize göz at. Üretimde bilgisayarlı görü ve tarımda yapay zekânın faydaları hakkında daha fazla bilgi edinmek için çözüm sayfalarımızı incele.