Ultralytics Platform üzerinde yapay zeka görü eğitimi için bulut GPU'su nasıl seçilir

Last month, we introduced Ultralytics Platform, an end-to-end environment designed to streamline the entire computer vision workflow, from dataset management to model training and deployment. Ultralytics Platform brings together everything needed to build and scale vision AI models into a single and unified experience.

Bu iş akışının temel bir parçası, sinir ağlarının doğru tahminler yapmak için verilerden örüntüler öğrendiği model eğitimidir ve doğru bilgi işlem kaynaklarına erişim çok önemli bir rol oynar. Daha önce, Ultralytics Platform'un bulut grafik işleme birimi (GPU) destekli model eğitimini nasıl desteklediğini ve kullanıcıların yerel altyapıyı yönetmeden yapay görme modellerini eğitmelerine nasıl olanak tanıdığını incelemiştik.

Güçlü NVIDIA GPU'larına isteğe bağlı erişim sayesinde, öğrencilerden ve girişimlerden araştırmacılara ve büyük kuruluşlara kadar her kullanıcı, yapay zeka iş yüklerini her zamankinden daha verimli bir şekilde çalıştırabilir. Bulut eğitimine başlamak basit olsa da, doğru GPU'yu seçmek; veri kümesi boyutu, model karmaşıklığı ve maliyet gibi faktörleri değerlendirmeyi gerektirir.

Günümüzde, maliyet etkin RTX GPU'lardan yüksek performanslı NVIDIA H100'e ve yeni nesil Blackwell donanımına kadar çok çeşitli seçenekler mevcut olduğundan, doğru yapılandırmayı seçmek hem model geliştirme sürecini hem de maliyeti önemli ölçüde etkileyebilir.

Bu makalede, Ultralytics Platform üzerinde yapay görme için bulut GPU eğitimine ve iş yükün için doğru donanımı nasıl seçeceğine bakacağız. Başlayalım!

Link to this sectionUltralytics Platform üzerinde bulut eğitimine genel bakış#

Ultralytics Platform üzerinde bulut eğitimi için bir GPU'nun nasıl seçileceğine girmeden önce, bir adım geri çekilip bulut eğitiminin nasıl çalıştığına bakalım.

Link to this sectionBulut GPU eğitimi nedir?#

Bulut GPU eğitimi, kendi yerel donanımına veya iş istasyonuna güvenmek yerine, makine öğrenimi ve derin öğrenme modellerini eğitmek için bulut bilişim ortamında barındırılan GPU'ların kullanılması anlamına gelir. Ultralytics Platform üzerinde bu, kendi kurulumuna ihtiyaç duymadan, güçlü GPU'lara isteğe bağlı erişmene ve eğitim işlerini uzaktan çalıştırmana olanak tanır.

Bu, kaynaklarını iş yüküne göre ölçeklendirmeyi kolaylaştırır. Sisteminin yetenekleriyle sınırlı kalmadan, gerektiğinde daha güçlü GPU'lar seçebilir veya kapasiteyi artırabilirsin. Bunu, gerektiğinde ölçeklendirebileceğin, uzak veri merkezlerindeki güçlü makinelere veya düğümlere erişmek gibi düşünebilirsin.

Ayrıca pahalı donanım kurma ve bakım ihtiyacını da ortadan kaldırır. GPU satın almak, sürücü yüklemek veya uyumluluk sorunlarıyla uğraşmak zorunda kalmazsın.

Ultralytics Platform, kaynak sağlamadan ortam kurulumuna, orkestrasyona ve eğitim işlerini yürütmeye kadar her şeyi yönetilen bulut hizmetleri aracılığıyla halleder; böylece sen eğitme, deneme yapma ve modellerini iyileştirme süreçlerine odaklanabilirsin.

Link to this sectionUltralytics Platform üzerinde model eğitimi nasıl çalışır?#

Ultralytics Platform üzerinde GPU hızlandırmalı eğitim iş akışı oldukça basittir. Veri kümeni birkaç farklı şekilde sisteme dahil ederek başlayabilirsin.

Kendi verilerini yükleyebilir, platformda bulunan herkese açık veri kümelerini kullanabilir veya mevcut çalışmaların üzerine inşa etmek için topluluk tarafından paylaşılan veri kümelerini klonlayabilirsin. Bir veri kümesini klonlamak, çalışma alanında bir kopya oluşturur ve orijinali değişmeden bırakırken onu düzenleyip genişletmene olanak tanır.

Bir veri kümesi seçtikten sonra, her şeyin düzgün yapılandırıldığından emin olmak için görüntülerini ve ek açıklamalarını gözden geçirebilir ve düzenleyebilirsin. Platform ayrıca, nesne algılama, segmentasyon ve sınıflandırma gibi görevler için verileri etiketlemene veya yapay zeka destekli özelliklerle süreci hızlandırmana olanak tanıyan yerleşik ek açıklama araçlarını da içerir.

Şekil 1. Ultralytics Platform içinde bir veri kümesini görüntüleme (Kaynak)

Ardından, eğitim çalışmalarını yönetmek için bir proje seçebilir veya oluşturabilirsin. Projeler, modelleri düzenlemene ve karşılaştırmana, performans metriklerini izlemene ve ilgili deneyleri tek bir yerde tutmana yardımcı olur.

Buradan, bir model seçtiğin, parametreleri yapılandırdığın ve performans ile bütçe ihtiyaçlarına göre bir GPU belirlediğin bulut eğitimine geçebilirsin. Platform, altta yatan bulut altyapısını senin için yönetir.

Seçilen GPU örneğini hazırlar, veri kümeni hazırlar ve eğitim işini bulutta çalıştırır. Eğitim ilerledikçe; kurulum, CUDA ortamları, PyTorch veya TensorFlow gibi çerçeveleri ya da donanımı yönetmene gerek kalmadan metrikleri, günlükleri ve sistem performansını gerçek zamanlı olarak izleyebilirsin.

Link to this sectionUltralytics Platform üzerindeki temel GPU eğitim özellikleri#

İşte Ultralytics Platform üzerindeki bulut GPU eğitiminin bazı temel özellikleri:

• Tek tıkla eğitim: Eğitim işlerini minimum kurulumla başlat ve karmaşık yapılandırmalara gerek kalmadan veri kümesinden model eğitimine hızla geç.
• İsteğe bağlı GPU'lar: İhtiyaçlarına göre çeşitli GPU seçeneklerinden birini seç ve uzun vadeli taahhütler olmadan kaynakları gerektiği gibi ölçeklendir.
• Gerçek zamanlı izleme: Eğitim ilerlemesini canlı grafikler ve günlüklerle takip et; GPU kullanımı ve bellek gibi sistem metriklerini gerçek zamanlı olarak görüntüle.
• Otomatik kontrol noktaları: Eğitim ilerlemesi düzenli aralıklarla kaydedilir, bu da gerekirse işe kaldığın yerden devam etmeyi veya geri yüklemeyi kolaylaştırır.
• Kolay dağıtım: Eğitim tamamlandığında, eğitilmiş modellerini dağıtabilir ve bunları paylaşılan çıkarım API'leri, özel uç noktalar aracılığıyla uygulamalarda veya iş akışlarında kullanabilir ya da harici sistemlerde kullanım için dışa aktarabilirsin. Bu dağıtım seçenekleri, düşük gecikmeli çıkarım sağlayarak video analitiği, otomasyon sistemleri ve etkileşimli yapay zeka çözümleri gibi gerçek zamanlı uygulamalara güç vermeyi mümkün kılar.

Link to this sectionUltralytics Platform bünyesindeki farklı bulut GPU seçenekleri#

Platformda eğitimin nasıl çalıştığını gördüğümüze göre, mevcut farklı GPU seçeneklerine bakalım. Seçtiğin GPU, modelinin ne kadar hızlı eğitileceğini, ne kadar iyi performans göstereceğini ve maliyetini etkileyebilir.

Ultralytics Platform; RTX 2000 Ada ve RTX A4500 gibi seçeneklerle başlayıp, RTX 4000 Ada, RTX A5000, RTX 3090 ve RTX A6000 gibi GPU'larla devam eden ve RTX 4090 ile RTX PRO 6000 gibi daha güçlü seçeneklere kadar uzanan geniş bir GPU yelpazesi sunar.

Şekil 2. Ultralytics Platform tarafından desteklenen farklı GPU seçeneklerine bir örnek (Kaynak)

Çoğu kullanıcı için RTX PRO 6000 dengeli ve varsayılan bir tercihtir. Çok fazla ayar gerektirmeden çeşitli iş yüklerinde güvenilir performans sunar. RTX 4090 ise fiyatına göre sunduğu güçlü performansla bir diğer popüler seçenektir.

Hızlı deneyler, prototip oluşturma veya hafif veri kümeleriyle çalışma gibi daha küçük görevler için RTX 2000 Ada ve RTX A4500 gibi GPU'lar iyi bir başlangıç noktasıdır. İş yükün büyüdükçe, RTX 4000 Ada, RTX A5000 ve RTX 3090 gibi seçenekler genel eğitim için daha tutarlı performans sağlar.

Daha üst segmentte ise A100 (Ampere), H100 ve H200 (Hopper) ve B200 (Blackwell) gibi GPU'lar büyük ölçekli iş yükleri için üretilmiştir. Bunlar, çok büyük modelleri eğitmek, devasa veri kümelerini işlemek veya hız ve performansın kritik olduğu işleri çalıştırmak için en uygun olanlardır.

Link to this sectionFarklı GPU türlerini ve kullanım durumlarını anlamak#

Şimdi de farklı GPU türlerinin nasıl karşılaştırıldığına ve en iyi nerede kullanıldıklarına bakalım.

NVIDIA'nın RTX GPU'ları genellikle daha maliyet etkindir ve günlük eğitim, deneme yapma ve küçük ila orta ölçekli iş yükleri için yaygın olarak kullanılır. Performans ve erişilebilirlik arasında bir denge sunarak çok çeşitli kullanım durumları için uygun olmalarını sağlarlar.

Buna kıyasla, A100, A40 ve L40 gibi GPU'lar daha ağır iş yükleri ve daha büyük ölçekli eğitim için tasarlanmıştır. Özellikle daha büyük veri kümeleriyle veya daha karmaşık modellerle çalışırken daha yüksek kararlılık ve ölçeklenebilirlik sağlarlar.

Üst seviyede ise H100 ve NVIDIA'nın Blackwell mimarisi tabanlı GPU'lar daha yeni yapay zeka donanımlarını temsil eder. Bunlar yüksek performanslı iş yükleri için tasarlanmıştır ve genellikle büyük ölçekli eğitim, ileri düzey araştırmalar veya zaman açısından kritik görevler için kullanılır.

Ultralytics Platform'da bulunan GPU seçenekleri yelpazesi, farklı iş yükleri arasında esneklik sağlar. Gereksinimlerine bağlı olarak daha küçük kurulumlarla başlayabilir ve gerektiğinde ölçeklendirebilirsin.

Link to this sectionProjen için doğru bulut GPU'su nasıl seçilir#

Ultralytics Platform üzerinde bulut eğitimi için bir GPU seçerken; veri kümesi boyutu, model karmaşıklığı ve maliyet dahil olmak üzere dikkate alınması gereken birkaç faktör vardır. Şimdi bu faktörlerin her birine göz atalım.

Link to this sectionGPU gücünü veri kümesi boyutuyla eşleştirme#

Bir GPU seçerken ana faktörlerden biri veri kümesi boyutundur, çünkü bu durum eğitimin ne kadar süreceğini ve ne kadar bilgi işlem gücüne ihtiyaç duyacağını etkiler.

Genellikle 1.000 görüntüden az olan küçük veri kümeleri için RTX 2000 gibi hafif bir GPU genellikle yeterlidir. Bu, hızlı deneyler ve daha kısa eğitim çalışmaları için iyi sonuç verir.

1.000 ile 10.000 görüntü arasındaki orta ölçekli veri kümeleri için RTX 4090 veya RTX A6000 gibi GPU'lar, daha iyi bir performans ve verimlilik dengesi sunarak uzun gecikmeler olmadan daha sorunsuz bir şekilde eğitmeni sağlar.

10.000 görüntüden fazla olan daha büyük veri kümeleri için, eğitim sürelerini makul tutmak adına muhtemelen daha güçlü bir donanıma ihtiyacın olacaktır. H100 GPU'lar gibi seçenekler, daha ağır iş yüklerini yönetmek ve etkin bir şekilde ölçeklendirmek için daha uygundur.

Genel olarak mesele, veri kümesi boyutunu ihtiyaç duyduğun bilgi işlem gücü ve paralel işleme kapasitesi seviyesiyle eşleştirmektir.

Link to this sectionModel boyutuna ve karmaşıklığına göre GPU seçimi#

GPU seçerken bir diğer önemli faktör yapay görme modelinin boyutu ve karmaşıklığıdır. Farklı boyutlardaki modeller, hesaplama için farklı miktarlarda güce ihtiyaç duyar.

Örneğin, daha küçük modeller daha az GPU işlem gücüne ihtiyaç duyar ve RTX 2000 Ada, RTX A4500 veya daha hızlı sonuçlar istersen RTX 4090 gibi GPU'larda verimli bir şekilde çalışabilir. Bunlar; hızlı deneyler, prototip oluşturma ve daha basit görevler için idealdir, bu da daha yüksek bilgi işlem maliyetleri olmadan fikirleri test etmene ve süreci hızlandırmana olanak tanır.

Öte yandan, daha büyük ve karmaşık modeller önemli ölçüde daha fazla bellek ve işlem gücü gerektirir. RTX A6000, RTX PRO 6000 ve H100 gibi üst düzey seçenekler bu tür iş yükleri için daha uygundur. Daha büyük mimarileri yönetebilir, eğitim süresini azaltabilir ve özellikle yüksek çözünürlüklü görüntüler, büyük yığın boyutları veya daha gelişmiş model tasarımlarıyla çalışırken önemli olan bellek sorunlarını önleyebilirler.

Link to this sectionYığın boyutu ve GPU belleğini karşılaştırma#

Benzer şekilde, yığın boyutu (batch size) model eğitiminde önemli bir rol oynar. Modelin tek bir adımda işlediği eğitim örneği sayısını ifade eder.

Daha büyük yığın boyutları, aynı anda daha fazla veri işleyerek eğitim verimliliğini artırabilir ancak aynı zamanda daha fazla GPU belleği (VRAM) gerektirir. Genel olarak, daha yüksek bellek bant genişliğine sahip GPU'lar daha büyük yığın boyutlarını destekleyebilirken, daha az belleğe sahip GPU'lar daha küçük yığınlar gerektirebilir.

Örneğin, RTX A6000, RTX PRO 6000 veya A100 gibi GPU'lar daha yüksek bellekleri sayesinde daha büyük yığın boyutlarını kolayca yönetebilirken, RTX 4090 veya RTX 2000 Ada gibi seçenekler iş yüküne bağlı olarak daha küçük yığın boyutları gerektirebilir.

Ancak, en büyük GPU'yu kullanmak her zaman gerekli değildir. Üst düzey GPU'lar hızı ve kapasiteyi artırabilir ancak aynı zamanda daha yüksek maliyetlerle gelirler. Birçok durumda, daha küçük bir GPU'da yığın boyutunu ayarlamak daha verimli bir seçim olabilir.

Nihayetinde amaç, modeline ve veri kümene bağlı olarak yığın boyutu, mevcut GPU belleği ve maliyet arasında doğru dengeyi bulmaktır.

Link to this sectionEğitim yapılandırmasının GPU performansı üzerindeki etkisi#

GPU performansını etkileyen bir diğer faktör de eğitim yapılandırmasıdır. Bu; dönem (epoch) sayısı, görüntü boyutu ve modelin nasıl eğitileceğini kontrol eden diğer ayarlar gibi parametreleri içerir.

Örneğin, daha büyük görüntü boyutları adım başına gereken hesaplama miktarını artırır. Bu durum eğitimi yavaşlatabilir ve iyi performansı korumak için daha fazla bilgi işlem gücü veya bellek gerektirebilir.

Benzer şekilde, dönem sayısını artırmak, özellikle daha az güçlü donanımlarda toplam eğitim süresini uzatır. Bir dönem, eğitim sırasında tüm veri kümesinden bir kez geçişi ifade eder.

Veri artırma gibi teknikler de eğitim sırasında ek işlem yükü ekler. Veri artırma; veri çeşitliliğini artırmak ve model performansını iyileştirmek için döndürme, çevirme veya ölçekleme gibi dönüşümler uygular. Bu, model dayanıklılığını artırsa da eğitim hızını düşürebilir.

Genel olarak, daha güçlü GPU'lar bu artan talepleri daha verimli bir şekilde yönetebilir, ancak etki genel yapılandırmaya ve iş yüküne bağlı olacaktır.

Link to this sectionMaliyet ve eğitim süresini dengeleme#

Projen için bir GPU seçerken, genellikle eğitim hızı ile GPU fiyatlandırması arasında bir denge vardır.

Ultralytics Platform, bir eğitim işine başlamadan önce bu maliyetleri tahmin etmeyi ve anlamayı kolaylaştırır. Veri kümesi boyutu, model ve GPU dahil olmak üzere yapılandırmana dayanarak, tahmini bir maliyeti ve eğitim süresini önceden görebilirsin.

Şekil 3. Ultralytics Platform, bulut maliyetlerini tahmin etmeyi ve anlamayı kolaylaştırır. (Kaynak)

Daha hızlı GPU'lar genellikle daha yüksek saatlik maliyete sahiptir ancak toplam eğitim süresini kısaltabilirler. RTX 4090, RTX PRO 6000 ve H100 gibi GPU'lar, yüksek performansları sayesinde eğitimi genellikle daha hızlı tamamlayabilirler.

Daha yavaş GPU'lar daha düşük saatlik maliyete sahip olma eğilimindedir ancak eğitimin tamamlanması daha uzun sürer. Örneğin, RTX 2000 Ada ve RTX A4500 gibi GPU'lar genellikle daha küçük iş yükleri veya daha düşük maliyetin öncelikli olduğu uzun süreli işler için kullanılır.

Buna ek olarak, H200 ve B200 gibi en üst düzey GPU'ların bazıları yalnızca Pro veya Enterprise planlarında bulunurken, diğer çoğu seçenek Free (Ücretsiz) katmanında da mevcuttur.

Link to this sectionMaliyet optimizasyon stratejilerine bir bakış#

Doğru GPU'yu seçmenin ötesinde, eğitim maliyetlerini kontrol altında tutmanın birkaç pratik yolu vardır. En etkili yaklaşımlardan biri, ölçeklendirmeden önce küçük test çalışmalarıyla başlamaktır.

Tam eğitime doğrudan başlamak yerine, kurulumunun beklendiği gibi çalıştığından emin olmak için daha az dönemle başla. Bu, verilerini, ek açıklamalarını ve model yapılandırmanı hızla doğrulamanı sağlar ve faydalı sonuçlar üretmeyebilecek çalışmalarla vakit ve bilgi işlem gücü harcamaktan kaçınmana yardımcı olur.

Eğitim ilerledikçe metriklerini gözlemle ve performans durağanlaşırsa veya gelişmeyi durdurursa çalışmaları erkenden durdur. Eğitim eğrilerini izlemek, devam edip etmeyeceğine veya kurulumunu ayarlayıp ayarlamayacağına karar vermene yardımcı olabilir.

Ayrıca yığın boyutu ve görüntü boyutu gibi parametreleri de ayarlayabilirsin. Daha küçük değerler bellek ve bilgi işlem kullanımını azaltarak; deneme yapmayı, farklı yapılandırmaları test etmeyi veya ölçeklendirmeden önce küçük ölçekli simülasyonlar çalıştırmayı daha pratik hale getirir.

Şekil 4. Ultralytics Platform üzerinde eğitim metrikleri görselleştirmeleri (Kaynak)

Buna ek olarak, Ultralytics Platform maliyet yönetimini basitleştirmeye yardımcı olur. Yerleşik maliyet tahmini sunar, böylece bir işe başlamadan önce beklenen harcamaları anlayabilirsin.

Kullandığın kadar öde (pay-per-use), kredi tabanlı bir sistemle, yalnızca kullandığın bilgi işlem süresi için ödeme yaparsın. Bu, bütçeni korumayı ve eğitim kurulumundan emin olduktan sonra ölçeklendirmeyi kolaylaştırır.

Link to this sectionYapay görme için bulut GPU eğitimi ile ilgili en iyi uygulamalar#

İşte Ultralytics Platform'da bulut GPU eğitimi için aklında tutman gereken bazı en iyi uygulamalar:

• Eğitimden önce veri kümelerini doğrula: Başlamadan önce veri kümenin temiz, iyi etiketlenmiş ve tutarlı olduğundan emin ol. Sorunları erkenden tespit etmek, boşuna bilgi işlem harcamaktan kaçınmana yardımcı olur ve model performansını artırır.
• Önce hızlı deneyler çalıştır: Kurulumunu doğrulamak için küçük test çalışmaları ve daha az dönemle başla. Bu, uzun ve maliyetli eğitim işlerine taahhüt etmeden önce sorunları erkenden belirlemene yardımcı olur. Bir bakıma, her şey beklendiği gibi çalıştığında yeniden kullanabileceğin ve ölçeklendirebileceğin bir şablon oluşturuyorsun.
• Temel metrikleri izle: Eğitim boyunca kayıp (loss), mAP, kesinlik (precision) ve duyarlılık (recall) gibi metrikleri takip et. Bu metrikler, model performansını değerlendirmek için birer referans noktası görevi görür ve ne zaman ayarlama yapacağına veya durduracağına karar vermene yardımcı olur.
• Veri işleme hatlarını verimli tut: Veri yükleme ve ön işlemenin verimli olduğundan emin ol, çünkü bu işlevler CPU kaynaklarına dayanır ve genel eğitim performansını etkileyen darboğazlar haline gelebilir.
• Yerleşik araçları kullan: Eğitimi gerçek zamanlı olarak izlemek ve hızlı bir şekilde bilinçli kararlar almak için grafikleri, konsol günlüklerini ve sistem metriklerini kullan.

Link to this sectionÖne çıkanlar#

Ultralytics Platform üzerinde yapay görme için doğru bulut GPU'sunu seçmek; veri kümesi boyutu, model karmaşıklığı ve eğitim yapılandırması dahil olmak üzere iş yükünü anlamaya dayanır. Bulut altyapısı ve sanal makinelerle desteklenen çeşitli GPU seçenekleriyle, dengeli bir seçimle başlayabilir ve model eğitimi veya ince ayar ihtiyaçların büyüdükçe ölçeklendirebilirsin. Doğru donanımı izleme ve maliyet kontrolü gibi iyi uygulamalarla birleştirerek, yüksek performanslı bilgi işlem esnekliğinden en iyi şekilde yararlanırken son teknoloji yapay zeka modellerini verimli bir şekilde eğitebilirsin.

Computer vision hakkında daha fazla bilgi edinmek için büyüyen community sayfamıza ve GitHub repository adresimize göz at. Vizyon çözümleri oluşturmak istiyorsan, licensing options seçeneklerimizi incele. computer vision in manufacturing ve AI in agriculture alanlarındaki avantajlar hakkında daha fazlasını öğrenmek için çözüm sayfalarımızı keşfet.