27 Mart 2024
DeGirum ile kuantize edilmiş YOLOv8 modellerini dağıtmayı keşfedin. Uç cihazlar için zorlukları, çözümleri ve dağıtım tekniklerini öğrenin. Bizimle geleceği şekillendirin!
Madrid'deki hareketli Google for Startups Kampüsü'nde düzenlenen YOLO VISION 2023 (YV23) etkinliğimizden bir başka bilgilendirici konuşmanın özetine hoş geldiniz. Bu konuşma, DeGirum'da Baş Mimar ve Kurucu Ortak olan Shashi Chilappagar tarafından yapıldı. Kuantizasyonun ve kuantize edilmiş modellerin dağıtımının büyüleyici dünyasına daldı, temel zorlukları, çözümleri ve gelecek olasılıklarını araştırdı.
Shashi, Ultralytics YOLO modellerini uç cihazlarda dağıtım için optimize etmede kuantizasyonun önemi vurgulayarak kapsamlı bir genel bakış sağladı. Temel bilgilerden kuantizasyonu iyileştirme yaklaşımlarını keşfetmeye kadar, katılımcılar model taşıma ve dağıtımının karmaşıklıkları hakkında değerli bilgiler edindi.
Kuantizasyon genellikle zorluklar yaratır, özellikle TFLite'daki YOLO modellerinde. Dinleyicilerimiz, tüm çıktılar aynı ölçek/sıfır noktasıyla kuantize edildiğinde gözlemlenen önemli doğruluk düşüşünü öğrendi ve kuantizasyon sürecinde model doğruluğunu korumanın karmaşıklıklarına ışık tuttu.
Neyse ki, bu zorlukların üstesinden gelmek için çözümler var. DigiRAM çatallanmasının tanıtımı, çıktıları ayırarak ve sınırlayıcı kutu kod çözmeyi optimize ederek kuantizasyon dostu bir yaklaşım sunar. Bu geliştirmelerle, kuantize edilmiş model doğruluğu temel seviyelerden önemli bir iyileşme gösterir.
Yeni model mimarilerini keşfetmek, kuantizasyon kaybını en aza indirmek için çok önemlidir. Katılımcılar, CILU'nun sınırlı Relu6 aktivasyonuyla değiştirilmesinin nasıl minimum kuantizasyon kaybına yol açtığını ve kuantize edilmiş modellerde doğruluğu korumak için umut verici sonuçlar sunduğunu keşfettiler.
Kuantize edilmiş modellerin dağıtımı hiç bu kadar kolay olmamıştı; Digitim bulut platformunda herhangi bir modeli çalıştırmak için yalnızca beş satır kod gerekiyor. Canlı bir kod demosu, kuantize edilmiş bir Ultralytics YOLOv5 modeliyle nesneleri tespit etmenin basitliğini sergileyerek, kuantize edilmiş modellerin gerçek dünya uygulamalarına kusursuz entegrasyonunu vurguladı.
Bu doğrultuda, Ultralytics, son kullanıcıların uygulamalarını gömülü ve uç cihazlarda etkili bir şekilde dağıtmalarını sağlayan çeşitli model dağıtım seçenekleri sunar. Farklı dışa aktarım formatları arasında OpenVINO, TorchScript, TensorRT, CoreML, TFlite ve TFlite EDGE TPU bulunur ve çok yönlülük ve uyumluluk sunar.
Dağıtım için üçüncü taraf uygulamalarla bu entegrasyon, kullanıcıların modellerimizin performansını gerçek dünya senaryolarında değerlendirmesine olanak tanır.
Katılımcılar ayrıca, farklı donanım platformlarında farklı modellerin dağıtımının çok yönlülüğü hakkında bilgi edinerek, tek bir kod tabanının farklı hızlandırıcılarda birden çok modeli nasıl destekleyebileceğini gösterdiler. Farklı donanım platformlarında farklı tespit görevlerini çalıştırma örnekleri, yaklaşımımızın esnekliğini ve ölçeklenebilirliğini gösterdi.
Katılımcıları daha da güçlendirmek için, bulut platformumuza, örneklere, belgelere ve daha fazlasına erişim sağlayan kapsamlı bir kaynak bölümü sunduk. Amacımız, herkesin kuantize edilmiş modelleri etkili bir şekilde dağıtmak için ihtiyaç duyduğu araçlara ve desteğe sahip olmasını sağlamaktır.
Kuantizasyon alanı geliştikçe, bilgi sahibi olmak ve sürece dahil olmak önemlidir. Bu heyecan verici yolculukta size yardımcı olmak için sürekli destek ve kaynaklar sağlamaya kararlıyız. Konuşmanın tamamına buradan göz atın!
Makine öğrenimi ve yapay zekadaki en son trendleri ve yenilikleri keşfetmeye devam ederken bize katılın. Birlikte, teknolojinin geleceğini şekillendiriyor ve dünyada olumlu değişimi yönlendiriyoruz.
.webp)