MNN entegrasyonunu kullanarak Ultralytics YOLO11'i sorunsuz bir şekilde dağıt
Mobil, gömülü ve düşük güçlü platformlarda hızlı çıkarım için Ultralytics YOLO11 modellerini MNN entegrasyonu ile nasıl dışa aktarıp dağıtacağını öğren.
Günümüzde yapay zeka yenilikleri, uzak sunucu ortamlarının ötesine geçti. Yapay zeka çözümleri, sensörler ve akıllı telefonlar gibi uç cihazlara entegre ediliyor. Bu teknolojik değişim sayesinde veriler artık doğrudan üretildikleri yerde işlenebiliyor; bu da daha hızlı yanıt süreleri, gelişmiş gizlilik ve sürekli bulut bağlantısına olan bağımlılığın azalmasını sağlıyor.
Sonuç olarak, edge AI birçok sektörde ilgi görmektedir. Daha fazla sistem daha hızlı ve yerel işleme yöneldiğinden, edge AI software market pazarının 2031 yılına kadar 8,88 milyar dolara ulaşması beklenmektedir.
Özellikle görüntüyü ve videoyu anlamaya odaklanan bir yapay zeka dalı olan computer vision, uç noktada hızla benimsenmektedir. Gıda ürünleri paketlenirken sayılmasından araçların yaya algılamasına kadar bilgisayarlı görü, farklı sektörlerde sayısız pratik uygulamayı desteklemektedir.
Bu, bilgisayarlı görü modelleri sayesinde mümkün olmaktadır. Örneğin, Ultralytics YOLO11; nesne algılama, örnek bölütleme, nesne takibi ve poz tahmini gibi çeşitli görü yapay zeka görevlerini destekleyen bir modeldir. Hızlı ve verimli olacak şekilde tasarlanmıştır ve donanım kaynakları kısıtlı cihazlarda iyi performans gösterir.
Şekil 1. Ultralytics YOLO11 kullanılarak paketlenen yiyeceklerin algılanması ve takibi (Kaynak).
Uç noktada dağıtıma uygun olmasının yanı sıra Ultralytics tarafından desteklenen çeşitli integrations aracılığıyla YOLO11, farklı donanım ortamlarına uygun çeşitli formatlara dışarı aktarılabilir.
En verimli seçeneklerden biri, düşük kaynaklı cihazlar için tasarlanmış hafif bir çıkarım motoru olan MNN (Mobile Neural Network)'dür. Ultralytics YOLO11 modelini MNN formatına aktarmak, hızlı ve cihaz üstü işlemenin gerekli olduğu cep telefonlarında, gömülü sistemlerde ve diğer uç platformlarda doğrudan çalıştırılmasını sağlar.
Bu makalede, MNN integration özelliğinin nasıl çalıştığını keşfedeceğiz, yaygın kullanım örneklerini vurgulayacağız ve dışarı aktarılan bir Ultralytics YOLO11 modeliyle çıkarım çalıştırmaya nasıl başlanacağını adım adım inceleyeceğiz. Hadi başlayalım!
MNN'e genel bakış: Bir derin öğrenme çerçevesi#
Cep telefonları, endüstriyel sensörler ve taşınabilir sistemler gibi daha küçük cihazlarda computer vision models çalıştırmak her zaman kolay değildir. Bu cihazlar genellikle sınırlı belleğe, daha yavaş işlemcilere ve katı güç sınırlarına sahiptir.
Mobile Neural Network veya MNN, Alibaba tarafından yapay zeka modellerinin düşük kaynaklı donanımlarda gerçek zamanlı performansı korurken verimli bir şekilde çalışmasını sağlamak için geliştirilmiş, hafif ve yüksek performanslı bir çıkarım motorudur. MNN, Android, iOS ve Linux dahil olmak üzere çok çeşitli platformları destekler ve merkezi işlem birimleri (CPU'lar) ve grafik işlem birimleri (GPU'lar) gibi çeşitli donanım türlerinde çalışır.
Şekil 2. MNN çatısına bir bakış (Source).
Ultralytics tarafından desteklenen MNN entegrasyonu, YOLO11 modellerini MNN formatına kolayca aktarmayı mümkün kılar. Basitçe söylemek gerekirse bu, modellerin YOLO formatından MNN'e dönüştürülebileceği anlamına gelir.
Dönüştürüldükten sonra, verimli ve cihaz üstü çıkarım için MNN çatkısını destekleyen cihazlara dağıtılabilirler. MNN formatını kullanmanın temel bir avantajı, boyut, hız ve kaynak verimliliğinin kritik olduğu senaryolarda Ultralytics YOLO11 dağıtımını basitleştirmesidir.
MNN çıkarım arka ucunun temel özellikleri#
MNN entegrasyonunun nasıl kullanılacağına geçmeden önce, MNN çerçevesini gerçek dünya cihazlarında yapay zeka modellerini çalıştırmak için harika bir seçenek haline getiren özelliklere bir göz atalım. Uç ortamların benzersiz kısıtlamalarını yönetirken yine de hızlı ve güvenilir performans sunacak şekilde oluşturulmuştur.
İlginç bir şekilde MNN, Alibaba içinde Taobao, Tmall, Youku, DingTalk ve Xianyu dahil olmak üzere 30'dan fazla uygulamada; canlı video, kısa içerik, görsel arama ve cihaz üzerinde güvenlik kontrolleri gibi çok çeşitli senaryolarda dahili olarak kullanılmaktadır. Büyük ölçekli dağıtımı destekler ve üretim ortamlarında günde milyonlarca çıkarım çalıştırır.
İşte MNN çerçevesinin temel özelliklerinden bazıları:
- Arka uç otomatik seçimi: MNN, üzerinde çalıştığı donanıma bağlı olarak CPU veya GPU gibi en uygun yürütme arka ucunu otomatik olarak seçebilir.
- Multi-threaded execution: Daha hızlı çıkarsama için çok çekirdekli işlemcilerden tam olarak yararlanmanıza olanak tanıyan çoklu iş parçacığını destekler.
- Model nicemlemeyi destekler: FP16 veya INT8 nicemlemesi kullanarak model boyutunu önemli ölçüde azaltmanızı sağlar, bu da daha az bellek kullanırken çıkarım hızını artırmaya yardımcı olur.
- Hafif ve hızlı: MNN, Android'de yaklaşık 400 KB ve iOS'ta yaklaşık 5 MB olan çekirdek kitaplığı ile çok küçük bir ayak izine sahiptir, bu da onu mobil ve gömülü cihazlar için ideal kılar.
MNN entegrasyonunun nasıl çalıştığını anlamak#
Sonra, Ultralytics YOLO11 modellerini MNN formatına nasıl dışarı aktaracağımızı adım adım inceleyelim.
İlk adım, YOLO11 modellerini MNN formatına dışarı aktarmak için gereken her şeyi sağlayan Ultralytics Python package paketini yüklemektir. Bunu terminalinizde "pip install ultralytics" komutunu çalıştırarak veya komut istemini kullanarak yapabilirsiniz. Jupyter Notebook veya Google Colab kullanıyorsanız komutun önüne ünlem işareti ekleyin.
Kurulum sırasında herhangi bir sorunla karşılaşırsanız sorun giderme ipuçları için Common Issues guide kılavuzuna başvurun.
Ortamınızı kurduktan sonra "yolo11n.pt" gibi önceden eğitilmiş bir YOLO11 modelini yükleyebilir ve aşağıdaki kod parçacığında gösterildiği gibi MNN formatına aktarabilirsiniz. Kendi özel YOLO11 modelinizi eğittiyseniz, dosya adını modelinizin yolu ile değiştirerek kolayca aktarabilirsiniz.
from ultralytics import YOLO
model = YOLO("yolo11n.pt")
model.export(format="mnn")Modelinizi MNN'e dönüştürdükten sonra, uygulama ihtiyaçlarınıza bağlı olarak farklı mobil ve gömülü platformlarda kullanabilirsiniz.
Örneğin, dışarı aktarılan modeli bir trafik videosu üzerinde test etmek istediğini varsayalım. Bu durumda, aşağıdaki örnekte gösterildiği gibi araçlar, yaylar ve trafik işaretleri gibi nesneleri doğrudan cihaz üzerinde tespit etmek için Ultralytics YOLO11 modelini MNN formatında yükleyebilirsin.
mnn_model = YOLO("yolo11n.mnn")
results = mnn_model("https://videos.pexels.com/video-files/27783817/12223745_1920_1080_24fps.mp4", save=True)Çıkarsama tamamlandığında, algılanan nesneleri içeren çıktı videosu otomatik olarak 'runs/detect/predict' klasörüne kaydedilir. Ayrıca, çıkarsamayı doğrudan MNN Python paketiyle çalıştırmak istiyorsanız daha fazla ayrıntı ve örnek için resmi Ultralytics documentation sayfasına göz atabilirsiniz.
Şekil 3. MNN formatına aktarılan bir Ultralytics YOLO11 modeli kullanılarak trafiğin analiz edilmesi. Görsel yazara aittir.
Ultralytics YOLO11 ve MNN ile mümkün kılınan uç yapay zeka modeli dağıtımının kullanım alanları#
Ultralytics YOLO11 modelini MNN ile dağıtmak, bulut tabanlı işlemenin pratik veya mümkün olmadığı ortamlarda object detection gibi hızlı ve verimli bilgisayarlı görü görevlerini mümkün kılar. Bu entegrasyonun gerçek dünya senaryolarında özellikle nasıl faydalı olabileceğine bakalım.
Bitki hastalığı teşhisi için mobil uç yapay zeka#
image classification kullanan bitki hastalıkları tanımlama uygulamaları bahçıvanlar, araştırmacılar ve doğa meraklıları arasında popülerlik kazanmaktadır. Kullanıcılar sadece bir fotoğraf ile yaprak lekeleri veya renk bozulması gibi erken hastalık belirtilerini hızlı bir şekilde belirleyebilirler. Bu uygulamalar genellikle internet erişiminin sınırlı veya hiç olamayacağı açık alanlarda kullanıldığından, bulut işlemeye güvenmek güvenilmez olabilir.
Eğitimden sonra, bir Ultralytics YOLO11 modeli MNN formatına dışarı aktarılabilir ve doğrudan mobil cihazlarda çalıştırılabilir. Model daha sonra herhangi bir veriyi sunucuya göndermeden, yerel olarak bitki türlerini sınıflandırabilir ve görünen hastalık belirtilerini tespit edebilir.
Şekil 4. Bir yaprak üzerinde pas (bir bitki hastalığı) belirtilerini tespit etmek için YOLO11 kullanma örneği (Source).
Üretimde cihaz üzerinde verimli çıkarımlar#
manufacturing tesislerindeki yoğun üretim hatlarında doğru paket takibi esastır. Ultralytics YOLO11, önemli kontrol noktalarından geçerken her öğeyi takip etmek ve saymak, sayıları gerçek zamanlı olarak güncellemek ve tutarsızlıkları işaretlemek için kullanılabilir. Bu, kaçırılan veya kayıp sevkiyatların azaltılmasına yardımcı olur ve daha sorunsuz, daha güvenilir operasyonları destekler.
Şekil 5. YOLO11 kullanarak paketleri takip etme ve sayma (Source).
MNN entegrasyonu bu bağlamda özellikle etkili olabilir. Ultralytics YOLO11 modeli MNN formatına aktarıldıktan sonra, konveyör boyunca kurulan kompakt, düşük güç tüketen cihazlarda doğrudan çalışabilir.
Tüm işlemler yerel olarak gerçekleştiğinden, sistem anında geri bildirim sunabilir ve internet bağlantısı gerektirmez. Bu, fabrika sahasında hızlı ve güvenilir performans sağlayarak, yüksek doğruluk ve kontrolü korurken üretimin verimli bir şekilde devam etmesini sağlar.
Ultralytics YOLO11 modelini MNN model formatına dışarı aktarmanın avantajları#
İşte Ultralytics tarafından sağlanan MNN entegrasyonunun bazı temel faydaları:
- Daha hızlı yanıt süreleri: Çıkarım cihaz üzerinde çalıştığından, tahminler minimum gecikmeyle gerçek zamanlı olarak gerçekleşir.
- Geliştirilmiş data privacy: Veriler cihazda kalır ve hassas görüntülerin veya videoların buluta gönderilme ihtiyacını azaltır.
- Açık kaynaklı ve aktif olarak korunmaktadır: Alibaba tarafından desteklenen ve aktif bir topluluk tarafından desteklenen MNN, güvenilirdir ve performans iyileştirmeleriyle düzenli olarak güncellenir.
MNN çerçevesini kullanırken göz önünde bulundurulması gereken faktörler#
MNN'i dağıtım çerçeveniz olarak seçmeden önce, projenizin gereksinimlerine, dağıtım hedeflerine ve teknik sınırlamalarına ne kadar uyduğunu değerlendirmek de önemlidir. İşte dikkate almanız gereken bazı temel faktörler:
- Devam eden uyumluluk: Çerçeve güncellemeleri veya hedef platformlarınızdaki değişiklikler, her şeyin sorunsuz çalışmasını sağlamak için yeniden test etmeyi veya ayarlamalar yapmayı gerektirebilir.
- Daha az hata ayıklama aracı: Daha büyük çerçevelerle karşılaştırıldığında MNN, model davranışını hata ayıklama ve inceleme için daha sınırlı araçlara sahiptir, bu da sorun gidermeyi zorlaştırabilir.
- Performans donanıma bağlıdır: Modelinizin hızı ve verimliliği cihaza göre değişecektir. Performans hedeflerinizi karşıladığından emin olmak için hedef donanımınızı test edin.
Öne çıkanlar#
Ultralytics'in MNN entegrasyonu desteği, YOLO11 modellerini mobil ve gömülü cihazlarda kullanım için dışa aktarmayı kolaylaştırır. Bulut erişimine veya sürekli bağlantıya bağlı kalmadan hızlı, güvenilir algılama gerektiren uygulamalar için pratik bir seçenektir.
Bu kurulum, performansı korurken ve kaynak taleplerini düşük tutarken dağıtımı kolaylaştırmaya yardımcı olur. Akıllı ev sistemleri, saha araçları veya kompakt endüstriyel cihazlar geliştiriyorsan, Ultralytics YOLO11 modelini MNN'ye aktarmak bilgisayarlı görü görevlerini doğrudan uç cihazlarda çalıştırmak için esnek ve verimli bir yol sağlar.
Büyüyen community topluluğumuza katıl! Yapay zekanın derinliklerine inmek için GitHub repository deponu keşfet. Bilgisayarlı görü projelerine başlamaya hazır mısın? licensing options lisans seçeneklerimize göz at. Çözüm sayfalarımızda AI in healthcare ve computer vision in retail hakkında daha fazla bilgi edin!
