Ultralytics YOLO11'i MNN entegrasyonuyla sorunsuzca dağıt
Hızlı çıkarım için Ultralytics YOLO11 modellerini MNN entegrasyonuyla mobil, gömülü ve düşük güç tüketimli platformlara nasıl aktaracağını ve dağıtacağını öğren.
Günümüzde yapay zekâ yenilikleri uzak sunucu ortamlarının ötesine geçti. Yapay zekâ çözümleri sensörler ve akıllı telefonlar gibi uç cihazlara entegre ediliyor. Bu teknolojik dönüşüm sayesinde veriler artık doğrudan üretildikleri yerde işlenebiliyor; bu da daha hızlı yanıtlar, daha iyi gizlilik ve sürekli bulut bağlantısına daha az bağımlılık sağlıyor.
Sonuç olarak uç yapay zekâ birçok sektörde giderek yaygınlaşıyor. Daha fazla sistem daha hızlı ve yerel işlemeye yöneldikçe uç yapay zekâ yazılımı pazarının 2031 yılına kadar 8,88 milyar dolara ulaşması bekleniyor.
Özellikle görüntüleri ve videoları anlamaya odaklanan bir yapay zekâ dalı olan bilgisayarlı görü, uçta hızla benimseniyor. Paketlenirken gıda ürünlerini saymaktan araçların yayaları algılamasına yardımcı olmaya kadar bilgisayarlı görü, farklı sektörlerde sayısız pratik uygulamayı destekliyor.
Bunu mümkün kılan şey bilgisayarlı görü modelleridir. Örneğin Ultralytics YOLO11, nesne algılama, örnek segmentasyonu, nesne takibi ve poz tahmini gibi çeşitli görüntü yapay zekâ görevlerini destekleyen bir modeldir. Hızlı ve verimli olacak şekilde tasarlanmıştır ve donanım kaynakları sınırlı cihazlarda iyi performans gösterir.
Şekil 1. Ultralytics YOLO11 kullanılarak paketlenen gıdaların algılanması ve takibi (Kaynak).
Uç dağıtıma uygun olmasının yanı sıra YOLO11, Ultralytics tarafından desteklenen çeşitli entegrasyonlar sayesinde farklı donanım ortamlarına uygun çeşitli biçimlere aktarılabilir.
En verimli seçeneklerden biri, düşük kaynaklı cihazlar için tasarlanmış hafif bir çıkarım motoru olan MNN'dir (Mobil Sinir Ağı). Ultralytics YOLO11'in MNN'ye aktarılması, modelin hızlı ve cihaz üzerinde işlemenin gerekli olduğu cep telefonlarında, gömülü sistemlerde ve diğer uç platformlarda doğrudan çalıştırılmasını sağlar.
Bu makalede MNN entegrasyonunun nasıl çalıştığını inceleyecek, yaygın kullanım alanlarını vurgulayacak ve aktarılmış bir Ultralytics YOLO11 modeliyle çıkarım çalıştırmaya nasıl başlayacağını adım adım ele alacağız. Hadi başlayalım!
MNN'ye genel bakış: Bir derin öğrenme çerçevesi#
Bilgisayarlı görü modellerini cep telefonları, endüstriyel sensörler ve taşınabilir sistemler gibi daha küçük cihazlarda çalıştırmak her zaman kolay değildir. Bu cihazların genellikle belleği sınırlıdır, işlemcileri daha yavaştır ve katı güç kısıtlamaları vardır.
Mobil Sinir Ağı veya MNN, gerçek zamanlı performansı korurken yapay zekâ modellerini düşük kaynaklı donanımlarda verimli şekilde çalıştırmak için Alibaba tarafından geliştirilen hafif ve yüksek performanslı bir çıkarım motorudur. MNN; Android, iOS ve Linux dâhil olmak üzere çok çeşitli platformları destekler ve merkezi işlem birimleri (CPUs) ile grafik işlem birimleri (GPUs) gibi farklı donanım türlerinde çalışır.
Şekil 2. MNN çerçevesine genel bakış (Kaynak).
Ultralytics tarafından desteklenen MNN entegrasyonu, YOLO11 modellerinin MNN biçimine kolayca aktarılmasını sağlar. Basitçe söylemek gerekirse bu, modellerin YOLO biçiminden MNN'ye dönüştürülebileceği anlamına gelir.
Dönüştürüldükten sonra modeller, verimli cihaz üzeri çıkarım için MNN çerçevesini destekleyen cihazlarda dağıtılabilir. MNN biçimini kullanmanın önemli bir avantajı, boyutun, hızın ve kaynak verimliliğinin kritik olduğu senaryolarda Ultralytics YOLO11'in dağıtımını kolaylaştırmasıdır.
MNN çıkarım arka ucunun temel özellikleri#
MNN entegrasyonunun nasıl kullanılacağına geçmeden önce, MNN çerçevesini gerçek dünya cihazlarında yapay zekâ modellerini çalıştırmak için iyi bir seçenek yapan özelliklere göz atalım. Çerçeve, hızlı ve güvenilir performans sunmaya devam ederken uç ortamların kendine özgü kısıtlarını ele alacak şekilde geliştirilmiştir.
İlginç bir şekilde MNN, Alibaba bünyesinde Taobao, Tmall, Youku, DingTalk ve Xianyu dâhil olmak üzere 30'dan fazla uygulamada; canlı video, kısa biçimli içerik, görüntü arama ve cihaz üzeri güvenlik kontrolleri gibi çok çeşitli senaryolarda kullanılıyor. Büyük ölçekli dağıtımı destekliyor ve üretim ortamlarında günde milyonlarca çıkarım çalıştırıyor.
MNN çerçevesinin temel özelliklerinden bazıları şunlardır:
- Arka ucun otomatik seçimi: MNN, üzerinde çalıştığı donanıma göre CPU veya GPU gibi en uygun yürütme arka ucunu otomatik olarak seçebilir.
- Çok iş parçacıklı yürütme: Çoklu iş parçacığını destekleyerek daha hızlı çıkarım için çok çekirdekli işlemcilerden tam olarak yararlanabilir.
- Model nicelemeyi destekler: FP16 veya INT8 nicelemesi kullanarak model boyutunu önemli ölçüde küçültmeni sağlar; böylece daha az bellek kullanırken çıkarım hızının artırılmasına yardımcı olur.
- Hafif ve hızlı: MNN'nin ayak izi çok küçüktür; çekirdek kitaplık Android'de yaklaşık 400 KB, iOS'ta ise yaklaşık 5 MB boyutundadır. Bu da onu mobil ve gömülü cihazlar için ideal hâle getirir.
MNN entegrasyonunun nasıl çalıştığını anlama#
Şimdi Ultralytics YOLO11 modellerinin MNN biçimine nasıl aktarılacağını adım adım inceleyelim.
İlk adım, YOLO11 modellerini MNN biçimine aktarmak için gereken her şeyi sağlayan Ultralytics Python paketini yüklemektir. Bunu terminalinde veya komut isteminde "pip install ultralytics" komutunu çalıştırarak yapabilirsin. Jupyter Notebook ya da Google Colab kullanıyorsan komutun başına ünlem işareti ekle.
Yükleme sırasında herhangi bir sorunla karşılaşırsan sorun giderme ipuçları için Yaygın Sorunlar kılavuzuna başvur.
Ortamın hazırlandıktan sonra aşağıdaki kod parçasında gösterildiği gibi "yolo11n.pt" adlı önceden eğitilmiş bir YOLO11 modelini yükleyip MNN biçimine aktarabilirsin. Kendi özel YOLO11 modelini eğittiysen dosya adını modelinin yolu ile değiştirerek kolayca aktarabilirsin.
from ultralytics import YOLO
model = YOLO("yolo11n.pt")
model.export(format="mnn")Modelini MNN'ye dönüştürdükten sonra uygulamanın gereksinimlerine bağlı olarak farklı mobil ve gömülü platformlarda kullanabilirsin.
Örneğin, aktarılmış modeli bir trafik videosu üzerinde test etmek istediğini varsayalım. Bu durumda, aşağıdaki örnekte gösterildiği gibi Ultralytics YOLO11 modelini MNN biçiminde yükleyerek araçlar, yayalar ve trafik işaretleri gibi nesneleri doğrudan cihaz üzerinde algılayabilirsin.
mnn_model = YOLO("yolo11n.mnn")
results = mnn_model("https://videos.pexels.com/video-files/27783817/12223745_1920_1080_24fps.mp4", save=True)Çıkarım tamamlandığında algılanan nesneleri içeren çıktı videosu otomatik olarak 'runs/detect/predict' klasörüne kaydedilir. Ayrıca doğrudan MNN Python paketini kullanarak çıkarım çalıştırmak istiyorsan daha fazla ayrıntı ve örnek için resmî Ultralytics belgelerine göz atabilirsin.
Şekil 3. MNN biçimine aktarılmış bir Ultralytics YOLO11 modeliyle trafiğin analiz edilmesi. Görsel yazar tarafından hazırlanmıştır.
Ultralytics YOLO11 ve MNN'nin sağladığı uç yapay zekâ modeli dağıtımının kullanım alanları#
Ultralytics YOLO11'in MNN ile dağıtılması, bulut tabanlı işlemenin pratik veya mümkün olmadığı ortamlarda nesne algılama gibi hızlı ve verimli bilgisayarlı görü görevlerini mümkün kılar. Bu entegrasyonun gerçek dünya senaryolarında nasıl özellikle yararlı olabileceğine bakalım.
Bitki hastalıklarını tanımlamak için mobil uç yapay zekâ#
Görüntü sınıflandırma kullanan bitki hastalığı tanımlama uygulamaları bahçıvanlar, araştırmacılar ve doğa meraklıları arasında popülerlik kazanıyor. Kullanıcılar yalnızca bir fotoğrafla yaprak lekeleri veya renk değişikliği gibi hastalığın erken belirtilerini hızlıca belirleyebilir. Bu uygulamalar çoğunlukla internet erişiminin sınırlı veya kullanılamaz olabileceği açık alanlarda kullanıldığından bulut işlemeye güvenmek güvenilir olmayabilir.
Eğitimden sonra bir Ultralytics YOLO11 modeli MNN biçimine aktarılıp doğrudan mobil cihazlarda çalıştırılabilir. Model daha sonra herhangi bir veriyi sunucuya göndermeden bitki türlerini sınıflandırabilir ve görünür hastalık belirtilerini yerel olarak algılayabilir.
Şekil 4. Bir yaprak üzerindeki pas hastalığı belirtilerini algılamak için YOLO11 kullanımına örnek (Kaynak).
Üretimde verimli cihaz üzeri çıkarımlar#
Yoğun üretim hatlarındaki üretim tesislerinde doğru paket takibi kritik önem taşır. Ultralytics YOLO11, her öğeyi önemli kontrol noktalarından geçerken takip edip saymak, sayımları gerçek zamanlı olarak güncellemek ve tutarsızlıkları işaretlemek için kullanılabilir. Bu, gözden kaçan veya hesabı verilemeyen gönderilerin azaltılmasına yardımcı olur ve daha sorunsuz, daha güvenilir operasyonları destekler.
Şekil 5. YOLO11 kullanılarak paketlerin takip edilmesi ve sayılması (Kaynak).
MNN entegrasyonu bu bağlamda özellikle etkili olabilir. Ultralytics YOLO11 modeli MNN biçimine aktarıldıktan sonra konveyör boyunca kurulu kompakt ve düşük güç tüketimli cihazlarda doğrudan çalışabilir.
Tüm işlemler yerel olarak gerçekleştiğinden sistem anında geri bildirim sağlayabilir ve internet bağlantısı gerektirmez. Bu, fabrika sahasında hızlı ve güvenilir performans sağlayarak yüksek doğruluk ve denetimi korurken üretimin verimli şekilde sürmesini mümkün kılar.
Ultralytics YOLO11'i MNN model biçimine aktarmanın avantajları#
Ultralytics tarafından sağlanan MNN entegrasyonunun temel avantajlarından bazıları şunlardır:
- Daha hızlı yanıt süreleri: Çıkarım cihaz üzerinde çalıştığından tahminler minimum gecikmeyle gerçek zamanlı olarak gerçekleştirilir.
- Geliştirilmiş veri gizliliği: Veriler cihazda kalır; bu da hassas görüntü veya videoların buluta gönderilmesi gereksinimini azaltır.
- Açık kaynaklı ve etkin şekilde sürdürülen: Alibaba tarafından desteklenen ve etkin bir topluluğa sahip olan MNN güvenilirdir ve performans iyileştirmeleriyle düzenli olarak güncellenir.
MNN çerçevesini kullanırken dikkate alınması gereken etkenler#
MNN'yi dağıtım çerçeven olarak seçmeden önce, projenin gereksinimlerine, dağıtım hedeflerine ve teknik sınırlamalarına ne kadar uyduğunu değerlendirmek de önemlidir. Dikkate alınması gereken bazı temel etkenler şunlardır:
- Süregelen uyumluluk: Çerçeve güncellemeleri veya hedef platformlarındaki değişiklikler, her şeyin sorunsuz çalışmaya devam etmesi için yeniden test yapılmasını ya da ayarlamalar gerçekleştirilmesini gerektirebilir.
- Daha az hata ayıklama aracı: Daha büyük çerçevelerle karşılaştırıldığında MNN'nin hata ayıklama ve model davranışını inceleme araçları daha sınırlıdır; bu da sorun gidermeyi zorlaştırabilir.
- Performans donanıma bağlıdır: Modelinin hızı ve verimliliği cihaza göre değişir. Performans hedeflerini karşıladığından emin olmak için hedef donanımını test et.
Önemli çıkarımlar#
Ultralytics'in MNN entegrasyonu desteği, YOLO11 modellerini mobil ve gömülü cihazlarda kullanılmak üzere aktarmayı kolaylaştırır. Bulut erişimine veya sürekli bağlantıya bağlı kalmadan hızlı ve güvenilir algılama gerektiren uygulamalar için pratik bir seçenektir.
Bu kurulum, performansı korurken ve kaynak gereksinimlerini düşük tutarken dağıtımı kolaylaştırmaya yardımcı olur. İster akıllı ev sistemleri, ister saha araçları, ister kompakt endüstriyel cihazlar geliştiriyor ol; Ultralytics YOLO11'i MNN'ye aktarmak, bilgisayarlı görü görevlerini doğrudan uç cihazlarda çalıştırmak için esnek ve verimli bir yöntem sunar.
Büyüyen topluluğumuza katıl! Yapay zekâyı daha derinlemesine keşfetmek için GitHub depomuzu incele. Bilgisayarlı görü projelerine başlamaya hazır mısın? Lisanslama seçeneklerimize göz at. Çözüm sayfalarımızda sağlık hizmetlerinde yapay zekâ ve perakendede bilgisayarlı görü hakkında daha fazla bilgi edin!
