Ultralytics YOLO11'i MNN entegrasyonuyla sorunsuzca dağıt

Günümüzde yapay zekâ yenilikleri uzak sunucu ortamlarının ötesine geçti. Yapay zekâ çözümleri sensörler ve akıllı telefonlar gibi uç cihazlara entegre ediliyor. Bu teknolojik dönüşüm sayesinde veriler artık üretildikleri yerde doğrudan işlenebiliyor; böylece daha hızlı yanıtlar, daha iyi gizlilik ve sürekli bulut bağlantısına daha az bağımlılık sağlanıyor.

Sonuç olarak, uç yapay zekâ birçok sektörde giderek yaygınlaşıyor. Daha fazla sistem daha hızlı ve yerel işlemeye yöneldikçe uç yapay zekâ yazılım pazarının 2031'e kadar 8,88 milyar dolara ulaşması bekleniyor.

Özellikle görüntüleri ve videoları anlamaya odaklanan bir yapay zekâ dalı olan bilgisayarlı görü, uçta hızla benimseniyor. Paketlenen gıda ürünlerini saymaktan araçların yayaları algılamasına yardımcı olmaya kadar bilgisayarlı görü, farklı sektörlerde sayısız pratik uygulamayı destekliyor.

Bu, bilgisayarlı görü modelleri sayesinde mümkün oluyor. Örneğin Ultralytics YOLO11; nesne algılama, örnek segmentasyonu, poz tahmini ve nesne izleme gibi çeşitli görsel yapay zekâ görevlerini destekleyen bir modeldir. Hızlı ve verimli olacak şekilde tasarlanmıştır ve donanım kaynakları sınırlı cihazlarda iyi performans gösterir.

Şekil 1. Ultralytics YOLO11 kullanarak paketlenen yiyecekleri algılama ve izleme.

Uç dağıtıma uygun olmasının yanı sıra YOLO11, Ultralytics'in desteklediği çeşitli entegrasyonlar aracılığıyla farklı donanım ortamlarına uygun çeşitli biçimlerde dışa aktarılabilir.

En verimli seçeneklerden biri, kaynakları kısıtlı cihazlar için tasarlanmış hafif bir çıkarım motoru olan MNN'dir (Mobile Neural Network). Ultralytics YOLO11'i MNN'ye aktarmak, hızlı cihaz içi işlemenin gerekli olduğu cep telefonlarında, gömülü sistemlerde ve diğer uç platformlarda doğrudan çalışmasını sağlar.

Bu makalede, MNN entegrasyonunun nasıl çalıştığını inceleyecek, yaygın kullanım alanlarını vurgulayacak ve dışa aktarılmış bir Ultralytics YOLO11 modeliyle çıkarım çalıştırmaya nasıl başlayacağını adım adım anlatacağız.

MNN'ye genel bakış: Derin öğrenme çerçevesi#

Cep telefonları, endüstriyel sensörler ve taşınabilir sistemler gibi daha küçük cihazlarda bilgisayarlı görü modellerini çalıştırmak her zaman kolay değildir. Bu cihazların belleği genellikle sınırlıdır, işlemcileri daha yavaştır ve güç tüketimi konusunda katı kısıtlamaları vardır.

Mobile Neural Network veya MNN, gerçek zamanlı performansı korurken yapay zekâ modellerinin kaynakları kısıtlı donanımlarda verimli çalışmasını sağlamak için Alibaba tarafından geliştirilen hafif ve yüksek performanslı bir çıkarım motorudur. MNN; Android, iOS ve Linux dâhil çok çeşitli platformları destekler ve merkezi işlem birimleri (CPUs) ile grafik işlem birimleri (GPUs) gibi farklı donanım türlerinde çalışır.

Şekil 2. MNN çerçevesine bir bakış (Kaynak).

Ultralytics tarafından desteklenen MNN entegrasyonu, YOLO11 modellerini kolayca MNN biçimine dışa aktarmayı mümkün kılar. Basitçe söylemek gerekirse, modeller yerel PyTorch biçiminden MNN'ye dönüştürülebilir.

Dönüştürüldükten sonra modeller, cihaz üzerinde verimli çıkarım yapmak için MNN çerçevesini destekleyen cihazlara dağıtılabilir. MNN biçimini kullanmanın önemli bir yararı, boyut, hız ve kaynak verimliliğinin kritik olduğu senaryolarda Ultralytics YOLO11'in dağıtımını kolaylaştırmasıdır.

MNN çıkarım arka ucunun temel özellikleri#

MNN entegrasyonunu nasıl kullanacağımıza geçmeden önce, MNN çerçevesini gerçek dünyadaki cihazlarda yapay zekâ modellerini çalıştırmak için iyi bir seçenek yapan özelliklere göz atalım. Hızlı ve güvenilir performans sunarken uç ortamların kendine özgü kısıtlamalarını karşılayacak şekilde geliştirilmiştir.

MNN, Taobao, Tmall, Youku, DingTalk ve Xianyu dâhil 30'dan fazla uygulamada Alibaba bünyesinde kullanılıyor. Canlı video, kısa biçimli içerik, görsel arama ve cihaz üzerinde güvenlik kontrolleri gibi çok çeşitli senaryolarda çalışıyor. Büyük ölçekli dağıtımı destekliyor ve üretim ortamlarında günde milyonlarca çıkarım gerçekleştiriyor.

MNN çerçevesinin temel özelliklerinden bazıları şunlardır:

• Arka ucun otomatik seçimi: MNN, çalıştığı donanıma göre CPU veya GPU gibi en uygun yürütme arka ucunu otomatik olarak seçebilir.
• Çok iş parçacıklı yürütme: Çok iş parçacıklılığını destekler; bu sayede daha hızlı çıkarım için çok çekirdekli işlemcilerden tam olarak yararlanabilir.
• Model nicelemesini destekler: FP16 veya INT8 nicelemesi kullanarak model boyutunu önemli ölçüde küçültmeni sağlar; böylece daha az bellek kullanırken çıkarım hızını artırmaya yardımcı olur.
• Hafif ve hızlı: MNN'nin ayak izi çok küçüktür; temel kütüphanesi Android'de yaklaşık 400 KB, iOS'ta ise yaklaşık 5 MB yer kaplar. Bu özelliğiyle mobil ve gömülü cihazlar için oldukça uygundur.

MNN entegrasyonunun nasıl çalıştığını anlama#

Şimdi, Ultralytics YOLO11 modellerini MNN biçiminde nasıl dışa aktaracağını adım adım inceleyelim.

İlk adım, YOLO11 modellerini MNN biçimine dışa aktarmak için gereken her şeyi sağlayan Ultralytics Python paketini yüklemektir. Bunu terminalinde veya komut isteminde pip install ultralytics komutunu çalıştırarak yapabilirsin. Jupyter Notebook veya Google Colab kullanıyorsan komutun başına ünlem işareti ekle.

Kurulum sırasında herhangi bir sorunla karşılaşırsan sorun giderme ipuçları için Common Issues guide sayfasına bak.

Ortamını kurduktan sonra "yolo11n.pt" gibi önceden eğitilmiş bir YOLO11 modelini yükleyip aşağıdaki kod parçacığında gösterildiği gibi MNN biçiminde dışa aktarabilirsin. Kendi özel YOLO11 modelini eğittiysen dosya adını modelinin yoluyla değiştirerek kolayca dışa aktarabilirsin.

from ultralytics import YOLO

model = YOLO("yolo11n.pt")
model.export(format="mnn")

Modelini MNN'ye dönüştürdükten sonra uygulama ihtiyaçlarına bağlı olarak farklı mobil ve gömülü platformlarda kullanabilirsin.

Örneğin, dışa aktarılan modeli trafik videosunda test etmek istediğini düşünelim. Bu durumda, aşağıdaki örnekte gösterildiği gibi araçlar, yayalar ve trafik işaretleri gibi nesneleri doğrudan cihazda algılamak için Ultralytics YOLO11 modelini MNN biçiminde yükleyebilirsin.

mnn_model = YOLO("yolo11n.mnn")
results = mnn_model("https://videos.pexels.com/video-files/27783817/12223745_1920_1080_24fps.mp4", save=True)

Çıkarım tamamlandığında algılanan nesnelerin yer aldığı çıkış videosu otomatik olarak 'runs/detect/predict' klasörüne kaydedilir. Ayrıca MNN Python paketini doğrudan kullanarak çıkarım yapmak istiyorsan daha fazla ayrıntı ve örnek için resmi Ultralytics MNN belgelerine göz atabilirsin.

Şekil 3. MNN biçimine dışa aktarılmış Ultralytics YOLO11 modeliyle trafiği analiz etme. Görsel yazara aittir.

Ultralytics YOLO11 ve MNN'nin mümkün kıldığı uç yapay zekâ modeli dağıtımının kullanım alanları#

Ultralytics YOLO11'i MNN ile dağıtmak, bulut tabanlı işlemenin pratik veya mümkün olmadığı ortamlarda nesne algılama gibi hızlı ve verimli bilgisayarlı görü görevlerini mümkün kılar. Şimdi bu entegrasyonun gerçek dünyadaki senaryolarda nasıl özellikle yararlı olabileceğine bakalım.

Bitki hastalıklarını belirlemek için mobil uç yapay zekâ#

Görüntü sınıflandırması kullanan bitki hastalığı tanımlama uygulamaları bahçıvanlar, araştırmacılar ve doğa meraklıları arasında popülerlik kazanıyor. Kullanıcılar tek bir fotoğrafla yaprak lekeleri veya renk değişimleri gibi hastalığın erken belirtilerini hızla belirleyebilir. Bu uygulamalar genellikle internet erişiminin kısıtlı veya hiç olmadığı açık alanlarda kullanıldığından bulut işlemeye güvenmek tutarsız sonuçlar verebilir.

PlantDoc gibi bir veri kümesinde eğitildikten sonra Ultralytics YOLO11 modeli MNN biçimine dışa aktarılabilir ve doğrudan mobil cihazlarda çalıştırılabilir. Model, herhangi bir veriyi sunucuya göndermeden bitki türlerini sınıflandırabilir ve görünür hastalık belirtilerini yerel olarak algılayabilir.

Şekil 4. YOLO11 kullanarak bir yaprakta pas belirtilerini (bir bitki hastalığı) algılama örneği (Kaynak).

Üretimde cihaz üzerinde verimli çıkarım#

Yoğun üretim hatlarında üretim tesisleri için paketlerin doğru biçimde izlenmesi çok önemlidir. Ultralytics YOLO11, her bir ürünü önemli kontrol noktalarından geçerken takip edip saymak, sayımları gerçek zamanlı olarak güncellemek ve tutarsızlıkları işaretlemek için kullanılabilir. Bu, gözden kaçan veya kaydı tutulmayan sevkiyatları azaltmaya ve operasyonların daha sorunsuz, güvenilir biçimde yürütülmesine yardımcı olur.

Şekil 5. YOLO11 ile paketleri takip etme ve sayma (Kaynak).

MNN entegrasyonu bu bağlamda özellikle etkili olabilir. Ultralytics YOLO11 modeli MNN biçiminde dışa aktarıldıktan sonra konveyör boyunca kurulu kompakt, düşük güç tüketen cihazlarda doğrudan çalışabilir.

Tüm işlemler yerel olarak gerçekleştiğinden sistem anında geri bildirim sağlayabilir ve internet bağlantısı gerektirmez. Bu, fabrika sahasında hızlı ve güvenilir performans sunarak üretimin verimli biçimde sürmesini, doğruluk ve kontrolün yüksek düzeyde korunmasını sağlar.

Ultralytics YOLO11'i MNN model biçiminde dışa aktarmanın avantajları#

Ultralytics tarafından sunulan MNN entegrasyonunun temel yararlarından bazıları şunlardır:

• Daha hızlı yanıt süreleri: Çıkarım cihaz üzerinde çalıştığından tahminler gerçek zamanlı ve çok düşük gecikmeyle gerçekleşir.
• Gelişmiş veri gizliliği: Veriler cihazda kalır; hassas görüntüleri veya videoları buluta gönderme ihtiyacı azalır.
• Açık kaynaklı ve etkin biçimde sürdürülen: Alibaba'nın desteği ve etkin bir topluluğun katkılarıyla MNN güvenilirdir ve performans iyileştirmeleriyle düzenli olarak güncellenir.

MNN çerçevesini kullanırken göz önünde bulundurulması gerekenler#

Dağıtım çerçeven olarak MNN'yi seçmeden önce projenin gereksinimlerine, dağıtım hedeflerine ve teknik kısıtlamalarına ne ölçüde uyduğunu değerlendirmek de önemlidir. Göz önünde bulundurman gereken bazı temel etkenler şunlardır:

• Süregelen uyumluluk: Çerçeve güncellemeleri veya hedef platformlarında yapılan değişiklikler, her şeyin sorunsuz çalışmasını sağlamak için yeniden test yapmanı veya ayarlamalar gerçekleştirmeni gerektirebilir.
• Daha az hata ayıklama aracı: Daha büyük çerçevelerle karşılaştırıldığında MNN'nin hata ayıklama ve model davranışını inceleme araçları daha sınırlıdır; bu da sorun gidermeyi zorlaştırabilir.
• Performans donanıma bağlıdır: Modelinin hızı ve verimliliği cihaza göre değişir. Performans hedeflerini karşıladığından emin olmak için hedef donanımını test et.

Önemli çıkarımlar#

Ultralytics'in MNN entegrasyonu desteği, YOLO11 modellerini mobil ve gömülü cihazlarda kullanılmak üzere dışa aktarmayı kolaylaştırır. Bulut erişimine veya sürekli bağlantıya bağlı kalmadan hızlı ve güvenilir algılama gerektiren uygulamalar için pratik bir seçenektir.

Bu kurulum, performansı koruyup kaynak gereksinimlerini düşük tutarken dağıtımı kolaylaştırır. Akıllı ev sistemleri, saha araçları veya kompakt endüstriyel cihazlar geliştiriyor olman fark etmez; Ultralytics YOLO11'i MNN biçiminde dışa aktarmak, bilgisayarlı görü görevlerini doğrudan uç cihazlarda çalıştırmak için esnek ve verimli bir yol sunar.

Büyüyen topluluğumuza katıl! Yapay zekâyı daha derinlemesine incelemek için GitHub depomuzu keşfet. Bilgisayarlı görü projelerine başlamaya hazır mısın? Lisans seçeneklerimize göz at. Çözümler sayfalarımızda sağlık hizmetlerinde yapay zekâ ve perakendede bilgisayarlı görü hakkında daha fazlasını keşfet!