Ultralytics YOLO11 modellerini NCNN model formatına aktarmak

Yapay zeka çözümleri, afet yönetimi, atık yönetimi ve itfaiyecilik gibi yüksek riskli sektörlerde bile daha yaygın hale geliyor. Benimsene oranı artmaya devam ettikçe yapay zeka modelleri yalnızca sunucularda veya bulutta değil, doğrudan sahada çalışan cihazlarda da daha çeşitli ortamlarda konuşlandırılıyor.

Örneğin, küçük işlemcilerle çalıştırılan uç bileşenlere sahip dronlar ve ekipmanlar afet bölgelerinde çok önemli bir rol oynayabilir. Termal kameralarla donatılmış bu cihazlar, enkaz altında kalan kişileri bulmak için verileri yerinde toplayıp analiz edebilir. Bu, görüntülerden ve videolardan görsel bilgileri yorumlayan bir yapay zeka dalı olan computer vision sayesinde mümkün olmaktadır.

Ancak, görü yapay zeka modellerini uç cihazlarda konuşlandırmak göründüğü kadar basit değildir. Yapay zeka modellerinin, sınırlı işlem gücüne ve belleğe sahip donanımlarda verimli bir şekilde çalışacak şekilde optimize edilmesi gerekir. İşte bu yüzden NCNN gibi yapay zeka çerçeveleri temeldir. Bunlar, modelleri doğruluktan ödün vermeden düşük güç tüketen cihazlarda gerçek zamanlı performans için dönüştürmeye ve optimize etmeye yardımcı olurlar.

Özellikle Ultralytics YOLO11 gibi Ultralytics YOLO modelleri, Ultralytics tarafından desteklenen NCNN entegrasyonu kullanılarak NCNN model formatına kolayca dışa aktarılabilir. YOLO11 modelini NCNN model formatına dönüştürmek, modelin doğruluk kaybetmeden daha hızlı çalışmasını, daha az bellek kullanmasını ve farklı cihazlarda sorunsuz bir şekilde çalışmasını sağlar.

Bu makalede, Ultralytics tarafından desteklenen NCNN entegrasyonunu inceleyeceğiz ve YOLO11 modelini NCNN model formatına nasıl dışa aktarabileceğini adım adım ele alacağız. Hadi başlayalım!

NCNN'ye genel bir bakış: Hafif bir sinir ağı çerçevesi#

NCNN, Tencent tarafından geliştirilen açık kaynaklı bir sinir ağı çıkarım çerçevesidir. Mobil ve uç ortamlar için özel olarak tasarlanmış olup, minimum ayak izi ile yüksek performanslı çıkarım sağlar. Bu, akıllı telefonlar, dronlar ve IoT (Nesnelerin İnterneti) cihazları gibi kaynak kısıtlı cihazlarda dağıtım için idealdir.

NCNN çerçevesi, verimliliği, taşınabilirliği ve mobil CPU'lar (Merkezi İşlem Birimleri) için optimizasyonu sayesinde yapay zeka ve derin öğrenme topluluğunda popülerlik kazanmıştır. Geliştiricilerin sinir ağı modellerini sınırlı bellek ve işlem gücüne sahip uygun fiyatlı cihazlarda çalıştırmasını sağlar. Basit ve esnek olacak şekilde tasarlanan NCNN, çok çeşitli computer vision models destekler ve Android, Linux, iOS ve macOS dahil olmak üzere birden fazla platformda çalışır.

Şekil 1. NCNN formatındaki modeller birçok platformda konuşlandırılabilir.

NCNN performans optimizasyonunun temel özellikleri#

İşte NCNN'yi etkili ve yaygın olarak kullanılan bir sinir ağı çıkarım çerçevesi yapan temel özelliklerden bazıları:

• Hafif, donanımdan bağımsız çalışma zamanı: NCNN çerçevesi, modelleri standart CPU'larda çalıştırmak için optimize edilmiştir ve GPU'lar (Grafik İşleme Birimleri) veya NPU'lar (Sinir İşleme Birimleri) gibi özel donanımlar gerektirmez.
• Model nicelemesi: Bellek ve hızın kritik olduğu uygulamalar için NCNN, model boyutunu küçülten ve çıkarım süresini iyileştiren niceleme yöntemlerini destekler. Yapay zeka modellerinin mobil ve gömülü cihazlarda sorunsuz çalışmasına yardımcı olur.
• Açık kaynak ve erişilebilir: Açık kaynaklı bir çerçeve olarak NCNN, herkesin kullanması, değiştirmesi ve geliştirmesi için ücretsizdir. Bu, çeşitli kullanım durumlarında inovasyonu ve geniş çaplı benimsemeyi teşvik eder.
• Aktif geliştirme ve topluluk: NCNN, düzenli güncellemeler ve model uyumluluk iyileştirmeleri ile Tencent ve büyüyen bir geliştirici topluluğu tarafından GitHub'da aktif olarak sürdürülmektedir.

Ultralytics YOLO11 modelini NCNN model formatına dışaktararak dış aktarma: Hızlı bir rehber#

NCNN'in ne olduğunu ele aldığımıza göre, şimdi Ultralytics YOLO11 modellerini NCNN formatına nasıl dışarı aktaracağımıza daha yakından bakalım.

Adım: Ultralytics Python paketini yükle#

Modeli dışa aktarmadan önce ilk adım, pip paket yükleyicisini kullanarak Ultralytics Python package yüklemektir. Bu, terminalinde veya komut isteminde "pip install ultralytics" komutunu çalıştırarak yapılabilir. Jupyter Notebook veya Google Colab içinde çalışıyorsan komuttan önce ünlem işareti ekle, şu şekilde: "!pip install ultralytics".

Ultralytics paketi; çeşitli bilgisayarlı görü görevleri için vizyon yapay zeka modellerini eğitmek, test etmek, ince ayarlardan geçirmek ve dışa aktarmak için araçlar sağlar. Kurulum sırasında veya bir modeli dışa aktarırken herhangi bir sorunla karşılaşırsan resmi Ultralytics belgeleri ve Yaygın Sorunlar kılavuzu sorun giderme için harika kaynaklardır.

Adım: Ultralytics YOLO11'i dışa aktarma#

Ultralytics paketini yükledikten sonra, YOLO11 modelini yükleyebilir ve NCNN formatına aktarabilirsin. Aşağıdaki örnek, önceden eğitilmiş bir model ("yolo11n.pt") kullanır ve bunu NCNN formatında dışa aktararak çıktıyı "/yolo11n_ncnn_model" adlı bir klasöre kaydeder.

from ultralytics import YOLO

model = YOLO("yolo11n.pt")
model.export(format="ncnn")

Dışarı aktarılan Ultralytics YOLO11 modeli daha sonra akıllı telefonlar, gömülü sistemler veya IoT platformları gibi çeşitli hafif cihazlarda dağıtılabilir. Dağıtım süreci de oldukça kolaylaştırılmıştır.

Örneğin, aşağıda dışa aktarılan modelin nasıl yükleneceğini ve çıkarımın nasıl çalıştırılacağını gösteren kod parçacığına göz at. Çıkarım, eğitilmiş bir modelin yeni ve görülmemiş veriler üzerinde tahminlerde bulunması sürecini ifade eder. Bu örnekte model, halka açık bir URL'den alınan bisiklet süren bir adamın görüntüsü üzerinde test edilmiştir.

ncnn_model = YOLO("./yolo11n_ncnn_model")
results = ncnn_model("https://images.pexels.com/photos/19431209/pexels-photo-19431209/free-photo-of-a-man-riding-a-bike-on-a-road.jpeg?auto=compress&cs=tinysrgb&w=1260&h=750&dpr=2.jpg", save=True)

Kodu çalıştırdıktan sonra, çıktı görüntüsünü "runs/detect/predict" klasöründe bulacaksın.

Şekil 2. NCNN formatındaki dışarı aktarılmış bir Ultralytics YOLO11 modeli kullanarak nesne algılama. Görsel: yazar.

Neden NCNN ile gerçek zamanlı algılamayı seçmelisin#

Ultralytics'in desteklediği çeşitli entegrasyonları keşfederken, kullanılabilen birkaç dışa aktarma seçeneği olduğunu fark edebilirsin. Peki, NCNN formatını ne zaman seçmelisin?

NCNN dışa aktarma formatı, Ultralytics YOLO11 modellerini kaynakları kısıtlı cihazlarda dağıtmanız gerektiğinde güvenilir bir seçenektir. Bulut bağlantısına gerek kalmadan, uç cihazlar gibi doğrudan cihaz üzerinde çalışan gerçek zamanlı uygulamalar için özellikle kullanışlıdır. Bu, modelin nesne tespiti gibi görevleri doğrudan yerinde gerçekleştirebileceği anlamına gelir.

İşte NCNN'nin harika bir uyum sağladığı bazı yaygın senaryolar:

• Mobil dağıtım: NCNN formatı Android ve iOS için optimize edilmiştir, bu da modelleri minimum gecikme ile hızlı, cihaz içi çıkarım için mobil uygulamalara entegre etmeyi kolaylaştırır.

• Gömülü sistemler ve IoT cihazları: Raspberry Pi veya NVIDIA Jetson gibi cihazlarda konuşlandırma yapıyorsan, NCNN'ye dışa aktarmak performansı ve yanıt verebilirliği artırmaya yardımcı olabilir.

• Masaüstü ve sunucu dağıtımı: NCNN düşük güç tüketen cihazlar için harika olsa da, masaüstü ve sunucu ortamları için Linux, Windows ve macOS'u da destekler. Bu, geliştiricilere dağıtım için esnek seçenekler sunar.

Şekil 3. NCNN ile Ultralytics YOLO11 modeli dağıtımı seçenekleri. Görsel: yazar.

NCNN ile Ultralytics YOLO11 modeli dağıtımının kullanım alanları#

Ardından, Ultralytics YOLO11 modellerini NCNN'e dışarı aktarmanın gerçek bir fark yaratabileceği bazı pratik kullanım senaryolarına dalalım.

İtfaiyecilik için yapay zeka görüşlü kasklar#

Kameraya ve gömülü mikro bilgisayarlara sahip güvenlik baretleri, güvenliği ve farkındalığı artırmak için construction ve itfaiyecilik gibi alanlarda kullanılabilir. Ultralytics YOLO11 gibi gerçek zamanlı yapay zeka görüş modelleri, çeşitli nesne ve ekipman türlerini tespit etmek için bu cihazlarda çalıştırılabilir. Örneğin, bu tür baretler itfaiyecilerin düşük görüş koşullarında insanları, engelleri veya tehlikeleri tespit etmesine yardımcı olabilir.

Ancak, tam boyutlu modelleri doğrudan giyilebilir cihazlarda çalıştırmak yavaş performansa neden olabilir ve pili hızla tüketebilir. Bu durumda, NCNN entegrasyonunu kullanmak akıllıca bir seçimdir. Düşük gecikmeli, enerji verimli çıkarım sağlar.

Atık sınıflandırma ve akıllı kutular#

Benzer şekilde, akıllı çöp kutuları da atılırken malzemeleri tanımlamak ve sınıflandırmak için kameralarla ve kompakt uç yapay zeka işlemcileriyle entegre edilebilir. YOLO11 gibi vizyon yapay zeka modelleri, kağıt, plastik, kauçuk vb. farklı atık malzeme türlerini tespit etmek üzere özel olarak eğitilebilir.

Atık tanımlandıktan sonra, yeniden kullanılabilirliğine göre ayrı bölmelere otomatik olarak ayrıştırılabilir. NCNN formatındaki dışarı aktarılan Ultralytics YOLO11 modelleri ile birlikte uç yapay zeka kullanarak, bu kutular internet bağlantısına ihtiyaç duymadan verileri yerel olarak işleyebilir. Bu, onların otonom bir şekilde çalışmasını ve minimum gecikmeyle gerçek zamanlı sınıflandırma kararları almasını sağlar.

Şekil 4. YOLO11 kullanarak plastik atık malzemelerin algılanması.

Dronlar ve bilgisayarlı görü kullanarak sığır izleme#

Bazen uzak yerlerdeki tarım alanları istikrarlı internet bağlantılarından veya sürekli güçten yoksundur, bu da yapay zeka uygulamalarını çevrimiçi çalıştırma yeteneklerini sınırlar. Böyle durumlarda, çeşitli görevleri yerine getirmek için uç cihazlar ve dronlar kullanılabilir.

İyi bir örnek, sığır, koyun ve kümes hayvanları gibi hayvancılığın izlenmesidir. Bu, hayvan hareketlerini izlemek, yaralanma, hastalık veya anormal davranış belirtilerini tespit etmek ve hayvanlar kaybolduğunda çiftçileri uyarmak için kullanılabilen YOLO11 gibi vizyon yapay zeka modelleri kullanılarak yapılabilir. NCNN entegrasyonu ayrıca bu verilerin doğrudan uç cihazlarda çalıştırılmasını ve işlenmesini mümkün kılarak uzak veya şebeke dışı alanlardaki çiftliklerde görüntü ve video analizi için mükemmel bir uyum sağlar.

Şekil 5. Hayvancılığı izlemek için YOLO11 kullanımına bir bakış.

Öne çıkanlar#

Ultralytics tarafından desteklenen NCNN entegrasyonunu kullanarak YOLO11 modellerini dışa aktarmak, yapay zeka görüşünü düşük güç tüketen ortamlara taşımanın kolay bir yoludur. İster afet bölgelerindeki dronlar, ister akıllı atık ayırma kutuları veya uzak çiftliklerdeki hayvancılık izleme olsun, YOLO ve NCNN hızlı, verimli ve taşınabilir gerçek zamanlı yapay zeka çıkarımları sağlar. Bu yaklaşım, yapay zeka sistemlerini en çok ihtiyaç duyulduğunda daha erişilebilir ve güvenilir hale getirmeye yardımcı olur.

Yapay zeka hakkında daha fazla bilgi edinmek ister misin? Bilgisayarlı görü projeni hızlandırmak için GitHub depomuzu keşfet, topluluğumuzla bağlantı kur ve lisanslama seçeneklerimize göz at. Perakendede yapay zeka ve sağlık hizmetlerinde bilgisayarlı görü gibi yeniliklerin geleceği nasıl şekillendirdiğini çözüm sayfalarımızdan öğren.