Ultralytics YOLO11 modellerini NCNN model formatına aktarma

Yapay zekâ çözümleri, afet yönetimi, atık yönetimi ve itfaiyecilik gibi kritik sektörlerde bile daha yaygın hâle geliyor. Benimseme arttıkça yapay zekâ modelleri daha çeşitli ortamlarda kullanıma alınıyor; yalnızca sunucularda veya bulutta değil, sahada çalışan cihazların üzerinde de çalıştırılıyor.

Örneğin, küçük işlemcilerle çalışan uç bileşenlere sahip dronlar ve ekipmanlar afet bölgelerinde kritik bir rol oynayabilir. Termal kameralarla donatılan bu cihazlar, enkaz altında mahsur kalan insanları bulmak için verileri olay yerinde toplayıp analiz edebilir. Bu, görüntülerdeki ve videolardaki görsel bilgileri yorumlayan bir yapay zekâ dalı olan bilgisayarlı görü sayesinde mümkün olur.

Ancak görsel yapay zekâ modellerini uç cihazlarda kullanıma almak göründüğü kadar kolay değildir. Yapay zekâ modellerinin, sınırlı işlem gücüne ve belleğe sahip donanımlarda verimli çalışacak şekilde optimize edilmesi gerekir. Bu nedenle NCNN gibi yapay zekâ çerçeveleri büyük önem taşır. Bunlar, doğruluktan ödün vermeden düşük güç tüketimli cihazlarda gerçek zamanlı performans için modelleri dönüştürmeye ve optimize etmeye yardımcı olur.

Özellikle Ultralytics YOLO11 gibi Ultralytics YOLO modelleri, Ultralytics tarafından desteklenen NCNN entegrasyonu kullanılarak kolayca NCNN model biçimine aktarılabilir. YOLO11'i NCNN model biçimine dönüştürmek, modelin daha hızlı çalışmasını, daha az bellek kullanmasını ve doğruluğunu kaybetmeden farklı cihazlarda sorunsuz çalışmasını sağlar.

Bu makalede, Ultralytics tarafından desteklenen NCNN entegrasyonunu inceleyecek ve YOLO11 modelini NCNN model biçimine nasıl aktarabileceğini adım adım ele alacağız. Hadi başlayalım!

NCNN'ye genel bakış: Hafif bir sinir ağı çerçevesi#

NCNN, Tencent tarafından geliştirilen açık kaynaklı bir sinir ağı çıkarım çerçevesidir. Özellikle mobil ve uç ortamlar için tasarlanmış olup minimum kaynak kullanımıyla yüksek performanslı çıkarım sağlar. Bu özellik, onu akıllı telefonlar, dronlar ve IoT (Nesnelerin İnterneti) cihazları gibi kaynakları kısıtlı cihazlarda kullanıma almak için ideal kılar.

NCNN çerçevesi; verimliliği, taşınabilirliği ve mobil CPU'lar (Merkezi İşlem Birimleri) için optimize edilmiş olması sayesinde yapay zekâ ve derin öğrenme topluluğunda popülerlik kazanmıştır. Geliştiricilerin sınırlı belleğe ve işlem gücüne sahip uygun maliyetli cihazlarda sinir ağı modellerini çalıştırmasını sağlar. Basit ve esnek olacak şekilde tasarlanan NCNN, çok çeşitli bilgisayarlı görü modellerini destekler ve Android, Linux, iOS ve macOS dâhil olmak üzere birden fazla platformda çalışır.

Şekil 1. NCNN biçimindeki modeller birçok platformda kullanıma alınabilir.

NCNN performans optimizasyonunun temel özellikleri#

NCNN'yi etkili ve yaygın olarak kullanılan bir sinir ağı çıkarım çerçevesi hâline getiren temel özelliklerden bazıları şunlardır:

• Hafif, donanımdan bağımsız çalışma zamanı: NCNN çerçevesi, modelleri standart CPU'larda çalıştırmak üzere optimize edilmiştir ve GPU'lar (Grafik İşlem Birimleri) veya NPU'lar (Sinirsel İşlem Birimleri) gibi özel donanımlar gerektirmez.
• Model niceleme: Bellek ve hızın kritik olduğu uygulamalar için NCNN, model boyutunu küçülten ve çıkarım süresini iyileştiren niceleme yöntemlerini destekler. Yapay zekâ modellerinin mobil ve gömülü cihazlarda sorunsuz çalışmasına yardımcı olur.
• Açık kaynaklı ve erişilebilir: Açık kaynaklı bir çerçeve olan NCNN, herkesin kullanması, değiştirmesi ve geliştirmesi için ücretsiz olarak sunulur. Bu durum, çeşitli kullanım alanlarında yenilikçiliği ve yaygın benimsenmeyi teşvik eder.
• Aktif geliştirme ve topluluk: NCNN, Tencent ve giderek büyüyen geliştirici topluluğu tarafından GitHub üzerinde aktif olarak sürdürülür; düzenli güncellemeler ve model uyumluluğu iyileştirmeleri sunulur.

Ultralytics YOLO11'i NCNN model biçimine aktarma: Hızlı kılavuz#

NCNN'nin ne olduğunu ele aldığımıza göre, şimdi Ultralytics YOLO11 modellerinin NCNN biçimine nasıl aktarılacağına daha yakından bakalım.

Adım: Ultralytics Python paketini yükleme#

Modeli aktarmadan önce ilk adım, Ultralytics Python paketini paket yükleyicisi pip'i kullanarak yüklemektir. Bunu terminalinde veya komut isteminde "pip install ultralytics" komutunu çalıştırarak yapabilirsin. Jupyter Notebook veya Google Colab kullanıyorsan komutun önüne ünlem işareti eklemen yeterlidir: "!pip install ultralytics".

Ultralytics paketi, çeşitli bilgisayarlı görü görevleri için görsel yapay zekâ modellerini eğitmeye, test etmeye, ince ayar yapmaya ve dışa aktarmaya yönelik araçlar sağlar. Yükleme sırasında veya bir modeli aktarırken herhangi bir sorunla karşılaşırsan, resmî Ultralytics belgeleri ve Yaygın Sorunlar kılavuzu sorun gidermek için yararlanabileceğin iyi kaynaklardır.

Adım: Ultralytics YOLO11'i aktarma#

Ultralytics paketini yükledikten sonra YOLO11 modelini yükleyebilir ve NCNN biçimine aktarabilirsin. Aşağıdaki örnekte önceden eğitilmiş bir model ("yolo11n.pt") kullanılıyor ve model NCNN biçiminde dışa aktarılarak çıktı "/yolo11n_ncnn_model" adlı klasöre kaydediliyor.

from ultralytics import YOLO

model = YOLO("yolo11n.pt")
model.export(format="ncnn")

Dışa aktarılan Ultralytics YOLO11 modeli daha sonra akıllı telefonlar, gömülü sistemler veya IoT platformları gibi çeşitli hafif cihazlarda kullanıma alınabilir. Kullanıma alma süreci de oldukça sorunsuzdur.

Örneğin, aşağıdaki kod parçacığını inceleyebilirsin; bu parça, dışa aktarılan modelin nasıl yükleneceğini ve çıkarımın nasıl çalıştırılacağını gösterir. Çıkarım, eğitilmiş bir modelin yeni ve daha önce görülmemiş veriler üzerinde tahminler yapmak için kullanılmasını ifade eder. Bu örnekte model, herkese açık bir URL'den alınan bisiklete binen bir adam görüntüsü üzerinde test ediliyor.

ncnn_model = YOLO("./yolo11n_ncnn_model")
results = ncnn_model("https://images.pexels.com/photos/19431209/pexels-photo-19431209/free-photo-of-a-man-riding-a-bike-on-a-road.jpeg?auto=compress&cs=tinysrgb&w=1260&h=750&dpr=2.jpg", save=True)

Kodu çalıştırdıktan sonra çıktı görüntüsünü "runs/detect/predict" klasöründe bulabilirsin.

Şekil 2. NCNN biçiminde dışa aktarılan bir Ultralytics YOLO11 modeliyle nesne algılama. Görüntü: yazar.

NCNN ile gerçek zamanlı algılamayı neden seçmelisin?#

Ultralytics'in desteklediği çeşitli entegrasyonları incelerken kullanabileceğin birkaç farklı dışa aktarma seçeneği olduğunu fark edebilirsin. Peki NCNN biçimini ne zaman seçmelisin?

NCNN dışa aktarma biçimi, Ultralytics YOLO11 modellerini kaynakları sınırlı cihazlarda kullanıma alman gerektiğinde güvenilir bir tercihtir. Özellikle uç cihazlar gibi doğrudan cihaz üzerinde çalışan ve buluta bağlantı gerektirmeyen gerçek zamanlı uygulamalar için kullanışlıdır. Bu, modelin nesne algılama gibi görevleri doğrudan olay yerinde gerçekleştirebileceği anlamına gelir.

NCNN'nin çok uygun olduğu bazı yaygın senaryolar şunlardır:

• Mobil kullanıma alma: NCNN biçimi Android ve iOS için optimize edilmiştir; modelleri minimum gecikmeyle, hızlı ve cihaz üzerinde çıkarım yapacak şekilde mobil uygulamalara entegre etmeyi kolaylaştırır.

• Gömülü sistemler ve IoT cihazları: Raspberry Pi veya NVIDIA Jetson gibi cihazlarda kullanıma alım yapıyorsan NCNN'ye aktarmak performansı ve yanıt verme hızını artırmaya yardımcı olabilir.

• Masaüstü ve sunucu kullanıma alımı: NCNN, düşük güç tüketimli cihazlar için ideal olsa da masaüstü ve sunucu ortamlarında Linux, Windows ve macOS'u da destekler. Bu, geliştiricilere kullanıma alım için esnek seçenekler sunar.

Şekil 3. Ultralytics YOLO11 modelinin NCNN ile kullanıma alınmasına yönelik seçenekler. Görüntü: yazar.

Ultralytics YOLO11 modelinin NCNN ile kullanıma alınmasına yönelik kullanım alanları#

Şimdi, Ultralytics YOLO11 modellerini NCNN'ye aktarmanın gerçek bir fark yaratabileceği bazı pratik kullanım alanlarına geçelim.

İtfaiyecilik için görsel yapay zekâ kaskları#

Kameralar ve gömülü mikrobilgisayarlarla donatılmış güvenlik kaskları, güvenliği ve farkındalığı artırmak için inşaat ve itfaiyecilik gibi alanlarda kullanılabilir. Ultralytics YOLO11 gibi gerçek zamanlı görsel yapay zekâ modelleri, çeşitli nesne ve ekipman türlerini algılamak için bu cihazlarda çalıştırılabilir. Örneğin bu tür kasklar, itfaiyecilerin düşük görüş koşullarında insanları, engelleri veya tehlikeleri algılamasına yardımcı olabilir.

Ancak tam boyutlu modelleri doğrudan giyilebilir cihazlarda çalıştırmak performansın yavaşlamasına ve pilin hızla tükenmesine neden olabilir. Bu durumda NCNN entegrasyonunu kullanmak akıllıca bir tercihtir. Düşük gecikmeli ve enerji açısından verimli çıkarım yapılmasını sağlar.

Atık sınıflandırma ve akıllı çöp kutuları#

Benzer şekilde, akıllı çöp kutuları, atılan malzemeleri tanımlayıp sınıflandırmak için kameralar ve kompakt uç yapay zekâ işlemcileriyle entegre edilebilir. YOLO11 gibi görsel yapay zekâ modelleri; kâğıt, plastik, kauçuk vb. farklı atık malzemesi türlerini algılamak üzere özel olarak eğitilebilir.

Atık tanımlandıktan sonra yeniden kullanılabilirliğine göre otomatik olarak ayrı bölmelere ayrılabilir. Dışa aktarılan Ultralytics YOLO11 modellerini NCNN biçiminde uç yapay zekâyla birlikte kullanarak bu kutular verileri internet bağlantısına ihtiyaç duymadan yerel olarak işleyebilir. Bu sayede otonom olarak çalışabilir ve minimum gecikmeyle gerçek zamanlı sınıflandırma kararları verebilirler.

Şekil 4. YOLO11 kullanarak plastik atık malzemelerini algılama.

Dronlar ve bilgisayarlı görü kullanarak sığır takibi#

Bazen uzak konumlardaki tarım alanlarının kararlı internet bağlantılarına veya sürekli elektriğe erişimi olmaz; bu da çevrim içi yapay zekâ uygulamalarını çalıştırma olanaklarını sınırlar. Bu gibi durumlarda uç cihazlar ve dronlar çeşitli görevleri gerçekleştirmek için kullanılabilir.

Buna iyi bir örnek, sığır, koyun ve kümes hayvanları gibi çiftlik hayvanlarının izlenmesidir. Bu işlem; hayvan hareketlerini takip edebilen, yaralanma, hastalık veya anormal davranış belirtilerini algılayabilen ve hayvanlar kaybolduğunda çiftçileri uyarabilen YOLO11 gibi görsel yapay zekâ modelleri kullanılarak gerçekleştirilebilir. NCNN entegrasyonu ayrıca bu verilerin doğrudan uç cihazlarda çalıştırılmasını ve işlenmesini mümkün kılar; bu da onu uzak veya şebeke dışı bölgelerdeki çiftliklerde görüntü ve video analizi için oldukça uygun hâle getirir.

Şekil 5. Çiftlik hayvanlarını izlemek için YOLO11 kullanımına bakış.

Önemli çıkarımlar#

Ultralytics tarafından desteklenen NCNN entegrasyonunu kullanarak YOLO11 modellerini dışa aktarmak, görsel yapay zekâyı düşük güç tüketimli ortamlara taşımanın kolay bir yoludur. İster afet bölgelerindeki dronlar, ister akıllı atık sınıflandırma kutuları, ister uzak çiftliklerdeki çiftlik hayvanı izleme sistemleri olsun, YOLO ve NCNN hızlı, verimli ve taşınabilir gerçek zamanlı yapay zekâ çıkarımları sağlar. Bu yaklaşım, yapay zekâ sistemlerinin en çok ihtiyaç duyulduğu anlarda daha erişilebilir ve güvenilir olmasına yardımcı olur.

Yapay zekâ hakkında daha fazla bilgi edinmek ister misin? GitHub depomuzu incele, topluluğumuza katıl ve bilgisayarlı görü projenizi başlatmak için lisanslama seçeneklerimize göz at. Perakendede yapay zekâ ve sağlık hizmetlerinde bilgisayarlı görü gibi yeniliklerin çözümler sayfalarımızda geleceği nasıl şekillendirdiğini keşfet.