Ultralytics YOLO modellerini dışa aktarmak için ONNX entegrasyonunu kullanmak

Yapay zeka çözümleri ilk dikkat çekmeye başladığında, çoğu model kontrollü ortamlardaki güçlü sunucularda çalıştırılıyordu. Ancak teknoloji ilerledikçe, dağıtım veri merkezlerinin çok ötesine yayıldı.

Günümüzde yapay zeka modelleri, bulut sunucularından ve masaüstü bilgisayarlardan akıllı telefonlara ve uç cihazlara kadar her şeyde çalışıyor. Bu değişim; daha hızlı işlemeyi, çevrimdışı işlevselliği ve verinin üretildiği yere daha yakın çalışan daha akıllı sistemleri destekliyor.

Bunun özellikle net bir şekilde görüldüğü alanlardan biri, makinelerin görsel verileri yorumlamasını sağlayan bir yapay zeka dalı olan bilgisayarlı görü alanıdır. Bu teknoloji; yüz tanıma, otonom sürüş ve gerçek zamanlı video analizi gibi uygulamalara güç vermek için kullanılıyor. Bu kullanım alanları arttıkça, farklı donanım ve platformlarda sorunsuz bir şekilde çalışabilecek modellere olan ihtiyaç da artıyor.

Ancak bilgisayarlı görü modellerini çeşitli dağıtım hedeflerinde çalıştırmak her zaman basit değildir. Cihazlar donanım, işletim sistemi ve desteklenen çerçeveler açısından farklılık gösterir; bu da esnekliği ve uyumluluğu zorunlu kılar.

Ultralytics YOLO11 gibi bilgisayarlı görü modellerini farklı formatlara aktarma seçeneğine sahip olmanın anahtar olmasının nedeni budur. Örneğin, Ultralytics tarafından desteklenen ONNX (Open Neural Network Exchange) entegrasyonu, eğitim ve dağıtım arasındaki boşluğu doldurmak için pratik bir yol sağlar. ONNX, modelleri çerçeveden bağımsız kılan ve platformlar arası dağıtıma hazır hale getiren açık bir formattır.

Şekil 1. ONNX, bir çerçevede eğitilmiş bir modeli alıp diğerinde kolayca çalıştırmana yardımcı olur.

Bu makalede, Ultralytics tarafından desteklenen ONNX entegrasyonuna daha yakından bakacağız ve esnek, platformlar arası dağıtım için YOLO11 modelini nasıl dışa aktarabileceğini inceleyeceğiz.

Link to this sectionONNX ve ONNX Runtime nedir?#

Open Neural Network Exchange, makine öğrenimi modelleri için standart bir format tanımlayan açık kaynaklı bir projedir. Başlangıçta Microsoft ve Facebook tarafından geliştirilen bu proje, geliştiricilerin bir modeli PyTorch gibi bir çerçevede eğitip, TensorFlow gibi başka bir çerçevede çalıştırmasına olanak tanır. Bu durum, özellikle bilgisayarlı görü gibi alanlarda yapay zeka geliştirmeyi daha esnek, işbirlikçi ve erişilebilir hale getirir.

ONNX, ortak bir operatör seti ve birleştirilmiş bir dosya formatı sağlayarak modelleri farklı araçlar, çerçeveler, çalışma zamanları ve derleyiciler arasında taşımayı kolaylaştırır. Normalde, bir çerçevede eğitilen bir model diğeriyle kolayca uyumlu değildir; ancak ONNX ile modelini bir kez dışa aktarabilir ve neredeyse her yerde dağıtabilirsin: CPU'larda (Merkezi İşlem Birimleri), GPU'larda (Grafik İşlem Birimleri), mobil cihazlarda veya uç donanımlarda.

Ayrıca ONNX Runtime, modelleri ONNX formatında çalıştırmak için özel olarak geliştirilmiş yüksek performanslı bir çıkarım motorudur. Sunucular, mobil cihazlar ve uç donanımlar dahil olmak üzere çok çeşitli platformlarda ONNX modellerinin daha hızlı ve daha verimli çalışmasını sağlamak üzere tasarlanmıştır. ONNX Runtime; PyTorch, TensorFlow, TensorFlow Lite ve scikit-learn gibi popüler çerçevelerle uyumludur, bu da onu farklı iş akışlarına entegre etmeyi ve modellere ihtiyaç duyulan her yerde dağıtmayı kolaylaştırır.

Şekil 2. ONNX ve ONNX Runtime, esnek platformlar arası model dağıtımını mümkün kılar.

Link to this sectionONNX'in temel özellikleri#

YOLO11'i ONNX formatına nasıl dışa aktaracağımızı tartışmadan önce, ONNX model formatının bazı temel özelliklerine göz atalım.

İster araçlar arasında geçiş yapıyor, ister farklı cihazlara dağıtım yapıyor veya sistemleri yükseltiyor ol, ONNX her şeyin sorunsuz çalışmasına yardımcı olur. İşte ONNX model formatını benzersiz kılan özellikler:

• Tek bir standart format: ONNX, katmanlar ve işlemler (bunları yapı taşları olarak düşünebilirsin) gibi modellerin nasıl oluşturulduğunu tanımlamak için ortak bir yol kullanır. Bir model ONNX'e dönüştürüldüğünde, bu standardı takip eder, böylece ONNX'i destekleyen herhangi bir sistem onu anlayabilir ve çalıştırabilir.

• Geriye dönük uyumluluk: ONNX gelişmeye devam etse bile, eski modellerin yeni sürümlerle çalışmaya devam etmesini sağlar. Bu, ONNX her güncelleme aldığında modellerini yeniden eğitmek veya yeniden oluşturmak zorunda olmadığın anlamına gelir.

• Grafik tabanlı model tasarımı: ONNX modelleri, her düğümün bir işlemi (katman veya matematiksel fonksiyon gibi) temsil ettiği ve kenarların veri akışını gösterdiği hesaplama grafikleri olarak yapılandırılmıştır. Bu grafik tabanlı tasarım, benzer hesaplama grafiği yapılarını kullanan çeşitli sistemlerle entegrasyonu kolaylaştırır.

• Geliştirici dostu araçlar: Modellerini dönüştürmene, doğrulamana ve optimize etmene yardımcı olan geniş bir araç yelpazesiyle gelir. Bu araçlar, modelleri farklı çerçeveler arasında taşıma sürecini basitleştirir ve özellikle bilgisayarlı görü uygulamaları için dağıtımı hızlandırabilir.

Link to this sectionONNX entegrasyonuna genel bakış#

Ultralytics YOLO modelleri gibi Ultralytics YOLO11 modellerini ONNX formatında dışa aktarmak basittir ve birkaç adımda gerçekleştirilebilir.

Başlamak için, 'pip' gibi bir paket yöneticisi kullanarak Ultralytics Python paketini yükle. Bunun için komut isteminde veya terminalinde “pip install ultralytics” komutunu çalıştırman yeterlidir.

Ultralytics paketi ile çeşitli bilgisayarlı görü görevleri için modelleri kolayca eğitebilir, test edebilir, ince ayar yapabilir, dışa aktarabilir ve dağıtabilirsin; bu da tüm süreci daha hızlı ve daha verimli hale getirir. Kurulum sırasında herhangi bir zorlukla karşılaşırsan, çözümler ve ipuçları için Yaygın Sorunlar kılavuzuna başvurabilirsin.

Ultralytics paketi yüklendikten sonra, aşağıdaki kodu kullanarak YOLO11 modelini yükleyebilir ve ONNX formatına aktarabilirsin. Bu örnek, önceden eğitilmiş bir YOLO11 modelini (yolo11n.pt) yükler ve onu bir ONNX dosyası (yolo11n.onnx) olarak dışa aktararak farklı platformlarda ve cihazlarda dağıtıma hazır hale getirir.

Modelini ONNX formatına dönüştürdükten sonra, çeşitli platformlarda dağıtabilirsin.

Aşağıdaki örnek, dışa aktarılan YOLO11 modelinin (yolo11n.onnx) nasıl yükleneceğini ve onunla nasıl çıkarım yapılacağını göstermektedir. Çıkarım, basitçe eğitilmiş modeli yeni veriler üzerinde tahmin yapmak için kullanmak anlamına gelir. Bu örnekte, modeli test etmek için bir otobüs resminin URL'sini kullanacağız.

Bu kodu çalıştırdığında, sonuçta elde edilen görüntü runs/detect/predict klasörüne kaydedilecektir.

Şekil 3. Dışa aktarılan YOLO11 modelini bir görüntü üzerinde kullanarak çıkarım yapma.

Link to this sectionONNX entegrasyonunu ne zaman seçmelisin?#

Ultralytics Python paketi; TorchScript, CoreML, TensorRT ve ONNX dahil olmak üzere çeşitli formatlara model dışa aktarmayı destekler. Peki, neden ONNX'i seçmelisin?

ONNX'i öne çıkaran şey, çerçeveden bağımsız bir format olmasıdır. Diğer birçok dışa aktarma formatı belirli araçlara veya ortamlara bağlıyken, ONNX standartlaştırılmış bir format ve paylaşılan bir operatör seti kullanır. Bu da onu; ister bulut sunucuları, ister mobil uygulamalar veya uç cihazlarla çalışıyor ol, oldukça taşınabilir, donanım dostu ve platformlar arası dağıtım için ideal kılar.

ONNX entegrasyonunun YOLO11 projelerin için ideal seçim olmasının bazı nedenleri şunlardır:

• Taşınabilir dağıtım: ONNX'e aktarıldıktan sonra, YOLO11 modelin kod değişikliği veya yeniden eğitim gerektirmeden çeşitli platformlarda dağıtılabilir.

• Sektör çapında destek: ONNX, büyük yapay zeka şirketleri ve çerçeveleri tarafından desteklenir, bu da onu güvenilir ve yaygın olarak kabul edilen bir format yapar. Tıpkı PDF'lerin cihazlar arasında çalışması gibi, uzun vadeli uyumluluğu sağlar.

• Geleceğe hazır geliştirme: ONNX kullanmak, model yatırımlarını korumaya yardımcı olur. Araçlar geliştikçe ONNX, modellerini yeni veya farklı ortamlarda bile güncel ve kullanılabilir tutar.

• Satıcı bağımlılığı yok: Bazı araçlar seni yalnızca kendi sistemlerini kullanmaya zorlar, bu da modelinin yapabileceklerini sınırlayabilir. ONNX, tek bir kuruluma bağlı kalmadan ihtiyaçlarına en uygun platformu seçmene izin vererek bunu önler.

Link to this sectionYOLO11 ve ONNX model formatının uygulamaları#

Şimdi, ONNX entegrasyonu yardımıyla YOLO11'in dağıtılabileceği bazı gerçek dünya uygulamalarını inceleyelim.

Link to this sectionYOLO11 ile depolardaki envanteri takip etme#

Yoğun depolarda her ürünü ve paketi her an göz önünde bulundurmak zordur. Bilgisayarlı görü sistemleri, çalışanların ürünleri raflarda bulmasına ve ürün sayısı, türü gibi bilgileri edinmesine yardımcı olabilir. Bu tür sistemler, işletmelerin geniş envanterlerini otomatik olarak yönetmelerine yardımcı olabilir ve depo çalışanlarına çok zaman kazandırabilir.

Özellikle akıllı depolarda, ONNX'e aktarılmış YOLO11 modelleri, kameralar ve uç cihazlar kullanılarak gerçek zamanlı olarak öğeleri tanımlamak ve saymak için kullanılabilir. Dışa aktarılan model, stok seviyelerini, eksik öğeleri veya boş noktaları tespit etmek için rafları veya paletleri taramaya yardımcı olabilir. ONNX'e dışa aktarmak modeli hafif ve verimli hale getirdiğinden, pahalı sunuculara veya sürekli bulut erişimine ihtiyaç duymadan akıllı kameralar gibi küçük uç cihazlarda doğrudan çalışabilir.

Şekil 4. Paketleri tespit etmek ve saymak için YOLO11 kullanma örneği.

Link to this sectionYOLO11 ile hastane atık yönetimi#

Dünyanın dört bir yanındaki hastaneler, kullanılmış eldivenlerden şırıngalara ve cerrahi sırasında kullanılan ekipmanlara (makas ve neşter gibi tek kullanımlık veya kontamine cerrahi aletler) kadar her gün büyük miktarda atık üretir. Aslında araştırmalar, hastanelerin her yıl yaklaşık 5 milyon ton atık ürettiğini, bunun da günde yatak başına 29 pound atığa denk geldiğini göstermektedir.

Bu atıkları doğru şekilde ayırmak; hijyen, güvenlik ve yönetmeliklere uyum için şarttır. ONNX formatında dışa aktarılan YOLO11 modelleri ile hastaneler atık bertarafını otomatikleştirebilir ve gerçek zamanlı olarak izleyebilir.

Örneğin, ameliyathaneler veya koridorlar gibi alanlardaki çöp kutularının yakınına yerleştirilen kameralar, atılan öğeleri izleyebilir. Farklı tıbbi atık türlerini tanıyacak şekilde eğitilmiş özel bir YOLO11 modeli, görüntüleri analiz edebilir ve neyin atıldığını tanımlayabilir. Eğer bir öğe yanlış kutuya atılırsa (örneğin normal çöpe atılan kullanılmış bir şırınga), sistem personele ışık veya ses ile anında uyarı verecek şekilde ayarlanabilir; bu da kontaminasyonu önlemeye ve uyumluluğu sağlamaya yardımcı olur.

Şekil 5. Tıbbi aletleri tespit etmek için YOLO11 kullanma.

Link to this sectionYOLO11 destekli mahsul izleme#

Mahsulleri hasat etmek için doğru zamanı bilmek, hem ürünün kalitesi hem de çiftliğin genel üretkenliği üzerinde büyük bir etkiye sahip olabilir. Geleneksel olarak çiftçiler deneyime ve manuel incelemelere güvenirler; ancak teknolojideki son gelişmelerle bu durum değişmeye başlıyor.

Artık ONNX formatında dışa aktarılan YOLO11 gibi bilgisayarlı görü yenilikleriyle, çiftçiler tarlada otomasyon ve hassasiyeti sağlayabilirler. Dronlar veya traktörlere ya da direklere monte edilmiş kameralar kullanarak çiftçiler mahsullerinin (domates, elma veya buğday gibi) görüntülerini yakalayabilirler. YOLO11 daha sonra renk, boyut ve mahsul dağılımı gibi temel göstergeleri tespit etmek için kullanılabilir. Bu bilgilere dayanarak çiftçiler, mahsullerin hasat edilmeye hazır olup olmadığını, hala olgunlaşmakta olduğunu veya zirve dönemini geçtiğini belirleyebilirler.

Şekil 6. YOLO11, havadan çekilen drone görüntülerinde mahsulleri tespit etmek için kullanılabilir.

Link to this sectionDikkate alınması gereken ONNX sınırlamaları#

ONNX; taşınabilirlik, platformlar arası uyumluluk ve çerçeve birlikte çalışabilirliği gibi çok sayıda avantaj sunsa da, akılda tutulması gereken bazı sınırlamalar vardır:

• Model boyutu: Modelleri ONNX formatına dönüştürmek, bazen orijinal formatlarına kıyasla daha büyük dosya boyutlarıyla sonuçlanabilir. Kuantizasyon ve budama gibi teknikler, performansı önemli ölçüde etkilemeden model boyutunu azaltarak bu sorunu hafifletmeye yardımcı olabilir.

• Çalışma zamanı uyumluluğu: ONNX Runtime, platformlar arası uyumluluk için tasarlanmış olsa da, performans ve destek farklı donanım ve işletim sistemlerinde değişiklik gösterebilir.

• Hata ayıklama zorlukları: ONNX modellerinde hata ayıklamak, PyTorch veya TensorFlow gibi yerel çerçevelere göre daha karmaşık olabilir. Hata mesajları daha az açıklayıcı olabilir, bu da sorunları tespit etmeyi zorlaştırabilir. Ancak, model görselleştirme için Netron ve ONNX Runtime'ın günlük kaydı yetenekleri sorun gidermeye yardımcı olabilir.

Link to this sectionÖne çıkanlar#

Ultralytics YOLO11'i ONNX'e aktarmak, eğitilmiş bir bilgisayarlı görü modelini alıp dizüstü bilgisayar, mobil cihaz veya kompakt bir akıllı kamera olsun, neredeyse her yerde dağıtmayı kolaylaştırır. ONNX entegrasyonu ile tek bir çerçeveye veya platforma bağlı kalmazsın, bu da modelini uygulaman için en uygun ortamda çalıştırma esnekliği sağlar.

Bu durum, eğitimden gerçek dünya dağıtımına geçişi daha hızlı ve daha verimli hale getirir. İster bir depodaki envanteri takip ediyor ol, ister hastane atıklarının doğru şekilde bertaraf edilmesini sağlıyor ol, bu kurulum sistemlerin daha sorunsuz çalışmasına yardımcı olur, hataları azaltır ve değerli zamandan tasarruf sağlar.

Bilgisayarlı görü ve yapay zeka hakkında daha fazla bilgi mi istiyorsun? Bilgisayarlı görü projeni başlatmak için GitHub depomuzu keşfet, topluluğumuzla bağlantı kur ve lisanslama seçeneklerimize göz at. Üretimde yapay zeka ve otomotiv sektöründe bilgisayarlı görü gibi yenilikleri keşfediyorsan, daha fazlasını öğrenmek için çözüm sayfalarımızı ziyaret et.