Bilgisayarlı görü projen için doğru uç cihazı seçme

Uç yapay zeka (Edge AI), yapay zeka ve bilgisayarlı görü alanındaki en büyük trendlerden biri haline geliyor. Verilerin işlenmek üzere başka bir konuma gönderildiği bulut bilişime güvenmek yerine, gerçek zamanlı zekayı doğrudan cihazlara getiriyor. Hatta küresel uç yapay zeka pazarı hacminin 2034 yılına kadar yaklaşık 143,06 milyar dolara ulaşması bekleniyor.

Yakın zamandaki teknolojik gelişmeler sayesinde uç yapay zeka, birçok sektörde gerçek zamanlı, görü tabanlı otomasyonu yeniden tanımlıyor. Üretimdeki kalite kontrol buna harika bir örnektir.

Burada, görü yapay zeka kameraları bir konveyör bandındaki ürünleri sürekli olarak analiz eder. Hataları ve anormallikleri hızlı bir şekilde tespit etmek için kullanılabilirler. Bu, cerrahi aletlerin üretimi gibi yüksek hassasiyet gerektiren endüstrilerde özellikle kritik öneme sahiptir.

Şekil 1. Cerrahi aletleri tespit etmek için görü yapay zekasını kullanmaya bir örnek

Peki uç cihazlar tam olarak nedir? Bunlar, verilerin üretildiği yerde veya yakınında Ultralytics YOLO26 gibi yapay zeka modellerini ve bilgisayarlı görü modellerini çalıştırabilen donanım sistemleridir.

Bu bir fabrika sahasında, akıllı bir kameranın içinde veya otonom araçlarda olabilir. Bu cihazlar yerel olarak çıkarım (inference) yaparak daha hızlı yanıt süreleri sağlar. Ayrıca, görsel verilerin buluta aktarılması gerekmediğinden bant genişliği kullanımını da azaltırlar.

Ancak, bilgisayarlı görü projeniz için doğru uç cihazı seçmek zor olabilir. Bir ortamda iyi çalışan donanım, başkası için uygun olmayabilir.

Örneğin, bir fabrika sahasında güvenilir bir şekilde çalışan bir cihaz, ağırlık ve güç kısıtlamalarının çok farklı olduğu drone denetimleri için işe yaramayabilir. Yanlış cihazı seçmek maliyetleri artırabilir, kullanıma almayı yavaşlatabilir ve ölçeklendirmeyi zorlaştırabilir.

İşte bu yüzden ekipler sadece işlem gücüne odaklanmak yerine cihaz boyutu, güç zarfı, termal limitler ve endüstriyel bulunabilirlik gibi faktörleri değerlendirmelidir. Bu makalede uç yapay zekayı ve bilgisayarlı görü uygulamanız için doğru uç cihazı nasıl seçeceğinizi keşfedeceğiz. Hadi başlayalım!

Uç cihaz kullanmanın temel avantajları

Belirli görü yapay zeka projeniz için doğru uç cihazı seçmeye nasıl başlayacağımıza dalmadan önce, bir adım geri çekilip görü yapay zeka projelerinde uç cihaz kullanmanın bazı avantajlarını tartışalım.

Görü yapay zekasını uç noktada dağıtmanın temel avantajlarından bazıları şunlardır:

• Gerçek zamanlı performans: Veriler, kameranın konuşlandırıldığı yerde veya yakınında işlenir; bu da hata tespiti, güvenlik izleme ve robotik gibi kullanım durumları için anında yanıtlar sağlar. Bu yerel işleme, sistemlerin bulut bağlantısına güvenmeden değişen koşullara anında tepki vermesini sağlayarak gerçek zamanlı karar almayı destekler.
• Daha düşük bant genişliği maliyeti: Uç cihazlar, ham videoyu buluta akışla göndermek yerine yalnızca meta verileri, uyarıları veya ilgili içgörüleri iletir. Bu, ağ yükünü ve bulut depolama masraflarını önemli ölçüde azaltır.
• Çevrimdışı çalışır: Çoğu uç sistem, fabrikalarda, depolarda ve uzak ortamlarda yaygın olan dengesiz veya sınırlı internet bağlantısında bile çalışmaya devam edebilir.
• Daha iyi gizlilik: Video verileri yerinde kalır; bu da hassas bilgilerin açığa çıkmasını azaltırken gizlilik ve uyumluluk gereksinimlerini karşılamayı kolaylaştırır.
• Birçok konumda kolayca ölçeklenir: Uç mimariler, merkezi bulut altyapısına olan bağımlılığı azaltır. Bu, ekiplerin aynı kurulumu tutarlı bir performansla birden fazla konuma kopyalamasına olanak tanır.

Uygulamanızın gereksinimlerini anlama

Doğru uç cihazı seçmenin ilk adımı, uygulamanızın gerçekte neye ihtiyaç duyduğunu anlamaktır. Seçtiğiniz donanım; sistemin yapması beklenen işlerle, ne kadar hızlı çalışması gerektiğiyle ve nerede konuşlandırılacağıyla eşleşmelidir.

Performans gereksinimlerini tanımlayarak başlayabilirsin. Bazı çözümler yüksek FPS'de (saniyedeki kare sayısı) gerçek zamanlı yapay zeka çıkarımı gerektirirken, diğerleri kareleri gruplar veya partiler halinde işleyebilir.

Model karmaşıklığı ve boyutu da önemli bir rol oynar. Hafif nesne tespit modelleri genellikle daha küçük, düşük güçlü cihazlarda çalışabilirken, daha karmaşık, ağır modeller veya çok aşamalı boru hatları daha fazla işlem gücü ve bellek gerektirir.

Ardından, veri kurulumunu değerlendir. Bu; kamera çözünürlüğünü, kare hızını, paralel akış sayısını ve RGB, termal veya derinlik gibi sensör türlerini içerir. Bu faktörler doğrudan bant genişliğini, verimi, bellek kullanımını ve toplam sistem yükünü etkiler.

Doğruluk ve gecikme arasındaki ödünleşme

Donanım ve veri gereksinimlerinin ötesinde, model seçimi genel sistem performansında kritik bir rol oynar. Çoğu uç dağıtım, gecikme ve doğruluk arasında bir denge içerir. Daha yüksek doğruluklu modeller tipik olarak daha fazla hesaplama yoğunlukludur ve çıkarım süresini artırabilir.

Diğer yandan daha hızlı modeller, bir miktar hassasiyetten ödün verebilir. Amaç, özel kullanım durumunuza ve operasyonel kısıtlamalarınıza göre hız ve doğruluk arasında doğru dengeyi bulmaktır.

Örneğin, otomatik gıda üretimi hatlarında bilgisayarlı görü sistemleri, ürünler paketlenip gönderilmeden önce onları denetlemek için kullanılır. Bu sistemler, konveyör bandını yavaşlatmamak için gerçek zamanlı çalışmalıdır.

Sistemin her pizzanın doğru malzemelere sahip olduğunu doğrulaması gereken bir pizza montaj hattını düşün. Ultralytics YOLO26 gibi bir model, pizzayı ve üzerindeki malzemeleri gerçek zamanlı olarak tespit edebilir, eksik veya yanlış malzemeleri belirleyebilir. Bu senaryoda model, hataları yakalayacak kadar doğru, ancak uç donanımda üretim hızlarına ayak uyduracak kadar hızlı olmalıdır.

Şekil 2. Bir pizzayı ve üzerindeki malzemeleri tespit etmek ve segmentlemek için Ultralytics YOLO26 kullanımı.

Uç cihazın boyutunu göz önünde bulundur

İşlem performansının yanı sıra uç cihazın fiziksel boyutu, dağıtım planlamasında bir diğer önemli faktördür. Cihazın form faktörü (fiziksel boyutu, şekli, montaj stili ve genişleme arayüzleri), ortama ne kadar kolay entegre olduğunu ve gerçek dünya koşullarında nasıl performans gösterdiğini doğrudan etkiler.

Uç yapay zeka cihazlarının türleri ve form faktörleri

Uç yapay zeka donanımları, tam raf tipi sunuculardan ve Peripheral Component Interconnect Express (PCIe) hızlandırıcı kartlarından kompakt M.2 modüllerine, System-on-Module (SoM) platformlarına, tek kartlı bilgisayarlara (SBC'ler), akıllı kameralara ve hatta çip üzerinde yapay zeka işlemeli akıllı görü sensörlerine kadar birçok form faktöründe gelir. Her format; performans, güç verimliliği, termal tasarım ve entegrasyon karmaşıklığı açısından farklı ödünleşmeler sunar.

Cihaz boyutu; soğutma gereksinimleri, güç kullanılabilirliği ve genel sistem mimarisi ile yakından bağlantılıdır. Raf tipi endüstriyel bilgisayarlar veya kule iş istasyonları gibi daha büyük sistemler tipik olarak tam boy PCIe GPU'ları, çoklu genişleme kartlarını ve aktif soğutmayı destekler. Bu platformlar; çoklu kamera işleme, merkezi uç merkezleri veya yüksek verimli video analitiği için çok uygundur.

Buna karşılık M.2 hızlandırıcılar, özel taşıyıcı kartlara monte edilmiş SoM'ler, SBC'ler veya hepsi bir arada akıllı kameralar gibi kompakt form faktörleri, alan kısıtlı ortamlar için tasarlanmıştır. Bu daha küçük cihazlar genellikle güç verimliliğine ve pasif soğutmaya öncelik verir; bu da onları gömülü sistemler, mobil robotlar, dronlar, kiosklar ve dağıtılmış denetim birimleri için ideal kılar.

Küçültmenin uç noktasında, bazı dağıtımlar çıkarımın doğrudan görüntü sensörü veya düşük güçlü işlemci üzerinde çalıştığı akıllı görü sensörlerine veya mikrodenetleyici tabanlı (TinyML) platformlara dayanır. Bu sistemler fiziksel ayak izini ve enerji tüketimini önemli ölçüde azaltır, ancak genellikle daha dar, yüksek düzeyde optimize edilmiş iş yükleri için uygundur.

Boyut, modülerlik ve entegrasyon modelindeki bu farklılıklar genellikle iki yaygın uç dağıtım kategorisine yol açar: ölçeklenebilir dağıtımlar ve alan kısıtlı dağıtımlar. Her yaklaşım; performans, güç ve çevresel kısıtlamaları ele alırken uzun vadeli bakım ve sistem tasarımını şekillendirir.

Ölçeklenebilir dağıtımlar

PCIe hızlandırıcılar ve raf tipi veya endüstriyel kişisel bilgisayarlar (PC'ler), bir proje yüksek işlem gücü gerektirdiğinde veya birden fazla kameradan gelen verileri aynı anda işlemesi gerektiğinde yaygın olarak kullanılır. PCIe hızlandırıcı, bir PCIe yuvası aracılığıyla daha büyük bir bilgisayarın içine kurulan bir donanım kartıdır.

Sistemin yapay zeka iş yüklerini yönetme yeteneğini artırmak için bir grafik işlem birimi (GPU) veya diğer yapay zeka hızlandırıcıları gibi özel işlem kaynakları ekler. Bu, bir ekran kartının masaüstü bilgisayarda performansı artırmasına benzer.

Raf tipi veya endüstriyel bilgisayarlar; fabrikalar, üretim sahaları veya kontrol odaları gibi ortamlarda sürekli çalışma için tasarlanmış daha büyük, sağlamlaştırılmış sistemlerdir. Soğutma, donanım genişletme ve daha yüksek güçlü bileşenler için daha fazla alan sağlarlar; bu da onları çoklu kamera kalite denetimi veya büyük ölçekli video analitiği gibi zorlu iş yükleri için çok uygun hale getirir.

Alan kısıtlı dağıtımlar

Alan kısıtlı dağıtımlar, bir uç cihazın sıkı fiziksel, termal veya güç limitleri dahilinde çalışması gereken ortamlarda yaygındır. Buna genellikle üretim hatlarına monte edilmiş akıllı kameralar, mobil robotlar, dronlar, kiosklar veya kompakt denetim sistemleri dahildir.

Bu durumlarda donanımın güvenilir yapay zeka performansı sunarken aynı zamanda küçük, hafif ve enerji verimli olması gerekir. Bu dağıtımlar için iki yaygın donanım seçeneği M.2 modülleri ve tek kartlı bilgisayarlardır.

M.2 modülü, bir ana sistem içindeki M.2 yuvasına uyan kompakt bir genişleme kartıdır. M.2 sadece bir form faktörü ve arayüz standardı olsa da, bazı modüller özellikle yapay zeka hızlandırma için tasarlanmıştır.

Bu yapay zeka hızlandırıcı modülleri, küçük cihazların bilgisayarlı görü modellerini boyutu veya güç tüketimini önemli ölçüde artırmadan daha verimli bir şekilde çalıştırmasına olanak tanır. M.2 hızlandırıcılar genellikle tam boyutlu bir PCIe genişleme kartı eklemenin pratik olmayacağı gömülü sistemlere entegre edilir.

Bu arada, tek kartlı bilgisayar tek bir devre kartı üzerine inşa edilmiş tam bir bilgisayardır. CPU'yu, belleği, depolama arayüzlerini ve giriş/çıkış (I/O) bağlantılarını kompakt bir form faktöründe birleştirir. Her şey tek bir kart üzerinde toplandığından, SBC'ler alanın sınırlı olduğu ve basitliğin önemli olduğu gömülü ve uç uygulamalarda yaygın olarak kullanılır.

Alan kısıtlı sistemler tipik olarak daha büyük raf tipi sistemlerden daha az ham işlem performansı sunsa da, verilerin üretildiği yere yakın cihaz üzerinde çıkarımı mümkün kılar. Bu, daha büyük donanımların sığmayacağı ortamlarda gecikmeyi azaltır, bant genişliği kullanımını düşürür ve dağıtım esnekliğini artırır.

Gömülü görü için özel yapay zeka hızlandırma

Birçok donanım satıcısı, gömülü görü için özel olarak kompakt, güç verimli yapay zeka hızlandırmaya odaklanıyor. Örneğin Axelera AI, PCIe kartları, M.2 modülleri ve alan kısıtlı dağıtımlar için entegre işlem kartları dahil olmak üzere birçok form faktöründe Metis® AI Processing Unit (AIPU) hızlandırıcıları sunar.

Ultralytics ile yapılan bir entegrasyon sayesinde, Ultralytics YOLOv8 ve YOLO26 gibi desteklenen YOLO modelleri, Ultralytics Python paketi kullanılarak Axelera formatına aktarılabilir ve verimli uç çıkarımı için derleme ve INT8 kuantizasyonunu yöneten Voyager SDK aracılığıyla optimize edilebilir.

Şekil 3. Axelera AI’nın Metis Yapay Zeka İşleme Birimine bir bakış (Kaynak)

Güç tüketimini dikkate al

Güç tüketimi, ısı üretimini ve soğutma gereksinimlerini doğrudan etkilediğinden uç dağıtımlarda da önemli bir kısıtlamadır. Sistemin kapalı muhafazalar veya kompakt endüstriyel yuvalar içinde güvenilir bir şekilde çalışıp çalışamayacağını belirler.

Bu, her wattın (W) çalışma süresini ve genel sistem kararlılığını etkilediği mobil robotlar, dronlar veya uzaktan izleme istasyonları gibi pille çalışan ortamlarda özellikle hayati önem taşır.

Çoğu uç cihaz üç geniş güç kademesine ayrılır. Her birine daha yakından bakalım:

• Düşük güç tüketen cihazlar (<10W): Bunlar tipik olarak kompakt boyutun ve pasif soğutmanın gerekli olduğu gömülü sistemlerde kullanılır.
• Orta seviye cihazlar (10–50W): Bu cihazlar, kontrollü termal sınırlar dahilinde çalışırken daha yüksek verim gerektiren uç ağ geçitlerinde ve fabrika uç noktalarında yaygındır.
• Yüksek güç tüketen cihazlar (>50W): Bu tür cihazlar genellikle çoklu kamera işleme ve ağır iş yükleri için tasarlanmış PCIe hızlandırıcılar veya endüstriyel bilgisayarlardır. Genellikle aktif soğutma ve daha büyük muhafazalarla eşleştirilirler.

Hangi güç kademesinin uygun olduğunu belirlemede iş yükü özelliklerinin büyük bir rol oynadığını unutmamak önemlidir. Daha yüksek kare hızları, daha büyük görü modelleri ve birden fazla paralel kamera akışının tümü işlem talebini artırır ve bu da sırasıyla güç tüketimini yükseltir.

Günümüzde birçok donanım satıcısı güç verimli yapay zeka hızlandırmaya odaklanıyor. Örneğin DEEPX’in uç modülleri, uç dağıtımlarda düşük güçlü çıkarım için tasarlanmıştır. Intel işlemcileri de performansın çevresel gereksinimlere ve iş yükü gereksinimlerine göre ayarlanmasına olanak tanıyan güç yönetimi ve ölçeklendirme özellikleri sunar.

Endüstriyel bulunabilirliği ve yaşam döngüsü desteğini hesaba kat

Başarılı bir pilot dağıtımı tamamladığını varsayalım. Model iyi performans gösteriyor, donanım performans gereksinimlerini karşılıyor ve sistem testlerde güvenilir bir şekilde çalışıyor.

Bir sonraki zorluk, bu çözümü tam üretime ölçeklendirmektir. Endüstriyel bulunabilirliğin ve yaşam döngüsü desteğinin kritik hale geldiği yer burasıdır.

Çoğu uç sistemin yıllarca sürekli çalışması beklenir. Kullanıma sunulduktan kısa bir süre sonra üretimi durdurulabilecek donanımları seçmek önemli bir risk oluşturur. Bir cihaz pilot uygulama sırasında iyi performans gösterse bile, ömrünü tamamlaması veya üretim başladığında tedarik edilmesinin zorlaşması durumunda bir yük haline gelebilir.

Kısa pazar yaşam döngüleri; tedarik zinciri aksaklıklarına neden olabilir, bakım maliyetlerini artırabilir ve beklenmedik yeniden tasarımları zorunlu kılabilir. Çok bölgeli dağıtımlarda, bulunmayan bileşenleri değiştirmek genişlemeyi yavaşlatabilir ve sistem yönetimini karmaşıklaştırabilir.

Endüstriyel kullanım için tasarlanmış donanımlar genellikle daha uzun üretim zaman çizelgeleri, daha net yaşam döngüsü politikaları ve devam eden ürün yazılımı veya yazılım desteği sunar. Bu kararlılık, büyük donanım değişiklikleri yapmadan dağıtımları ölçeklendirmeyi kolaylaştırır.

Bir uç cihazı kesinleştirmeden önce ekipler; üreticinin ürün yol haritasını, yaşam döngüsü taahhütlerini ve uzun vadeli destek stratejisini gözden geçirebilir.

Ekip uzmanlığının ve kullanım kolaylığının önemi

Bir uç cihaz seçmek ve dağıtmak, ekibinin deneyimine de bağlıdır. Bazı platformlarla çalışmak daha kolaydır ve net belgeler, basit kurulum adımları ve kullanıma hazır araçlar sunarlar. Diğerleri performans üzerinde daha fazla kontrol sunar ancak daha derin teknik bilgi ve optimizasyon ile hata ayıklama için harcanan daha fazla zaman gerektirir.

Örneğin, Ultralytics Python paketi YOLO26 gibi modelleri eğitmeyi, test etmeyi ve dağıtmayı kolaylaştırır. Yaygın görevleri basitleştirir ve ayrıca modellerin uç dağıtımlarda kullanılan farklı formatlara aktarılmasını destekler. Bu, ekiplerin iş akışlarını sıfırdan yeniden oluşturmadan geliştirmeden gerçek dünya donanımına geçmelerini kolaylaştırır.

Uç yapay zekada daha yeni olan ekipler için güçlü ve iyi belgelenmiş bir yazılım ekosistemi, geliştirme süresini azaltabilir ve dağıtım riskini düşürebilir. Daha deneyimli ekipler, özellikle çoklu kamera işleme veya katı gecikme gereksinimleri gerektiren uygulamalarda daha derin özelleştirmeye ve ince ayara olanak tanıyan platformları tercih edebilir.

Basitçe söylemek gerekirse, satıcı ekosistemleri ve araçları önemli bir fark yaratabilir. Net belgeler, aktif destek ve esnek dağıtım seçenekleri, ekiplerin pilot projelerden tam üretim sistemlerine daha sorunsuz geçmesine yardımcı olur.

Gözden kaçırılma eğiliminde olan temel uç dağıtım faktörleri

Artık bir uç cihaz seçerken dahil olan ana faktörleri ele aldığımıza göre, gerçek dünya dağıtımlarında büyük fark yaratabilecek bazı pratik detayları gözden geçirelim. Bu hususlar ilk başta acil görünmeyebilir, ancak genellikle karar verme sürecinde kritik bir rol oynarlar ve bir proje pilot aşamasının ötesine geçtiğinde ne kadar sorunsuz çalıştığını şekillendirirler.

I/O, bant genişliği ve yazılım uyumluluğu

Bağlantı ve I/O uyumluluğu, uç dağıtımlardaki ilk pratik zorluklar arasındadır. Tipik olarak bir uç cihaz; USB 3.0, Ethernet üzerinden Güç (PoE) ile GigE ve MIPI gibi yaygın arayüzler dahil olmak üzere kamera ve sensör yapılandırmanızı desteklemelidir.

Endüstriyel görü sistemleri, güvenilir çalışma sağlamak için donanım tetikleyicileri, senkronizasyon sinyalleri veya belirli zamanlama desteği de gerektirebilir.

Bant genişliği, özellikle çoklu kamera kurulumlarında kritik bir faktördür. Kamera çıkışı ile cihaz girişi kapasitesi arasındaki küçük uyumsuzluklar bile verimi düşürebilir veya ek gecikme yaratabilir.

Yazılım uyumluluğu da önemli bir rol oynar. Bazı dağıtımlar, mobil ve gömülü ortamlarda yaygın olarak kullanılan NCNN ve MNN gibi hafif çıkarım çerçevelerine dayanır.

Akıllı sensör dağıtımlarında, Sony IMX500 gibi cihazlar yapay zeka işlemeyi doğrudan görüntü sensörüne entegre ederek veri aktarımını ve gecikmeyi azaltır. Bu durumlarda model uyumluluğu ve dışa aktarma desteği özellikle önemli hale gelir, çünkü modelin sensörün araç zinciri tarafından desteklenen bir formata dönüştürülmesi gerekir.

Örneğin, Ultralytics Python paketi, Ultralytics YOLO11 gibi modelleri, Sony IMX500 gibi cihazlar etrafında oluşturulan platformlar dahil olmak üzere uç dağıtım boru hatlarıyla uyumlu formatlara aktarmayı destekler.

Termal ve çevresel güvenilirlik

Uç cihazlar görsel verileri sürekli olarak işlediğinde, termal ve çevresel güvenilirlik kritik faktörler haline gelir. Bu bağlamda güvenilirlik, cihazın toz, titreşim veya aşırı sıcaklıklar gibi zorlu koşullarda bile aşırı ısınmadan veya arızalanmadan uzun süre çalışabilmesi anlamına gelir.

Uç yapay zeka iş yükleri daha talepkar hale geldikçe, termal verimlilik sistem tasarımında belirleyici bir faktör haline geldi. Termal performansa yapılan bu vurgu, Las Vegas'taki CES 2026'da DeepX'in üzerine küçük bir parça tereyağı yerleştirilmiş birden fazla çip üzerinde aynı yapay zeka iş yüklerini çalıştırdığı sırada vurgulandı.

Rakip çipler tereyağını eritecek kadar ısı üretirken, DeepX uç cihazı üretmedi; bu da daha düşük güç tüketiminin ve daha güçlü termal kararlılığın gerçek dünya güvenilirliğini nasıl doğrudan etkileyebileceğini gösterdi.

Soğutma tasarımı, istikrarlı performansı korumada merkezi bir rol oynar. İşlemciler daha yoğun çalıştıkça ısı üretirler ve bu ısının etkili bir şekilde yönetilmesi gerekir.

Birçok endüstriyel ortamda pasif soğutma tercih edilir çünkü mekanik fanlar, özellikle tozlu veya yüksek titreşimli ortamlarda zamanla aşınabilir veya arızalanabilir. Fansız alüminyum soğutucular, uzun vadeli dayanıklılığı artıran hareketli parçalara güvenmeden ısıyı dağıtmak için yaygın olarak kullanılır.

Çevresel koşulların da bir etkisi olabilir. Her cihazın bir nominal çalışma sıcaklığı aralığı vardır ve kapalı kabinlerde veya dış mekanlarda yapılan dağıtımlar ısıyı hapsedebilir veya donanımı dalgalı sıcaklıklara maruz bırakabilir. Bu durumlarda muhafaza tasarımı ve hava akışı, ham işlem performansı kadar önemli hale gelir.

Yazılım ekosistemi ve dağıtıma hazır olma

Doğru uç cihazı seçerken, yazılım ekosisteminin gücü donanım özellikleri kadar kritiktir. Bir cihaz kağıt üzerinde güçlü bir işlem performansı sunabilir ancak güvenilir araçlar ve platform desteği olmadan prototipten üretime geçmek yavaş ve karmaşık hale gelebilir.

İyi desteklenen bir platform, model hazırlığından hedef donanımda optimize edilmiş çıkarıma kadar tüm dağıtım yolunu kolaylaştırır. Kuantizasyon, performans ayarlama ve hata ayıklama için yerleşik araçlar sağlayan ekosistemler, modelleri gerçek iş yükleri altında doğrulamayı kolaylaştırır ve kullanıma alma sırasında beklenmedik sorunları azaltır.

Örneğin, YOLO26 gibi Ultralytics YOLO modelleri doğrudan OpenVINO formatına aktarılabilir, bu da Intel işlemciler, entegre GPU'lar ve Yapay Zeka İşlem Birimlerinde (NPU'lar) optimize edilmiş çıkarımı mümkün kılar. OpenVINO; model dönüştürme, kuantizasyon (FP16 ve INT8 dahil) ve desteklenen Intel donanımları arasında heterojen yürütme gibi performans iyileştirmeleri sağlar.

Ekipler, Ultralytics Python paketini kullanarak modelleri basit bir komutla dışa aktarabilir ve Ultralytics'in üst düzey arayüzü aracılığıyla veya doğrudan yerel OpenVINO Çalışma Zamanı ile çıkarım çalıştırabilir; bu da Intel tabanlı uç sistemler için kolaylaştırılmış ve üretime hazır bir dağıtım iş akışı oluşturur.

Yük altında gerçek performans

Birçok uç cihaz kağıt üzerinde etkileyici görünür, ancak eksiksiz bir görü boru hattı çalıştırdıklarında performans değişebilir. Gerçek dağıtımlarda sistem sadece çıkarım çalıştırmaz.

Ayrıca ön işleme, son işleme ve bazen aynı anda birden fazla kamera akışını yönetir. Bu nedenle, saniyedeki ortalama kare sayısının ötesine bakmak önemlidir.

Tutarlı gecikme süresi genellikle tepe performansından daha önemlidir. Bellek darboğazlarına dikkat etmek ve sistemin sabit yük altında ne kadar kararlı kaldığını kontrol etmek, üretim aşamasında nasıl performans göstereceğine dair daha net bir resim sunar.

Soğuk başlatma süresini, saatlerce süren operasyonlarda uzun vadeli yüksek performansı ve kodlama, günlük kaydı veya ağ oluşturma gibi diğer görevler çıkarım ile birlikte çalışırken cihazın nasıl davrandığını test etmek faydalıdır. Çoğu gerçek dünya kullanım durumunda, kararlı ve öngörülebilir bir performans, ara sıra görülen hız patlamalarından daha hayati öneme sahiptir.

Dağıtım sonrası güvenlik, yaşam döngüsü ve yönetim

Uç dağıtımların, özellikle sistemlerin sürekli çalışmasının beklendiği üretim gibi ortamlarda zaman içinde güvenli ve güvenilir kalması gerekir. Güvenli önyükleme, şifrelenmiş depolama ve düzenli satıcı güncellemeleri gibi özellikler, cihazları kurcalanmaya karşı korumaya yardımcı olur ve güvenlik açıkları veya beklenmedik kesinti riskini azaltır.

Cihazları dağıtım sonrası yönetmek, doğru donanımı seçmek kadar önemlidir. Uzak izleme ve güncelleme yetenekleri, ekiplerin her cihaza fiziksel erişim sağlamaya gerek kalmadan yazılım, aygıt yazılımı ve modelleri korumasına olanak tanır. Projeler küçük bir pilot uygulamadan daha büyük bir kuruluma geçtikçe bu durum giderek daha kritik hale gelir.

Dağıtımlar büyüdükçe, merkezi filo yönetimi her şeyi düzenli tutmaya yardımcı olur. Ekiplerin cihaz sağlığını takip etmesini, güncellemeleri yönetmesini, performansı izlemesini ve birden fazla konumdaki sorunları gidermesini kolaylaştırır. Net bir yönetim stratejisi olmadan, düzinelerce hatta yüzlerce uç sistemini korumak hızla zorlaşabilir.

Bilgisayarlı görü ve uç AI uygulamalarının yaygın gerçek dünya örnekleri

Doğru uç cihazı seçerken göz önünde bulundurman gereken faktörleri değerlendirirken, bu sistemlerin gerçekte nerede kullanıldığını merak ediyor olabilirsin. Günümüzde uç AI, üretim ve perakendeden robotik ve akıllı altyapıya kadar neredeyse her sektörde uygulamalara güç veriyor.

İşte uç cihazların düşük gecikme süresi, azaltılmış bant genişliği tüketimi ve güvenilir cihaz içi işleme sağladığı beş yaygın derin öğrenme kullanım örneği:

• Endüstriyel sahalarda güvenlik izleme: Uç bilişim donanımı üzerinde dağıtılan bilgisayarlı görü hatları, kişisel koruyucu donanım (KKD) uyumluluğu için anında uyarılar sağlayabilir; yani çalışanların kask, eldiven, güvenlik yeleği veya koruyucu gözlük gibi gerekli güvenlik ekipmanlarını takıp takmadıklarını otomatik olarak tespit eder ve ayrıca güvenli olmayan davranışları belirler. Bu, hassas video verilerinin yerinde güvenli bir şekilde işlenmesini sağlarken iş yeri kazalarını azaltarak operasyonel güvenilirliği artırır.
• Perakende analitiği: Uç cihazlar; envanter yönetimi, raf bulunabilirliği ve sıra tespiti için görsel verileri yerel olarak işleyebilir, böylece birçok mağazada uygun maliyetli ve ölçeklenebilir kalırken bant genişliğini ve bulut maliyetlerini azaltabilir.
• Robotik: Robotikte, cihaz içi AI gerçek zamanlı nesne tespiti ve otonom navigasyon sağlar. Örneğin, NVIDIA Jetson uç cihazları, robotların YOLO26 gibi bilgisayarlı görü modellerini yerel olarak çalıştırmasına olanak tanıyan kompakt, GPU hızlandırmalı bilgi işlem platformları sağlayarak güç verimliliğini korurken düşük gecikmeli performans sunar.
• Akıllı şehirler ve trafik izleme: Akıllı şehir dağıtımları, uç bilgisayarlı görü işlemcilerini gerçek zamanlı trafik akışı analizi, olay tespiti ve yaya güvenliği izleme için kullanabilir. Buluta sürekli video akışı göndermekten kaçınarak, bu sistemler bant genişliği gereksinimlerini azaltır ve yanıt sürelerini iyileştirir.
• Üretimde kalite kontrol: Üretim hatlarında, uç cihazlar ürünlerin kusurlarını, eksik bileşenlerini veya montaj hatalarını ürünler konveyör hattında ilerlemeden önce gerçek zamanlı olarak inceleyebilir. Bu sistemler, iş hacmi ve güç kısıtlamalarına bağlı olarak CPU, GPU veya özel AI hızlandırıcıları üzerinde YOLO26 gibi modelleri çalıştırabilir.

Şekil 4. YOLO26, üretim tesislerindeki kusurları tespit etmek için uçta dağıtılabilir.

Önemli çıkarımlar

Bilgisayarlı görü projen için doğru uç cihazı seçmek; performans, güç verimliliği, güvenilirlik ve uzun vadeli bulunabilirliği dengelemeyi gerektirir. Sadece en yüksek teknik özelliklere odaklanmak yerine, ekipler gerçek dünya koşullarını, yazılım ekosisteminin olgunluğunu ve yaşam döngüsü desteğini değerlendirmelidir. Kurulumunu ölçeklendirmeden önce bir pilot dağıtımla doğrulayarak riski azaltabilir, maliyetleri kontrol altına alabilir ve prototipten üretime daha sorunsuz bir geçiş sağlayabilirsin.

Topluluğumuza katıl ve GitHub depomuza göz at. Tarımda AI ve sağlık hizmetlerinde bilgisayarlı görü gibi çeşitli uygulamaları keşfetmek için çözüm sayfalarımıza göz at. Lisanslama seçeneklerimizi keşfet ve görme tabanlı AI ile bugün çalışmaya başla!