Bilgisayarlı görü projen için doğru uç cihazı belirleme

Uç AI, yapay zekâ ve bilgisayarlı görü alanlarındaki en büyük trendlerden biri hâline hızla geliyor. Verilerin işlenmek üzere başka bir konuma gönderildiği bulut bilişime güvenmek yerine, gerçek zamanlı zekâyı doğrudan cihazlara taşıyor. Nitekim küresel uç AI pazarının 2034'e kadar yaklaşık 143,06 milyar dolara ulaşması bekleniyor.

Son teknolojik gelişmeler sayesinde uç AI, birçok sektörde gerçek zamanlı ve görüntü tabanlı otomasyonu yeniden tanımlıyor. Üretimde kalite denetimi buna harika bir örnek.

Burada görsel yapay zekâ kameraları, taşıma bandındaki ürünleri sürekli analiz eder. Bu kameralar kusurları ve anormallikleri hızla tespit etmek için kullanılabilir. Bu, özellikle cerrahi alet üretimi gibi yüksek hassasiyet gerektiren sektörlerde kritik önem taşır.

Şekil 1. Cerrahi aletleri tespit etmek için görsel yapay zekâ kullanımına bir örnek

Peki uç cihazlar tam olarak nedir? Bunlar, Ultralytics YOLO26 gibi AI modellerini ve bilgisayarlı görü modellerini, verinin üretildiği yerde veya bu noktaya yakın konumda çalıştırabilen donanım sistemleridir.

Bu konum bir fabrika sahası, akıllı bir kameranın içi veya otonom bir aracın üzeri olabilir. Bu cihazlar çıkarımı yerel olarak gerçekleştirerek daha hızlı yanıt süreleri sağlar. Görsel verilerin buluta aktarılması gerekmediğinden bant genişliği kullanımını da azaltırlar.

Ancak bilgisayarlı görü projen için doğru uç cihazı seçmek zor olabilir. Bir ortamda iyi çalışan donanım, başka bir ortam için uygun olmayabilir.

Örneğin fabrika sahasında güvenilir biçimde çalışan bir cihaz, ağırlık ve güç kısıtlarının çok farklı olduğu dron denetimlerinde işe yaramayabilir. Yanlış cihazı seçmek maliyetleri artırabilir, kullanıma geçişi yavaşlatabilir ve ölçeklendirmeyi zorlaştırabilir.

Bu nedenle ekipler yalnızca işlem gücüne değil; cihaz boyutu, güç kapasitesi, ısıl sınırlar ve endüstriyel ölçekte bulunabilirlik gibi etkenlere de bakmalı. Bu makalede uç AI konusunu ve bilgisayarlı görü uygulaman için doğru uç cihazı nasıl seçeceğini inceleyeceğiz. Hadi başlayalım!

Uç cihaz kullanmanın temel faydaları#

Görsel yapay zekâ projen için doğru uç cihazı nasıl seçeceğine geçmeden önce bir adım geri atalım ve görsel yapay zekâ projelerinde uç cihaz kullanmanın bazı avantajlarını ele alalım.

Uçta görsel yapay zekâ dağıtmanın başlıca faydalarından bazıları şunlardır:

• Gerçek zamanlı performans: Veriler, kameranın kurulu olduğu yerde veya bu noktaya yakın konumda işlenir; böylece kusur tespiti, güvenlik izleme ve robotik gibi kullanım alanlarında anında yanıt verilebilir. Bu yerel işleme, sistemlerin bulut bağlantısına güvenmeden değişen koşullara hemen tepki vermesini sağlayarak gerçek zamanlı karar almayı destekler.
• Daha düşük bant genişliği maliyeti: Ham videoyu buluta aktarmak yerine uç cihazlar yalnızca meta verileri, uyarıları veya ilgili içgörüleri iletir. Bu, ağ yükünü ve bulut depolama giderlerini önemli ölçüde azaltır.
• Çevrimdışı çalışır: Çoğu uç sistem, fabrikalarda, depolarda ve uzak ortamlarda sık görüldüğü gibi internet bağlantısı kararsız veya sınırlı olsa bile çalışmaya devam edebilir.
• Daha iyi gizlilik: Video verileri yerinde kalır; böylece hassas bilgilerin açığa çıkma riskini azaltırken gizlilik ve uyumluluk gerekliliklerini karşılamak kolaylaşır.
• Birçok konumda kolayca ölçeklenir: Uç mimariler, merkezi bulut altyapısına olan bağımlılığı azaltır. Böylece ekipler aynı kurulumu tutarlı performansla birden çok konumda çoğaltabilir.

Uygulamanın gereksinimlerini anlama#

Doğru uç cihazı seçmenin ilk adımı, uygulamanın gerçekte neye ihtiyaç duyduğunu anlamaktır. Seçtiğin donanım, sistemin ne yapmasının beklendiğine, ne kadar hızlı çalışması gerektiğine ve nerede kullanılacağına uygun olmalıdır.

Performans gereksinimlerini tanımlayarak başlayabilirsin. Bazı çözümler yüksek FPS'de (saniyedeki kare sayısı) gerçek zamanlı yapay zekâ çıkarımı gerektirirken diğerleri kareleri gruplar veya toplu işler hâlinde işleyebilir.

Model karmaşıklığı ve boyutu da önemli bir rol oynar. Hafif nesne algılama modelleri genellikle daha küçük ve düşük güç tüketimli cihazlarda çalışabilirken daha karmaşık, ağır modeller veya çok aşamalı işlem hatları daha fazla işlem gücü ve bellek gerektirir.

Ardından veri kurulumunu göz önünde bulundur. Buna kamera çözünürlüğü, kare hızı, paralel akış sayısı ve RGB, termal veya derinlik gibi sensör türleri dâhildir. Bu faktörler bant genişliğini, aktarım hızını, bellek kullanımını ve genel sistem yükünü doğrudan etkiler.

Doğruluk ve gecikme arasındaki ödünleşim#

Donanım ve veri gereksinimlerinin yanı sıra model seçimi de genel sistem performansında kritik bir rol oynar. Uç dağıtımların çoğunda gecikme ve doğruluk arasında bir ödünleşim söz konusudur. Daha yüksek doğruluklu modeller genellikle daha fazla işlem gücü gerektirir ve çıkarım süresini artırabilir.

Öte yandan daha hızlı modeller, doğruluktan bir miktar ödün verebilir. Amaç, kullanım senaryona ve operasyonel kısıtlarına göre hız ile doğruluk arasında doğru dengeyi bulmaktır.

Örneğin, otomatik gıda üretimi hatlarında ürünler paketlenip gönderilmeden önce incelenmek için bilgisayarlı görü sistemleri kullanılır. Bu sistemlerin, konveyör bandını yavaşlatmamak için gerçek zamanlı çalışması gerekir.

Sistemin her pizzanın doğru malzemelerle hazırlandığını doğrulaması gereken bir pizza montaj hattını düşün. Ultralytics YOLO26 gibi bir model, pizzayı ve üzerindeki malzemeleri gerçek zamanlı olarak algılayıp eksik veya yanlış malzemeleri belirleyebilir. Bu senaryoda model, hataları yakalayacak kadar doğru olmalı ve uç donanımında üretim hızına yetişecek kadar hızlı çalışmalıdır.

Şekil 2. Pizza ve üzerindeki malzemeleri algılamak ve segmentlere ayırmak için Ultralytics YOLO26 kullanımı.

Uç cihazın boyutunu göz önünde bulundur#

İşlem performansının yanı sıra uç cihazın fiziksel boyutu da dağıtım planlamasında önemli bir faktördür. Cihazın biçim faktörü (fiziksel boyutu, şekli, montaj biçimi ve genişletme arabirimleri), ortama ne kadar kolay entegre olacağını ve gerçek dünya koşullarında nasıl performans göstereceğini doğrudan etkiler.

Uç yapay zekâ cihaz türleri ve biçim faktörleri#

Uç yapay zekâ donanımları, tam boy rafa monte sunuculardan ve Çevresel Bileşen Ara Bağlantısı Express (PCIe) hızlandırıcı kartlarından kompakt M.2 modüllerine, Sistem Modülü (SoM) platformlarına, tek kartlı bilgisayarlara (SBC'ler), akıllı kameralara ve hatta çip üzerinde yapay zekâ işleme özelliğine sahip akıllı görüntü sensörlerine kadar pek çok biçim faktöründe sunulur. Her biçim; performans, güç verimliliği, termal tasarım ve entegrasyon karmaşıklığı açısından farklı ödünleşimler sunar.

Cihaz boyutu; soğutma gereksinimleri, güç kullanılabilirliği ve genel sistem mimarisiyle yakından ilişkilidir. Rafa monte endüstriyel bilgisayarlar veya kule iş istasyonları gibi daha büyük sistemler genellikle tam boy PCIe GPU'ları, birden fazla genişletme kartını ve aktif soğutmayı destekler. Bu platformlar çok kameralı işleme, merkezi uç merkezleri veya yüksek aktarım hızlı video analitiği için uygundur.

Buna karşılık M.2 hızlandırıcılar, özel taşıyıcı kartlara monte edilen SoM'ler, SBC'ler veya hepsi bir arada akıllı kameralar gibi kompakt biçim faktörleri, alanın kısıtlı olduğu ortamlar için tasarlanmıştır. Bu küçük cihazlar genellikle güç verimliliğine ve pasif soğutmaya öncelik verir; bu da onları gömülü sistemler, mobil robotlar, dronlar, kiosklar ve dağıtık denetim birimleri için ideal kılar.

Minyatürleştirmenin en ileri noktasında bazı dağıtımlar, çıkarımın doğrudan görüntü sensöründe veya düşük güç tüketimli işlemcide yapıldığı akıllı görüntü sensörlerine ya da mikrodenetleyici tabanlı (TinyML) platformlara dayanır. Bu sistemler fiziksel kapladıkları alanı ve enerji tüketimini önemli ölçüde azaltır ancak genellikle daha dar kapsamlı ve yüksek düzeyde optimize edilmiş iş yüklerine uygundur.

Boyut, modülerlik ve entegrasyon modelindeki bu farklılıklar genellikle iki yaygın uç dağıtım kategorisini ortaya çıkarır: ölçeklenebilir dağıtımlar ve alanı kısıtlı dağıtımlar. Her yaklaşım farklı performans, güç ve ortam kısıtlarını ele alırken uzun vadeli sürdürülebilirliği ve sistem tasarımını da şekillendirir.

Ölçeklenebilir dağıtımlar#

Bir proje yüksek işlem gücü gerektirdiğinde veya birden fazla kameradan gelen verileri eş zamanlı işlemesi gerektiğinde PCIe hızlandırıcılar ile rafa monte ya da endüstriyel kişisel bilgisayarlar (PC'ler) yaygın olarak kullanılır. PCIe hızlandırıcı, daha büyük bir bilgisayara PCIe yuvası üzerinden takılan bir donanım kartıdır.

Sistemin yapay zekâ iş yüklerini işleme kapasitesini artırmak için grafik işlem birimi (GPU) veya başka bir yapay zekâ hızlandırıcısı gibi özel işlem kaynakları ekler. Bu, grafik kartının bir masaüstü bilgisayarın performansını artırmasına benzer.

Rafa monte veya endüstriyel bilgisayarlar; fabrikalar, üretim alanları ya da kontrol odaları gibi ortamlarda kesintisiz çalışmak üzere tasarlanmış, daha büyük ve dayanıklı sistemlerdir. Soğutma, donanım genişletme ve daha yüksek güçlü bileşenler için daha fazla alan sunarlar. Bu nedenle çok kameralı kalite denetimi veya büyük ölçekli video analitiği gibi zorlu iş yükleri için uygundurlar.

Alanı kısıtlı dağıtımlar#

Uç cihazın fiziksel, termal veya güç açısından sıkı sınırlar içinde çalışması gereken ortamlarda alanı kısıtlı dağıtımlar yaygındır. Buna genellikle üretim hatlarına monte edilen akıllı kameralar, mobil robotlar, dronlar, kiosklar veya kompakt denetim sistemleri dâhildir.

Bu durumlarda donanımın, güvenilir yapay zekâ performansı sunmaya devam ederken küçük, hafif ve enerji verimli olması gerekir. Bu dağıtımlarda yaygın olarak kullanılan iki donanım seçeneği M.2 modülleri ve tek kartlı bilgisayarlardır.

M.2 modülü, ana sistemin içindeki M.2 yuvasına takılan kompakt bir genişletme kartıdır. M.2 yalnızca bir biçim faktörü ve arabirim standardı olsa da bazı modüller özellikle yapay zekâ hızlandırması için tasarlanır.

Bu yapay zekâ hızlandırıcı modüller, küçük cihazların boyutunu veya güç tüketimini önemli ölçüde artırmadan bilgisayarlı görü modellerini daha verimli çalıştırmasını sağlar. M.2 hızlandırıcılar, tam boy bir PCIe genişletme kartı eklemenin pratik olmadığı gömülü sistemlere sıklıkla entegre edilir.

Tek kartlı bilgisayar, tek bir devre kartı üzerinde üretilmiş eksiksiz bir bilgisayardır. CPU'yu, belleği, depolama arabirimlerini ve giriş/çıkış (I/O) bağlantılarını kompakt bir biçim faktöründe bir araya getirir. Her şey tek bir kartta bulunduğundan SBC'ler, alanın sınırlı ve yalınlığın önemli olduğu gömülü ve uç uygulamalarda yaygın olarak kullanılır.

Alanı kısıtlı sistemler genellikle büyük rafa monte sistemlere kıyasla daha düşük ham işlem performansı sunsa da verinin üretildiği noktaya yakın cihaz içi çıkarım yapılmasını sağlar. Bu, gecikmeyi azaltır, bant genişliği kullanımını düşürür ve daha büyük donanımların sığmayacağı ortamlarda dağıtım esnekliğini artırır.

Gömülü görü için özel yapay zekâ hızlandırması#

Birçok donanım tedarikçisi, gömülü görü için özel olarak kompakt ve güç verimli yapay zekâ hızlandırmalarına odaklanıyor. Örneğin Axelera AI, alanı kısıtlı dağıtımlar için PCIe kartları, M.2 modülleri ve entegre işlem kartları dâhil olmak üzere çeşitli biçim faktörlerinde Metis® Yapay Zekâ İşlem Birimi (AIPU) hızlandırıcıları sunuyor.

Ultralytics ile entegrasyon sayesinde Ultralytics Python paketi kullanılarak Ultralytics YOLOv8 ve YOLO26 gibi desteklenen YOLO modelleri Axelera biçimine aktarılabilir ve verimli uç çıkarımı için derleme ve INT8 nicelemesini yöneten Voyager SDK aracılığıyla optimize edilebilir.

Şekil 3. Axelera AI'ın Metis Yapay Zekâ İşlem Birimine bakış (Kaynak)

Güç tüketimini hesaba kat#

Güç tüketimi, ısı üretimini ve soğutma gereksinimlerini doğrudan etkilediği için uç dağıtımlarda önemli bir kısıttır. Sistemin kapalı muhafazalarda veya kompakt endüstriyel kasalarda güvenilir biçimde çalışıp çalışamayacağını belirler.

Bu konu; her wattın (W) çalışma süresini ve genel sistem kararlılığını etkilediği mobil robotlar, dronlar veya uzaktan izleme istasyonları gibi pille çalışan ortamlarda özellikle kritik hâle gelir.

Uç cihazların çoğu üç genel güç sınıfına ayrılır. Her birine daha yakından bakalım:

• Düşük güçlü cihazlar (<10W): Genellikle kompakt boyutun ve pasif soğutmanın gerekli olduğu gömülü sistemlerde kullanılır.
• Orta sınıf cihazlar (10–50W): Daha yüksek aktarım hızı gerektiren, ancak kontrollü termal sınırlar içinde çalışmaya devam eden uç ağ geçitlerinde ve fabrika uç noktalarında yaygındır.
• Yüksek güçlü cihazlar (>50W): Bu cihazlar genellikle çok kameralı işleme ve ağır iş yükleri için tasarlanmış PCIe hızlandırıcılar veya endüstriyel bilgisayarlardır. Çoğunlukla aktif soğutma ve daha büyük kasalarla birlikte kullanılırlar.

Hangi güç sınıfının uygun olduğunu belirlemede iş yükü özelliklerinin önemli bir rol oynadığını unutmamak gerekir. Daha yüksek kare hızları, daha büyük görü modelleri ve birden fazla paralel kamera akışı işlem talebini artırır ve bu da güç tüketimini yükseltir.

Günümüzde birçok donanım tedarikçisi, güç verimli yapay zekâ hızlandırmalarına odaklanıyor. Örneğin DEEPX'in uç modülleri, uç dağıtımlarda düşük güç tüketimli çıkarım için tasarlanmıştır. Intel işlemciler de performansın ortam ve iş yükü gereksinimlerine göre ayarlanmasını sağlayan güç yönetimi ve ölçeklendirme özellikleri sunar.

Endüstriyel kullanılabilirliği ve yaşam döngüsü desteğini hesaba kat#

Bir pilot dağıtımı başarıyla tamamladığını varsayalım. Model iyi performans gösteriyor, donanım performans gereksinimlerini karşılıyor ve sistem testlerde güvenilir biçimde çalışıyor.

Sıradaki zorluk, bu çözümü tam ölçekli üretime taşımaktır. Endüstriyel kullanılabilirlik ve yaşam döngüsü desteği bu noktada kritik önem kazanır.

Çoğu uç sistemin yıllarca kesintisiz çalışması beklenir. Dağıtımdan kısa süre sonra üretimi sonlandırılabilecek donanımları seçmek önemli risk yaratır. Bir cihaz pilot aşamasında iyi performans gösterse bile yaşam döngüsünün sonuna ulaşırsa veya üretim başladığında tedarik edilmesi zorlaşırsa yük hâline gelebilir.

Kısa pazar yaşam döngüleri tedarik zinciri kesintilerine yol açabilir, bakım maliyetlerini artırabilir ve beklenmedik yeniden tasarımları zorunlu kılabilir. Birden fazla sahaya yapılan dağıtımlarda bulunamayan bileşenleri değiştirmek, genişlemeyi yavaşlatabilir ve sistem yönetimini karmaşıklaştırabilir.

Endüstriyel kullanım için tasarlanmış donanımlar genellikle daha uzun üretim takvimleri, daha açık yaşam döngüsü politikaları ve sürekli ürün yazılımı ya da yazılım desteği sunar. Bu istikrar, döngünün ortasında büyük donanım değişiklikleri yapmadan dağıtımları ölçeklendirmeyi kolaylaştırır.

Bir uç cihazı kesinleştirmeden önce ekipler üreticinin ürün yol haritasını, yaşam döngüsü taahhütlerini ve uzun vadeli destek stratejisini inceleyebilir.

Ekip uzmanlığı ve kullanım kolaylığının önemi#

Uç cihaz seçimi ve dağıtımı, ekibinin deneyimine de bağlıdır. Bazı platformlarla çalışmak daha kolaydır; açık belgeler, basit kurulum adımları ve kullanıma hazır araçlar sunarlar. Diğerleri performans üzerinde daha fazla denetim sağlar ancak daha derin teknik bilgi ve optimizasyon ile hata ayıklamaya daha fazla zaman ayırmayı gerektirir.

Örneğin Ultralytics Python paketi, YOLO26 gibi modelleri eğitmeyi, test etmeyi ve dağıtmayı kolaylaştırır. Yaygın görevleri basitleştirir ve uç dağıtımlarda kullanılan farklı biçimlere model aktarımını da destekler. Böylece ekiplerin iş akışlarını sıfırdan yeniden oluşturmadan geliştirme aşamasından gerçek dünya donanımına geçmesi kolaylaşır.

Uç yapay zekâ alanında yeni olan ekipler için güçlü ve iyi belgelenmiş bir yazılım ekosistemi, geliştirme süresini kısaltabilir ve dağıtım riskini azaltabilir. Daha deneyimli ekipler, özellikle çok kameralı işleme veya katı gecikme gereksinimleri olan uygulamalarda daha kapsamlı özelleştirme ve ince ayara imkân veren platformları tercih edebilir.

Basitçe söylemek gerekirse, tedarikçi ekosistemleri ve araçlar büyük fark yaratabilir. Açık belgeler, etkin destek ve esnek dağıtım seçenekleri, ekiplerin pilot projelerden tam ölçekli üretim sistemlerine daha sorunsuz geçmesine yardımcı olur.

Genellikle gözden kaçan temel uç dağıtım faktörleri#

Artık uç cihaz seçimiyle ilgili temel faktörleri ele aldığımıza göre, gerçek dünya dağıtımlarında büyük fark yaratabilecek bazı pratik ayrıntılara bakalım. Bu konular ilk bakışta acil görünmeyebilir ancak karar verme sürecinde genellikle kritik bir rol oynar ve projenin pilot aşamasını geçtikten sonra ne kadar sorunsuz ilerleyeceğini belirler.

G/Ç, bant genişliği ve yazılım uyumluluğu#

Bağlantı ve G/Ç uyumluluğu, uç dağıtımlardaki ilk pratik zorluklar arasında yer alır. Uç cihazın genellikle USB 3.0, Power over Ethernet (PoE) özellikli GigE ve MIPI gibi yaygın arabirimler dâhil olmak üzere kamera ve sensör yapılandırmanı desteklemesi gerekir.

Endüstriyel görü sistemlerinin güvenilir çalışmayı sağlamak için donanım tetikleyicilerine, senkronizasyon sinyallerine veya belirli zamanlama desteğine de ihtiyacı olabilir.

Bant genişliği, özellikle çok kameralı kurulumlarda bir diğer kritik faktördür. Kamera çıkışı ile cihazın giriş kapasitesi arasındaki küçük uyumsuzluklar bile aktarım hızını düşürebilir veya ek gecikmeye yol açabilir.

Yazılım uyumluluğu da kritik bir rol oynar. Bazı dağıtımlar, mobil ve gömülü ortamlarda yaygın olarak kullanılan NCNN ve MNN gibi hafif çıkarım çatılarına dayanır.

Akıllı sensör dağıtımlarında Sony IMX500 gibi cihazlar, yapay zekâ işlemesini doğrudan görüntü sensörüne entegre ederek veri aktarımını ve gecikmeyi azaltır. Bu durumlarda modelin sensörün araç zincirinin desteklediği bir biçime dönüştürülmesi gerektiğinden model uyumluluğu ve dışa aktarma desteği özellikle önem kazanır.

Örneğin Ultralytics Python paketi, Sony IMX500 gibi cihazları temel alan platformlar dâhil olmak üzere uç dağıtım işlem hatlarıyla uyumlu biçimlere Ultralytics YOLO11 gibi modellerin aktarılmasını destekler.

Termal ve çevresel güvenilirlik#

Uç cihazlar görsel verileri sürekli işlerken termal ve çevresel güvenilirlik kritik faktörler hâline gelir. Bu bağlamda güvenilirlik, cihazın aşırı ısınmadan veya bozulmadan uzun süre çalışabilmesi; toz, titreşim ya da aşırı sıcaklıklar gibi zorlu koşullara dayanabilmesi anlamına gelir.

Uç yapay zekâ iş yükleri daha talepkâr hâle geldikçe termal verimlilik, sistem tasarımında belirleyici bir faktör olmuştur. Termal performansa verilen bu önem, DeepX'in Las Vegas'taki CES 2026'da üstüne küçük bir parça tereyağı koyarak birden fazla çipte aynı yapay zekâ iş yüklerini çalıştırmasıyla vurgulandı.

Rakip çipler tereyağını eritecek kadar ısı üretirken DeepX uç cihazı bunu yapmadı. Bu, daha düşük güç tüketiminin ve daha yüksek termal kararlılığın gerçek dünya güvenilirliğini nasıl doğrudan etkileyebileceğini gösterdi.

Kararlı performansı korumada soğutma tasarımı merkezi bir rol oynar. İşlemciler daha yoğun çalıştıkça ısı üretir ve bu ısının etkili biçimde yönetilmesi gerekir.

Birçok endüstriyel ortamda pasif soğutma tercih edilir; çünkü mekanik fanlar, özellikle tozlu veya titreşimin yüksek olduğu ortamlarda zamanla aşınabilir ya da bozulabilir. Hareketli parçalara ihtiyaç duymadan ısıyı dağıtmak için fansız alüminyum soğutucular yaygın olarak kullanılır ve bu da uzun vadeli dayanıklılığı artırır.

Çevresel koşullar da etkili olabilir. Her cihazın belirlenmiş bir çalışma sıcaklığı aralığı vardır ve kapalı dolaplarda ya da açık alanlarda yapılan dağıtımlar ısıyı hapsedebilir veya donanımı değişken sıcaklıklara maruz bırakabilir. Bu durumlarda muhafaza tasarımı ve hava akışı, ham işlem performansı kadar önemli hâle gelir.

Yazılım ekosistemi ve dağıtıma hazır olma#

Doğru uç cihazı seçerken yazılım ekosisteminin gücü, donanım özellikleri kadar kritiktir. Bir cihaz kâğıt üzerinde yüksek işlem performansı sunabilir ancak güvenilir araçlar ve platform desteği olmadan prototipten üretime geçiş yavaş ve karmaşık hâle gelebilir.

İyi desteklenen bir platform, model hazırlamadan hedef donanımda optimize edilmiş çıkarıma kadar tüm dağıtım sürecini kolaylaştırır. Niceleme, performans ayarlama ve hata ayıklama için yerleşik araçlar sunan ekosistemler, modellerin gerçek iş yüklerinde doğrulanmasını kolaylaştırır ve dağıtım sırasında beklenmedik sorunları azaltır.

Örneğin YOLO26 gibi Ultralytics YOLO modelleri doğrudan OpenVINO biçimine aktarılabilir ve böylece Intel CPU'larda, tümleşik GPU'larda ve Nöral İşlem Birimlerinde (NPUs) optimize edilmiş çıkarım yapılabilir. OpenVINO; model dönüştürme, niceleme (FP16 ve INT8 dâhil) ve desteklenen Intel donanımları genelinde heterojen yürütme gibi performans optimizasyonları sağlar.

Ekipler Ultralytics Python paketini kullanarak basit bir komutla modelleri dışa aktarabilir ve çıkarımı ister Ultralytics'in üst düzey arayüzü üzerinden ister doğrudan yerel OpenVINO Runtime ile çalıştırabilir. Böylece Intel tabanlı uç sistemler için kolaylaştırılmış ve üretime hazır bir dağıtım iş akışı oluşturulur.

Yük altındaki gerçek performans#

Birçok uç cihaz kâğıt üzerinde etkileyici görünür ancak eksiksiz bir görü işlem hattını çalıştırmaya başlayınca performans değişebilir. Gerçek dağıtımlarda sistem yalnızca çıkarım yapmaz.

Aynı zamanda ön işleme, son işleme ve bazen birden fazla kamera akışını işler. Bu nedenle saniyedeki ortalama kare sayısının ötesine bakmak önemlidir.

Tutarlı gecikme çoğu zaman en yüksek performanstan daha önemlidir. Bellek darboğazlarını izlemek ve sistemin sürekli yük altında ne kadar kararlı kaldığını kontrol etmek, üretimde nasıl performans göstereceğine dair daha net bir fikir verir.

Soğuk başlatma süresini, saatler süren çalışma boyunca uzun vadeli yüksek performansı ve kodlama, günlük kaydı ya da ağ kullanımı gibi başka görevler çıkarımla birlikte çalışırken cihazın nasıl davrandığını test etmek faydalıdır. Çoğu gerçek dünya kullanım senaryosunda kararlı ve öngörülebilir performans, ara sıra görülen hız sıçramalarından daha önemlidir.

Dağıtım sonrası güvenlik, yaşam döngüsü ve yönetim#

Özellikle sistemlerin kesintisiz çalışmasının beklendiği üretim gibi ortamlarda uç dağıtımların zaman içinde güvenli ve güvenilir kalması gerekir. Güvenli önyükleme, şifrelenmiş depolama ve düzenli tedarikçi güncellemeleri gibi özellikler cihazları müdahalelere karşı korumaya ve güvenlik açığı ya da beklenmedik kesinti riskini azaltmaya yardımcı olur.

Dağıtım sonrasında cihazları yönetmek, doğru donanımı seçmek kadar önemlidir. Uzaktan izleme ve güncelleme özellikleri, ekiplerin her cihaza fiziksel olarak erişmesi gerekmeden yazılımı, ürün yazılımını ve modelleri korumasını sağlar. Projeler küçük bir pilot uygulamadan daha büyük bir dağıtıma geçtikçe bu özellik giderek daha kritik hâle gelir.

Dağıtımlar büyüdükçe merkezi filo yönetimi her şeyin düzenli kalmasına yardımcı olur. Ekiplerin birden fazla konumdaki cihaz sağlığını takip etmesini, güncellemeleri yönetmesini, performansı izlemesini ve sorunları gidermesini kolaylaştırır. Net bir yönetim stratejisi olmadan onlarca, hatta yüzlerce uç sistemi yönetmek hızla zorlaşabilir.

Bilgisayarlı görü ve uç yapay zekânın yaygın gerçek dünya uygulamaları#

Doğru uç cihazı seçerken göz önünde bulundurulması gereken faktörleri değerlendirirken bu sistemlerin gerçekte nerelerde kullanıldığını merak ediyor olabilirsin. Günümüzde uç yapay zekâ; üretim ve perakendeden robotiğe ve akıllı altyapıya kadar neredeyse her sektörde uygulamalara güç veriyor.

Uç cihazların düşük gecikme, daha az bant genişliği tüketimi ve güvenilir cihaz içi işleme sağladığı beş yaygın derin öğrenme kullanım senaryosu şöyle:

• Endüstriyel sahalarda güvenlik izleme: Uç bilişim donanımında dağıtılan bilgisayarlı görü işlem hatları, kişisel koruyucu donanım (PPE) uyumluluğu için anında uyarılar verebilir. Başka bir deyişle baret, eldiven, güvenlik yeleği veya gözlük gibi gerekli güvenlik donanımlarını çalışanların takıp takmadığını otomatik olarak algılayabilir ve güvenli olmayan davranışları belirleyebilir. Hassas video verilerini sahada güvenli biçimde işlerken iş yeri kazalarını azaltarak operasyonel güvenilirliği artırır.
• Perakende analitiği: Uç cihazlar envanter yönetimi, raflardaki ürünlerin bulunabilirliği ve kuyruk algılama için görsel verileri yerel olarak işleyebilir. Böylece maliyet etkinliğini ve çok sayıda mağazaya ölçeklenebilirliği korurken bant genişliği ve bulut maliyetlerini azaltır.
• Robotik: Robotikte cihaz üstü yapay zekâ, gerçek zamanlı nesne algılama ve otonom navigasyon sağlar. Örneğin NVIDIA Jetson uç cihazları, robotların Ultralytics YOLO26 gibi bilgisayarlı görü modellerini yerel olarak çalıştırmasını sağlayan kompakt, GPU hızlandırmalı işlem platformları sunabilir. Böylece güç verimliliğini korurken düşük gecikmeli performans elde edilir.
• Akıllı şehirler ve trafik izleme: Akıllı şehir dağıtımlarında gerçek zamanlı trafik akışı analizi, olay algılama ve yaya güvenliği izleme için uç bilgisayarlı görü işlemcilerinden yararlanılabilir. Sürekli video akışını buluta göndermekten kaçınan bu sistemler, bant genişliği gereksinimlerini azaltır ve yanıt sürelerini iyileştirir.
• Üretimde kalite denetimi: Üretim hatlarında uç cihazlar, ürünler konveyörde ilerlemeden önce kusurları, eksik bileşenleri veya montaj hatalarını algılamak için ürünleri gerçek zamanlı olarak inceleyebilir. Bu sistemler, aktarım hızı ve güç kısıtlarına bağlı olarak Ultralytics YOLO26 gibi modelleri CPU'larda, GPU'larda veya özel yapay zekâ hızlandırıcılarında çalıştırabilir.

Şekil 4. Ultralytics YOLO26, üretim tesislerindeki kusurları algılamak için uçta dağıtılabilir.

Önemli çıkarımlar#

Bilgisayarlı görü projen için doğru uç cihazı seçmek; performans, güç verimliliği, güvenilirlik ve uzun vadeli kullanılabilirlik arasında denge kurmayı gerektirir. Ekipler yalnızca en yüksek özelliklere odaklanmak yerine gerçek dünya koşullarını, yazılım ekosisteminin olgunluğunu ve yaşam döngüsü desteğini değerlendirmelidir. Ölçeklendirmeden önce kurulumunu pilot dağıtımla doğrulayarak riski azaltabilir, maliyetleri kontrol edebilir ve prototipten üretime daha sorunsuz geçiş sağlayabilirsin.

Topluluğumuza katıl ve GitHub depomuzu incele. Tarımda yapay zekâ ve sağlık hizmetlerinde bilgisayarlı görü gibi çeşitli uygulamaları keşfetmek için çözümler sayfalarımıza göz at. Lisanslama seçeneklerimizi keşfet ve bugün görü yapay zekâsını kullanmaya başla!