Sony MCT: Yapay zekâ araştırmalarını gerçek zamanlı uç uygulamalarla buluşturuyor

Madrid'deki Google for Startups Campus'te düzenlenen YOLO Vision 2023 (YV23) etkinliğinde, yapay zekâ topluluğunun farklı kesimlerinden konuşmacılar yer aldı. Konuşmacılardan biri olan Sony Edge Derin Öğrenme Ürün Müdürü Amir Servi, yapay zekâ araştırmaları ile gerçek zamanlı uç bilişim arasındaki boşluğu kapatma üzerine bir sunum yaptı ve Sony'nin Model Sıkıştırma Araç Seti'ni (MCT) tanıttı.

Amir Servi ile tanış: Araştırmaları ve gerçek zamanlı yapay zekâyı buluşturmak#

Amir'in konuşması, verimli uç yapay zekâ dağıtımı için uyarlanmış model sıkıştırma ve niceleme tekniklerine odaklandı.

MCT ile Uç Yapay Zekâ zorluklarını ele almak#

Amir, yapay zekâ modellerini uç cihazlara dağıtmanın zorluklarını ele alarak sınırlı kaynakların ve donanım kısıtlamalarının yarattığı engelleri vurguladı. Konuşmasında PyTorch ve TensorFlow modelleriyle çalışan açık kaynaklı bir araç olan Sony Model Sıkıştırma Araç Seti'ni (MCT) tanıttı. MCT, Ultralytics'in Sony IMX500 dışa aktarımına da güç veriyor.

MCT'nin potansiyelini açığa çıkarmak#

Amir, donanım farkındalıklı nicelemeden son teknoloji algoritmalara ve otomatik parametre aramasına kadar MCT'nin temel özelliklerini anlattı. Bu özellikler, MCT'yi gerçek dünyada yapay zekâ dağıtımı için çok yönlü bir araç seti hâline getiriyor.

Şekil 1. Amir Servi, Madrid'deki Google for Startups Campus'te düzenlenen YOLO Vision 2023 etkinliğinde sunum yaparken.

Niceleme tekniklerinin gizemini çözmek: Sonuçlar her şeyi anlatıyor#

Amir, eğitim sonrası niceleme (PTQ) ve GPTQ gibi niceleme tekniklerini açıkladı ve sonuçlarını paylaştı. Bu sonuçlar arasında, karışık hassasiyetle uygulanan PTQ'nun güçlü doğruluğu ve Ultralytics YOLOv8 modelinde yüksek sıkıştırma oranları da yer aldı.

Kapanış#

Amir'in konuşması, MCT gibi araçların yapay zekâ araştırmaları ile gerçek zamanlı uygulama arasındaki boşluğu, özellikle uç cihazlarda çalışan YOLO modelleri için, nasıl kapatmaya yardımcı olduğunu gösterdi.

Daha fazlasını mı merak ediyorsun? Sony MCT konuşmasının tamamını izle.