Güven

Makine öğrenimi ve yapay zeka alanında zeka, güven puanı, yapılan belirli bir tahminin gerçekleşme olasılığını temsil eden sayısal bir değerdir bir model tarafından doğrudur. Genellikle 0 ile 1 arasında bir olasılık (veya %0 ile %100 arasında bir yüzde) olarak ifade edilir. skorunun kesinliğini ölçmektedir. sinir ağının çıktısı ile ilgili. İçin Örneğin, bir nesne algılama görevinde, sistem "kedi" varlığını 0,95 güvenle tahmin edebilir, bu da doğruluğa güçlü bir inanç olduğunu gösterir. o etiketin. Bu puanlar genellikle modelin son katmanından şu şekilde elde edilir gibi aktivasyon fonksiyonları çok sınıflı problemler için softmax fonksiyonu veya ikili sınıflandırma için sigmoid fonksiyonu.

Çıkarsamada Güvenin Rolü

Güven skorları, güvenilirliğin temel bir bileşenidir. çıkarım motoru iş akışı. Geliştiricilere izin verirler eşikleme olarak bilinen bir süreç olan gerekli bir kesinlik düzeyine dayalı olarak tahminleri filtrelemek için kullanılır. Belirli bir ayar yaparak güven eşiği, olası her nesneyi tanımlama (yüksek hatırlama) arasındaki dengeyi etkili bir şekilde yönetebilirsiniz ve tanımlanan nesnelerin doğru olmasını sağlamak (yüksek hassasiyet).

Pratik model dağıtımında, ham tahminler genellikle gürültü veya düşük olasılıklı tespitler içerir. Gibi teknikler maksimum olmayan bastırma (NMS) kullanımı Gereksiz örtüşen kutuları ortadan kaldırmak için güven puanları, yalnızca en yüksek olasılığa sahip algılamayı tutar. Bu, kullanıcıya sunulan nihai çıktının temiz ve eyleme geçirilebilir olmasını sağlar.

Aşağıdaki örnekte, çıkarım sırasında güven eşiğinin nasıl uygulanacağı gösterilmektedir Ultralytics YOLO11:

from ultralytics import YOLO

# Load a pretrained YOLO11 model
model = YOLO("yolo11n.pt")

# Run inference on an image with a confidence threshold of 0.6 (60%)
# This filters out any detections with a confidence score lower than 0.6
results = model.predict("https://ultralytics.com/images/bus.jpg", conf=0.6)

# Display the count of objects detected above the threshold
print(f"Detected {len(results[0].boxes)} objects with high confidence.")

Gerçek Dünya Uygulamaları

Güven skorlarının faydası, güven skoru kullanan hemen hemen her sektöre yayılmıştır. bilgisayarla görme ve yapay zeka çözümleri.

• Otonom Sistemler: Otonom sistemlerin geliştirilmesinde Otonom araçlarda güvenlik her şeyden önemlidir. Algılama sistemleri, kameralardan ve LiDAR'dan gelen verileri birleştirmek için güven puanlarını kullanır. Bir görüş modeli bir engel tespit ederse Düşük güvenle, sistem acil frenlemeyi tetiklemeden önce bunu radar verileriyle çapraz referanslayabilir. Bu otomotivde yapay zeka için çok önemli olan katmanlı yaklaşım, neden olduğu tehlikeli hayali frenleme olaylarını önlemeye yardımcı olur yanlış pozitifler.
• Tıbbi Teşhis: İçinde tıbbi görüntü analizi, yapay zeka araçları yardımcı oluyor X-ışınları veya MRI'lardaki potansiyel anormallikleri işaretleyerek doktorlar. Şunlar için tasarlanmış bir sistem Sağlık hizmetlerinde yapay zeka vakaları otomatik olarak sıralayabilir güven üzerine. Patolojilerin yüksek güvenirlikli tespitleri, bir doktor tarafından derhal incelenmek üzere önceliklendirilir. radyolog, düşük güvenirlikli bölgeler vurgulanabilirken sadece "ikinci bir bakış" için, yapay zekanın belirleyici olmaktan ziyade destekleyici bir asistan olarak hareket etmesini sağlamak karar verici.

Doğruluk ve Kesinliğe Karşı Güven

Uygulayıcıların "güveni" standarttan ayırt etmeleri hayati önem taşımaktadır kıyaslama için kullanılan değerlendirme ölçütleri modeller.

• Güven ve Doğruluk: Doğruluk, bir modelin genel doğruluğunu ölçer tüm veri kümesi genelinde (örneğin, "Model %90 doğrudur"). Buna karşılık, güven bir Tahmine özgü değer (örneğin, " Bu belirli görüntünün bir köpek olduğundan %90 eminim"). Bir model şu şekilde olabilir genel olarak doğru ancak zor örneklerde hala düşük güven veriyor.
• Güven ve Kesinlik: Kesinlik, olumlu sonuçların yüzdesini hesaplar gerçekten doğru olan tahminler. Birbiriyle ilişkili olsa da, yüksek güven puanı aşağıdaki durumlarda yüksek kesinliği garanti etmez model aşırı uyumdan muzdariptir veya zayıftır Kalibre edildi.
• Kalibrasyon: Bir model, güven puanları aşağıdakileri yansıtıyorsa "iyi kalibre edilmiş" olarak kabul edilir gerçek doğruluk olasılığı. Örneğin, 0,8 güvenle yapılan tüm tahminler arasında yaklaşık %80'inin gerçek pozitif eşleşmeler olması gerekir.

Model Güveninin Artırılması

Bir model geçerli nesneler için sürekli olarak düşük güven veriyorsa, bu durum eğitim verileri. Bunu geliştirmeye yönelik stratejiler şunları içerir modeli daha fazla kişiye açmak için veri artırımı çeşitli aydınlatma ve yönlendirmeler veya üzerinde açıklama yapmak ve yeniden eğitmek için aktif öğrenme Modelin şu anda belirsiz olduğu belirli "uç durumlar". Çeşitli ve yüksek kaliteli veri setlerinin sağlanması kullanıcıların güvenebileceği sağlam sistemler oluşturmak için gereklidir.