Tabular Foundation Models

Tabulər temel modeller, satırlar ve sütunlar halinde düzenlenmiş yapılandırılmış verilerden tahminler yapmak üzere tasarlanmış, önceden eğitilmiş makine öğrenimi modelleridir. Her yeni görevi tamamen sıfırdan öğrenmek yerine, yeni bir tabloyu, etiketlenmiş örneklerini ve özellikler arasındaki ilişkileri yorumlamak için birçok veri kümesinde öğrenilen kalıpları yeniden kullanırlar. Genel amaçlı bir temel modelin fikrini, sınıflandırma ve regresyon gibi yaygın gözetimli öğrenme sorunlarına genişletirler.

Tabulər Temel Modeller Nasıl Çalışır?#

Geleneksel bir tabulər model yalnızca tek bir görev için sağlanan veri kümesinden öğrenir. Tabulər temel model ise öncelikle geniş bir tablo dağıtımı veya oluşturulmuş veri problemi üzerinde ön eğitme sürecinden geçirilir. Bu, modele ilişkiler, gürültü, özellik etkileşimleri, sınıf sınırları ve eksik bilgiler hakkında yeniden kullanılabilir varsayımlar öğretir.

Yeni bir veri kümesi verildiğinde model, eğitim satırlarını, hedef değerlerini ve tahmin gerektiren satırları inceler. Birçok uygulama bu adımı bağlam içi öğrenme yoluyla gerçekleştirir: etiketlenmiş kayıtlar, genellikle uzun süreli göreve özel parametre optimizasyonuna gerek kalmadan, yeni görevi çözmek için gereken bağlamı sağlar. Mimariler farklılık gösterse de bir transformer sütunları ve satırları bağlamsal öğeler olarak işleyebilir.

Tablolar, görüntülerin ve metnin sunmadığı zorluklar sunar. Sütunlar sürekli ölçümleri, kategorileri, tarihleri, sayıları veya tanımlayıcıları temsil edebilir ve bunların sırası genellikle çok az anlam taşır. İyi veri hazırlığı esastır. Scikit-learn’ün karışık türdeki sütunları işleme kılavuzu, farklı özellik türlerinin neden farklı işlem gerektirebileceğini gösterirken, pandas belgeleri eksik verileri temsil etmenin tutarlı yollarını açıklar. Bir temel model manuel özellik mühendisliğini azaltabilir, ancak yanıltıcı etiketleri veya zayıf tanımlanmış değişkenleri otomatik olarak düzeltemez.

İlgili Kavramlar ve Temel Farklar#

• Otomatik Makine Öğrenimi: AutoML, her veri kümesi için algoritmalar, ön işleme adımları ve hiperparametreler arasında arama yapar. Tabulər temel model ise bunun yerine ön eğitmeden yeniden kullanılabilir bilgi getirir ve çok az model aramasıyla bir tahmin üretebilir.

• Aktarımlı Öğrenme: Aktarımlı öğrenme genellikle ince ayar yoluyla önceden eğitilmiş ağırlıkları uyarlar. Tabulər temel modeller ince ayarı destekleyebilir, ancak birçoğu yeni bir tablonun örneklerinden doğrudan çıkarım yapmak için tasarlanmıştır.

• Degrade Artırımlı Ağaçlar: Ağaç toplulukları güçlü, verimli tabulər temel modeller olmaya devam eder ve her görev için ayrı ayrı eğitilir. Temel modeller küçük veri kümeleri, hızlı denemeler veya tekrarlanan görevler için özellikle uygun olabilir, ancak bunların yerini alacağı varsayılmak yerine ağaç modelleriyle karşılaştırılmalıdırlar.

Tabulər temel modeller ayrıca CSV metnine uygulanan dil modellerinden de farklıdır. Her satırı sıradan bir doğal dil istemi olarak ele almak yerine, özelliklerin ve hedeflerin istatistiksel yapısı üzerinde çalışırlar.

Gerçek Dünya Uygulamaları#

• Klinik risk değerlendirmesi: Bir hastanenin hasta yaşı, laboratuvar ölçümleri, semptomlar, tedavi geçmişi ve bir sonuç etiketi içeren nispeten küçük bir tablosu olabilir. Tabulər bir temel model, büyük bir sinir ağı eğitim çalışması gerektirmeden yeniden yatış veya komplikasyonlar gibi riskleri tahmin edebilir. Hatalar bakım kararlarını etkileyebileceğinden, ekipler performansı hasta grupları arasında değerlendirmeli ve uygun klinik gözetimi sürdürmelidir. Bu iş akışı, taramadan türetilen ölçümlerin ek tablo sütunları haline geldiği görüntü tabanlı sağlık hizmetlerinde bilgisayarlı görü uygulamasını tamamlayabilir.

• Üretim kalite tahmini: Bir denetim sistemi, makine sıcaklığını, üretim hızını, malzeme partisini, vardiyayı ve sensör okumalarını kaydederken görünür kusurları tespit etmek için bilgisayarlı görü kullanabilir. Bir Ultralytics YOLO26 modelinin (kusur sayıları veya güven skorları gibi) tahminleri yapılandırılmış özelliklere dönüştürülebilir ve operasyonel verilerle birleştirilebilir. Tabulər bir model daha sonra bir ünitenin gözden geçirme gerektirip gerektirmediğini veya bir sürecin tolerans dışına çıkma olasılığının olup olmadığını tahmin edebilir. Ekipler, görüntü veri kümesi etiketlemesini, eğitimini ve dağıtımını Ultralytics Platform üzerinden yönetebilir.

Uygulama İş Akışı ve Değerlendirme#

İyi bilinen bir uygulama, belgelenmiş TabPFN sınıflandırma iş akışı aracılığıyla scikit-learn tarzı bir sınıflandırıcı sunar. tabpfn ve scikit-learn yüklendikten ve gerekli ilk çalıştırma model erişimi tamamlandıktan sonra, minimum ikili sınıflandırma örneği şöyledir:

from sklearn.datasets import load_breast_cancer
from sklearn.metrics import roc_auc_score
from sklearn.model_selection import train_test_split
from tabpfn import TabPFNClassifier

# Create separate training and test sets
features, targets = load_breast_cancer(return_X_y=True)
x_train, x_test, y_train, y_test = train_test_split(features, targets, test_size=0.2, random_state=42, stratify=targets)

# Fit from the labeled context and predict probabilities
model = TabPFNClassifier()
model.fit(x_train, y_train)
probabilities = model.predict_proba(x_test)[:, 1]

print(roc_auc_score(y_test, probabilities))

Bu, tanıdık eğit ve tahmin et arayüzünü gösterir, ancak tek bir test bölmesi üretim hazırlığının yeterli kanıtı değildir. Uygun çapraz doğrulama stratejileri kullanın, ön işleme veya hedef sızıntısını önleyin ve hataların maliyetiyle eşleşen değerlendirme metrikleri seçin. Kararlar tahmin edilen olasılıklara bağlı olduğunda, yalnızca doğruluğu değil, olasılık kalibrasyonunu da kontrol edin.

Son olarak, alt gruba göre performansı inceleyin, basit taban çizgileriyle karşılaştırın, kaydırılmış verileri test edin ve sınırlamaları belgeleyin. NIST Yapay Zeka Risk Yönetimi Çerçevesi, güvenilir değerlendirme için daha geniş rehberlik sağlarken, devam eden model izleme değişen özellik dağılımlarını ve dağıtımdan sonra düşen performansı tespit etmeye yardımcı olur.