Makine Öğrenimi Operasyonları (MLOps)

Makine Öğrenimi Operasyonları (MLOps), Makine Öğrenimi (ML) modellerini üretimde güvenilir ve verimli bir şekilde dağıtmayı ve sürdürmeyi amaçlayan bir dizi uygulamadır. DevOps prensiplerinden ilham alan MLOps, benzer kavramları veri toplama ve model eğitiminden dağıtım ve izlemeye kadar tüm AI model yaşam döngüsüne uygular. Birincil amaç, bir ML modelini bir araştırma prototipinden sağlam, ölçeklenebilir bir üretim uygulamasına götürme süreçlerini otomatikleştirmek ve kolaylaştırmaktır. Bu, modellerin yalnızca başlangıçta iyi performans göstermesini değil, aynı zamanda yeni veriler elde edildikçe zaman içinde etkili kalmasını sağlar.

MLOps ve İlgili Kavramlar

MLOps'u ilgili ancak farklı kavramlardan ayırmak önemlidir:

• MLOps - AutoML Karşılaştırması: Birlikte çalışabilmelerine rağmen, odak noktaları farklıdır. Otomatik Makine Öğrenimi (AutoML), veri ön işleme, özellik mühendisliği ve hiperparametre ayarlama gibi model oluşturma sürecini otomatikleştirmeye odaklanır. Öte yandan MLOps, model dağıtımı, izleme ve yönetişim gibi model oluşturulduktan sonraki süreçler de dahil olmak üzere tüm yaşam döngüsünü kapsar. AutoML, geliştirme aşamasını hızlandıran daha büyük bir MLOps framework'ü içinde bir araç olarak düşünülebilir.
• MLOps - DevOps Karşılaştırması: MLOps, makine öğreniminin benzersiz ihtiyaçlarına göre uyarlanmış bir DevOps uzmanlığıdır. DevOps, Sürekli Entegrasyon ve Sürekli Dağıtım (CI/CD) yoluyla yazılım teslimini otomatikleştirmeye odaklanırken, MLOps bu paradigmayı veri ve model işlem hatlarını içerecek şekilde genişletir. Veri kayması, model sürümleme ve sürekli yeniden eğitim ihtiyacı gibi geleneksel yazılım geliştirmede tipik olarak bulunmayan zorlukları ele alır.

Gerçek Dünya Uygulamaları

MLOps uygulamaları, üretim ortamlarındaki karmaşık ML sistemlerini yönetmek için gereklidir.

1. Öneri Sistemleri: Netflix veya Spotify gibi şirketler, yeni kullanıcı etkileşimi verilerine dayanarak öneri sistemi modellerini sürekli olarak yeniden eğitmek için MLOps'u kullanıyor. MLOps işlem hatları, farklı model sürümlerini A/B test etmelerini, etkileşim metriklerini izlemelerini ve düşük performans gösteren modelleri hızla geri almalarını sağlayarak önerilerin taze ve kişiselleştirilmiş kalmasını sağlar.
2. Sahtekarlık Tespiti: Finans kuruluşları, sahtekarlık tespit modellerini yönetmek için MLOps'u kullanır. Bu, yeni sahtekarlık faaliyetleri kalıpları için işlem verilerini izlemeyi, modelleri yeni verilerle otomatik olarak yeniden eğitmeyi, gerçek zamanlı tespit için düşük çıkarım gecikmesi sağlamayı ve mevzuata uygunluk için denetim izlerini sürdürmeyi içerir. Görsel inceleme sistemlerinde kullanılan ve sahtekarlık tespitine katkıda bulunabilen Ultralytics YOLO modelleri de uç cihazlarda dağıtım ve izleme için MLOps'tan yararlanır.

Araçlar ve Platformlar

Çeşitli araçlar, MLOps yaşam döngüsünün farklı aşamalarını destekleyerek ekiplerin verimli ve ölçeklenebilir iş akışları oluşturmasını sağlar.

• Deney İzleme ve Sürüm Kontrolü: MLflow, Weights & Biases ve Veri Sürüm Kontrolü (DVC) deneyleri izlemek ve veri ve modelleri sürümlemek için popülerdir. Ultralytics, Weights & Biases dahil olmak üzere bu araçların çoğuyla yerel entegrasyon sunar.
• İş Akışı Orkestrasyonu: Kubeflow Pipelines ve Apache Airflow gibi araçlar, karmaşık ML iş akışlarını otomatikleştirmenize ve yönetmenize yardımcı olur.
• Model Sunumu (Model Serving): Modelleri ölçekte dağıtmak için KServe, BentoML ve NVIDIA Triton Inference Server gibi platformlar yaygın olarak kullanılmaktadır. Ultralytics modelleri, bu sunucularla uyumluluk için ONNX gibi formatlara aktarılabilir.
• İzleme: Grafana ve Prometheus genellikle model performansını ve sistem sağlığını izlemek için panolar oluşturmak için kullanılır.
• Uçtan Uca Platformlar: Amazon SageMaker, Google Cloud AI Platform, Microsoft Azure Machine Learning ve Ultralytics HUB gibi kapsamlı platformlar, veri yönetiminden model dağıtımına ve izlemeye kadar MLOps aşamalarının çoğunu veya tamamını kapsayan entegre ortamlar sağlar. Bu platformlar, özel modelleri eğitmek için ölçeklenebilir kaynaklar sağlamak üzere bulut bilişimden yararlanır.