Makine Öğrenimi Operasyonları (MLOps)

Makine Öğrenimi Operasyonları (MLOps), Makine Öğrenimi (ML) modellerini üretimde güvenilir ve verimli bir şekilde dağıtmayı ve sürdürmeyi amaçlayan bir dizi uygulamadır. DevOps ilkelerinden ilham alan MLOps, benzer kavramları veri toplama ve model eğitiminden dağıtım ve izlemeye kadar tüm yapay zeka modeli yaşam döngüsüne uygular. Birincil hedef, bir makine öğrenimi modelini araştırma prototipinden sağlam, ölçeklenebilir bir üretim uygulamasına götürmekle ilgili süreçleri otomatikleştirmek ve kolaylaştırmaktır. Bu, modellerin yalnızca başlangıçta iyi performans göstermesini değil, aynı zamanda yeni veriler elde edildikçe zaman içinde etkili kalmasını da sağlar.

MLOps ve İlgili Kavramlar

MLOps'u ilgili ancak farklı kavramlardan ayırmak önemlidir:

• MLOps vs. AutoML: Birlikte çalışabilseler de odak noktaları farklıdır. Otomatik Makine Öğrenimi (AutoML) veri ön işleme, özellik mühendisliği ve hiperparametre ayarlama gibi model oluşturma sürecini otomatikleştirmeye odaklanır. MLOps ise model kurulduktan sonra model dağıtımı, izleme ve yönetişim gibi tüm yaşam döngüsünü kapsar. AutoML, daha geniş bir MLOps çerçevesi içinde geliştirme aşamasını hızlandıran bir araç olarak düşünülebilir.
• MLOps vs DevOps: MLOps, DevOps'un makine öğreniminin benzersiz ihtiyaçlarına göre uyarlanmış bir uzmanlık alanıdır. DevOps , Sürekli Entegrasyon ve Sürekli Dağıtım (CI/CD) yoluyla yazılım teslimatını otomatikleştirmeye odaklanırken, MLOps bu paradigmayı veri ve model boru hatlarını içerecek şekilde genişletir. Veri kayması, model versiyonlama ve sürekli yeniden eğitim ihtiyacı gibi geleneksel yazılım geliştirmede tipik olarak bulunmayan zorlukları ele alır.

Gerçek Dünya Uygulamaları

MLOps uygulamaları, üretim ortamlarındaki karmaşık makine öğrenimi sistemlerini yönetmek için gereklidir.

1. Öneri Sistemleri: Netflix veya Spotify gibi şirketler, yeni kullanıcı etkileşimi verilerine dayanarak öneri sistemi modellerini sürekli olarak yeniden eğitmek için MLOps'u kullanıyor. MLOps işlem hatları, farklı model sürümlerini A/B test etmelerini, etkileşim metriklerini izlemelerini ve düşük performans gösteren modelleri hızla geri almalarını sağlayarak önerilerin taze ve kişiselleştirilmiş kalmasını sağlar.
2. Dolandırıcılık Tespiti: Finans kuruluşları dolandırıcılık tespit modellerini yönetmek için MLOps kullanır. Bu, yeni dolandırıcılık faaliyeti kalıpları için işlem verilerinin izlenmesini, yeni verilerle modellerin otomatik olarak yeniden eğitilmesini, gerçek zamanlı algılama için düşük çıkarım gecikmesi sağlanmasını ve mevzuata uygunluk için denetim izlerinin korunmasını içerir. Görsel denetim sistemlerinde kullanılan ve dolandırıcılık tespitini besleyebilen Ultralytics YOLO modelleri de uç cihazlarda dağıtım ve izleme için MLOps'tan yararlanır.

Araçlar ve Platformlar

Çeşitli araçlar MLOps yaşam döngüsünün farklı aşamalarını destekleyerek ekiplerin verimli ve ölçeklenebilir iş akışları oluşturmasını sağlar.

• Deney İzleme ve Versiyonlama: MLflow, Weights & Biases ve Data Version Control (DVC), deneyleri izlemek ve veri ve modelleri sürümlemek için popülerdir. Ultralytics, Weights & Biases dahil olmak üzere bu araçların birçoğu ile yerel entegrasyon sunar.
• İş Akışı Düzenleme: Kubeflow Pipelines ve Apache Airflow gibi araçlar karmaşık makine öğrenimi iş akışlarının otomatikleştirilmesine ve yönetilmesine yardımcı olur.
• Model Sunma: Modelleri ölçekte dağıtmak için KServe, BentoML ve NVIDIA Triton Inference Server gibi platformlar yaygın olarak kullanılmaktadır. Ultralytics modelleri, bu sunucularla uyumluluk için ONNX gibi formatlara aktarılabilir.
• İzleme: Grafana ve Prometheus genellikle model performansını ve sistem sağlığını izlemek için gösterge tabloları oluşturmak için kullanılır.
• Uçtan Uca Platformlar: Amazon SageMaker, Google Cloud AI Platform, Microsoft Azure Machine Learning ve Ultralytics HUB gibi kapsamlı platformlar, veri yönetiminden model dağıtımına ve izlemeye kadar MLOps aşamalarının hepsini olmasa da çoğunu kapsayan entegre ortamlar sağlar. Bu platformlar, özel modellerin eğitimi için ölçeklenebilir kaynaklar sağlamak üzere bulut bilişimden yararlanır.