AI Governance

Yapay zeka yönetişimi; bir organizasyonun yapay zekayı yaşam döngüsü boyunca yönetmek ve denetlemek için kullandığı politikalardan, rollerden, kontrollerden ve kanıtlardan oluşan sistemdir. Hangi yapay zeka sistemlerinin oluşturulabileceğini veya satın alınabileceğini, bunlar için kimin sorumlu olduğunu, risklerin nasıl değerlendirileceğini, hangi belgelendirmenin gerekli olduğunu ve bir sistemin ne zaman değiştirilmesi veya emekliye ayrılması gerektiğini belirler. Etkili yönetişim, organizasyonların insanları, operasyonları, verileri ve yasal hakları korurken yapay zekadan değer elde etmesine yardımcı olur.

Yapay Zeka Yönetişimi Nasıl Çalışır?#

Yapay zeka yönetişimi; adalet, güvenilirlik, şeffaflık ve hesap verebilirlik gibi geniş hedefleri tekrarlanabilir organizasyonel uygulamalara dönüştürür. NIST AI Risk Management Framework Core, bu faaliyetleri riski yönetme, haritalandırma, ölçme ve ele alma etrafında düzenler. OECD AI Principles de benzer şekilde insan haklarını, şeffaflığı, dayanıklılığı, güvenliği ve hesap verebilirliği vurgular.

Yönetişim, yalnızca makine öğrenimi modelini değil, tüm sistemi kapsamalıdır. Örneğin bir bilgisayarla görü uygulaması kameraları, veri setlerini, etiketleri, model ağırlıklarını, çıkarım altyapısını, iş kurallarını, insan incelemecileri ve aşağı akış eylemlerini içerebilir. Bir model bir test ortamında doğru şekilde çalışabilir, ancak kameralar gereksiz kişisel bilgileri toplarsa veya operatörler belirsiz tahminleri doğrulanmış gerçekler olarak ele alırsa yine de zarar oluşturabilir.

Organizasyonlar bu uygulamaları bir yapay zeka yönetim sistemi aracılığıyla resmileştirebilir. ISO/IEC 42001 for AI management systems, organizasyon genelinde yapay zeka kontrolleri oluşturmak, sürdürmek ve sürekli iyileştirmek için yapılandırılmış bir yaklaşım sağlar.

Temel Yönetişim Kontrolleri#

Pratik bir yapay zeka yönetişim çerçevesi genellikle birbirine bağlı birkaç kontrol içerir:

• Sahiplik ve karar hakları: Belirlenmiş sistem sahipleri, risk incelemecileri, veri sorumluları, güvenlik ekipleri ve iş paydaşları; bir yapay zeka sistemini kimin onaylayabileceğini, değiştirebileceğini, dağıtabileceğini, durdurabileceğini veya emekliye ayırabileceğini bilmelidir.
• Risk sınıflandırması: Sistemler amaçlarına, etkilenen kullanıcılara, otonomilerine, veri hassasiyetine ve olası sonuçlarına göre kategorize edilir. Etkisi daha yüksek uygulamalar daha güçlü testlerden ve insan denetiminden geçer.
• Belgelendirme ve izlenebilirlik: Bir model card amaçlanan kullanımları, değerlendirme koşullarını, sınırlamaları ve hariç tutulan senaryoları kaydedebilir. Veri seti sürümleri, eğitim yapılandırmaları, onaylar ve dağıtılan model sürümleri de izlenebilir kalmalıdır.
• Yapay zeka envanteri: NIST AI RMF inventory guidance, yapay zeka sistemleri, sorumlu kişiler, belgelendirme, veriler ve olay planları hakkında organize bilgilerin sürdürülmesini önerir. Bir envanter, onaylanmamış veya unutulmuş sistemlerin denetim olmadan çalışmasını önlemeye yardımcı olur.
• Test etme ve izleme: Ekipler kabul eşiklerini tanımlar, önemli alt grupları ve uç durumları değerlendirir, üretim davranışını izler ve tırmandırma veya geri alma prosedürleri oluşturur.

Bu kontroller AI ethics ve AI safety gibi ilkeleri hayali olmaktan çıkarıp işlevsel hale getirir.

Gerçek Dünya Uygulamalarında Yapay Zeka Yönetişimi#

Çalışanların gerekli koruyucu ekipmanı giyip giymediğini tespit etmek için görü yapay zekası kullanan bir depo düşünelim. Yönetişim eğitimden önce başlar: organizasyon hangi alanların kaydedilebileceğini, görüntülerin ne kadar süre saklanacağını ve tahminlerin bir uyarıyı mı yoksa otomatik bir disiplin eylemini mi tetikleyeceğini tanımlar. Sistemi giyim stilleri, aydınlatma koşulları, kamera açıları ve kısmen gizlenmiş çalışanlar üzerinden değerlendirir. Yanlış negatifler tehlikelerin fark edilmemesine yol açabilirken, yanlış pozitifler çalışanları haksız yere etkileyebilir. İnsan incelemesi, olay raporlaması ve periyodik testler bu sonuçları sınırlar.

İkinci bir örnek, kasadaki kuyrukları videodan ölçen bir perakende sistemidir. Yönetişim kaydı iş amacını, onaylanan kameraları, veri seti kaynaklarını, dağıtım sahibini ve kabul edilebilir performans eşiklerini tanımlar. Koşullar bir mağaza yeniden tasarımından sonra değişirse, üretim ortamı artık eğitim verilerine benzemediği için performans düşebilir. İzleme bu değişimi ortaya çıkarabilir ve incelemeyi, yeni veri toplamayı veya yeniden eğitimi tetikleyebilir.

Yönetişim gereksinimleri organizasyon dışından da gelebilir. European Union AI Act risk tabanlı bir düzenleyici yaklaşım uygular, GAO AI Accountability Framework ise denetimi yönetişim, veri, performans ve izleme etrafında düzenler.

İlgili Kavramlar ve Temel Farklar#

Yapay zeka yönetişimi, yakından ilgili birkaç terimden daha kapsamlıdır:

• Yapay zeka yönetişimi ve düzenleme: Yönetişim, bir organizasyonun iç kararlarını ve kontrollerini içerir. Düzenleme, yasal olarak uygulanabilir dış gereksinimlerden oluşur. İyi yönetişim uyumluluğu destekleyebilir, ancak ikisi birbirinin yerine geçemez.
• Yapay zeka yönetişimi ve yapay zeka etiği: Etik, değerleri tanımlar ve bir yapay zeka sisteminin ne yapması gerektiğini sorgular. Yönetişim ise bu değerleri uygulamak için yetki, süreç ve kanıt atar.
• Yapay zeka yönetişimi ve risk yönetimi: Risk yönetimi belirli riskleri belirler, değerlendirir ve ele alır. Yönetişim ise bu faaliyetleri kimin gerçekleştireceğini ve kararların nasıl inceleneceğini belirler.
• Yapay zeka yönetişimi ve MLOps: MLOps, eğitim, dağıtım ve bakım için teknik boru hatlarını işletir. Yönetişim ise bu boru hatlarını çevreleyen onay kurallarını ve hesap verebilirliği belirler.

Yönetişim ayrıca bias in AI, data privacy ve siber güvenlik için özelleştirilmiş kontrolleri koordine eder. secure AI system development guidelines; tasarım, geliştirme, dağıtım ve operasyon boyunca güvenliği ele alır.

Yönetişimi Pratiğe Dökme#

Ekipler bir envanterle başlamalı, her kullanım durumunu etkisine göre sınıflandırmalı, sorumlu sahipler atamalı ve ölçülebilir onay kriterleri tanımlamalıdır. Ultralytics Platform, bulut veri seti yönetimini, eğitimini, dağıtımını ve izlemesini destekleyerek görü ekiplerinin yaşam döngüsü kanıtlarını bağlantılı bir iş akışında tutmasına yardımcı olur.

Örneğin bir yönetişim incelemesi, bir Ultralytics YOLO26 modeli için yeniden üretilebilir değerlendirme sonuçlarını kaydedebilir:

from ultralytics import YOLO

# Load the approved model version
model = YOLO("yolo26n.pt")

# Evaluate it against the designated validation dataset
metrics = model.val(data="coco8.yaml")

# Record this metric with the dataset and test configuration
print(f"mAP50-95: {metrics.box.map:.3f}")

Bu validation workflow teknik kanıt üretir, ancak yönetişim ayrıca belgelendirilmiş eşikler, incelemeciler, sınırlamalar ve kararlar gerektirir. Yayınlandıktan sonra deployment monitoring, ekiplerin uç nokta sağlığını gözlemlemesine ve operasyonel değişiklikleri araştırmasına yardımcı olur. Bu uygulamalar birlikte, yapay zeka yönetişimini tek seferlik bir onay adımından ziyade sürekli bir yaşam döngüsü disiplini haline getirir.