AI Washing

Yapay zekâ aklama, bir ürünün, hizmetin veya şirketin yapay zekâyı ne ölçüde kullandığını ya da bu teknolojinin neler başarabileceğini abartma veya yanlış yansıtma uygulamasıdır. Bu uygulama, reklamı yapılan yeteneklerle gerçek işleyiş arasında bir uçurum yaratır: müşteriler ve yatırımcılar, temel sistemin gerçekte sunmadığı bir zekâ, özerklik veya performans beklemeye yönlendirilir.

Bu terim, yanıltıcı çevresel iddiaları tanımlayan yeşil aklama kavramından gelir. Gartner analisti Jim Hare, tedarikçilerin yapay zekâ etiketini gelişigüzel kullandığını açıklamak için 6 Temmuz 2017 tarihli analizinde "AI washing" terimini yapay zekâ dönüşümünü fırsata çeviren kurumsal yazılım sağlayıcıları için kullandı.

Yapay Zekâ Aklama Nasıl İşler#

Yapay zekâ aklama, teknik karmaşıklığı bir pazarlama avantajına dönüştürür. Alıcılar, bu açıklamaları işlevsel bir özellikle ilişkilendirecek yeterli bilgi olmadan yapay zekâ, makine öğrenimi ve "özerk" gibi terimlerle karşılaşır. Yanlış yansıtma, teknolojinin varlığıyla, bir iş akışına katkısıyla veya sonuçlarının gücüyle ilgili olabilir.

Yaygın örnekler şunlardır:

• Yetenekleri abartma: Çıktıları, bu iddiayı destekleyen kanıtlardan yoksun olduğu hâlde bir sistemi uzman düzeyinde iş yapıyor gibi tanıtmak.
• İnsan katkısını gizleme: İnsanlar tanıtılan işin önemli bir bölümünü yaparken bir hizmeti özerkmiş gibi sunmak.
• Performansı abartma: Seçilmiş koşullardaki sonuçları, değerlendirmenin desteklediğinden daha geniş bir kitleye veya göreve genellemek.
• Zaman çizelgesini öne çekme: Planlanan yapay zekâ işlevlerini hâlihazırda mevcut bir ürün yeteneği gibi tanımlamak.

Bu örüntüler satın alma, yatırım ve personel kararlarını etkiler. Ayrıca operasyonel gereklilikleri de belirsizleştirir: müşterilerin hangi çıktıların incelenmesi gerektiğini, sistemin hangi görevleri üstlendiğini ve hataların sonraki kararları nasıl etkilediğini anlaması gerekir.

Yapay Zekâ Aklama ve İlgili Kavramlar#

Robotik süreç otomasyonu, genellikle önceden tanımlanmış kurallar aracılığıyla yinelenen iş akışlarını otomatikleştirir. Makine öğrenimi verilerden örüntüler öğrenirken sembolik yapay zekâ, açıkça tanımlanmış bilgi ve akıl yürütme kurallarını kullanır. Doğru ürün açıklamaları, kullanılan mekanizmayı ve bu mekanizmanın rolünü belirtir. Kurallara dayalı bir sistemi, sistemde bulunmayan öğrenme veya uyarlanabilirlik özelliklerini vaat eden iddialarla birlikte yapay zekâ olarak adlandırmak yanıltıcı olur.

İnsan denetimli iş akışları, insanlara tanımlı inceleme veya karar verme sorumlulukları verir. Şeffaf açıklamalar bu katkıyı görünür kılar. Örneğin Ultralytics Platform, yapay zekâ destekli veri etiketleme uygular: YOLO akıllı etiketleme özelliği, model tahminlerinden taslak etiketler oluşturur; etiketleyiciler bu etiketleri inceleyebilir, düzeltebilir veya kaldırabilir. Böylece hem otomatikleştirilen görev hem de insanın rolü açıkça belirtilir.

Halüsinasyon, bir modelin yanlış veya dayanağı olmayan içerik üretmesidir. Yapay zekâ aklama ise sistem hakkında yapılan beyanlarla ilgilidir. Açıklanabilir yapay zekâ, model davranışının yorumlanmasına yardımcı olur; yapay zekâda şeffaflık, yetenekleri, değerlendirme koşullarını ve sorumlulukları açıklar. Her ikisi de yapay zekâ ürünlerinin kanıta dayalı biçimde tanımlanmasını destekler.

Gerçek Dünya Örnekleri ve Sonuçları#

Düzenleyici kurumlar bu terimi yaptırım süreçlerinde kullandı. SEC Başkanı Gary Gensler, Aralık 2023'te şirketleri "AI washing" konusunda uyardı; FTC ise aldatıcı yapay zekâ iddialarına karşı Eylül 2024'te başlattığı Operation AI Comply kapsamındaki incelemesinde aşağıda yer alan DoNotPay davasını açtı.

Yatırım danışmanı Delphia, müşteri verilerinin yapay zekâ destekli yatırım tahminlerini güçlendirdiğini iddia etti. SEC, şirketin 2019 ile 2023 arasında tanıttığı yapay zekâ ve makine öğrenimi yeteneklerine sahip olmadığını tespit etti. Delphia, 18 Mart 2024'te varılan uzlaşmada 225.000 dolarlık hukuki para cezası ödemeyi kabul etti. Global Predictions ise yapay zekâ destekli tahminler ve düzenlemeye tabi ilk yapay zekâ finans danışmanı olduğu iddiası dâhil yanıltıcı beyanları nedeniyle ayrıca 175.000 dolarlık ceza ödemeyi kabul etti.

DoNotPay, insan hukuk uzmanlığının yerini alabilecek yetenekleri olduğunu iddia ederek bir yapay zekâ hizmetini "dünyanın ilk robot avukatı" olarak tanıttı. DoNotPay yaptırım uzlaşması, 193.000 dolarlık parasal telafi ödenmesini ve uygun abonelere bildirim gönderilmesini gerektirdi. FTC, Ocak 2025'te kararı kesinleştirerek profesyonel hizmetlerin yerini alabileceğine ilişkin dayanaksız iddiaları kısıtladı.

Yapay Zekâ İddialarını Destekleyen Kanıtlar#

Kanıtlarla desteklenen bir iddia, adı belirtilen bir özelliği girdilerine, çıktılarına, değerlendirmesine ve çalışma koşullarına bağlar. Model kartı, amaçlanan kullanımları, geliştirme ayrıntılarını ve ölçülen sınırlamaları kaydeder. Veri kökeni, değerlendirme materyalinin nereden geldiğini gösterirken bağımsız test verileri, geliştirme örneklerinin ötesindeki performansın kontrol edilmesini sağlar.

Bilgisayarlı görü alanında bir iddiaya ilişkin kanıt, tanıtılan görevin kendisinden gelir. Nesne algılama sonuçları, veri kümesinin bileşimi ve sınıf bazında sonuçlarla birlikte kesinlik, duyarlılık ve ortalama hassasiyet değerlerini içerebilir. Hız iddialarında donanım, görüntü boyutu, toplu iş boyutu ve ölçüm kapsamı belirtilmelidir.

Yapay zekâ yönetişimi, bu kayıtları ürün onayları ve pazarlama incelemeleriyle ilişkilendirir; böylece yayımlanan her iddianın kaynağı bir model kartına, değerlendirmeye veya belgelenmiş insan rolüne kadar izlenebilir.