Page 37 - bilgem-teknoloji-dergisi-9

Yapay Zekâ

Tablo 1. Farklı Sektörlerdeki Yapay Zekâ Kullanım Alanlarına İlişkin Örnekler ve Bu Alanlardaki AYZ Uygulama Örnekleri

Açıklanabilir Yapay Zekâ bir yapay zekâ sistemi tarafından kullanılan dâhili
mantık süreçlerini, algoritma çıktılarını paydaşlar için açıklanabilir hale getirecek
tamamlayıcı yapay zekâ modellerini araştırır ve geliştirir.

yapay zekâda açıklanabilirliğin yapay öğrenmedeki
model yorumlanabilirliği ile doğrudan bağlantılı oldu-
ğu değerlendirilebilir [3], [13]. Burada yorumlanmaya
çalışılan durumlardan birinin de, anlaşılabilir olmayan
yapay öğrenme modellerinin iç çalışma mantığı olduğu
düşünülürse model bir kara kutu olarak ifade edilebilir.
Kara kutu, dış gözlemciler tarafından iç yapısında neler
Günümüzde farklı sektörlerdeki yapay zekâ kullanım olduğunun bilinemediği ya da bilinse de insanlar tara-
alanlarına ilişkin örnekler ve bu alanlardaki AYZ uygula- fından yorumlanamadığı modeller olarak ifade edilmek-
ma örnekleri Tablo 1’de verilmiştir [2], [11], [12]. tedir [2]. AYZ’nin halen gelişmekte olan bir alan olduğu
dikkate alındığında, bağlayıcı olmamak kaydıyla yorum-
Yapay zekâ sistemlerinin açıklanabilirliğine ihtiyaç oldu- lanabilirlik stratejileri aşağıda açıklanan üç kritere göre
ğu tüm paydaşlar tarafından kabul görmüşken, açıkla- taksonomik olarak tanımlanabilir [3]. Ayrıca, derin açık-
nabilirliğe her zaman ve her durumda gerek olup olma- lama da ayrı bir başlık olarak ele alınmıştır.
dığı ve eğer gerekliyse bunun düzeyinin ne olacağı da bir
tartışma konusudur. Bu yüzden açıklanabilirliğe neden 1. Karmaşıklık Kriteri
ve kimin ihtiyacı olduğu iyi değerlendirilmelidir. Bir ya- Kendiliğinden Yorumlanabilir: Kendiliğinden yorumla-
pay zekâ sistemini açıklanabilir yapmak hem tasarım nabilir yaklaşımlar tasarımları gereği şeffaf modellerdir;
hem de geliştirmede maliyetlerin artması demektir [13]. modele en başından açıklanabilirlik eklemek hedeflen-
Sisteme açıklanabilirlik özelliği kazandırıldığında açık- mektedir [15], [16]. Şeffaf olan kendiliğinden yorumla-
lanabilirliğe doğru bir yanlılık oluşup, sistemin başarımı nabilir modeller kara kutu olarak nitelenmek yerine cam
düşebilir [3], [13]. kutu olarak ifade edilebilir [15].
AYZ Yöntemleri ve Taksonomisi Model Sonrası: Model sonrası yaklaşımlar kara kutu
Günümüzde yapay zekâ sistemlerinde kullanılan öğ- modellerini yorumlamak için tasarlanmıştır [15]. Bu tek-
renme modellerinin başarımları ve açıklanabilirlikleri nikler kara kutu olarak ifade edilen modelden bağımsız
arasında Şekil 3’te gösterildiği gibi ters orantılı bir ilişki olarak, çıktılar üzerinde farklı yöntemler uygulayarak
vardır [5]. AYZ yaklaşımından beklenen ise model başa- açıklanabilirliği sağlar ve bir çeşit tersine mühendislik
rımı ve doğruluğu korunurken açıklanabilirliğin artacağı olarak ifade edilebilir [3].
yöntemlerin geliştirilmesidir [5].
2. Kapsam Kriteri
Literatürde bir yapay zekâ sisteminin nasıl açıklanabilir Global: Global yorumlanabilirlik, tüm modelin mantığı-
olabileceğine ilişkin bazı açıklama yöntemleri ve strate- nın anlaşılmasını kolaylaştırır ve modeli bir bütün olarak
jileri tanıtılmıştır [2], [3], [8], [14]. Literatür incelendiğinde açıklar [3].

34 35