Page 35 - bilgem-teknoloji-dergisi-9

Yapay Zekâ

AÇIKLANABİLİRYapay Zekâ mın, sadeliği ve kapsamı ile konuyu iyi betimlediği değer- doğmuştur. AYZ “Sorumlu Yapay Zekâ” için bir yapı inşa

lendirilebilir: AYZ bir yapay zekâ sistemi tarafından kullanı-
lan dâhili mantık süreçlerini, algoritma çıktılarını paydaşlar etmede önemli araçlardan biri olarak değerlendirilebilir [3].
için açıklanabilir hale getirecek tamamlayıcı yapay zekâ Paydaşların Katılımı ve Katkısının Sürdürülebilir Olma
modellerini araştırır ve geliştirir [2]. Gereksinimi: Yapay zekâ paydaşların farklı düzeylerde
katılımını gerektirmektedir. AYZ paydaşların ihtiyaçlarına
AYZ’nin Şekil 1’de özetlendiği haliyle “Ne?”, “Niçin?”, “Ne yönelik, farklı düzeylerde şeffaflığı ve yorumlanabilirliği ko-
Zaman?”, “Nasıl?”, “Nerede?” ve “Kime?” sorularına “tek- laylaştırarak bu sistemlere olan güveni artıracaktır.
nik” bir cevap vermesi beklenmektedir [2]–[7]. Şekil 1’den
de görülebileceği gibi bu soruların tek bir yanıtı ve paydaşı Uygulama ve sektörlere göre ağırlığı değişmek kaydıyla,
yoktur. AYZ, bu açıdan bakıldığında, mühendislerin, alan kötü kararların maliyeti yüksek, bazı durumlarda da onarı-
uzmanları, sosyal bilimler ve temel bilimler uzmanları ile lamaz olabilir. AYZ’ye olan ihtiyaç yapay zekâ uygulamala-
birlikte çalışmasını gerektiren çok disiplinli bir alandır. rındaki kötü kararların potansiyel maliyetinin büyümesiyle
artar. Bu durum, uygulama ve sektörlerdeki insan katılımının
AYZ’ye Neden İhtiyaç Var? etkisi de göz önüne alınarak Şekil 2’de gösterilmiştir [10], [11].
AYZ’ye neden gerek duyulduğu çok sayıda başlık altında
incelenebilir; ancak, literatürde genel kabul görmüş, aşa-
ğıda özetlenmiş ve aslında birbirleriyle örtüşen nedenler
açıklanabilirlik için temel motivasyonları
bir ölçüde kapsar:
Sistemleri ve Çıktılarını Doğrulama, Ge-
Günümüzde yapay zekâ ile karar destek, otonom hareket çerleme ve Kontrol Gereksinimi: Açıkla-
gibi konularda süregelen büyük beklentilere cevap vermeye nabilirlik sistem hatalarının takip edilme-
si, giderilmesi, yanlılığın kaldırılmasına
çalışılırken, paydaşlar (geliştiriciler, kullanıcılar, karar vericiler, katkıda bulunur. AYZ’ye dayalı sistemler,
denetleyiciler) için açıklanabilirliğe teknolojik anlamda bir sistemin beklenmeyen çıktılarının doğ-
tanım getirebilmek, yöntemler ortaya koymak Açıklanabilir rulanmasına, hatalı başarım ölçütlerinin
Yapay Zekânın (AYZ) konusudur. düzeltilmesine yönelik katkı sağlar [2], [3].
Sistemleri ve Çıktılarını İyileştirme Ge-
reksinimi: Bir sistem açıklanabilir ve
yorumlanabilir olduğunda, iterasyonlarla
Dr. Emin Çağatay Güler – Başuzman Araştırmacı, Meltem Alaca – Araştırmacı, Dr. Kamer Kayaer – sürekli iyileştirilmesi, nedenselliğin orta-
Başuzman Araştırmacı, Murat Çakmak – Başuzman Araştırmacı / BİLGEM BTE
ya koyulması, modelin en iyilenmesi ko-
laylaşır [2], [3], [8].
apay zekâ ve yapay öğrenme konularında özellikle rılmamış verilerden anlam çıkarmak konusunda pek de
son yirmi yılda büyük ilerlemeler kaydedilmiş, bu başarılı olamayabilirler. Öte yandan yapay öğrenme ve
Yteknikler farklı sektörlerde yaygınlıkla kullanılmaya diğer araçlar sayesinde yapay zekâ sistemlerinin büyük Sistemler ve Çıktılarından Öğrenme Fır-
başlanmıştır. Bu ilerlemelerin başlıca itici güçleri yapay miktarda veriden öneri, karar veya aksiyonlara ulaşması- satı: Günümüzde yapay zekâ sistemleri
öğrenmede uzun yıllardır süren gelişmeler, derin öğren- nın mümkün olduğu görülmüştür. Ancak bu yöntemlerin çok büyük veri kümelerini inceleyerek,
mede yakın geçmişteki atılımlar, çok büyük veritaban- gerek duyduğu büyük miktarda, kaliteli veriye erişimin içerdikleri örtülü alt kümeler, yapılar hak-
larının ve hızla akan verinin yönetilebilir hale gelmesine kolay olmaması, veri etiketleme ve diğer süreçlerin kayda kında bilgiyi damıtarak sunabilmektedir.
olan büyük ihtiyaç ve yönetilebileceğinin teknik anlamda değer bir mühendislik çabası gerektirmesi [1], derin sinir Bu durum AYZ ile birlikte kimya, fizik,
mümkün olduğunun görülmesidir. Ayrıca, bütün bu geliş- ağları gibi başarılı tekniklerin doğrusal olmayan yapısı gibi biyoloji gibi birçok alanda henüz bilmedi-
melerin altyapısını oluşturan çok kuvvetli donanımların ve nedenlerle veri ve algoritma arasındaki ilişkilendirme zor- ğimiz, yeni buluşlar yapmamıza katkıda
yüksek esnekliğe sahip yazılım yapılarının geliştirilmesi lukları, yöntemlerin anlaşılması süreçlerini gittikçe opak bulunabilir [9].
ilerlemelere ivme kazandırmıştır. Yapay zekâ tekniklerinin, hale getirmiştir. Günümüzde yapay zekâ ile karar destek,
özellikle, tüketici elektroniği, sosyal medya gibi alanlarda otonom hareket gibi konularda süregelen büyük beklenti- Yapay Zekânın Yasal ve Etik Temellere
bireylere erişebilir hale gelmesi konunun popülerliğini ar- lere yanıt vermeye çalışılırken, paydaşlar (geliştiriciler, kul- Dayanma Gerekliliği: Yapay zekâ gün
tırmış, her sektörün ilgisini bu alana yöneltmiştir. lanıcılar, karar vericiler, denetleyiciler) için açıklanabilirliğe geçtikçe toplumun günlük yaşamını
teknolojik anlamda bir tanım getirebilmek, yöntemler orta- etkilemeye başlamıştır. Bu durum “So-
İnsan zekâsının en önemli özelliklerinden birisi bir konu- ya koymak Açıklanabilir Yapay Zekânın (AYZ) konusudur. rumlu Yapay Zekâ” kavramının ortaya
nun veya kavramın anlaşılmasına yönelik az miktarda çıkmasında etkili olmuş, yapay zekâ uy-
veriden bağlama ulaşabilmesi, çıkarımlar yapabilmesidir. AYZ’nin tanımına ulaşılmak istendiğinde literatürde genel gulamalarının hesap verebilir, şeffaf, adil,
Ancak insanlar çok büyük miktarda, hızlı akan, yapılandı- kabul görmüş bir tanım bulmak zorlaşmaktadır. Şu tanı- anlaşılır ve etik olma gerekliliği talebi

32 33