Page 38 - bilgem-teknoloji-dergisi-9

Yapay Zekâ

Lokal: Lokal yorumlanabilirlik, modelin belirli bir kararını nedenleri ile aktarıldığı görülebilir. Açıklanabilir arayüzlerde • Ülkemizde yapay zekâ için etik, mahremiyet gibi konu- Referanslar
veya tekil bir kestirimini açıklar [3]. Lokal yaklaşımlar modeli analitik ifadeler, görselleştirmeler, vakalar, alternatif seçim- larda yasalar ve düzenlemeler yapılırken ve uygulanır- [1] A. Holzinger, “From Machine Learning to Explainable AI,”
kısmi olarak değerlendirir [8]. lerin reddi açıklama kiplerine örnek olarak verilebilir. Şekil ken AYZ yararlı bir araç olabilecektir. World Symposium on Digital Intelligence for Systems and Ma-
4’te gösterildiği gibi AYZ’ye ilişkin en önemli özelliklerden chines (DISA), 55-66, 2018.
3. Model Kriteri birisi kullanıcının sistemle geri bildirim yoluyla etkileşimde • AYZ çalışmalarında açıklanabilirliğin aslında tasarım- [2] F. Giannotti, D. Pedreschi, “Explainable AI: From Theory to
Modele Özgü: Modele özgü yaklaşımlar algoritmanın ya da olmasıdır. Bu etkileşim bir sistemi yapay zekâ sistemi olarak dan başladığı gerçeğinin göz önüne alınması önemlidir. Motivation, Applications and Challenges”, 2019:
modelin çıktılarını yorumlayabilmek için algoritmanın iç ça- tanımlayabilecek önemli bir niteliktir [5]. https://datasciencephd.eu/dsss19/slides/GiannottiPedresc-
lışma mantığıyla ilgilenir [17]. Kendiliğinden yorumlanabilir • AYZ hakkında açıklanabilirliğin tanımından ve nicelli- hi-ExplainableAI.pdf
yaklaşımlar aynı zamanda modele özgüdür [3]. ğinden başlamak üzere, gerek modeller gerek çıktılar
için teknik belirsizlikler olduğu göz önüne alındığında, [3] A. Adadi and M. Berrada, “Peeking Inside the Black-Box:
Model Belirsiz: Model belirsiz yaklaşımlar, herhangi bir mo- başta tasarımcılar ve geliştiriciler olmak üzere bu konu- A Survey on Explainable Artificial Intelligence (XAI)”, IEEE Ac-
dele uygulanabilir, adındaki “model belirsiz” ifadesi de bu larda araştırmalar yapılması hem ülkemizdeki hem de cess, 6, 52138-52160, 2018.
dünyadaki endüstri standardı oluşturma çalışmalarına
durumdan gelmektedir. Model belirsiz yöntemler modelin katkı yapacaktır. [4] B. Khaleghi, “The How of Explainable AI: Post-modelling Expla-
girdilerini ve girdilerin çıktılarla ilişkisini analiz ederek bir inability”, 2019: https://towardsdatascience.com/the-how-of-exp-
açıklama sağlamayı hedefler [17]. Model sonrası yaklaşım- • Yapay zekâ ile ilgili planlanacak projelerde AYZ’nin bir lainable-ai-post-modelling-explainability-8b4cbc7adf5f
lar genelde model belirsiz yöntemlerdir [3]. modül olarak yer almasına dikkat edilmesi ilerlemeleri [5] D. Gunning, “Explainable Artificial Intelligence (XAI)”, 2017:
Sonuç hızlandıracaktır. https://www.darpa.mil/attachments/XAIProgramUpdate.pdf
4. Derin Açıklama AYZ’nin getirdiği fırsatlar, içerdiği zorluklar, bu alanda yapıl- [6] L. Vigano, D. Magazzeni, “Explainable Security”, 2018:
Derin açıklama, açıklanabilir öznitelikleri öğrenmek için ye- ması gereken çalışmalar, nispeten yeni ve halen gelişmekte Sonuç olarak, AYZ ülkemizde, yapay zekânın tüm pay- https://arxiv.org/abs/1807.04178
niden düzenlenmiş derin öğrenme tekniklerine dayanmak- olan bir teknoloji olması nedeniyle çokça tartışılmaktadır [2], daşlara yaygınlaşmasına ve benimsenmesine katkıda [7] R. Tomsett, D. Braines, D. Harborne, A. Preece, S. Chakra-
tadır [5]. [11]. Bütün bu tartışmalardan ülkemiz için de dikkate alın- bulunmanın yanı sıra günümüze ve geleceğe yön ver- borty, “Interpretable to Whom? A Role-based Model for Anal-
ması yararlı olabilecek çıkarımlar ve öneriler aşağıda sıra- mekte olan bu teknoloji alanında söz sahibi olmamızda yzing Interpretable Machine Learning Systems”, ICML Works-
Tablo 2’de yukarıda belirtilen yaklaşımlar için kullanılan ör- lanmıştır: itici bir güç olma potansiyeline sahiptir. hop on Human Interpretability in Machine Learning, 2018:
nek açıklama teknikleri verilmektedir [3]. https://arxiv.org/abs/1806.07552
• AYZ’nin çok disiplinli bir alan olduğunun unutulmaması ve [8] N. El Bekri, “Explainable Artificial Intelligence – Concepts,
AYZ ile ulaşılmak istenen bir yapay zekâ sistemi Şekil 4’te bu konudaki çalışmalarda daha başlangıçta paydaşların be- Methodologies and Challenges”, European Robotics Forum,
gösterilmiştir [5]. Günümüz yapay zekâ yapılarında kullanıcı lirlenerek işbirliği içinde çalışmalara devam edilmesi, işbir- 2019: https://www.joanneum.at/fileadmin/ROBOTICS/Vortra-
için bir görev, sistem için ise yeni bir veri olan girdi hakkında, liklerinin teşvik edilmesi önemlidir. ege/04_NadjaElBekri_ERF19.pdf
öğrenilmiş model yoluyla karara varılır ve çıktı bir başarım [9] W. Samek, T. Wiegand, K.-R. Müller, “Explainable Artificial
ölçütü ile kullanıcıya sunulur. AYZ’de ise, Şekil 4’te gösteril- Intelligence: Understanding, Visualizing and Interpreting Deep
diği gibi, yeni girdiye ilişkin öneri, karar veya aksiyonun kul- • AYZ için insan–makine arayüzlerinin geliştirilmesi odak Learning Models”, 2017: https://arxiv.org/abs/1708.08296
lanıcıya açıklanabilir model ve açıklama arayüzü üzerinden alanlardan biri olarak değerlendirilebilir.
[10] F. Lecue, D. Wan, “Understanding Machines: Explainable AI”,
Accenture, 2018: https://www.accenture.com/_acnmedia/pdf-
Tablo 2. Açıklanabilirlik Tekniklerine Örnekler
85/accenture-understanding-machines-explainable-ai.pdf
[11] F. Lecue, “Explainable AI – The Story So Far”, 2019:
http://www-sop.inria.fr/members/Freddy.Lecue/presentati-
on/Aug29-Lecue-Thales-XAI-The-Story-So-Far-Final.pdf
[12] M. Baccala, C. Curran, D. Garrett, S. Likens, A. Rao, A. Ru-
ggles, M. Shehab, “2018 AI Predictions 8 Insights to Shape
Business Strategy”, PwC, 2018: https://www.pwc.com.tr/tr/
gundemdeki-konular/dijital/yapay-zeka-tahminleri-2018.pdf
[13] C. Oxborough, E. Cameron, A. Rao, C. Westermann, “Exp-
lainable AI Driving Business Value Through Greater Unders-
tanding”, PriceWaterhouseCoopers, 2018: https://www.pwc.
co.uk/audit-assurance/assets/pdf/explainable-artificial-intel-
ligence-xai.pdf
[14] M. Du, N. Liu, X. Hu, “Techniques for Interpretable Machi-
ne Learning”, 2019: arXiv:1808.00033
[15] A. Holzinger, “Methods of Explainable AI”, Mini Cour-
se Make Decisions, 2018: https://hci-kdd.org/wordpress/
wp-content/uploads/2018/09/5-METHODS-EXPLAINAB-
LE-AI-MAKE-Decision-20180920.pdf
[16] S. N. Srihari, “Explainable Artificial Intelligence”, 2019:https://ce-
dar.buffalo.edu/srihari/talks/IISc-XAI.pdf
[17] S. Kaushik, “Explainable AI (XAI) – A Perspective”, 2018:ht-
tps://www.slideshare.net/saurabhkaushikin/explainable-ai-xa-
i-a-perspective

36 37