Page 62 - Bilgem Teknoloji Dergisi 15. Sayı

DİJİTAL GELECEK

Abdurrahman Emre ÖZKÖK, Bölüm Yöneticisi, BİLGEM SGE
Mustafa CİN
Hakkı TOKLU
Anıl İPEK, Kıdemli Uzman Araştırmacı, BİLGEM SGE

YAPAY ZEKÂ UYGULAMALARI İÇİN

SALDIRI SENARYOLARI VE

SAVUNMA STRATEJİLERİ

Günümüzde yapay zekâ (YZ) her alanda kullanılabilmektedir.

Araştırmacılar karmaşık sorunları çözmek için yapay
zekâ çözümlerinden yararlanmaktadır. Ancak güvenlik
bu uygulamaların önemli ve ayrılmaz bir parçasıdır.
Çünkü günümüzde her sistemde olduğu gibi yapay zekâ

uygulamalarına yönelik de saldırılar yaşanmaktadır.

MITRE ve aralarında NVIDIA, Microsoft,
IBM, Bosch, Airbus vb.’nin de
bulunduğu 11 kuruluş, makinelere
yönelik düşman taktikleri, teknikleri
ve makine öğrenimine yönelik örnek
olay incelemelerinden oluşan bir bilgi
tabanı olan MITRE ATLAS’ı (Yapay
Zekâ Sistemleri için Rekabetçi Tehdit
Ortamı) sağlamak üzere bir araya
gelmiştir. Matrise göre yapay zekâ
uygulamalarına yönelik düşmanca
faaliyetleri yürütmek için 12 taktik ve
44 teknik bulunmaktadır. Bu durum
yapay zekâ çözümlerimizin geniş bir
saldırı yüzeyine sahip olduğunu ve
sistemler üzerindeki yüksek etkiyi
ortadan kaldırmak için saldırganlardan
korunması gerektiğini ortaya koymaktadır.

Bu alanda yapılan literatür araştırması bizlere, yapay zekâ alanında yaşanan gelişmelerin
yanında bu gelişimi destekleyici bir güvenlik metodolojisinin de oluşturulmasına ihtiyaç
olduğunu göstermektedir. Bu kapsamda bu yazı içerisinde yapay zekâ uygulamalarına
yönelik saldırı teknikleri ve bu saldırı tekniklerine yönelik savunma stratejileri anlatılacaktır.

60