Page 54 - Bilgem Teknoloji Dergisi 15. Sayı
P. 54
DİJİTAL GELECEK
4.“Birlikte” kelimesinden sonra ve önce gelen kelimeler Şekil-2’deki ağa verildiğinde “birlikte”
kelimesi elde edilecek şekilde ağırlıklar sürekli güncellenir.
5.Son olarak “birlikte” kelimesinin kelime gömüsü en son eğitilmiş ağırlıkların “birlikte” kelimesinin
one-hot temsili ile vektör çarpımına eşittir. Buradan da görüldüğü üzere hem boyut azalmış hem
de kelimelerden önce ve sonra gelen kelimeler dikkate alındığından benzer kelimelerin vektörleri
birbirine yaklaşmıştır. (Çünkü eğer çıkışta ulaşılmaya çalışan kelimeler anlam olarak benzerse
bunları aynı girişler besleyeceği için back-propogation aşaması sonrasında bu iki çıktı için ağırlıklar
benzer olur.)
WordtoVec’in skip-gram modeli de aynı yaklaşıma ve benzer adımlara sahip olmakla birlikte;
tek fark skip-gram’da kelimenin kendisi giriş olarak verilirken kelimenin komşuları için tahminde
bulunulmakta ve bu tahminler gerçek komşularla kıyaslanarak fark geri yansıtılmaktadır.
52