idil hanım büyüdükçe gelenimiz gidenimiz de arttı son zamanlarda.. yine eve misafir gelen akşamların biriydi. idil hanım kucaktan kucağa gezdirilirken, tanımadığı bir yüzle burun buruna geldiği anda yüzü değişti. önce durdu — o kısa, tuhaf duraklama var ya, bir şeyin yolunda gitmediğini hissettiğin sessizlik. sonra kaşları çatıldı. sonra ağlamaya başladı. yeniden kucağıma aldığımda ise ağlaması devam etti. ben de merve’ye uzattım ve onun omzuna gömüldü, bir süre kımıldamadı.
merve’yle bakıştık. birkaç ay önce böyle değildi. birkaç ay önce idil kime baksa gülümsüyordu — komşuya, kasadaki kadına, asansörde karşılaştığımız komşuya. ayrım yapmıyordu. şimdi yapıyor.
ilk refleksim endişelenmek oldu. bir şey mi oldu, ürkek mi oluyor, biz mi bir yerde yanlış yaptık.. sonra oturup düşününce fark ettim: bu bir gerileme değil, tam tersi. idil ağlayabilmek için önce ayırt edebilmek zorundaydı. o yüzün tanıdık olmadığını söyleyebilmesi için, tanıdık olanın nasıl bir şey olduğuna dair içeride bir şablonun oluşmuş olması gerekiyordu. ağlama, o şablonun varlığının kanıtı.
yani ağladığı için değil, ağlayabildiği için sevinmem gerekiyormuş. tuhaf.. ama hayat işte.
gelişim psikolojisinde bu duruma yabancı kaygısı (stranger anxiety) deniyor ve şaşırtıcı derecede iyi belgelenmiş bir dönüm noktası. kavramı ilk sistematik biçimde tarif eden isimlerden biri, avusturyalı psikanalist rené spitz. ikinci dünya savaşı yıllarında kurumlarda büyüyen bebekleri uzun süre gözlemleyen spitz, bu tepkinin belirli bir yaş aralığında düzenli olarak ortaya çıktığını fark etti ve buna “sekiz ay kaygısı” adını verdi. onun için bu, bebeğin annesini artık başka herkesten ayrı bir kategori olarak tuttuğunun göstergesiydi. yabancıya verilen tepki, aslında tanıdığa dair bir ifadeydi.
sonrasında ingiliz psikiyatrist john bowlby’nin bağlanma teorisi — geçtiğimiz yazılarda değinmeden geçemediğimiz o isim bir kez daha karşımızda — ve öğrencisi mary ainsworth’ün çalışmaları bu tabloyu genişletti. ainsworth’ün geliştirdiği yabancı ortam deneyinde bebek, tanıdık bakıcısıyla ve bir yabancıyla farklı kombinasyonlarda kısa süreler geçiriyor; ölçülen şey yabancıdan korkup korkmadığı değil, stresin ardından bakıcıya nasıl döndüğü. yani asıl bilgi kaçışta değil, sığınmada. idil’in merve’nin omzuna gömülmesi, testin kendisi değil — cevabı.
burada dikkat çekici bir ayrıntı var: yabancı kaygısı evrensel bir takvimle işlemiyor. yoğunluğu bebekten bebeğe, kültürden kültüre, hatta o gün ne kadar uyuduğuna göre değişiyor. geniş aileyle iç içe büyüyen bir bebekte daha yumuşak, tek bakıcıyla çok zaman geçiren bir bebekte daha keskin olabiliyor. tepkinin şiddeti, bebeğin karakteriyle olduğu kadar dünyanın ona ne kadar çeşitli göründüğüyle de ilgili.
çeşitlilik. burada bir şeyin çanı çalmaya başladı bende.
yapay zeka tarafında ise bir modelin en tehlikeli anı, yanlış cevap verdiği an değil. yanlış cevabı büyük bir özgüvenle verdiği an.
sinir ağlarının uzun süredir bilinen ve hâlâ tam çözülememiş bir huyu var: eğitim verisinin dağılımının dışında kalan bir girdiyle karşılaştıklarında sessizce durup “bunu tanımıyorum” demiyorlar. bir cevap üretiyorlar. üstelik çoğu zaman, doğru bildikleri şeylere verdikleri kadar yüksek bir güven skoruyla. kedi ve köpek ayırmak üzere eğitilmiş bir modele bir uçak fotoğrafı gösterirsiniz, model size %97 ihtimalle köpek olduğunu söyler. sorunun adı var: dağılım dışı girdiler, kısaca OOD (out-of-distribution).
bu alanı bugünkü haline getiren temel çalışmalardan biri, dan hendrycks ve kevin gimpel’in 2016 tarihli A Baseline for Detecting Misclassified and Out-of-Distribution Examples in Neural Networks makalesi. yaptıkları şey aslında son derece basitti — modelin ürettiği en yüksek olasılık değerine bakıp “bu tanıdık mı, değil mi” diye sormak. basit olduğu kadar da yetersizdi ve tam olarak bu yüzden önemliydi: alanın ne kadar boş olduğunu gösterdi. sonrasında gelen yöntemler daha rafine oldu — bazıları modelin ara katmanlarındaki temsillerin, eğitim verisinin oluşturduğu buluta ne kadar uzak düştüğünü ölçtü; bazıları aynı modeli farklı başlangıçlarla defalarca eğitip, birbirleriyle ne kadar anlaşamadıklarına baktı. mantık hep aynıydı: anlaşmazlık, bilgisizliğin izidir.
serinin üçüncü yazısında yenidoğan görmesinden ve evrişimli ağlardan bahsederken, bir modelin ne gördüğünü konuşmuştuk. burada sorduğumuz soru bir katman daha derinde: model, gördüğü şeyin daha önce gördüklerine benzeyip benzemediğini biliyor mu?
teknik literatürde bu meselenin bir de kavramsal ayrımı var: epistemik ve aleatorik belirsizlik. aleatorik belirsizlik dünyanın kendi gürültüsü — zar atarsın, sonucu bilemezsin, ne kadar veri toplasan da bilemezsin. epistemik belirsizlik ise modelin kendi cehaleti — daha fazla veri görseydi tolere edilebilecek olan kısım. yabancı kaygısı, tam olarak epistemik belirsizliğin bir davranışa dönüşmüş hali. idil o yüz hakkında bir şey bilmiyor ve bilmediğini biliyor. tepkisi, bilgisinin değil, bilgisinin sınırının ifadesi.
modellerde en çok yakındığımız şey de bu zaten. desen tanıma tarafında insanüstü performans gösteren sistemler, “bu soru benim alanımın dışında” demekte hâlâ garip biçimde beceriksiz. oysa yüksek riskli bir bağlamda — teşhis koyan, kredi değerlendiren, direksiyon çeviren bir sistemde — doğru cevap vermek kadar değerli bir yetenek daha var: susmayı bilmek. karar teorisinde buna reddetme seçeneği deniyor; sistem belirli bir güven eşiğinin altında karar vermeyi reddedip işi insana devrediyor. sekiz aylık bir bebeğin ağlayarak yaptığı şeyin, biraz daha kibar bir versiyonu.
ama burada dikkatli olmam gereken bir yer var.
idil o misafiri tehlikeli olarak işaretlemedi. tanımadı, o kadar. tanımamak ile tehdit görmek arasındaki mesafe çok kısa görünüyor ama aslında aralarında kocaman bir uçurum var. bebek o mesafeyi doğal olarak kapatıyor — çünkü elinde başka bir araç yok, tedbir onun tek dili. sorun, biz büyüklerin aynı refleksi araç bolluğuna rağmen taşımaya devam etmesi. bir yüzü tanımıyor olmak, onun hakkında olumsuz bir bilgiye sahip olmakla aynı şey değil. birinin bilgi eksikliği, diğerinin bilgi iddiası.
modeller için de aynı tuzak geçerli. bir sistemi “tanımadığını reddet” diye eğitirken, farkında olmadan “tanıdığım dünyanın dışı şüphelidir” diye eğitiyor olabilirsiniz. eğitim verisi neyi az temsil ediyorsa, sistem onu daha sık dağılım dışı sayar. yeterince çeşitli olmayan bir veri kümesiyle eğitilmiş bir yüz tanıma sisteminin, hangi yüzleri “tanımadığını” tahmin etmek zor değil. yabancı kaygısının şiddeti, bebeğin dünyasının ne kadar çeşitli olduğuna bağlıydı hatırlarsanız. modellerde de öyle. ikisinde de temkinlilik, aslında maruz kalınan dünyanın dar olmasından besleniyor.
geçen ay idil’in kendi elini keşfettiğini yazmıştım — parmaklarını hissetmesiyle onları tanıması arasındaki farkı. şimdi aynı ayrım dışarıya dönmüş halde karşıma çıkıyor. o zaman kendini tanımayı öğreniyordu; şimdi kendisi olmayanı.
akşam misafirler gittikten sonra idil sakinleşti, her zamanki haline döndü, hiçbir şey olmamış gibi kucağımda turknet’in gönderdiği paketin içinden çıkan tavşan gibi kulaklı ahşap halka oyuncağını kemirmeye başladı. ben ise bir yandan onu izlerken, bir yandan bu satırları düşündüm.
bir gün bu ağlama geçecek. yabancı kaygısı da her gelişimsel evre gibi yerini başka bir şeye bırakacak — merakla temkinin daha dengeli kurulduğu, “seni tanımıyorum ama tanımak isteyebilirim” diyebilen bir hale. o geçişi de yine ben izleyeceğim, yine tam olarak nasıl olduğunu anlayamadan.
şunu düşünüyorum: bir sistemin — ister dört aylık olsun ister sekiz aylık, isterse sekiz milyar parametreli olsun — bilmediğini fark edebilmesini bir olgunluk işareti sayıyoruz. haklıyız da.. ama bilmediğini fark eden her sistem aynı yerde durmuyor. bazıları o sınırın önünde geri çekiliyor, bazıları sınırı genişletmek için ilerliyor.
idil’in ağlaması bugün geri çekilme. yarın ne olacağını belirleyen şey, o eşikte ona ne göstereceğimiz sanırım.
peki biz kendi kurduğumuz sistemlere sadece “bilmediğinde dur” mu öğretiyoruz — yoksa “bilmediğinde öğren” demenin bir yolu var mı?