sonra asıl tuhaf şey oldu. birkaç gün sonra, ortada ne elma vardı ne kaşık, idil o buruşmayı yeniden yaptı. aynı kısık gözler, aynı kırışık burun. ve hemen ardından kendi kendine kahkaha attı. biz de güldük tabi. o günden beri ara ara tekrarlıyor — bazen bize bakarak, bazen kimseye bakmadan. evin en samimi anları şu sıralar o küçük, ekşi suratın etrafında dönüyor.

ilk buruşma bir tepkiydi. ekşi bir tada, ağzın içinde olan bir şeye verilen cevap. ikincisinin ise ekşiyle hiçbir ilgisi yok. aynı yüz, aynı kaslar, aynı ifade.. ama artık bir şeye tepki vermiyor, bir şey söylüyor. arada geçen birkaç günde değişen tek şey yüzün anlamı oldu. ve o anlamı okuması gereken de bizdik..

altıncı aya yaklaşırken, bebekler anne sütünden başka tatlarla tanışmaya başlıyor. bu geçişin en az tartışılan zorluklarından biri de şu: bebek konuşamıyor, ebeveyn de onun ne sevdiğini yüzünden okumak zorunda kalıyor. catherine forestell ve julie mennella, philadelphia’daki monell chemical senses center’da tat ve koku gelişimini çalışan iki araştırmacı, tam da bu okumanın ne kadar güvenilir olduğunu merak etmişler. 2007’deki çalışmalarında 4–8 aylık 45 bebeğe sekiz gün boyunca yeşil fasulye yedirmişler; bir gruba fasulyenin ardından şeftali de vermişler. sonuç ilk bakışta sade: iki grupta da bebekler günler geçtikçe daha çok fasulye yemiş, ortalama 57 gramdan 94 grama.. ama asıl hikaye şimdi geliyor. yüz buruşturma yalnızca şeftali verilen grupta azalmış. sadece fasulye yiyen bebekler yüzlerini buruşturmaya devam etmişler — ve buruşturdukları yiyeceği her gün biraz daha çok yemişler. (early determinants of fruit and vegetable acceptance)

araştırmacıların vardığı yer bir ebeveyn için hem basit hem zor: bebekler bazı tatlara karşı doğuştan yüz buruşturuyor, bu yüzden bakım verenler o yiyeceği tekrar sunmaktan çekiniyor. oysa bakılması gereken şey sadece yüz değil, bebeğin yemeye devam etme isteği. önceki çalışmalar yeni bir tadın kabul görmesi için 8–12 kez sunulması gerekebildiğini söylüyor. yani ilk buruşmada vazgeçen ebeveyn, aslında henüz başlamamış bir öğrenmeyi bitirmiş oluyor.

peki ya ikinci buruşma? vasudevi reddy, portsmouth üniversitesi’nde yıllarını bebeklerin şakalaşmasına, takılmasına, gösteriş yapmasına — yani ana akım teorilerin genelde görmezden geldiği gündelik anlara — ayırmış bir gelişim psikoloğu. 7–11 aylık bebeklerin ebeveynleriyle yaptığı görüşmelerde çoğu bebeğin, daha önce kahkaha getirmiş bir hareketi o kahkahayı yeniden çağırmak için bilerek tekrarladığını bulmuş. reddy buna palyaçoluk diyor. yirminci yüzyıl boyunca bebek gülmesi dışarıdan gelen uyarana verilen basit bir tepki sayılmış; reddy ve gina mireault ise bu tür şakaların, bebeğin başka zihinlerin farkına varmaya başladığının işaretleri olduğunu savunuyor. (teasing and clowning in infancy)

idil hanım bu takvimin biraz önünden gidiyor gibi. ya da belki bizim okumamız fazla cömert; belki buruşmanın kendisi, yüzündeki o tuhaf his hoşuna gidiyor sadece. #21’de oyuncağa vurup çıkan sesi tekrar tekrar çağırıyordu. şimdi çağırdığı ses bir kahkaha, kullandığı alet de kendi yüzü. hangisi olursa olsun, bir şey kesin: o buruşmanın ilk gün söylediğiyle bugün söylediği aynı şey değil. #9’da ebeveynin bebeğinin ağlamasına sonradan anlam yüklemesinden söz etmiştim, çalışmak ≠ açıklamak demiştim. şimdi de “sevmedi” derken; bebeğin cümlesini değil, kendi cümlemizi kuruyorduk.

bir sinyalin anlamı sinyalin kendisinde taşınmıyor. bağlamda, zamanda ve onu okuyanda taşınıyor. bunu kucağındaki bir bebeğin yüzünde görmek kolay. bir milyon insanın davranışında görmek çok daha zor — ve arama motorlarından öneri sistemlerine, sohbet asistanlarına kadar bugün kullandığımız yapay zekanın büyük kısmı tam da bu zor olanla uğraşıyor.

insanlar beğendiklerini ya da beğenmediklerini nadiren açıkça söyler. bu yüzden sistemler örtük geri bildirime yaslanır: tıklama, sayfada kalma süresi, atlama, geri dönme. cornell’den thorsten joachims ve ekibi 2005’te kullanıcıların arama sonuçlarına nasıl baktığını göz izleme cihazlarıyla takip etmiş ve tıklamaları insanların elle verdiği değerlendirmelerle karşılaştırmış. vardıkları sonuç forestell’in mutfağından çok uzak değil: tıklamalar bilgi taşıyor ama yanlı. bir tıklamayı tek başına “bu sonuç iyi” diye okumak yanıltıcı, çünkü insanlar en üstteki sonuca, iyi olduğu için değil en üstte olduğu için de tıklıyor. buna karşılık göreli okumalar — “şunu atlayıp bunu tıkladı” — ortalamada oldukça isabetli. tek bir yüze değil, yemeye devam etme isteğine bakmak. tek bir tıklamaya değil, zaman içindeki örüntüye bakmak. iki öğüt aynı yerden geliyor.

işin bir de zaman boyutu var. bir sinyalin anlamı değiştiğinde, eski anlamla eğitilmiş bir model onu yanlış okumaya devam eder. makine öğrenmesinde buna kavram kayması (concept drift) deniyor: girdiler aynı görünür, ama girdiyle sonuç arasındaki ilişki sessizce değişmiştir. idil’in yüzünü ilk günkü anlamıyla okumaya devam etseydik, şimdi her kahkahasından önce ona bir şeyin tadının kötü geldiğini sanıyor olurduk.

forestell ve mennella’nın deneyinde kolayca gözden kaçan bir ayrıntı daha var, bence en düşündürücüsü. şeftali verilen bebekler daha az yüz buruşturdu. ama fasulyeyi kabullenme, şeftali olsun olmasın arttı. şeftalinin asıl değiştirdiği şey yüzdü. tatlıyı ekleyince ifade güzelleşiyor; ama asıl hedef, yani yeşili kabullenmek, tatlıya bağlı değil.

bugünün büyük dil modelleri de insanların tercihleriyle ince ayar yapılarak eğitiliyor — hangi cevabın daha çok beğenildiği, modele neyin “iyi” olduğunu öğretiyor. mrinank sharma ve arkadaşlarının 2023’teki çalışması, bu şekilde eğitilen asistanların farklı görevlerde tutarlı biçimde dalkavukluk eğilimi gösterdiğini, yani doğru olandan çok kullanıcının duymak istediğini söylemeye meyilli olduğunu ortaya koydu; insanların tercihlerinin de kısmen bu tür cevapları ödüllendirdiğini gösterdi. (towards understanding sycophancy in language models) yüzleri güzelleştirmenin yolunu bulan bir sistem, kendi şeftalisini bulmuş demektir.

ürün dünyasında da tanıdık bir hikaye bu. yeni bir özellik çıkar, ilk haftanın metrikleri iç açıcı değildir — kullanıcılar şaşırmış, bir kısmı hemen kapatmış. ekip o buruşmaya bakar ve özelliği rafa kaldırır. belki gerçekten kötüydü. ama belki de sadece yeni bir tattı, ve kimse sekizinci, onuncu kez sunmayı beklememişti. ya da tersi: her şeyi beğeni oranına göre optimize eden bir ekip, kullanıcıyı hiç buruşturmayan ama ona hiçbir şey de katmayan bir ürünle baş başa kalır.

şimdi düşünüyorum — ilk buruşmada elmayı rafa kaldırsaydık, o ikinci buruşma hiç olmayacaktı belki. ekşiyle tanışmadan, ekşiyle şakalaşmayı da öğrenemeyecekti.

bir gün o yüz yeniden ekşiyi anlatmaya başlayacak. ya da daha zor bir şeyi — bir “hayır”ı, bir kırgınlığı, hoşuna gitmeyen bir şeyi. o gün şakayı gerçekten ayırabilecek miyim? ve beni daha çok düşündüren: büyüdüğünde de bana buruşan yüzünü göstermeye devam edecek mi, yoksa farkında olmadan ona sadece gülümsemeyi mi öğreteceğim?

meraklısına uzun bir aradan sonra dipnot
instagram’da paylaştığım her yazının arkasında, en başından beri (birkaç istisna hariç) bir peyk şarkısı çalıyor. 5 kasım, grubun solisti irfan alış’ın aramızdan ayrılışının ikinci yılı. o haftaya kadar her yazının sonunda irfan abi’ye küçük bir yer ayırmak istiyorum.

irfan abi’yle hiç tanışmadım, tek bir konserine bile gitmedim. ama geçenlerde, ekran göstermemeye ne kadar özen göstersek de, merve idil’i ayaklarında sallarken bir yandan da mubi’de onun kısa filmi satılık araba’yı izliyorduk. içimden bir ses idil’in, irfan abi’nin sesini şarkıların, kurguların ötesinde de duyması gerektiğini ve belki biraz da görmesi gerektiğini söyledi.. karşı gelemedim. filmin sonunda denizdeyim’in trompetle çalınan bir versiyonu başladı. idil de gözlerini kapadı ve huzurla uykuya daldı.

neden uyudu, bilmiyorum. belki saati gelmişti, belki de trompet onu alıp götürmüştü. ama ben o anı bir cevap olarak okudum — bu yazının söylediği her şeye rağmen.

irfan abi’nin bartu küçükçağlayan’a son karşılaşmalarında söylediği bir şey varmış: birbirimize sadece iyi yaptıklarımızı değil, kötü yaptıklarımızı da söylememiz gerekiyor. buruşan bir yüze bundan daha iyi bir dipnot bulamazdım.

akşam. mutfakta tencere fokurduyor, televizyonda kimsenin izlemediği bir haber bülteni dönüyor, merve telefonda biriyle konuşuyor. idil hanım halının ortasında, elindeki halkalı oyuncağı kemiriyor. kapının eşiğinden, sesimi hiç yükseltmeden “idil hanım” diyorum.

kemirmeyi bırakıyor. başı yavaşça ama tereddütsüz bana dönüyor.

bir kez daha deniyorum, bu sefer aynı tonla, aynı uzunlukta anlamsız bir şey söylüyorum. hiçbir şey. oyuncak yeniden ağzında. üçüncü denemede yine “idil hanım”.. yine dönüyor. kendimi biraz deneyci gibi hissediyorum, biraz da kızını sınava sokan bir baba gibi. ikisi de pek hoş bir his değil, ama merakım ağır basıyor.

bir isim, dünyadaki bütün kelimeler arasında tuhaf bir yerde duruyor. diğer kelimeler dışarıyı gösterir: top, mama, kedi. isim ise geri döner, söylendiği kişiyi işaret eder. kalabalık bir odada adınızı duyduğunuzda başınızın kendiliğinden dönmesi bu yüzden. ingiliz bilişsel bilimci colin cherry, 1953’te bu duruma kokteyl partisi problemi adını verdi: onlarca sesin arasında tek bir konuşmayı nasıl takip edebiliyoruz? birkaç yıl sonra neville moray, dinlemediğimiz kulağa verilen mesajları neredeyse hiç hatırlamadığımızı, ama katılımcıların kayda değer bir kısmının o kulakta kendi adı geçtiğinde bunu fark ettiğini gösterdi. yani ilgilenmediğimiz sesleri de bir yerde dinliyoruz, sadece içlerinden bizimle ilgili olanı yukarı taşıyoruz.

peki bebekler bunu ne zaman yapmaya başlıyor?

amerikalı psikolog peter jusczyk, hayatını bebeklerin kesintisiz bir konuşma akışını nasıl parçalara ayırdığını anlamaya adamış biri. 1995’te denise mandel ve david pisoni ile birlikte yayımladığı infants’ recognition of the sound patterns of their own names çalışmasında 4,5 aylık bebeklere kendi isimlerini ve başka isimleri dinletti. kritik ayrıntı şuydu: karşılaştırma isimlerinin bir kısmı bebeğin ismiyle aynı vurgu desenine sahipti. bebekler yine de kendi isimlerini daha uzun dinledi. yani mesele ritim ya da melodi değildi, o özgül ses dizisinin kendisiydi.

rochelle newman ise laboratuvarı gerçek hayata biraz daha yaklaştırdı ve arka plana konuşan sesler ekledi. 2005 yılında yayınladığı, bebekler üzerinde kokteyl partisi çalışması, beş aylık bebeklerin isimlerini ancak hedef ses arka plandan belirgin biçimde, 10 desibel kadar yüksek olduğunda tanıyabildiğini gösterdi. on üç aylıklarda bu fark 5 desibele iniyordu. tanımak bir şey, gürültünün içinde tanımak başka bir şey. tencere, televizyon, telefon konuşması.. o akşam bana dönmesi, belki de tahmin ettiğimden büyük bir başarıydı.

beni en çok düşündüren ise üçüncü bir çalışma oldu. masahiro imafuku ve arkadaşları, 2014’te yayımladıkları bir fNIRS çalışmasında bebeklerin beyin aktivitesine baktı. medial prefrontal korteks, yani yetişkinlerde kendimizle ilgili bilgiyi işlerken devreye giren bölge, bebeğin ismine en güçlü tepkiyi onu annesi söylediğinde veriyordu. ne söylendiği ile kimin söylediği birbirinden ayrılamıyordu.

burada genel bir ilkeden bahsedebiliriz: sürekli dinleyen bir sistem için asıl zorluk duymak değil, neyin kendisiyle alakalı olduğuna karar vermek. dinlemek ucuzdur, cevap vermek pahalı. bugün birçok büyük dil modelinin fiyatlandırmasında olduğu gibi.. her sese dönen bir bebek de, hiçbir sese dönmeyen bir bebek de aynı şeyi kaçırır.

bu ilkenin mühendislikteki karşılığını her gün cebimizde taşıyoruz. apple “hey siri” özelliğini iPhone 6 ile tanıttığında çözmesi gereken problem tam olarak buydu: cihaz günün her saati dinleyecek, ama yalnızca iki kelimeye uyanacak. ekibin anlattığına göre telefonda sürekli çalışan küçük bir sinir ağı, gelen sese bir güven skoru veriyor ve skor belirli bir eşiği aşarsa cihaz uyanıyor. eşiği düşürürseniz telefon “are you serious” gibi kulağa benzer gelen sıradan cümlelere de uyanır. yükseltirseniz, gerçekten seslendiğinizde sizi duymaz. bu iki hata türü arasındaki denge, bir anahtar kelime sisteminin bütün mühendisliği.

asıl ilginç kısım ise 2018’de geldi. apple, kişiselleştirilmiş hey siri üzerine yazdığı makalede problemi ikiye ayırdı: ne söylendi, ve kim söyledi. ilk kurulumda sizden birkaç kez “hey siri” demeniz istenir, cihaz sesinizden birkaç konuşmacı vektörü çıkarır. sonra siz kullandıkça kabul edilen her yeni seslenişi profilinize ekler, kırk vektöre ulaşana kadar sizi tanımayı sürdürür. önce açık kayıt, sonra örtük kayıt. telefon artık yalnızca kelimeyi değil, sesi de bekliyor.. imafuku’nun bebekleri gibi.

makalenin kendi itirafı da tanıdık geliyor: gürültülü ve yankılı ortamlar hâlâ çözülmemiş bir problem. newman’ın bebekleriyle aynı yerde takılıp kalmışlar.

yine de bir fark var, ve yazının asıl sorusu orada duruyor. telefon “hey siri”yi tanır ama kim olduğunu bilmez. içinde bir “ben” yoktur, sadece eşiği aşan bir örüntü vardır. idil hanım bana döndüğünde hangisini yapıyor? ismini mi tanıyor, yoksa kendini mi?

gelişim bilimi bu konuda oldukça mütevazı. psikolog beulah amsterdam’ın 1972’de uyguladığı ruj testi, bebeğin burnuna fark ettirmeden bir leke sürüp aynaya baktığında kendi burnuna uzanıp uzanmadığını gözlemliyordu. çocuklar aynadakinin kendileri olduğunu genellikle bir buçuk yaş civarında anlıyor. yani idil hanım ismini, aynada kendini tanımasından bir yıl kadar önce tanıyor. isim benlikten önce geliyor. belki de benliğin üzerine kurulduğu ilk iskelelerden biri o.

serinin dördüncü yazısında kavrama refleksini konuşurken tutunmak ≠ anlamak demiştim. avucuma sarılan o küçük el beni tanıdığı için değil, bir refleks olduğu için kapanıyordu. bugün aynı şeyin işitsel bir versiyonuna bakıyorum gibi. duymak, kendini bilmek değil. ama nasıl tutunmak bir gün anlamaya dönüşüyorsa, dönmek de bir gün bilmeye dönüşebilir.

bir şey daha var, ve bana en enteresan gelen kısım da bu. ben ona genellikle “idil” demiyorum. doğduğu günden beri “idil hanım”, “igu’m” gibi türlü söylemlerde bulundum. sanki yer deniz büyücüsü hikayesinde gezinip, gerçek ismini ifşa etmememiz gerekiyormuş gibi.. yani mandel’in deneyine katılsaydı, ona hangi ismi dinletmek gerekirdi? nüfus kağıdındakini mi, babasının taktığını mı?

her akşam, her “idil hanım”da, belki farkında olmadan onun profiline bir vektör daha ekliyorum. ama hangisini.. ismin mi, sesimin mi?

bir gün kreşte bir öğretmen, parkta tanımadığı bir anne, okulda bir arkadaşı ona “idil” diye seslenecek. ve o dönecek. dönerken ismini mi duymuş olacak, yoksa bir an için benim sesimi mi arayacak?

ama iki istisna var. birincisi, kapıdan çıktığımız an. bazen asansörle aşağıya inerken bile ağlıyor, sokağa adım attığımızda sesi kısılıyor, birkaç adım sonra ise sanki hiç ağlamamış gibi etrafına bakıyor. ikincisi yeşil soğan. dişleri kaşınıyor olmalı ki, eline tutuşturduğumuz o ince yeşil sapı ağzına götürüp diş etleriyle ezmeye başladığında yüzü bir anda yumuşuyor.

serinin dokuzuncu yazısında, evden uzakta bir otel odasından şunu yazmıştım: ne zaman ağlayacağını bazen tahmin edebiliyorum, ama neden ağladığını nadiren. şimdi yanındayım ve durum pek değişmedi. ama bu hafta başka bir şey fark ettim: onu sakinleştiren şeyin, ağlamanın sebebiyle hiçbir ilgisi yok gibi. yürüyüş dişi geçirmiyor. yeşil soğan ilgi isteğini karşılamıyor. yine aynı dokuzunca yazıda bir şeyin çalışması, onun neden / nasıl olduğunu açıklamıyor demiştim — bu hafta onu tersinden yaşıyorum. neden işe yaradığını açıklayamadığım bir çare, her gün çalışıyor.

ve bu beni rahatsız eden bir soruya getiriyor. idil sakinleşiyor mu, yoksa sakinleştiriliyor mu? dışarıdan bakınca ikisi aynı şeymiş gibi görünüyor: ağlama duruyor. ama birinde düğme içeride, diğerinde ise dışarıda. şu an o düğmenin neredeyse tamamı bizde gibi — ya da kaldırımda, ağaçlarda, adımlarımın ritminde.

o ritmin bir açıklaması varmış. riken beyin bilimleri enstitüsü’nde ebeveynlik davranışının nörobiyolojisini çalışan japon sinirbilimci kumi kuroda ve ekibi, 2013’te bebeklerin kucakta taşınmaya verdiği tepkiyi ölçen bir çalışma yayımladı. anneler bebeklerini önce oturarak kucaklarında tuttu, sonra kucaklarında taşıyarak yürüdü. yürümeye başladıkları anda bebeklerin ağlaması azaldı, kıpırdanmaları durdu, kalp atışları birkaç saniye içinde yavaşladı. aynı tepki fare yavrularında da var: anne yavruyu ensesinden kavrayıp taşıdığında yavru gevşiyor, hareketsizleşiyor. araştırmacılar buna taşınma tepkisi diyor — evrimin, tehlikeden kaçarken yükü hafifletsin diye bebeğe yerleştirdiği bir refleks. yani yürüyüş idil’e iyi geliyor çünkü bir şey anlıyor değil. milyonlarca yıllık bir anlaşma devreye giriyor.

amerikalı gelişim psikoloğu edward tronick’in 1978’de yayımladığı still-face deneyi bu tabloya başka bir katman ekliyor. düzenek basit: anne bebeğiyle olağan şekilde oynarken birden yüzünü donduruyor, birkaç dakika boyunca ifadesiz bakıyor. bebek önce gülümsüyor, ses çıkarıyor, el kol sallıyor — anneyi geri çağırmaya çalışıyor. karşılık gelmeyince bakışını kaçırıyor, kıvranıyor, sonunda dağılıyor. tronick bundan şu sonucu çıkardı: bebeğin duygusal dengesi onun içinde değil, iki kişinin arasında kuruluyor. buna karşılıklı düzenleme diyor. idil’in bu haftaki ağlamaları belki de bir arıza değil, bir çağrıydı: dengemi tek başıma tutamıyorum, gel birlikte tutalım..

peki dışarıdaki bu düzen ne zaman içeri taşınıyor? amerikalı gelişim psikoloğu claire kopp, 1982’de bu soruya katman katman ilerleyen bir harita önerdi. ona göre öz-düzenleme bir anda gelmiyor. ilk aylarda bebek neredeyse tamamen dışarıdan dengeleniyor — kucak, emzirme, sallanma. sonra, üçüncü ay civarından itibaren, ilk kendi araçlarını keşfediyor: elini ağzına götürmek, bir nesneyi kavrayıp çiğnemek, bakışını rahatsız eden şeyden çevirmek. kontrol, öz-kontrol ve gerçek öz-düzenleme çok daha sonra, yürüme ve konuşmayla birlikte geliyor.

yeşil soğan tam bu ikinci basamakta duruyor. çiğneyen idil, ama sapı uzatan biziz. kaşıntıyı dindiren onun diş etleri, ama ne zaman ve neyle dineceğine karar veren bizim elimiz. yarı içeride, yarı dışarıda bir düzenleme.

bunu düşündükçe şunu fark ediyorum: dışarıdan dengelenen her sistem, bir gün o dengeyi kendisi kurmak zorunda kalıyor. ve bu geçiş, desteğin bir gece aniden çekilmesiyle olmuyor. dış düzen yavaş yavaş içeri sızıyor, bir süre ikisi birlikte çalışıyor, sonra bir gün dışarıdaki el fark edilmeden gevşiyor.

büyük dil modellerinin kısa tarihi de tam olarak böyle bir geçişin hikayesi. bu modeller uzun süre dışarıdan düzenlendi. çıktının önüne filtreler kondu, belli konulara korkuluklar çekildi. ardından insan geri bildirimiyle pekiştirmeli öğrenme — kısaca rlhf, gerçekten büyük dil modellerinde insan gelişimine en benzer olay bu olabilir — geldi: model cevaplar üretiyor, insanlar bu cevapları karşılaştırıp hangisinin daha iyi olduğunu söylüyor, model bu tercihlerden öğreniyor. her cevabın arkasında, bir şekilde, bu olur, bu olmaz diyen bir insan eli var. tıpkı her ağlamada uzanan bir kucak gibi.

2022’de anthropic’in yayımladığı constitutional ai çalışması bir sonraki basamağı denedi. burada model, yazılı bir ilkeler setine — bir anayasaya — bakarak kendi cevabını eleştiriyor, nerede yanlış yaptığını buluyor ve cevabını kendisi düzeltiyor. insan geri bildiriminin bir kısmının yerini, modelin kendine verdiği geri bildirim alıyor. kopp’un diliyle söylersek: dış düzenlemeden öz-düzenlemeye doğru atılmış bir adım.

ama işin en ilginç kısmı bence şu: o anayasayı yine insanlar yazıyor. modelin kendi kendini düzeltmesi, aslında dışarıdan verilmiş ilkelerin içeri taşınmış hali. ve kopp’un modeli bebekler için de tam olarak bunu söylüyor — kendi kendine sakinleşmek, yıllarca birlikte sakinleşmenin içe sinmiş biçimi. idil bir gün kendi sesini bulduğunda, o seste bizim adımlarımızın ritmi de olacak.

bir yapay zeka ekibinde bu geçişin iki klasik hatası var. birincisi, korkulukları sonsuza kadar üst üste yığmak — her yeni hata için bir filtre daha, bir kural daha. sistem dışarıdan bakınca sakin görünür ama içeride bir şey öğrenilmemiştir; filtre kalktığı an her şey yeniden başlar. ikincisi tam tersi: model hazır olmadan desteği çekmek, artık kendi başına idare eder demek. ikisi de aynı soruyu atlıyor: düzen içeri taşındı mı, yoksa hâlâ sadece dışarıdan mı tutuluyor?

bu hafta kaç kez kapıdan çıktık, saymadım.. bazen ben çalışıyorum diye merve idil, bazense hep birlikte. idil arabasında, ben adımlarımı sayıyorum, o ağaçlara bakıyor. ağlama birkaç adımda bitiyor ve ben o an kendimi garip bir şekilde işe yaramış hissediyorum — anlamadığım bir sorunu, anlamadığım bir yöntemle çözmüş olmanın tuhaf gururu.

bir gün gelecek, yürüyüşe ihtiyaç duymadan sakinleşecek. yeşil soğanı kendisi tutacak, belki ben odada bile olmayacağım. kopp’un haritasına göre bu iyi bir şey, olması gereken şey. ama o gün kapıdan yine birlikte çıkacak mıyız? belki de artık ona değil, bana iyi geldiği için? kim bilir?

gidiyordu gitmesine de.. sadece yanlış yöne.

önündeki oyuncağa uzandıkça ondan uzaklaşıyordu. kolları itiyor, bedeni geriye kayıyor, bazen yana dönüyor, sonra yeniden deniyordu. hareket vardı, niyet vardı, emek vardı.. yön yoktu. on gün önce adeta yerinde duran bir bebek bırakmıştım, şimdi karşımda hareket eden ama ilerlemeyen bir bebek vardı. ve itiraf edeyim, ilk tepkim gülmek oldu. ikincisi ise o tanıdık soru: bu bir ilerleme mi, yoksa bir çıkmaz mı?

birkaç hafta önce, ilk deniz kıyısında onu emeklemenin eşiğinde gördüğümüzde (#18) mesele keşfin genişliğiydi — sınırsız olanın amaçsız olmadığını konuşmuştuk. bu kez sınır da belli, amaç da. oyuncak orada, idil de onu istiyor. eksik olan başka bir şey: yön.

meğer bu ara durak son derece yaygınmış. bebeklerin kolları bacaklarından önce güçleniyor, itme gücü öndeyken bedeni taşıyacak itki henüz arkada toplanmıyor. sonuç: her güçlü hamle bebeği hedefinden biraz daha uzağa itiyor.

bu durumu en iyi anlatan isim, esther thelen. indiana üniversitesi’nde çalışan bu gelişim psikoloğu, 1980’lerde kabul gören bir yaklaşıma itiraz etti. yenidoğanlardaki adım refleksi birkaç ay içinde kayboluyordu ve bunun sinir sisteminin olgunlaşmasıyla açıklandığı düşünülüyordu. thelen başka bir şey fark etti: bu dönemde bebeklerin bacakları, kas gücüne kıyasla çok hızlı ağırlaşıyordu. bacakları suya daldırılıp hafifletilen bebeklerde adım hareketi geri geliyordu. refleks kaybolmamıştı. beden değişmişti.

thelen’e göre motor gelişim, önceden yazılmış bir programın sırayla açılması değil. beden, kaslar, yerçekimi, zemin ve niyet aynı anda birbirine ayarlanıyor, davranış bu etkileşimin içinden kendiliğinden doğuyor. bebek, bu koşullar altında en kararlı durumlara — thelen’in deyişiyle çekerlere — düşüyor. yani idil’in geri gitmesi bir hata değil. şu anki bedeninin bulabildiği en kolay denge.

bir sistemin en kolay bulduğu dengeyle, asıl varmak istediği yer her zaman aynı değil. dışarıdan bakınca ikisi de hareket gibi görünüyor. aradaki farkı görmek için neyin nereye doğru aktığına bakmak gerekiyor.

bir sinir ağını eğitirken tam olarak bunu izliyoruz. eğitimi, gözü kapalı bir dağcının karanlık bir arazide en alçak noktayı araması gibi düşünebiliriz. gradyan inişi her adımda sadece ayağının altındaki eğime bakar ve o eğim boyunca aşağı iner. arazinin kendisine kayıp yüzeyi diyoruz. hao li ve arkadaşlarının visualizing the loss landscape of neural netsçalışması, bu yüzeylerin ne kadar girintili çıkıntılı olabileceğini ilk kez bu kadar görünür kıldı. uzun yıllar boyunca en büyük korku yerel minimumdu: model küçük bir çukura düşer, etrafındaki her yön yokuş yukarı görünür, ve asıl vadiye hiç ulaşamaz.

ama hikaye burada ilginçleşiyor. yann dauphin ve arkadaşları identifying and attacking the saddle point problem in high-dimensional non-convex optimization makalesinde şunu gösterdi: milyonlarca boyutlu bir yüzeyde takılmanın asıl sebebi çoğu zaman gerçek bir çukur değil, bir eyer noktası. bir yönden bakınca dip, başka bir yönden bakınca zirve. eğim neredeyse sıfır olduğu için model durmuş gibi görünür. oysa çıkış orada, açık duruyor — sadece henüz o yönde bir adım atılmamış. momentum ya da biraz gürültü, çoğu zaman o adımı attırmaya yetiyor.

idil’in şu anki hali bana bir çukurdan çok bir eyer noktasını hatırlatıyor. ileri doğru bir yön var, bacaklar henüz o yöne katılmadı sadece.

bir yazılım geliştirme ya da yapay zeka ekibinde de benzer bir yanılsamayı sık görmek mümkün. sprint’ler kapanıyor, testler koşuyor, yeni model sürümleri çıkıyor, dashboard’da her şey hareket halinde. ama hareketi ölçen metrikler ilerlemeyi ölçmüyor. openai’ın 2016’da paylaştığı meşhur örnekte, bir tekne yarışı oyununda eğitilen ajan yarışı bitirmek yerine aynı küçük koyda dönüp durarak puan toplamayı öğrenmişti. ödül hareketi ödüllendirdiğinde, sistem hareket etmeyi öğreniyor. çıktı üretmekle sonuç üretmek arasındaki o bildik mesafe.

aradaki fark şu sanırım: eyer noktasındaki bir model yanlış yere bakmıyor, sadece doğru yönde henüz yeterince güç toplamamış. ödülü kandıran bir ajan ise yanlış bir sinyale mükemmel biçimde uyum sağlamış. idil’in her geri kayışında gözü hâlâ oyuncakta. sinyal hâlâ ileriyi gösteriyor.

bütün bunları düşünürken asıl beni rahatsız eden şeyin idil’in yönü olmadığını fark ettim. benim göremediklerimdi.. on gün boyunca elimde sadece iki anlık görüntü vardı: gitmeden önceki idil ve döndüğümdeki idil. aradaki eğitim eğrisini görmedim. hangi gün ilk kez dizlerinin üzerine kalktığını, kaç kez yüzüstü düştüğünü, geriye ilk kaydığında şaşırıp şaşırmadığını bilmiyorum. bir checkpoint’e bakıyorum ve ondan bütün bir süreci okumaya çalışıyorum.

yine uzakta geçen bir haftada yazdığım dokuzuncu yazıda (#9) bir şeylerin çalışmasının, bir şeyleri açıklamak anlamına gelmediğini söylemiştim; bir sistemi gözlemleyebilirsin ama içini okuyamazsın. bu kez eksik olan içerisi değil, zaman. tek bir kareye bakıp onun bir çukur mu yoksa bir eyer noktası mı olduğunu pat diye söyleyemezsin. bunun için yüzeyin üzerinde yürüyen biri olman gerekir.

şimdi yerde, ondan birkaç adım ötede oturuyorum. oyuncağı biraz daha yakına koymak geliyor içimden, ya da elimi ayaklarının arkasına koyup ona itecek bir yer vermek. belki yarın, belki gelecek hafta, bacakları o yöne katılacak ve idil bir anda ileri gidecek. o anı görmeyi çok istiyorum.

evden uzak geçen on günün sonunda, kendimi odysseus gibi hissettim.. yolculuğun ardından 3-5 yıl yaşlanmış gibiyim. o yüzden kendime zor sorular sormadan, bu haftayı böyle kapatıyorum.

ilk haftalarda kolunu sallaması bir tesadüftü. kol havada bir şeye çarpıyordu, ses çıkıyordu, o da ürküyordu — sebep dışarıdaydı, o sadece içine düşmüştü. şimdi sıra tersine döndü: önce ses geliyor aklına, sonra kol hareket ediyor.

çünkü o duraklama bir tekrar değil, bir doğrulama. bir daha vurması, sesin hala orada olup olmadığını sınaması demek. ve bu, sandığımızdan çok daha büyük bir zihinsel adım sanırım.

jean piaget, kendi üç çocuğunu yıllarca defterlere not ederek gelişim psikolojisinin haritasını çıkaran isviçreli psikolog amcamız, bu evreye ikincil döngüsel tepkiler diyor. kabaca dört-sekiz ay arası. bundan önceki dönemde bebeğin döngüleri kendi bedeniyle sınırlı: parmağını emiyor, elini gözünün önünde tutup izliyor, kendi sesini dinliyor. ikincil aşamada ilgi dışarı kayıyor — artık merak konusu beden değil, bedenin dünyada bıraktığı iz.

bunun ölçülebilir bir hali de var. carolyn rovee-collier, bebek hafızası üzerine çalışan amerikalı gelişim psikoloğu, çok sade bir düzenek kurmuştu: beşiğin üzerine bir oyuncak asılıyor, bebeğin ayak bileğine bir kurdele bağlanıyor, kurdelenin öbür ucu oyuncağa gidiyor. bebek tekmeledikçe oyuncak hareket ediyor. sonuç, dakikalar içinde tekme sıklığının üç-dört katına çıkması — ve daha çarpıcısı, günler sonra aynı oyuncak gösterildiğinde bebeğin tekmelemeye yeniden başlaması. yani sadece öğrenmiyor; öğrendiği ilişkiyi saklıyor.

burada keşfedilen şey oyuncağın hareket etmesi değil. keşfettiği şey şu: onu ben hareket ettiriyorum.

iki şeyin birlikte gerçekleştiğini fark etmek ile birinin diğerine sebep olduğunu bilmek, aynı cinsten bilgiler değil. birincisi izleyerek öğreniliyor, ikincisi karışarak. ve karışmayan hiçbir sistem — ne kadar veri görürse görsün — ikinci bilgiye kendi başına ulaşamıyor. dünyaya dokunmadan öğrenilebilecek şeylerin de bir sınırı var.

judea pearl, önce olasılıksal yapay zekanın temellerini kuran, sonra kendi kurduğu şeyin sınırını tarif etmeye girişen israilli-amerikalı bilgisayar bilimci, bu tavanı üç basamaklı bir merdivenle anlatıyor. nedensellik merdiveni: en altta görmek — iki şeyin birlikte olduğunu fark etmek. ortada yapmak — dünyaya müdahale edip ne değiştiğine bakmak; pearl bunu ayrı bir işlemle, do-operatörüyle yazıyor, çünkü “yağmur yağdığında çim ıslak” ile “çimi ben ıslatırsam yağmur yağar mı” matematiksel olarak farklı sorular. en üstte hayal etmek — olmamış bir şeyin olsaydı ne olacağını sormak.

bugünün büyük modelleri birinci basamakta olağanüstü. dünyanın yazılı birikiminden devasa bir örüntü haritası çıkarıyorlar. ama o harita, tamamen gözlem verisinden kuruluyor — kimsenin müdahale etmediği, sadece kaydedildiği bir dünyadan. model “şunu yaparsan şu olur” cümlesini kurabiliyor, çünkü o cümleyi daha önce görmüş. denediği için değil.

bernhard schölkopf ve tayfasının nedensel temsil öğrenmesi çağrısı tam olarak bu konuyu tartışıyor: asıl mesele modelin daha çok veri görmesi değil, ham gözlemin içinden hangi değişkenin gerçekten bir kolu, hangisinin sadece bir yansıma olduğunu ayırabilmesi.

bu, sahada göründüğünden çok daha sık karşımıza çıkan bir hata. bir müşteri kaybı modeli düşünelim: kampanya alan müşterilerin ayrılma oranı düşük çıkıyor, model de bunu öğreniyor — kampanya, ayrılmamayla birlikte anılıyor. ama kampanya en baştan zaten ayrılma ihtimali düşük müşterilere verilmişse, model doğru örüntüyü öğrenmiş ama yanlış hikâyeyi kurmuş olur. kampanyayı herkese açtığınız gün etkinin buharlaştığını görürsünüz. endüstrinin bu tuzağa karşı elindeki en dürüst araç, kulağa ne kadar sıradan gelse de, a/b testi: müdahale etmeden, sadece bakarak öğrenilemeyeceğini kabul etmenin kurumsal hali.

idil’in oyuncağa vurması da tam olarak bu. gözlem verisi toplamıyor; müdahale ediyor. elini savurmak bir bakış değil, bir eylem — dünyayı değiştirip sonucu ölçüyor, sonra tekrarlayıp ölçümü doğruluyor. beş aylık bir bebek, trilyon parametreli sistemlerin zorlandığı basamakta, hem de günde yüzlerce kez.

serinin dördüncü yazısında, idil’in kavrama refleksini konuşurken tutunmak ≠ anlamak demiştim. dokuzuncu yazıda, kara kutu problemini konuşurken çalışmak ≠ açıklamak. bu hafta aynı ailenin üçüncü cümlesi geldi: birlikte olmak, sebep olmak değil.

ama itiraf edeyim, yazının bende soru işaretleri uyandıran yeri burası değil.

idil’in ağlamasına bakıp bir şeye bağlıyorum: sıcak olmuştur, acıkmıştır, uykusu gelmiştir. bunu her gün yapıyorum ve çoğu zaman tutuyor. yani ben bu evde çok iyi bir birinci basamak modeliyim — örüntüyü biliyorum, tahminim güçlü. ama kaç kere durup “acaba gerçekten bu mu” diye ayırt etmeye çalıştım, emin değilim. beş aylık kızım dünyaya dokunarak öğrenirken, ben onu izleyerek öğreniyorum.

belki de ebeveynlik zamanla yukarıdan aşağı inen bir merdiven. başta her şeye müdahale ediyoruz, çünkü hiçbir şey bilmiyoruz; her deneme bir deney. sonra örüntü birikiyor, tahminler tutmaya başlıyor, ve müdahale etmeyi bırakıp tahmin etmeye geçiyoruz. bir noktada çocuğumuzu gerçekten tanıdığımızı sanıyoruz — oysa sadece iyi bir korelasyon tablosu biriktirmişiz.

idil bugün benim yıllardır unuttuğum şeyi yapıyor: bir şeye vurup ne olduğuna bakıyor. peki ben en son ne zaman, onun hakkında bildiğimi sandığım bir şeyi gerçekten sınadım?

yine de idil hanımla aldığımız ortak karar neticesinde, her 10 yazıda bir şöyle retrospektif tadında bir şeyler yazalım dedik. tabi ki içeriğinde yine yapay zeka bağlamında kalacağız. ancak içimden geçenleri de söylemeden edemeyeceğim. kimseleri huzursuz etmemek adına, günlük yaşantımda ya da profesyonel ortamımda bunları dile getirmesem de.. söylenmesi gerekenler söylenmeli sanki.

neyse.. geçen akşam merve’yle otururken fark ettim: ikimiz de aynı cümleyi farklı zamanlarda kurmuşuz — “bugün hem şunu hem bunu yetiştirmem gerekiyordu.” o, ev işleri, annelik, doktora tezi ve idil arasında; ben ise iş ile idil arasında. eskiden bu cümle böyle kurulmazdı sanırım. anne evdeydi, baba işteydi, sınırlar kültürel kodlar sebebiyle baya bi netti. sonra pandemi oldu ve birileri evden çalışabilir hale geldi.. denklem biraz değişti. şimdi ikimiz de aynı evdeyiz, ikimiz de aynı anda birden fazla şey oluyoruz.

bu ayrımın tarihi de aslında baya geçmişe gidiyor. gelişim psikoloğu michael lamb, 1970’lerden itibaren babalığın çocuk gelişimindeki yerini incelerken şunu gözlemledi: geleneksel model babayı “instrumental” (işlevsel, dışa dönük, eve ekmek getiren), anneyi “expressive” (duygusal, içe dönük, bakımı üstlenen) role hapsediyordu. lamb da “sene 1970 olmuş, bu ne cehalet kardeşim?” diyerek bu ayrımın doğal değil, tarihsel ve ekonomik koşulların ürünü olduğunu gösterdi — ve babanın çocuk gelişimine katılımının “yeterince zaman ayırma” ile ölçülebilecek kadar basit olmadığını.

lamb bu katılımı üç boyuta ayırıyor: engagement (doğrudan etkileşim — oynamak, bakmak, beslemek), accessibility (erişilebilir olmak, aynı mekânda bulunmak, çağrıldığında orada olmak) ve responsibility (planlamak, aklında tutmak, organize etmek — aşı takvimini hatırlamak, biberon bitmeden fark etmek). yani benim koşullarımda; evde fiziksel olarak bulunmak sadece ikinci boyutu, accessibility’yi otomatik sağlıyor. birinci ve üçüncü boyut, orada olmakla kendiliğinden gelmiyor.

ben tam olarak üçüncü boyutta zorlanıyorum sanırım. idil’in hangi hafta hangi gelişim aşamasına geldiğini, kaç bezimizin kaldığını, aşı takviminin ne zaman olduğunu genelde merve hatırlıyor — ben evdeyim, erişilebilirim ama aklımda tutmuyorum. çünkü zihnim hala eski bir refleksle çalışıyor: “iş” aklımda tutulması gereken bir şey, “ev” ise orada bulunduğum sürece kendiliğinden hallolan bir şey. bu refleks, pandemi öncesinden — ofise gidip gelen bir hayattan miras kalmış. evden çalışmaya geçiş beni fiziksel olarak eve taşıdı, ama zihinsel işletim sistemimi güncellemedi.

merve’nin zorluğu ise tam tersi bir yerde. onun için accessibility ve responsibility hiç ayrışmıyor — ikisi aynı anda, sürekli üst üste biniyor. makale okurken idil ağlıyor, idil’i sakinleştirirken tezin teslim tarihi aklından çıkmıyor. iki rol arasında sırayla geçiş yapmıyor — istese de yapamıyor, ikisini aynı anda taşıyor. bu “iki işi birden yapmak” değil, çünkü ikisi de tam zamanlı, ikisi de ertelenmeyi kabul etmiyor. benim sınırım fiziksel olarak kalktı ama zihinsel olarak hâlâ ayrı iki kutuda yaşıyorum; onunkiyse hiç kutulara ayrılmadan, tek bir sürekli akış hâline geldi.

bunu düşününce fark ettim ki asıl mesele sınırın kalkması değil, kalktığında kimin hangi boyutu üstlendiği. evde bulunmak neredeyse bedavadan bana kazanç yazıyor ama bir şeyleri aklında tutmayı, sorumluluğu gerçekten devralmayı öğrenmek, yıllarca kurulmuş refleksleri sökmeyi gerektiriyor. bu, sadece ev içi roller için değil, geçmişte net çizgilerle ayrılmış her ikili için geçerli görünüyor.

tanıdık bir ikili daha var aklımda: yazılımcı ile veri bilimci/ai mühendisi. onlar da uzun süre ayrı mesleklerdi — ayrı müfredatlar, ayrı takımlar, ayrı iş ilanları. şimdi o çizgi de kalkıyor. ama nasıl kalktığına yakından bakınca, evdeki asimetrinin bir başka versiyonunu görüyorum.

yapay zeka destekli ide’ler sayesinde bir yazılımcı bugün eskisinden çok daha hızlı kod üretebiliyor. otomatik tamamlama, kod önerisi, hatta bütün fonksiyonların taslağı saniyeler içinde geliyor. ama daha fazla kod üretmek, daha anlamlı bir şey üretmek anlamına gelmiyor — üretkenlik ile anlam burada ayrışıyor, tıpkı “daha uzun bakmanın” “daha çok anlamak” olmaması gibi (#9’da bahsettiğim o preferential looking tuzağı).

asıl çarpıcı olan, bu sınır çözülmesinin tek yönlü olması. bir ai/ml mühendisi, ortalama seviyede bir modelle (örneğin claude sonnet) bugün baştan sona bir mobil uygulama üretebiliyor — kod yazmak, onun için artık öğrenilmesi gereken yeni bir beceri değil, mevcut bilgisinin üzerine kolayca binen bir araç. ama bir yazılımcı, elinde en üst düzey bir model olsa bile (örneğin claude fable) iyi bir churn prediction modeli eğitemiyor. çünkü kod üretmek modelin gücüne yaslanabiliyor; veriyi anlamak, doğru soruyu sormak, hangi metriğin yanıltıcı olduğunu bilmek ise deneyime yaslanıyor — ve deneyim, model boyutuyla satın alınamıyor.

bu asimetri, sadece “kim ne üretebiliyor” sorusunda değil, “ne kadar iyi ürettiği” sorusunda da kendini gösteriyor. backendciler bugün ai desteğiyle frontende, mobile, veri görselleştirmeye rahatça girebildiklerini düşünüyor. ama ortaya çıkan dashboardlar, deneyimli bir veri analistinin ya da bir frontend geliştiricisinin ürettiği kadar sade, okunabilir olmuyor genelde. kullanılan modele bir tane skill dosyası vererek çözülebilecek bir şey değil gibi sanki bu.. çünkü ai bize ui’da — arayüzün görünen yüzeyinde — yardımcı oluyor, ama işin bir de ux boyutu var: düne kadar onlarca kullanıcı hikayesinin, deneme-yanılmanın, gerçek kullanıcı geri bildiriminin birikiminden yavaş yavaş şekillenen arayüzler, bugün bu birikimi bir kenara bırakıp sıfırdan, birbirine şaşırtıcı derecede benzeyen kalıplarla üretiliyor.

kullanılabilirlik alanının duayeni, nielsen norman group’un kurucusu jakob nielsen, “AI: First New UI Paradigm in 60 Years” yazısından bu yana benzer bir noktaya dikkat çekiyor: yapay zekanın asıl tasarım sorunu teknolojik değil, örgütsel — üretim hızlandıkça, durup gerçek kullanıcıyı gözlemleme disiplini kayboluyor.

bu da ortalıkta bir kaos havası yaratıyor: “tasarımcılık bitti”, “frontendcilik bitti” gibi cümleler dolaşıyor. oysa yapay zekanın öncüsü kabul edilen isimlerin akıllarından geçen bu değil. andrew ng, mayıs 2026’da paylaştığı bir değerlendirmede kodlama ajanlarının en çok hızlandırdığı alanın frontend olduğunu, bunu backendin izlediğini söylüyor — ama bunu “artık herkes frontend yapabilir, frontendciye gerek kalmadı” diye değil, backendcilerin önündeki teknik kilitlerin, darboğazların kalkması olarak çerçeveliyor. andrej karpathy de benzer bir temkinle yaklaşıyor: ai destekli kodlamayı; üzerinde sıkı bir tasma tutulması gereken, iyi koda dair neredeyse hiç zevki olmayan, aşırı özgüvenli bir stajyere benzetiyor. yani mesele kilitlerin kalkması değil, kalktıktan sonra kimin hâlâ deneyimle, birikimle, zevkle karar verdiği.

burada dikkatimi çeken şey, sınırların erimesinin eşitlikçi bir şey olmadığı. evde de, teknolojide de sınır kalkıyor ama kalkan sınırın yükü herkese aynı dağılmıyor. merve’nin üzerine iki rol aynı anda biniyor; benim üzerimdeki fiziksel sınır kalkıyor ama zihinsel dağılım aynı hızda değişmiyor. yazılım dünyasında da yazılımcı veri biliminin alanına kolayca giremiyorken, veri bilimci yazılımın alanına neredeyse sürtünmesiz giriyor.

belki de bunu daha net söylemek gerek: sınırın kalkması, o sınırın boşluğunun iki tarafça eşit doldurulacağı anlamına gelmiyor. paylaşmak, kalkan sınırın boşluğunu ikisinin de doldurması demek — ve bu, sınırın kalkmasından çok daha yavaş, çok daha kasıtlı bir süreç. karşılıklı olarak birikimi, tecrübeyi, profesyonelliği anlamak ve buna gerçekten saygı duymak demek.

20 hafta önce idil’in hayatımıza girmesiyle başlayan bu yolculukta, en çok bunu öğreniyorum sanırım: bir şeyin mümkün hale gelmesi, o şeyin adil hale gelmesiyle aynı şey değil. ne evde, ne de kodda.. elimden geldiğince iyi bir baba olmaya çalışsam da, 20 haftada bu bağlamda kendime müthiş skorlar vermediğim bir gerçek. iş hayatında ise biraz daha anne gibiyim.. o sebeple ne olup bittiğini görüyor, değişmesi için mücadele etmeye kararlılıkla devam ediyorum.

o zaman gelelim o malum kapanış sorusuna.. sınırlar eridiğinde geriye “kim daha çok şey yapabiliyor” mu kalıyor, yoksa “kim neyi gerçekten taşıyor” mu? tabi bir de mana arayışı var.. sen her şeyi yapabiliyorsun diye yapman gerekiyor mu canım kardeşim?

evet.. onlar. süt dişleri! idil dünyaya gelmeden önce de orada olan, aylardır bugünlerin gelmesin bekleyen süt dişler.

diş tomurcukları anne karnında, gebeliğin daha ilk haftalarında oluşmaya başlıyor. mineralleşme doğumdan aylar önce ilerliyor. yani idil doğduğunda ağzında yirmi tane dişin taslağı çoktan hazırdı — sadece görünmüyorlardı. bu hafta olan şey bir başlangıç değil; aylardır süren sessiz bir işin, bir eşiği geçmesi.

bu dişler sayesinde ve oturma gibi birkaç özelliğin eklenmesiyle idil artık ek gıdaya falan geçecek. dünya nimetlerinden faydalanmaya başlayacak. biz artık çok anlamasak da bebekler için oldukça önemli bir kilometre taşı. ama beni asıl düşündüren bu değil. beni düşündüren şu — bu dişler, dökülmek üzere yapılmış.

yirmi süt dişinin tamamı gidecek. hiçbiri kalıcı değil. ve daha da ilginci, gidiş biçimleri de planlı: alttan yükselen kalıcı diş, süt dişinin kökünü aşağıdan eritiyor. süt dişi dışarıdan bir darbeyle düşmüyor, kendi halefi tarafından içeriden sökülüyor. bir gün sallanmaya başlıyor, çünkü altındaki yapı onu çoktan çözmeye başlamış.

peki madem gidecekler, neden varlar? — çocuk diş hekimliğinde bunun çok net bir cevabı var: süt dişleri, kalıcı dişler için yer tutuyor. çiğnemeye, konuşmaya, çene kemiğinin doğru gelişmesine katkıları elbette var. ama en kritik işlevlerinden biri, altlarında bekleyen dişin çıkacağı boşluğu korumak. bir süt dişi vaktinden önce kaybedilirse komşu dişler o boşluğa doğru kayıyor, ve yıllar sonra çıkacak olan kalıcı diş kendine yer bulamıyor — çapraşıklık, gömülü kalma, yanlış konumda sürme. o kadar ki, erken kaybedilen bir süt dişinin yerine hekimler “yer tutucu” denen küçük bir aparat yerleştiriyor. sırf boşluğu boş tutsun diye.

yani süt dişinin görevlerinden biri, kendisinin yerine geçecek şeye yer ayırmak. geçici olması, gereksiz olduğu anlamına gelmiyor — tam tersine, geçiciliği işin bir parçası. hatta en önemli parçası.

bir ayrıntı daha var, ve bu ayrıntı bebeğin geri kalanıyla tuhaf bir tezat oluşturuyor. idil’in bedeninde şu an neredeyse her şey esnek: kemikleri şekil alıyor, sinir bağlantıları kuruluyor ve budanıyor, kasları yeniden düzenleniyor. bunlardan her hafta bahsediyoruz.. ama diş minesi öyle değil. mine bir kez oluştuktan sonra onu üreten hücreler ortadan kalkıyor, ve mine kendini bir daha asla onaramıyor. bedenin en sert dokusu, aynı zamanda en az affeden dokusu. her şeyin değişebildiği bir bedende, değişemeyen tek bir parça.

yapay zekada bu fikrin çok güzel karşılıkları var, ve itiraf etmeliyim ki bunları yıllarca sırf “işe yaradığı için” kullandım; ne anlama geldiklerini düşünmedim.

en net örneği bilgi damıtma (knowledge distillation). geoffrey hinton, oriol vinyals ve jeff dean’in 2015’te yayımladığı distilling the knowledge in a neural network çalışmasında anlatılan fikir şu: önce büyük, ağır, hantal bir model eğitiyorsun. sonra bu büyük modeli bir öğretmen olarak kullanıp, çok daha küçük bir öğrenciyi onun çıktılarını taklit etmeye yönlendiriyorsun. öğrenci eğitildikten sonra öğretmen modele artık ihtiyaç kalmıyor — sisteme koyulan, canlıya alınan, çalıştırılan şey küçük modeldir. öğretmen modeller işleri bittiğinde kenara fırlatılır.

ama öğretmen olmasaydı, öğrenci o noktaya gelemezdi. büyük modelin bütün varlık sebebi, kendisi olmadan var olamayacak daha küçük bir şeyi mümkün kılmaktı.

benzer bir şey mimarilerin içinde de var. 2014’te googlenet ile birlikte yaygınlaşan yardımcı sınıflandırıcılar (auxiliary classifiers), derin bir ağın ortasına eklenen ek çıkış kollarıydı: eğitim sırasında gradyanın ağın derinliklerine ulaşmasına yardım ediyorlardı. eğitim bittiğinde bu kollar tamamen sökülüyordu. nihai modelde izleri yoktu. ama o kollar olmasaydı, model o haline hiç gelemeyecekti.

2015 yılında ekip olarak yaptığımız hiyerarşik googlenet çalışmasında, bu kolları alıp bir hiyerarşiye emanet etmiştik — ontolojilerin babası, wordnet’e. sonuçlar da enteresan bir iyileşme gerçekleşirken, diğer taraftan da bu yardımcı sınıflandırıcıları da kalıcı hale getirmeyi ummuştuk. fikir yenilikçi olmasına yenilikçiydi ancak başarım açısından bakınca dramatik bir etki yaratmamıştı. geçici olan geçici kalmalıydı sanki..

öğrenme oranı oynamaları, müfredat aşamaları, eğitim sırasında kullanılıp sonra kapatılan düzenlileştirme terimleri.. hepsi aynı aileden. bir sistemi kurarken, o sistemin nihai halinde bulunmayacak şeylere ihtiyaç duyuyoruz. iskele, binanın parçası değil — ama binanın var olma koşulu.

burada dikkatli olmak lazım, çünkü kolaylıkla bir yanlış anlamaya alan açabiliriz — geçici olan her şeyin kıymetli olduğunu söylemek fazla rahatlatıcı olurdu. öyle değil. eğitim sırasında eklediğimiz her yardımcı yapı işe yaramıyor; çoğu sadece maliyet. bir süt dişi de her zaman düzgün iş görmüyor, çürüyor, erken düşüyor, arkasındakini zorda bırakıyor.

fark, yapının kendisinden sonrasına ne bıraktığında. öğretmen model, öğrencinin ağırlıklarında iz bırakıyor. süt dişi, çene kemiğinde bir boşluk bırakıyor. ikisi de ortadan kalkıyor ama etkileri kalıyor. iskele söküldüğünde geriye bina kalıyorsa, iskele boşuna kurulmamıştır. sökülünce geriye bir şey kalmıyorsa, o zaten iskele değildi.

bir şeyin ne kadar sürdüğü ile ne kadar önemli olduğu arasında sandığımız kadar sıkı bir bağ yok. bu yazının derdi biraz da bu aslında — her ne kadar dişlere de değinsek, hiyerarşik googlenet’e de.

birkaç haftaya idil’in ağzından çıkacak olan diş, birkaç yıl sonra bir gece sallanacak. belki bir elmayı ısırırken, belki de uykusundayken düşecek. muhtemelen bir kutuya koyacağız, ya da yastığın altına — diş perileri gelip alsın diye.. ve o an gelene kadar bu diş, kendisinden sonra gelecek olana yer tutmuş olacak.

tuhaf bir şey bu — daha çıkmadan sonunu biliyor olmak. ilk dişini bekliyorum, ve aynı anda onun bir gün düşeceğini de biliyorum. sanki bir şeyin başlangıcını ve sonunu aynı anda görüyorum.

işin ister istemez bir de dramatik bir boyutu var — hüğğ. ben de idil’in hayatında bazı şeyler için bir yer tutucuyum belli ki. onun bugünkü dünyasında oldukça büyük bir yer kaplıyorum. mesafeleri benimle ölçüyor, sesleri benim sesimle karşılaştırıyor, korktuğunda bana bakıyor. ama bu kalıcı bir konum değil. bir gün başkaları gelecek — arkadaşlar, öğretmenler, sevdiği insanlar, kendi çocukları. ve benim şu an doldurduğum alanın bir kısmı onlara geçecek — acı ama gerçek.

öğretmen model, öğrenciyi eğitir ve kenara çekilir. yardımcı kol, gradyanı taşır ve sökülür. süt dişi, boşluğu korur ve düşer. hiçbiri başarısızlık değil — hepsi tasarımın parçası.

peki, herhangi bir baba bunu bilerek durabilir mi orada? bir gün bırakacağım bir yeri, şimdi tam olarak doldurmak — bu ikisi aynı anda mümkün mü?

önce saplı ada’da sonra da dilek yarımadası milli parkında, ayaklarını ilk kez denize soktuğumuz an idil’in yüzünde ne sevinçten ne korkudan tam olarak ayırt edemediğim bir ifade vardı. dalga geldi, ayak bileklerini sardı, geri çekildi — ve o, kollarını havaya kaldırıp bana baktı. isyan eder gibi değil de anlamaya çalışır gibiydi.. sonra bir dalga daha geldi, bu sefer gülümsedi. üçüncü dalgada artık bekliyordu.

o ana kadar idil’in bildiği tüm zeminler sınırlıydı. küvetin kenarları vardı, beşiğinin çerçevesi vardı, halının bittiği yerde parke başlıyordu. her yüzey, nereye kadar gidebileceğini önceden belli ediyordu. deniz ise ilk kez ona öyle bir şey sundu ki, sınırı yoktu — ya da en azından, göz alabildiğine yoktu. ufuk vardı, duvar yoktu.

bu ikisi arasındaki geçiş — soru ile davet arasındaki o kısa an — belki de bütün yazının özeti. çünkü aynı uyaran, aynı soğuk su, aynı ıslaklık hissi, bir anda tehditten oyuna dönüştü. hiçbir şey değişmedi ortamda; değişen tek şey sanırım idil hanım’ın olana bitene verdiği anlamdı.

gelişim psikolojisinde bebek motor öğrenmesi üzerine en ilgi çekici isimlerden biri karen adolph. bu blog postları hazırlarken, en çok başvurduğum kaynaklardan birisi kendisi.. new york üniversitesi’nde çalışan adolph, yıllarca bebekleri farklı zeminlerde — eğimli rampalarda, yumuşak minderlerde, kaygan yüzeylerde — sürünürken, emeklerken, yürürken izledi. bulduğu şey ilk bakışta sezgiye aykırı: bebekler tek tip, kontrollü bir zeminde pratik yaptıkça değil, çeşitli ve öngörülemez zeminlerle karşılaştıkça daha hızlı ve daha genelleşebilir motor beceriler geliştiriyor. düz bir halıda mükemmelleşen bir bebek, ilk eğimle karşılaştığında sıfırdan başlıyormuş gibi davranabiliyor. ama karışık zeminlerde büyüyen bebek, yeni bir yüzeyle karşılaştığında daha az şaşırıyor.

bu bulgu bana idil’i düşündürdü. birkaç haftadır dönmeyi öğrendi — sırtından karnına, karnından sırtına. şimdi emeklemenin eşiğinde duruyor, ama henüz tam olarak oraya geçmiş değil. ve düşünüyorum: belki de kumun dayanıksız zemini, dalganın ayak bileğini iten direnci, ıslak-kuru geçişlerinin sürekli değişen sürtünmesi — bunların hiçbiri “boşa harcanan” bir deneyim değil. tam tersine, tam da emeklemeye geçişi tetikleyecek türden bir zorluk çeşitliliği sunuyor olabilirler. düz bir zeminde asla karşılaşmayacağı bir denge problemiyle karşı karşıya kalıyor, ve bedeni buna bir çözüm arıyor.

idil hanım’ın bu haftaki deneyimi de aslında yapay zeka araştırmalarından tanıdık bir hikaye. uzun süre pekiştirmeli öğrenme (reinforcement learning) ajanları sabit, kontrollü ortamlarda eğitildi — atari oyunları, belirli bir labirent, sabit kurallı bir simülasyon. bu ajanlar kendi ortamlarında olağanüstü başarılı oldular, ama ortam biraz değiştiğinde — bir duvar birkaç piksel kaydığında bile — performansları çöktü. çünkü öğrendikleri şey genel bir beceri değil, o spesifik ortamın ezberiydi.

bunun üzerine bir soru doğdu: ajanı sabit bir hedefe değil, sürekli değişen, kendi zorluğunu üreten ortamlara sokarsak ne olur? poet (paired open-ended trailblazer), uber ai’de wang ve arkadaşlarının 2019’da önerdiği bir yaklaşım, tam olarak bunu yaptı: ajanlarla ortamları birlikte, eş zamanlı olarak evrimleştirdi — ortam zorlaştıkça ajan gelişiyor, ajan geliştikçe ortam daha da zorlaşıyor. hiçbir sabit “hedef” yoktu, sadece sürekli artan bir çeşitlilik.

deepmind’ın 2021’de tanıttığı xland projesi de benzer bir mantıkla ilerledi: ajanları milyonlarca farklı, prosedürel olarak üretilmiş oyun ve ortamda “serbest oyun”a bıraktılar. sonuç, hiçbirinde özel olarak eğitilmemiş ajanların, daha önce hiç görmedikleri görevlerde bile makul bir yetkinlik gösterebilmesiydi. sınırsız çeşitlilik, garip bir şekilde, en genelleşebilir öğrenmeyi üretti.

bunun tekniğe dökülmüş hali bazen domain randomization, bazen curriculum learning olarak adlandırılıyor — ama özünde hepsi aynı sezgiyi paylaşıyor: zorluğun kendisi, bir öğretmen rolü üstlenebilir. tek bir doğru cevap yerine, sürekli değişen bir soru seti, daha dayanıklı bir öğrenci yaratıyor.

burada durup bir ayrım yapmak gerekiyor, çünkü kolayca karıştırılabilir. sınırsız bir ortama bırakılmak ile amaçsızca sürüklenmek aynı şey değil. idil’in dalgalar arasında sendelemesi dışarıdan bakınca rastgele görünebilir — düşüyor, dengesini kaybediyor, tekrar deniyor. ama bu rastgelelik israf değil; her düşüş, bedeninin çözmeye çalıştığı bir denklemin parçası. poet’teki ajanlar da başlangıçta amaçsızca dolaşıyormuş gibi görünür, ta ki zorlukla ajanın gelişimi arasındaki eşleşme ortaya çıkana kadar.

serinin beşinci yazısında wonder weeks’ten bahsetmiştim — gelişimsel sıçramaların, bazen huzursuzlukla, bazen de yeni bir dünyanın aniden algılanmasıyla geldiğini. deniz de böyle bir sıçrama anı olabilir: yeni bir duyusal ve motor dünyanın aniden, tüm genişliğiyle açılması. ama on beşinci yazıda ele aldığım gerilim — tanımak ≠ tehdit görmek — burada tersine dönüyor. orada yenilik bir tehdit sinyali olabiliyordu, bilinmeyen yüz karşısında ağlama refleksi devreye giriyordu. burada ise yenilik bir davet gibi karşılanıyor; aynı “bilinmeyenle karşılaşma” durumu, bambaşka bir tepkiyle sonuçlanabiliyor. belki de fark, bilinmeyenin tehlike mi yoksa oyun mu olarak çerçevelendiğinde yatıyor — ve bu çerçevenin nasıl kurulduğu, hem bebekler hem de ajanlar için hâlâ tam olarak çözülmüş bir soru değil.

sınırsız ≠ amaçsız, ve rastgelelik ≠ israf. bu iki önerme birbirine bağlı: eğer bir sistem — biyolojik ya da yapay — sürekli değişen, öngörülemez bir ortamda “amaçsızca” dolaşıyor gibi görünüyorsa, belki de yaptığı şey tam olarak öğrenmenin ta kendisi. sadece bizim gözlemleyebildiğimiz zaman ölçeğinde bir amaç göremiyoruz.

bu da beni şuna götürüyor: bir ebeveyn olarak en çok zorlandığım şeylerden biri, “amaçsız” görünen anlara müdahale etmemek. idil kumda sendelerken içgüdüsel olarak elimi uzatmak istiyorum — düşmesin, zorlanmasın diye. ama poet’in ya da xland’in öğrettiği ders, tam da bu müdahalenin bazen öğrenmeyi kısalttığı. zorluk, çok erken çözüldüğünde, ders de yarım kalıyor.

eve dönerken idil arabada uyudu — tuzlu saçları, güneşten kızarmış burnu, ve muhtemelen bedeninde işlenmeye devam eden bir günün izleriyle. bilmiyorum bu deneyim onu ne zaman emeklemeye götürecek, ya da götürecek mi. belki bağlantı benim kurduğum kadar doğrudan değil, belki tamamen ilgisiz iki şey bir arada yaşandı sadece. ama poet’in ajanlarında da, xland’in oyun alanlarında da benzer bir belirsizlik var: hangi zorluğun hangi beceriyi tetikleyeceğini önceden bilemiyorsunuz, sadece çeşitliliği sağlıyor ve bekliyorsunuz.

belki de asıl soru şu: bir beceri, ona doğrudan çalışılarak mı ortaya çıkıyor, yoksa hazır olmadığımız zorluklarla karşılaşarak mı? ve eğer ikincisiyse — ne kadar sınır koymalıyız, ne kadar sınırsız bırakmalıyız?

dün sabah, güneş daha doğmadan yola çıktık. idil arka koltukta, bebek koltuğuna sıkıca yerleşmiş halde; ben direksiyondayım, merve de arkada idil ve eşyaların arasında bir yerlerde. hedef 900 kilometre ötede, önümüzde yaklaşık 11 saat var. bu, üçümüzün birlikte çıktığı ilk uzun yolculuk.

itiraf edeyim, bu benim için de bir ilk. 1.5 yıldır araba kullanıyorum ama hiç bu kadar uzun bir yol yapmadım — hep co-pilotluk yaptım. bugün ilk kez pilot koltuğundayım. tuhaf bir sorumluluk hissi var; artık sadece yolu izleyen değil, süreci yöneten benim. belki de bu yüzden yolculuğun her anını biraz daha dikkatli, biraz daha kayıt altına almaya çalışan bir gözle geçiriyorum — sanki pilot olmak, aynı zamanda “hatırlayan” olma sorumluluğunu da bana yüklüyormuş gibi.

ilk saatler beklediğim gibi geçti — motorun sabit uğultusu ve aracın hafif sallantısı idil’i uyuttu. bu, aslında pek çok ebeveynin bildiği bir sır: hareket ve düşük frekanslı titreşim, yeni doğanların sinir sistemini adeta bir beyaz gürültü jeneratörü gibi sakinleştiriyor. ilk iki-üç saat sessizlik içinde geçti. sonra bir mola, bir karın doyurma seansı, bir bez değişimi. yolun ortalarına doğru huzursuzluk arttı — uzun süre aynı pozisyonda kalmanın verdiği sıkıntı, belki de artık tanıdık gelmeyen bir manzaranın verdiği yorgunluk. son saatlerde ise hem idil hem biz, eve yaklaşmanın verdiği tuhaf bir sabırla ilerledik.

akşam eve vardığımızda, geride 11 saatlik bir gün bıraktık. ama şunu düşünmeden edemedim: bu 11 saatin ne kadarı gerçekten kalacak? benim hafızamda kalan, muhtemelen birkaç kesit olacak — ilk molanın hangi benzinlikte olduğu, idil’in bir an gülümsediği, belki bir şarkının araçta çaldığı an. geri kalanı, saatler geçtikçe bulanıklaşacak. idil için ise durum çok daha kesin: bu günden, muhtemelen, hiçbir şey kalmayacak.

bu ihtimal beni gelişim psikolojisinin eski ve hâlâ tam çözülmemiş bir sorusuna götürdü: neden hiçbirimiz bebekliğimizi hatırlamıyoruz? bu fenomene infantile amnesia deniyor — ve uzun süre, bunun sebebinin basitçe “bebeğin hipokampüsünün henüz olgunlaşmamış olması, yani anıyı kaydedecek donanımın eksik olması” olduğu düşünüldü.

ama son yıllarda bu resim değişti. yale üniversitesi’nden nick turk-browne ve ekibinin uyanık bebeklerin beynini fMRI ile görüntüleyen çalışması, yaklaşık 12 aylıktan itibaren bebeklerin hipokampüsünün, daha sonra hatırladıkları görsellere karşı belirgin biçimde aktive olduğunu gösterdi. yani bebekler anıyı gerçekten kodluyor. sorun kayıt değil, geri çağırma. anı bir yerde duruyor, ama ona giden yolu kaybediyoruz.

bir başka açıklama daha var, ve bu bana daha da çarpıcı geldi: bebeklik döneminde hipokampüste yeni nöron üretimi (nörogenez) yetişkinlere kıyasla çok daha yüksek hızda gerçekleşiyor. bu hızlı yenilenme, önceden kurulmuş anı ağlarını sürekli olarak yeniden düzenliyor — sanki bellek mimarisi henüz oturmadan, üzerine sürekli yeni katlar inşa ediliyor. anı orada, ama zeminin kendisi hiç durmuyor.

bu ayrım — kodlamak ile geri çağırabilmek arasındaki fark — bana çok tanıdık geldi. çünkü büyük dil modellerinde de neredeyse birebir aynı problem var.

2023’te stanford ve berkeley’den bir grup araştırmacı, dil modellerinin uzun bir bağlamı (context) nasıl kullandığını inceleyen bir çalışma yayınladı. bulgu şuydu: bir bilgi, verilen metnin başında ya da sonunda yer alıyorsa model onu güvenle buluyor. ama aynı bilgi metnin ortasına düşerse, modelin performansı belirgin biçimde düşüyor — bilgi hâlâ oradadır, model onu “görmüştür”, ama dikkat mekanizması oraya gereken ağırlığı vermiyor. bu fenomene araştırmacılar lost in the middle adını verdi.

araştırmacılar bunun bir parçasını modelin eğitim verisindeki alışkanlığa bağlıyor — talimatlar genelde metnin başında yer aldığı için model, dikkatini oraya yığmayı öğreniyor; sona doğru ise en güncel bilgiye doğal bir öncelik veriyor. arada kalan her şey, bu iki kutbun arasında sıkışıp kayboluyor.

burada da bilgi kayıp değil. context’in içinde, tıpkı bebeğin hipokampüsündeki iz gibi, duruyor. sorun depolama değil, erişim. model “hatırlamıyor” değil — “geri çağıramıyor.”

peki bu durumda uzun bir süreç — ister 11 saatlik bir yolculuk, ister milyonlarca token’lık bir context, ister bir insan ömrünün ilk yılları — nasıl tutarlı kalabiliyor? cevap, her şeyi eşit ağırlıkta hatırlamaktan değil, doğru yerlere sabit noktalar koymaktan geçiyor.

makine öğrenmesinde uzun bir eğitim sürecinde modelin durumu (state) belirli aralıklarla kaydedilir — buna checkpoint deriz. bir checkpoint, sürecin tamamını özetlemeye çalışmaz. sadece o ana kadarki ilerlemeyi güvene alır, öyle ki bir kesinti ya da hata olduğunda süreç sıfırdan değil, o son sabit noktadan devam edebilsin. checkpoint’in gücü, her şeyi tutmasında değil, doğru anları tutup gerisini bırakabilmesinde.

alternatifi düşünmek bile yorucu: her kesintide baştan başlamak, günler süren eğitimi sıfırlamak, aynı yolu tekrar tekrar kat etmek. checkpoint olmadan uzun süreçler kırılgan kalır — küçük bir hata, koca bir ilerlemeyi silebilir. tuhaf biçimde, tam da bu kırılganlığa karşı geliştirilmiş bir çözüm, unutmayı bir kusur olmaktan çıkarıp bir tasarım kararına dönüştürüyor: her şeyi tutmaya çalışmak yerine, sadece devam etmeye yetecek kadarını tutmak.

yolculuğumuzdaki molalar da tam olarak bunu yaptı bence. her mola, günün akışını sıfırlamadı — sadece bir sonraki parçaya sağlam bir noktadan başlamamızı sağladı. belki de idil’in hafızasında hiç yer etmeyecek bu gün, benim ve merve’nin hafızasında birkaç checkpoint olarak kalacak: ilk mola, belli bir şarkı, arka koltuktan gelen belli bir ses. gerisi, tıpkı context’in ortası gibi, sessizce silinecek.

burada asıl ilginç olan şu: idil’in kendi hafıza sistemi henüz bu checkpoint’leri kalıcı kılacak olgunlukta değil. ama bizim hafızamız — fotoğraflar, anlattığımız hikayeler, “sen hatırlamıyorsun idil hanım ama şöyle olmuştu” cümleleri — onun için dışarıdan bir checkpoint mekanizması gibi çalışıyor belki. o günü kendi başına geri çağıramayacak, ama biz onun yerine tutabiliyoruz.

eve vardığımızda idil’i kucağıma aldım, uykulu gözlerle bana baktı. o an hatırlayacağı bir an değildi — ama benim hafızamda, sanırım uzun süre kalacak bir checkpoint oldu. pilot koltuğunda geçirdiğim ilk uzun yolculuğun da, onun ilk uzun yolculuğunun da tek kaydı, şimdilik benim ve merve’nin zihninde.

ve düşünmeden edemedim: bir deneyimin anlamı, onu yaşayanın hatırlamasında mı saklı, yoksa deneyimi birinin — herhangi birinin — tutabilmiş olmasında mı? bir modelin context’inde kaybolan bilgi, o bilgiyi başka bir yerde tutan bir sistem varsa gerçekten “kaybolmuş” sayılır mı? yoksa kayıp, sadece erişimin geçici olarak kesilmesinde mi saklı?

belki idil’in hafızası bir gün bu tür günleri de kodlayıp geri çağırabilecek kadar olgunlaşacak. belki de bu 11 saat, onun için sonsuza dek context’in ortasında, erişilemez bir yerde kalacak — ama benim anlattığım hikayeler aracılığıyla, kendi hafızasıymış gibi ona geri dönecek; ödünç alınmış bir checkpoint, sonradan kendi tarihine eklenmiş. o zaman soru şu hale geliyor: bir anı, hiç senin olmasa bile, sana ait olabilir mi?

bizim idil hanım bu hafta itibariyle yattığı yerde dönmeye başladı. sırtüstü yatırıyorum, iki dakika sonra bakıyorum karnının üstünde. hafta boyunca videoları, fotoğrafları gelmişti ama dün bizzat gözümün önünde oldu — önce başını yana çevirdi, sonra bir bacağını karşıya attı, omzu takıldı, biraz debelendi, sonra bir anda gövdesi kendi ağırlığıyla devrildi ve iş bitti. yüzündeki ifade “başardım” değildi. daha çok “aa, ne oldu şimdi?” gibiydi.

insan haliyle bilmek istiyor — bunu kim öğretti?

kimse öğretmedi. ben öğretmedim, merve öğretmedi, bir video izlemedi, bir alıştırma yaptırmadık. henüz yapay zeka da kullanamıyor :) dahası, geçen hafta yapamıyordu. hatta geçen hafta denediğini bile görmedim. aradan geçen yedi günde kafasında yeni bir bilgi belirmedi — belirseydi bunu bir yerden alması gerekirdi.

ee, o zaman ne değişti?

bu soruyu benden çok daha ciddi biçimde soran birisi var: esther thelen. amerikalı bir gelişim psikoloğu, 1980’lerde herkesin çoktan cevaplanmış saydığı bir konuda ezberleri bozuyor — adım atma refleksi.

yenidoğanı koltuk altlarından tutup ayaklarını bir yüzeye değdirdiğinizde adım atar gibi bacaklarını sırayla kaldırır. bu refleks iki ay civarında kaybolur. ders kitaplarının açıklaması nettir: olgunlaşan korteks alttaki devreyi bastırır. beyin gelişir, refleks susar.

thelen bu açıklamaya inanmıyor ve çok basit bir şey yapıyor. refleksi henüz kaybetmemiş bebeklerin bacaklarına küçük ağırlıklar bağlıyor — refleks kayboluyor. refleksi çoktan kaybetmiş bebekleri belden aşağısı suyun içinde olacak şekilde tutuyor — refleks geri geliyor.

koca kafalı, hafif keltoş bebeklerin beyinlerinde hiçbir şey değişmemiş olsa da davranışlarında garip bir farklılık ortaya çıkıyor.

değişen şey aslında şuymuş — bebekler bu aylarda kas kazandıklarından daha hızlı yağ kazanıyor. bacakları ağırlaşıyor, kaldıramaz hale geliyorlar. refleks bir yere gitmiyor; sadece bizim minnoşlar, “ağır yaşamlar”a dönüşüyorlar. suya sokunca kaldırma kuvveti ağırlıklarını azaltıyor ve “kaybolmuş” beceri geri dönüyor.

thelen buradan çok daha büyük bir şey söylemeye gidiyor — gelişim, beyinde sırayla açılan bir program değil. beden, görev ve çevrenin birlikte oluşturduğu bir sistemin kendiliğinden yerleştiği durumlar var. thelen bunlara çekici diyor. bebek bir çekiciden çıkıp diğerine geçiyor — ama bunu bir karar alarak değil, sistemin parametreleri kaydığı için yapıyor.

dönme de böyle bir geçiş. dördüncü yazıda idil’in parmağıma tutunmasını yazmış, o tutunmanın anlamakla karıştırılmaması gerektiğini söylemiştim — tutunmak ≠ anlamak. o yazıdaki avuç kavrama refleksi gibi, bir başka ilkel refleks de bu aylarda sessizce çekiliyor: asimetrik tonik boyun refleksi. bebeğin başı bir yana döndüğünde o taraftaki kolun otomatik uzandığı, eskrimci pozisyonu denen duruş. bu refleks yerinde durduğu sürece dönmek fiziksel olarak mümkün değil, çünkü başını çevirdiğin anda kolu yolunu kesiyor. on üçüncü yazıda kutladığım o an — iki elini orta hatta buluşturması — da aynı çekilmenin ürünüymüş.

bu arada moro refleksini de bir süredir görmüyorum — kolların iki yana açıldığı ve bilinçsizce düşüyormuş gibi hissedilen, atalardan miras o tepki. gittiğini fark ettiğim bir an yok; sadece bir gün yatağa bırakırken kollarının açılmadığını gördüm. ama bu yazının konusu o değil. o, bu yazının bir nevi önkoşulu. arazinin tepeleri, biz bakmıyorken alçalmış.

diğer taraftan da nikolai bernstein isimli sovyet fizyolog abimiz, hareket kontrolü üzerine çalışmaları neticesinde bize başka bir perspektif sunuyor. bir beceriyi yeni öğrenen kişi eklemlerini kilitler, gövdesini blok gibi tutar; ustalaşmak ise o kilitleri tek tek açmaktır diyor. idil’in yaptığı da tam olarak bu sanırım — omzunu kalçasından bağımsız hareket ettirebildiği gün, dönme mümkün oldu. yeni bir emir gelmedi. bir kısıt kalktı.

bu resim bana optimizasyonu düşündürüyor.

bir sinir ağını eğitirken aslında yaptığımız şey bir arazide yol almak. kayıp yüzeyi deniyor buna: her parametre kombinasyonuna bir hata değeri karşılık geliyor ve bu değerler devasa boyutlu, tepeleri ve çukurları olan bir manzara oluşturuyor. eğitim, bu manzarada aşağı doğru yuvarlanmak.

sorun şu ki bazen model bir çukura yerleşir ve orada kalır. daha iyi bir çukur, hemen yandaki tepenin ardındadır belki — ama oraya ulaşmak için önce yukarı çıkmak gerekir ve yokuş yukarı gitmek, tanımı gereği “daha kötüye gitmek” demektir. model bunu yapmaz. takılır.

burada devreye giren en sade araç öğrenme oranı — learning rate diye biliriz. her adımda parametreleri ne kadar oynatacağımızı belirleyen tek bir sayı. çok küçük tutarsanız model bulunduğu çukurun dibinde titreyip durur — teknik olarak öğreniyordur, pratikte hiçbir yere gitmiyordur. büyütürseniz adımlar uzar, model küçük çukurların üstünden atlayıp geçer; dar ve derin oyuklar artık onu tutamaz. yani öğrenme oranını değiştirdiğinizde modele yeni bir bilgi vermiş olmazsınız — manzaranın hangi kısımlarının erişilebilir olduğunu değiştirmiş olursunuz. büyük adımlarla bakıldığında arazi düzleşir; küçük adımlarla bakıldığında her tümsek bir duvardır.

pratikte bunu bir program halinde yapıyoruz: yüksek öğrenme oranıyla başlayıp kademeli olarak düşürmek, hatta belirli aralıklarla yeniden yükseltmek — model bir çukura fazla yerleşmişse onu oradan çıkarmak için. modeli zorlamıyoruz, mimarisine dokunmuyoruz, veriyi değiştirmiyoruz. sadece arazinin ona nasıl göründüğünü değiştiriyoruz. gerisini fizik hallediyor.

thelen’in bebeğinin bacaklarına ağırlık bağlaması ile öğrenme oranını düşürmek arasında bana kalırsa gerçek bir akrabalık var. ikisinde de kabiliyet yerinde duruyor. değişen tek şey, o kabiliyetin içinde hareket ettiği manzara.

burada beşinci yazıda anlattığım yapay zeka kışlarına küçük bir dönüş yapmak istiyorum. o dönemlerin en pahalı inancı, zekayı parça parça yazabileceğimiz inancıydı — her yeteneği tek tek tarif eder, kurala döker, sisteme eklerdik. uzman sistemler bu inancın anıtıydı ve kural sayısı büyüdükçe daha akıllı değil daha kırılgan hale geldiler. o inanç çökerken yerine gelen şey, “daha iyi kurallar yazalım” değildi. koşulları kurup sonucun kendiliğinden çıkmasına izin vermekti.

işin enteresan ve doğrudan bu yazıda incelemeyeceğimiz bir kısmı da; son zamanlarda veri bilimciler ya da yapay zeka mühendislerinden ziyade yazılım geliştiricilerin, farklı disiplinlerde yapay zeka ajanları oluşturup kendi yazılım geliştirme takımları kurması. tıpkı geçmişte yapılan hata gibi.. yapay zeka kışlarına biraz hakim olan herhangi bir veri bilimci, bu önermenin karşısında konumlanıyor olmalı. elbet bir gün bunu da tartışırız.

biz yeniden gelişim psikolojisine dönecek olursak, thelen’in söylediği de aşağı yukarı buydu. bebeğin kafasına dönme talimatı yazılmıyor. ağırlık dağılımı değişiyor, boyun kasları güçleniyor, bir refleks çekiliyor — ve bir gün, hiç kimse istemeden, top yuvarlanıyor.

yine de içimi rahatsız eden bir şey var.

eğer dönmek yeni bir yetenek değilse, sadece önündeki tepe alçaldığı için ortaya çıkan bir şeyse — o zaman idil aslında ne kazandı? “yapabiliyor” dediğimiz şey, gerçekten onun bir parçası mı, yoksa şu anki bedeninin ve şu anki yerçekiminin bir sonucu mu? kollarına / bacaklarına hareketini birazcık kısıtlayan ağırlıklar bağlasak, dönmeyi yeniden “unutacak” mı?

aynı soru diğer tarafta da duruyor. bir modelin yeteneği dediğimiz şey ağırlıklarının içinde mi yazılı, yoksa o ağırlıkların içinde bulunduğu manzaranın şeklinde mi? öğrenme oranını değiştirdiğimde modele bir şey öğretmiş olmuyorum — ama farklı bir model elde ediyorum.

peki bir beceri, ancak arazi ona izin verdiği sürece varsa.. o beceri gerçekte kimin?

neyse ki, bu blog post kierkegaard’a dalaşmaya fırsat vermeyecek kadar dopdolu oldu. belki de birbirimizden uzak geçen bu haftalarda biraz da felsefe mi konuşsak idil hanım? ne dersin?

merve’yle bakıştık. birkaç ay önce böyle değildi. birkaç ay önce idil kime baksa gülümsüyordu — komşuya, kasadaki kadına, asansörde karşılaştığımız komşuya. ayrım yapmıyordu. şimdi yapıyor.

ilk refleksim endişelenmek oldu. bir şey mi oldu, ürkek mi oluyor, biz mi bir yerde yanlış yaptık.. sonra oturup düşününce fark ettim: bu bir gerileme değil, tam tersi. idil ağlayabilmek için önce ayırt edebilmek zorundaydı. o yüzün tanıdık olmadığını söyleyebilmesi için, tanıdık olanın nasıl bir şey olduğuna dair içeride bir şablonun oluşmuş olması gerekiyordu. ağlama, o şablonun varlığının kanıtı.

yani ağladığı için değil, ağlayabildiği için sevinmem gerekiyormuş. tuhaf.. ama hayat işte.

gelişim psikolojisinde bu duruma yabancı kaygısı (stranger anxiety) deniyor ve şaşırtıcı derecede iyi belgelenmiş bir dönüm noktası. kavramı ilk sistematik biçimde tarif eden isimlerden biri, avusturyalı psikanalist rené spitz. ikinci dünya savaşı yıllarında kurumlarda büyüyen bebekleri uzun süre gözlemleyen spitz, bu tepkinin belirli bir yaş aralığında düzenli olarak ortaya çıktığını fark etti ve buna “sekiz ay kaygısı” adını verdi. onun için bu, bebeğin annesini artık başka herkesten ayrı bir kategori olarak tuttuğunun göstergesiydi. yabancıya verilen tepki, aslında tanıdığa dair bir ifadeydi.

sonrasında ingiliz psikiyatrist john bowlby’nin bağlanma teorisi — geçtiğimiz yazılarda değinmeden geçemediğimiz o isim bir kez daha karşımızda — ve öğrencisi mary ainsworth’ün çalışmaları bu tabloyu genişletti. ainsworth’ün geliştirdiği yabancı ortam deneyinde bebek, tanıdık bakıcısıyla ve bir yabancıyla farklı kombinasyonlarda kısa süreler geçiriyor; ölçülen şey yabancıdan korkup korkmadığı değil, stresin ardından bakıcıya nasıl döndüğü. yani asıl bilgi kaçışta değil, sığınmada. idil’in merve’nin omzuna gömülmesi, testin kendisi değil — cevabı.

burada dikkat çekici bir ayrıntı var: yabancı kaygısı evrensel bir takvimle işlemiyor. yoğunluğu bebekten bebeğe, kültürden kültüre, hatta o gün ne kadar uyuduğuna göre değişiyor. geniş aileyle iç içe büyüyen bir bebekte daha yumuşak, tek bakıcıyla çok zaman geçiren bir bebekte daha keskin olabiliyor. tepkinin şiddeti, bebeğin karakteriyle olduğu kadar dünyanın ona ne kadar çeşitli göründüğüyle de ilgili.

çeşitlilik. burada bir şeyin çanı çalmaya başladı bende.

yapay zeka tarafında ise bir modelin en tehlikeli anı, yanlış cevap verdiği an değil. yanlış cevabı büyük bir özgüvenle verdiği an.

sinir ağlarının uzun süredir bilinen ve hâlâ tam çözülememiş bir huyu var: eğitim verisinin dağılımının dışında kalan bir girdiyle karşılaştıklarında sessizce durup “bunu tanımıyorum” demiyorlar. bir cevap üretiyorlar. üstelik çoğu zaman, doğru bildikleri şeylere verdikleri kadar yüksek bir güven skoruyla. kedi ve köpek ayırmak üzere eğitilmiş bir modele bir uçak fotoğrafı gösterirsiniz, model size %97 ihtimalle köpek olduğunu söyler. sorunun adı var: dağılım dışı girdiler, kısaca OOD (out-of-distribution).

bu alanı bugünkü haline getiren temel çalışmalardan biri, dan hendrycks ve kevin gimpel’in 2016 tarihli A Baseline for Detecting Misclassified and Out-of-Distribution Examples in Neural Networks makalesi. yaptıkları şey aslında son derece basitti — modelin ürettiği en yüksek olasılık değerine bakıp “bu tanıdık mı, değil mi” diye sormak. basit olduğu kadar da yetersizdi ve tam olarak bu yüzden önemliydi: alanın ne kadar boş olduğunu gösterdi. sonrasında gelen yöntemler daha rafine oldu — bazıları modelin ara katmanlarındaki temsillerin, eğitim verisinin oluşturduğu buluta ne kadar uzak düştüğünü ölçtü; bazıları aynı modeli farklı başlangıçlarla defalarca eğitip, birbirleriyle ne kadar anlaşamadıklarına baktı. mantık hep aynıydı: anlaşmazlık, bilgisizliğin izidir.

serinin üçüncü yazısında yenidoğan görmesinden ve evrişimli ağlardan bahsederken, bir modelin ne gördüğünü konuşmuştuk. burada sorduğumuz soru bir katman daha derinde: model, gördüğü şeyin daha önce gördüklerine benzeyip benzemediğini biliyor mu?

teknik literatürde bu meselenin bir de kavramsal ayrımı var: epistemik ve aleatorik belirsizlik. aleatorik belirsizlik dünyanın kendi gürültüsü — zar atarsın, sonucu bilemezsin, ne kadar veri toplasan da bilemezsin. epistemik belirsizlik ise modelin kendi cehaleti — daha fazla veri görseydi tolere edilebilecek olan kısım. yabancı kaygısı, tam olarak epistemik belirsizliğin bir davranışa dönüşmüş hali. idil o yüz hakkında bir şey bilmiyor ve bilmediğini biliyor. tepkisi, bilgisinin değil, bilgisinin sınırının ifadesi.

modellerde en çok yakındığımız şey de bu zaten. desen tanıma tarafında insanüstü performans gösteren sistemler, “bu soru benim alanımın dışında” demekte hâlâ garip biçimde beceriksiz. oysa yüksek riskli bir bağlamda — teşhis koyan, kredi değerlendiren, direksiyon çeviren bir sistemde — doğru cevap vermek kadar değerli bir yetenek daha var: susmayı bilmek. karar teorisinde buna reddetme seçeneği deniyor; sistem belirli bir güven eşiğinin altında karar vermeyi reddedip işi insana devrediyor. sekiz aylık bir bebeğin ağlayarak yaptığı şeyin, biraz daha kibar bir versiyonu.

ama burada dikkatli olmam gereken bir yer var.

idil o misafiri tehlikeli olarak işaretlemedi. tanımadı, o kadar. tanımamak ile tehdit görmek arasındaki mesafe çok kısa görünüyor ama aslında aralarında kocaman bir uçurum var. bebek o mesafeyi doğal olarak kapatıyor — çünkü elinde başka bir araç yok, tedbir onun tek dili. sorun, biz büyüklerin aynı refleksi araç bolluğuna rağmen taşımaya devam etmesi. bir yüzü tanımıyor olmak, onun hakkında olumsuz bir bilgiye sahip olmakla aynı şey değil. birinin bilgi eksikliği, diğerinin bilgi iddiası.

modeller için de aynı tuzak geçerli. bir sistemi “tanımadığını reddet” diye eğitirken, farkında olmadan “tanıdığım dünyanın dışı şüphelidir” diye eğitiyor olabilirsiniz. eğitim verisi neyi az temsil ediyorsa, sistem onu daha sık dağılım dışı sayar. yeterince çeşitli olmayan bir veri kümesiyle eğitilmiş bir yüz tanıma sisteminin, hangi yüzleri “tanımadığını” tahmin etmek zor değil. yabancı kaygısının şiddeti, bebeğin dünyasının ne kadar çeşitli olduğuna bağlıydı hatırlarsanız. modellerde de öyle. ikisinde de temkinlilik, aslında maruz kalınan dünyanın dar olmasından besleniyor.

geçen ay idil’in kendi elini keşfettiğini yazmıştım — parmaklarını hissetmesiyle onları tanıması arasındaki farkı. şimdi aynı ayrım dışarıya dönmüş halde karşıma çıkıyor. o zaman kendini tanımayı öğreniyordu; şimdi kendisi olmayanı.

akşam misafirler gittikten sonra idil sakinleşti, her zamanki haline döndü, hiçbir şey olmamış gibi kucağımda turknet’in gönderdiği paketin içinden çıkan tavşan gibi kulaklı ahşap halka oyuncağını kemirmeye başladı. ben ise bir yandan onu izlerken, bir yandan bu satırları düşündüm.

bir gün bu ağlama geçecek. yabancı kaygısı da her gelişimsel evre gibi yerini başka bir şeye bırakacak — merakla temkinin daha dengeli kurulduğu, “seni tanımıyorum ama tanımak isteyebilirim” diyebilen bir hale. o geçişi de yine ben izleyeceğim, yine tam olarak nasıl olduğunu anlayamadan.

şunu düşünüyorum: bir sistemin — ister dört aylık olsun ister sekiz aylık, isterse sekiz milyar parametreli olsun — bilmediğini fark edebilmesini bir olgunluk işareti sayıyoruz. haklıyız da.. ama bilmediğini fark eden her sistem aynı yerde durmuyor. bazıları o sınırın önünde geri çekiliyor, bazıları sınırı genişletmek için ilerliyor.

idil’in ağlaması bugün geri çekilme. yarın ne olacağını belirleyen şey, o eşikte ona ne göstereceğimiz sanırım.

peki biz kendi kurduğumuz sistemlere sadece “bilmediğinde dur” mu öğretiyoruz — yoksa “bilmediğinde öğren” demenin bir yolu var mı?

ilk yaptığında refleks sandım — kollarımı biraz yukarı almışımdır, o da savrulmuştur diye düşündüm. ama tekrar etti. sonra yine. şimdi neredeyse bir ritüel: elimi uzatıyorum, tutuyor, ve karnındaki kaslar gerildikçe başı yerden kalkıyor. yalnız asıl mevzumuz şuydu — ben çekmiyorum. elim orada, sabit, gevşek. çeken o. ben sadece tutunacak bir yer oluyorum.

maria montessori, 20. yüzyılın başında roma’da hekimlik yapan ve sonra pedagojiye yönelen çok kıymetli bir ablamız. çocuklarla önce tıbbi bir gözle ilgilenmiş, sonra da bugün onu tanımamıza yol açan uğraşlarıyla — eğitimle. 1907’de roma’nın san lorenzo mahallesinde açtığı, yoksul ailelerin çocuklarına bakan sınıfta bugün adını taşıyan yöntemin temelini attı. yöntemin sonradan felsefesinin özeti haline gelen bir cümlesi var, bir çocuğun ağzından kurulmuş bir cümle: bana yardım et, kendim yapayım.

bu cümle ilk bakışta nazik bir dilek gibi duruyor. ama içinde çok keskin bir sınır çizgisi var. çocuk yardım istiyor, ama işin kendisinin yapılmasını istemiyor. yetişkinden beklediği şey; işi devralmak değil, işi mümkün kılmak. montessori’nin sınıflarında; raflar çocuk boyunda, sürahiler çocuk elinde taşınabilecek ağırlıkta, sandalyeler çocuğun kendi kaldırabileceği kadar hafif. yetişkinin görevi çocuğa su vermek değil, suyu kendi dökebileceği bir düzen kurmak. montessori bunu bir tür geri çekilme disiplini olarak tarif ediyor — öğretmenin en zor işi, müdahale etmemeyi öğrenmek.

elimi tuttuğunda yaptığım şeyin tam olarak bu olduğunu fark ettim. ona bir sürahi vermiyorum; sadece sürahiyi tutabileceği kadar sağlam bir zemin oluyorum. kuvvet onun, yön onun, karar onun. ben sadece dünyanın o an sabit kalan kısmıyım.

yapay zeka tarafında bu geri çekilme meselesinin en net anlatıldığı yer, sanırım deepmind’ın go programlarının hikayesi.

alphago — geçmiş yazılarda kendisinden bir kez daha bahsetmiştik — 2016’da dünyanın en iyi go oyuncularından lee sedol’ü yendiğinde büyük ses getirmişti. ama nasıl öğrendiği, en az ne yaptığı kadar önemliydi: usta oyuncuların oynadığı yüz binlerce oyunu izleyerek başladı. önce taklit etti.. bir insanın herhangi bir pozisyonda ne oynayacağını tahmin etmeyi öğrendi, ve ancak ondan sonra kendi kendine oynayarak bu temelin üzerine çıktı. yani alphago’nun elinden tutan bir öğretmen vardı — insanlığın birikmiş go bilgisi.

bir yıl sonra gelen alphago zero ise bu yöntemden tamamen vazgeçti. eğitiminde tek bir geçmiş insan oyunu örneği yoktu. sadece oyunun kuralları verildi — taşlar nasıl konur, bir grup ne zaman ölür, oyun ne zaman biter.. gerisini kendi kendine oynayarak öğrendi. rastgele hamlelerle başlayan, hiçbir şey bilmeyen bir sistem, günler içinde insanlığın binlerce yılda biriktirdiği go bilgisini yeniden keşfetti, ve sonra alphago’yu yüz maçın hepsinde yendi. sonrasında aynı yaklaşımı satranç ve shogi’ye de taşıyan alphazero geldi.

bu hikayenin en çok konuşulan tarafı skor değil, oynanan hamleler oldu. sistem, oyuncuların yüzyıllardır kullandığı bazı açılışları kendi kendine bulup sonra terk etti — profesyonellerin standart saydığı bazı dizilimlerin aslında ideal olmadığına karar verdi. lee sedol maçındaki, uzmanların ilk anda hata sandığı ama sonradan üzerine yazılar yazılan o meşhur hamle de bu türden bir şeydi. öğrenci, öğretmenin bilmediği bir yerden geldi.

burada acele bir sonuca varmak kolay: madem insan verisi olmadan daha iyisi olabiliyor, öğretmen aslında gereksiz diyip geçebiliriz. ama bence bu, bir hikayenin yanlış okunmasından ibaret.

alphago zero’nun insan verisi yoktu, ama kuralları vardı. tahtası vardı. neyin geçerli bir hamle olduğunu, oyunun ne zaman bittiğini, kimin kazandığını söyleyen bir çerçeve vardı. model, bu çerçeveyi kendi kendine keşfetmedi. yani ortada tam bir yokluk değil, yer değiştirmiş bir destek var: elini tutan biri yerine, düşmeyeceği bir zemin.

montessori’nin yaptığı da tam olarak buydu. çocuğa nasıl su dökeceğini anlatmıyor, ama sürahiyi çocuk boyunda seçiyor. serbestlik veriyor, ama serbestliğin sınırlarını kendisi çiziyor. hazırlanmış ortam dediği şey bir yokluk değil, görünmez hale gelmiş bir destek. iyi tasarlanmış bir iskele, tam olarak kendini fark ettirmeyendir.

serinin beşinci yazısında yapay zeka kışlarından bahsederken, bir alanın ilerlemesinin ne kadar dışarıdan gelen desteğe — fona, ilgiye, sabra — bağlı olduğunu konuşmuştuk. şimdi baktığımda o yazının tersini yazıyorum sanki: bu kez mesele desteğin gelmesi değil, doğru zamanda çekilmesi. ve galiba ikisi aynı sorunun iki ucu. destek çok erken çekilirse sistem çöküyor, çok geç çekilirse sistem hiç ayağa kalkmıyor.

idil elimi tutup kendini çektiğinde, benim hiçbir şey yapmadığımı söylemiştim. bu tam doğru değil aslında. bir şey yapıyorum: sabit kalıyorum.

ve bunun ne kadar zor olduğunu ilk defa bu hafta fark ettim. çünkü içimden gelen şey çekmek. yukarı kalkarken bir an duraksadığında, kaslar titrediğinde, kolum kendiliğinden biraz yukarı gitmek istiyor. ona yardım etmek istiyorum. ama ettiğim anda o hareket artık onun olmuyor. ikimizin ortak yaptığı, ama başarısı kime ait olduğu belirsiz bir şeye dönüşüyor.

geçen hafta elini ağzına götürüşünü yazarken, iki sinyalin örtüştüğünü hissetmenin “bu benim” diye tanımakla aynı şey olmadığını söylemiştim. bu hafta bunun bir devamı gibi geliyor: bir hareketi yapabilmek ile o hareketin sahibi olmak arasında da benzer bir mesafe var. ben çekersem hareketini gerçekleşiyor ama hareketin sahibi olmuyor. ve o mesafeyi kapatan tek şey, benim hiçbir şey yapmamam.

alphago’ya geçmiş oyunlar verildiğinde de benzer bir bulanıklık vardı sanırım. iyi oynuyordu, ama oynadığı şeyin ne kadarı kendisiydi? bunu ayırt etmenin tek yolu, veriyi tamamen kesip bakmaktı. ve kestiklerinde, kaybettikleri bir şey olmadı — aksine, insan verisinin sistemi belli bir düşünme biçimine hafifçe hapsettiği ortaya çıktı. öğretmen sadece yol göstermemiş, aynı zamanda başka yolları görünmez kılmıştı.

bu düşünce silsilesi, beni birazcık rahatsız eden bir yere doğru gidiyor. çünkü şu an idil’in bana ihtiyacı var ve bu ihtiyaç bana iyi geliyor. elini uzattığında, beni aradığında, tutunacak bir yer olduğumda kendimi gerekli hissediyorum. ama montessori’nin ve alphago zero’nun aynı anda söylediği şey şu: bu gerekliliğin doğru sonu, gerekliliğin bitmesi.

iyi bir öğretmenin nihai başarısı, kendini gereksiz kılmasıdır. bunu bilmek başka, elini gerçekten bırakmak başka. hele ki, böylesine tatlıyken ve o kocaman gözlerini bana dikip de sanki benden bir şeyler bekliyormuş gibi bakarken.

bir gün ellerime ihtiyaç duymadan doğrulacak. muhtemelen ben fark bile etmeden — bir öğleden sonra, ben mutfaktayken, kimse izlemiyorken. ve o an geldiğinde ortaya çıkan şeyin ne olduğunu asla tam olarak bilemeyeceğim: benim tuttuğum ellerin bıraktığı bir iz mi, yoksa ben hiç orada olmasam da gelecek olan bir şey mi?

belki bu ayrımı yapamamak, iyi bir iskele olmanın bedeli.

önce tesadüf sandım — kol bir yöne savruluyor, parmaklar dudağa değiyor, bitiyor. ama değilmiş. bilerek yapıyor artık. eli görüyor, ona doğru uzanıyor, tutuyor, ve sonra dosdoğru ağzına taşıyor. bazen dakikalarca öyle kalıyor, sanki elinin ne olduğunu ağzıyla okuyormuş gibi.

gelişim bilimciler bu süreci iki ayrı katman olarak anlatıyor. doğuştan gelen kavrama refleksi (palmar grasp reflex) zaten vardı — avucuna bir şey değdiğinde parmaklar otomatik kapanıyor, hiçbir niyet yok, neredeyse tamamen omurilik seviyesinde bir hareket. ama idil’in şu an yaptığı bu değil. o artık elini görüyor, ona doğru uzanıyor, ve sonra onu bir amaca yönlendiriyor. bu, “hand regard” denen erken evrenin — bebeğin kendi elini fark edip ilgiyle izlemesinin — doğal devamı. önce el bir nesne gibi izleniyordu; şimdi o nesne bir araca dönüşüyor.

ağza götürme kısmı ise apayrı bir mesele. ağız, bebeğin bedenindeki en yoğun dokunsal reseptör dağılımına sahip bölge — parmak uçlarından bile hassas. bu yüzden bebekler yeni bir şeyle karşılaştıklarında onu önce ağızlarına götürüyor; bu bir alışkanlık değil, envanterindeki en yüksek çözünürlüklü sensöre başvurmak. ama idil’in bu hafta ağzına götürdüğü şey bir oyuncak değil, kendi eli.

andrew meltzoff ve richard borton’ın 1979’da yaptığı bir deney var, tam da bunun üzerine. bir aylık bebeklere, hiç göstermeden, ya pürüzlü ya da düz yüzeyli bir emzik emdiriyorlar. sonra emziği alıp ikisini birden görsel olarak sunuyorlar. bebekler, ağızlarıyla tanıdıkları şekle anlamlı biçimde daha uzun bakıyor. yani ağızdan gelen bilgi, göze aktarılabiliyor — bebek o nesneyi hiç görmemiş olmasına rağmen. duyular birbirinden yalıtılmış kanallar değil; aralarında, çok erken kurulmuş bir çeviri hattı var.

yapay zeka tarafında bunun karşılığı kendi kendini denetleyen öğrenme (self-supervised learning). modelin elinde etiketlenmemiş ham veri var; dışarıdan hiçbir insan “bu şudur” demiyor. model, verinin kendi içindeki tutarlılıkları bir öğretmen gibi kullanıyor.

en verimli hallerinden biri, modaliteler arası hizalama. aynı şeye ait iki farklı temsil alıyorsun — bir görüntü ve onu tarif eden bir metin, ya da bir sahnenin kamera görüntüsü ve lidar taraması — ve modeli, bu ikisini aynı temsil uzayında birbirine yaklaştırmaya zorluyorsun. eşleşenler yakınlaşıyor, eşleşmeyenler uzaklaşıyor. kimse “bu görüntü bu metne aittir” diye elle etiketlemiyor; eşleşme zaten verinin içinde duruyor, model sadece onu bulup çıkarıyor.

idil’in elinde de aynı yapı var. eli hakkında iki bağımsız kaynak zaten mevcut: gözünün gördüğü (görsel) ve kolunun ona söylediği (proprioseptif — bedeninin uzaydaki konumuna dair içsel his). bu iki kaynak genelde örtüşüyor, ama örtüşme henüz güvenilir bir bağa dönüşmemiş olabilir. eli ağzına götürdüğünde üçüncü ve en keskin kanaldan bir doğrulama sinyali geliyor: gördüğüm şey ile hissettiğim şey aynı nesne. philippe rochat’nın bebeğin kendi bedenini keşfetmesi üzerine çalışmalarında vurguladığı da bu — bebek dünyayı keşfetmeden önce kendini keşfediyor, ve bunu ölçerek, karşılaştırarak, tekrar ederek yapıyor.

burada dikkat edilmesi gereken bir şey var. bir modelin iki kanalı birbirine hizalaması, o modelin nesnenin ne olduğunu anladığı anlamına gelmiyor. öğrendiği şey, iki sinyalin istatistiksel olarak birlikte geldiği. tutarlılık, anlam değil.

idil de büyük ihtimalle henüz “bu benim elim, bedenimin parçası, onu ben kontrol ediyorum” diye bir kavram taşımıyor. sadece görsel ve dokunsal sinyalin aynı anda geldiğini fark ediyor, ve bu fark edişi tekrarlıyor. serinin dördüncü yazısında kavrama refleksini yazarken, tutunmanın anlamakla aynı şey olmadığını söylemiştim; on ikincide, bir sinyali düzleştirip ondan eğilim çıkarmanın o sinyalin altındaki mekanizmayı kavramakla aynı şey olmadığını. bu haftanınki aynı ailenin belki en yalın hali: iki sinyalin örtüştüğünü hissetmek başka şey, “bu benim” diye tanımak başka şey.

dün akşam onu izlerken şunu fark ettim: elini ağzından çıkardığında bir an duruyor, bekliyor. sonra tekrar götürüyor. bir kez yetmiyor. defalarca, aynı hareket, aynı doğrulama.

ilk başta tuhaf geldi — bir kez doğruladıysa neden tekrar etsin? ama bir model de tek bir örnekle ikna olmuyor. güven tekrarla birikiyor; her tekrar önceki tutarlılığın üzerine biraz daha ağırlık koyuyor.

bunu izlerken istemsizce kendime döndüm. ben de bazı şeyleri “biliyorum” sanıyorum, çünkü onlarla defalarca temas ettim — bir işi, bir insanı, kendi tepkilerimi. ama belki yaptığım şey de tekrarlanan bir kalibrasyondan ibaret: farklı kanallardan gelen izlenimlerin örtüştüğünü fark etmek, ve bu örtüşmeye “anlamak” adını vermek. gerçekten anladığım ile sadece tutarlı bulduğum arasındaki çizgi, sandığımdan ince olabilir.

beşinci yazıda idil’in beşinci hafta krizini yapay zeka kışlarıyla yan yana koyarken harika haftalar teorisinden bahsetmiştim — van de rijt ve plooij’in, bebeklerin belirli haftalarda öngörülebilir sıçramalar yaşadığı iddiasından. o kitabı hâlâ zaman zaman karıştırıyorum. idil’in şu anki haftasına denk gelen sıçramanın adı “yumuşak geçişler dünyası” ve tarif ettiği becerilerden biri tam olarak bu: nesnelere uzanmanın, onları kavramanın rafineleşmesi.

kitap bunu haftalar öncesinden, doğum tarihine bile bakmadan söylüyor — çünkü yeterince bebek üzerinde yeterince örüntü toplanmış. bu da bir tür model aslında; idil’in içinde ne olduğunu bilmiyor, sadece binlerce bebekten çıkarılmış istatistiksel bir eğilim taşıyor. ve tuttu. tam bu hafta, tam bu beceri.

ama bu beni asıl soruya geri getiriyor. kitap doğru tahmin etti diye idil’in içinde olanı anladı mı? yoksa benim kendi kendime yaptığım o kaba düzleştirmenin, çok daha fazla veriyle beslenmiş bir versiyonunu mu sundu? belki fark, idil’in elini ağzına götürürken yaptığı şeyle kitabın bir hafta sayısına bakıp tahmin yürütmesi arasındaki fark kadar büyük. biri içeriden, iki sinyali birbirine kalibre ediyor. diğeri dışarıdan, bir örüntüyü başka bir örüntüye eşliyor.

peki ya ben — idil’i izlerken, onun ne hissettiğini “anladığımı” düşündüğümde — hangisini yapıyorum?

bir örüntü mü görüyorum, yoksa örüntü gerçekten mi oluştu?

bu ayrım önemli geldi bana. çünkü ben veriye bakıp bir eğilim çıkarıyorum — kafamda son birkaç haftanın gecelerini üst üste bindiriyor, ortalama bir saat buluyorum. ama idil’in içinde olan şey benim yaptığım bu zihinsel ortalamadan çok daha farklı bir şey olabilir. ben dışarıdan bir trend görüyorum. onun içinde olan bir şeyler gerçekten değişiyor.

gerçekten de değişiyor. yenidoğanda beynin “ana saati” sayılan suprakiazmatik çekirdek (scn) doğumda yapısal olarak var ama işlevsel olarak olgun değil — bu yüzden ilk haftalarda uyku tamamen açlık ve bakım güdümlü, güne rastgele dağılmış (polifazik) haldedir. ama tam idil’in şu an bulunduğu 9-12. haftalar arasında bir eşik aşılıyor: melatonin ilk kez gün-gece döngüsüne göre salgılanmaya başlıyor. yani beyni artık dışarıdaki ışık değişimini bir referans noktası olarak kullanmaya başlıyor.

bu sürece gelişim bilimciler entrainment diyor — türkçesi tam oturmasa da “faz kilitlenmesi” ya da “senkronizasyon” denebilir. ve bunu tetikleyen dışsal sinyallere de zeitgeber deniyor (almanca, “zaman verici”) — gün ışığı, beslenme saatleri, akşam banyosu gibi tekrarlayan rutinler. biz farkında olmadan idil’in içindeki henüz cılız sarkaca her gün aynı sinyalleri gönderiyoruz, ve o sarkaç yavaş yavaş bizim 24 saatlik döngümüze kilitleniyor.

en güçlü zeitgeber, beklediğinizin aksine beslenme değil, ışık. sabah perdeleri açtığımızda, idil’i gün ışığına çıkardığımızda, akşam ışıkları kısıp sesi alçalttığımızda — hiçbirinin “eğitici” bir amacı yok gibi görünüyor, sadece günlük hayatın akışı. ama scn’nin retinaya bağlı özel bir hücre grubu üzerinden aldığı bu ışık bilgisi, tam olarak saatini ayarladığı referans sinyal. yani biz, farkında bile olmadan, her gün idil’in içindeki sarkaca aynı frekansta itiş veriyoruz.

bir baba, oğlunun uyku ve emzirme saatlerini aylarca — 3. aydan, 17. aya kadar — excel’e işleyip bir ısı haritası haline getirmişti. ilk aylarda veri tamamen dağınık; yeşil, mavi ve beyaz lekelerle kaplı; zamanla mavi bloklar (uyku) uzuyor, belirginleşiyor, bir bant halinde yerleşiyor. bir diğer örnekte ise bu kez bir bebeğin ilk bir yılındaki uyku düzeni kayıt altına alınmış. kaosun, gözle görülür şekilde bir düzene yakınsamasını birincil elden tanıklık ediyoruz.

burada yapay zeka tarafında iki farklı yaklaşım var, ve aradaki fark bence tam da bu yazının kalbi.

eğer idil’in gece uyanma saatlerini bir veri seti gibi düşünüp “trendi bul” desem, elimdeki en eski ve en basit araç üstel düzleştirme (exponential smoothing) olurdu. robert brown’ın 1950’lerde geliştirdiği bu yöntem, sonradan holt ve winters tarafından mevsimsellik ekleyerek genişletildi — bugün hâlâ finans ve talep tahmininde kullanılan, derin öğrenmeden onlarca yıl önce gelen klasik bir zaman serisi yöntemi. mantığı basit: her yeni gözlemi, bir önceki tahminle belirli bir ağırlıkla harmanlarsın. gürültülü veri, zamanla düzleşen, yumuşayan bir eğriye dönüşür. ben de tam olarak bunu yapıyorum kafamda — son birkaç gecenin saatini “ortalayıp” bir sonraki geceyi tahmin ediyorum.

ama scn’nin yaptığı şey bu değil. bir ortalama almıyor. kendi içsel periyodikliği olan bir sarkaç — yaklaşık 24 saatlik kendi ritmi zaten var, doğuştan — ve dışarıdaki periyodik sinyale faz kilitleniyor. bu, mühendislikte phase-locked loop (faz kilitlemeli döngü) dediğimiz mekanizmaya çok daha yakın: iki periyodik sinyal arasındaki faz farkını sürekli ölçüp, kendi frekansını dışarıdakine kilitlenecek şekilde ayarlayan bir sistem. fikir aslında 1932’de fransız mühendis henri de bellescize’in radyo alıcılarını daha kararlı hale getirmek için önerdiği bir çözümden geliyor — o zamandan beri saat senkronizasyonundan telefon ağlarına kadar her yerde kullanılıyor. üstel düzleştirme geçmiş gözlemlerin ağırlıklı bir izini bırakır sadece; faz kilitlemesi ise gerçekten senkronize olur — iki periyot birbirine kenetlenir.

fark ince ama önemli: biri geçmişe bakıp bir eğilim çizer, diğeri periyodikliği tanır ve ona göre kendini yeniden ayarlar. ben, dışarıdan bakan bir ebeveyn olarak, idil’in uyku saatlerine baktığımda ancak birinciyi yapabiliyorum — bir trend görüyorum, bir “üç civarı” bandı çıkarıyorum. ama onun beyninde olan şey büyük ihtimalle ikincisi — gerçek bir kilitlenme, gerçek bir senkronizasyon.

serinin dördüncü yazısında tutunmak ≠ anlamak demiştim, dokuzuncusunda çalışmak ≠ açıklamak. bu yazının gerilimi de aynı aileden: bir sinyali düzleştirip ondan bir eğilim çıkarmak, o sinyalin altındaki gerçek mekanizmayı anlamakla aynı şey değil. ben idil’in uyku saatlerine bakıp “düzene giriyor” dediğimde, aslında sadece kendi zihnimde bir üstel düzleştirme yapıyorum — geçmiş gecelerin ağırlıklı bir izini tutuyorum. ama idil’in içinde olan, benim yaptığımdan çok daha spesifik, çok daha canlı bir şey: gerçek bir sarkacın, gerçek bir dış sinyale kilitlenmesi.

bu ayrım yapay zeka dünyasında da sık sık gözden kaçıyor bence. bir modelin çıktısına bakıp “trend bu yöne gidiyor,” “model şunu öğreniyor gibi görünüyor” dediğimizde, çoğu zaman aslında sadece kendi gözlemimizi düzleştiriyoruz — modelin içinde gerçekten ne olduğunu değil. bir zaman serisi tahmin modelinin çıktısı ne kadar “akıllı” görünürse görünsün, altında hâlâ sadece ağırlıklı bir ortalama olabilir — gerçek bir senkronizasyon değil.

dün gece yine iki kırk beşte uyandı. beşiğinde bızırdanmaya başladığında, uyandım ve düşünmeye başladım: ben burada oturmuş, elimde olmayan bir şeyi izliyorum — bir bebeğin beyninin, günlerdir farkında bile olmadığım bir şekilde, güneşin doğuşuna, ışığın azalıp çoğalmasına, banyo suyunun ılıklığına kilitlenmeye çalıştığını. ben sadece dışarıdan “üç civarı” diyorum. o, içeriden gerçekten bir ritme kenetleniyor.

ve merak ediyorum — ben kendi hayatımda, kendi rutinlerimde, gerçekten senkronize mi oluyorum bir şeylere, yoksa sadece geçmişimin ağırlıklı bir ortalamasını mı tutuyorum ve buna “alışkanlık” diyorum? sabah aynı saatte kalkmam, bir ritme kilitlenmiş olduğum için mi, yoksa sadece dün ve önceki günün ortalamasını tekrar ediyor olduğum için mi? bir model eğitirken de aynı soruyu sormalı değil miyiz — çıktı düzeldiğinde, gerçekten bir şeye mi kilitlendi, yoksa sadece geçmiş hatalarının yumuşatılmış bir izini mi taşıyor?

belki ikisini ayırt etmenin tek yolu, biraz daha beklemek. bir trend her zaman bir sonraki sapmayla bozulabilir. ama gerçek bir kilitlenme, sapmadan sonra kendini yeniden bulur. idil’in gecelerinin hangisi olduğunu, sanırım önümüzdeki haftalar gösterecek.

birkaç hafta önce böyle değildi. o zaman gözler sanki nesneyi sonradan yakalıyordu — önce kaybediyor, sonra bir sıçrayışla tekrar buluyordu. şimdi bulma yok, zaten oradaymış gibi bir akıcılık var. hatta sanki milisaniyelerle idil hanım önden gidiyor bile diyebilirim.

bunu ilk fark ettiğimde tesadüf sandım. ama sonra ona havalimanında aldığım “igu” isimli oyuncağını sallarken de aynı şeyi gördüm — gözleri oyuncağı bırakmıyor, hızlanınca göz de hızlanıyor, yavaşlayınca göz de yavaşlıyor. odanın öbür ucundan yürürken bile beni kaybetmiyor artık; kafasını çeviriyor, ama tam da gerektiği anda, ne erken ne geç. sanki bir yerlerde sessizce bir hesap yapılıyor.

bu değişikliğin arkasında görme sisteminde iki farklı mekanizma var: saccadic (sıçramalı) ve smooth pursuit (akıcı takip) göz hareketleri. yenidoğanlarda hâkim olan sıçramalı sistem — göz, hareket eden bir nesneyi önce kaybeder, sonra küçük sıçramalarla yeniden bulmaya çalışır. bu, tepkisel bir sistem: nesne nereye gitti, oraya bakayım. smooth pursuit ise çok daha farklı bir şey yapıyor — gözü nesnenin şu anki konumuna değil, bir sonraki konumuna götürüyor. isveçli gelişim psikoloğu claes von hofsten, bebeklerin görsel takip ve el-göz koordinasyonu üzerine yaptığı çalışmalarda bu geçişi ayrıntılı biçimde belgelemiş — bebeğin sekizinci ile on ikinci hafta arasında, nesneyi kovalayan bir sistemden, nesneyi önceden kestiren bir sisteme geçtiğini göstermiş.

bunun ötesinde bir şey daha oluyor aslında. beyin artık sadece “şu an ne görüyorum” sorusuna cevap vermiyor, “birazdan ne göreceğim” sorusuna da cevap arıyor. bilişsel bilimde buna tahminsel işleme (predictive processing) deniyor — algının pasif bir kayıt değil, sürekli güncellenen bir tahmin süreci olduğu fikri. göz, nesneyi kovalamıyor artık; nesnenin yörüngesine dair bir iç model kurmuş ve o modelin ürettiği tahmine göre hareket ediyor.

bunun nasıl mümkün olduğunu düşününce insan biraz duraksıyor. idil’in beyni, elimin hızını, yönünü, birkaç önceki konumunu bir şekilde tutuyor olmalı — ve bu birikimden bir sonraki konumu çıkarsıyor. bunu yapabilmek için tek bir anı değil, art arda gelen birkaç anı bir arada değerlendirmesi gerekiyor. yani ortada sadece bir “şimdi” yok; kısa bir geçmiş penceresi var, ve o pencere geleceğe doğru sürekli ekstrapolasyon yapıyor. bebek büyüdükçe bu pencere de genişliyor — önce sadece birkaç saniyelik bir yörüngeyi tahmin edebiliyor, zamanla çok daha karmaşık, çok daha uzun örüntüleri. kocaman bir kız olduğunda ise kim bilir daha neleri..

biz yetişkinler bunu o kadar otomatik yapıyoruz ki fark bile etmiyoruz. bir topu tutarken, elimizi topun şu anki konumuna değil, birkaç yüz milisaniye sonraki konumuna götürürüz — sinir sisteminin tepki gecikmesi zaten buna zorluyor bizi. eğer sadece anlık konuma tepki verseydik, top elimize her zaman geç kalırdı. yani smooth pursuit, aslında ömür boyu süren bir tahmin alışkanlığının ilk, en çıplak hâli.

yapay zeka tarafında ise bu durum tam olarak bir tanıma denk geliyor: video ve zaman-serisi modellerinde sonraki kare tahmini (next-frame prediction). bu modeller, ellerine verilen bir kare dizisinden bir sonraki karenin ne olacağını öğrenmeye çalışır — dışarıdan hiçbir etiket olmadan, sadece zamanın kendi akışından bir öğrenme sinyali çıkarırlar. model ne kadar çok kare görürse, gelecekteki kareyi o kadar isabetli tahmin etmeye başlar; sonunda artık “izlemiyor”, neredeyse birlikte akıyor.

bununla yakından ilişkili bir başka kavram da optical flow (optik akış): ardışık karolar arasında hangi pikselin nereye kaydığını hesaplayan klasik bir bilgisayarlı görü tekniği. bir video modelinin akıcı, titremeyen bir çıktı üretebilmesi için bu akışı doğru okuması gerekiyor — kareler arasındaki geçişin, tek tek karelerin kendisi kadar önemli olduğu bir problem bu. bir video üretim modeli her kareyi ayrı ayrı mükemmel üretse bile, kareler arasında bu akış tutarlı değilse sonuç titrer, kopuk görünür. tıpkı bir bebeğin gözünün, tek tek anları değil, akışın kendisini yakalamayı öğrenmesi gibi.

ilginç olan şu: bu modeller de başta idil’in birkaç hafta önceki gözleri gibi davranıyor — kaba, gecikmeli, sıçramalı. eğitim ilerledikçe, ardışık kareler arasındaki örüntüyü içselleştirdikçe, tahminleri akıcılaşıyor. hem bebekte hem modelde ortaya çıkan şey aynı: geçmiş konumlardan bir iç model kurmak, ve o modelin ürettiği tahminle şimdiki anı değil, gelecek anı hedeflemek. will smith’in spagetti yediği videolar serisini hatırlıyorsunuz değil mi? nereden nereye..

burada dikkat çekici bir ayrıntı daha var: bu tahmin becerisi hiçbir zaman mükemmel değil, hem bebekte hem modelde. elimi aniden yön değiştirirsem, idil’in gözü bir anlığına şaşırıyor — kurduğu iç model, gerçek yörüngeyle uyuşmuyor, ve küçük bir düzeltme sıçraması oluyor. video modellerinde de aynı şey var: beklenmedik bir kesme, bir sahne değişimi, modelin tahminini bozuyor, çıktıda küçük bir tutarsızlık, bir “titreme” ortaya çıkıyor. tahmin sistemleri, öngörülebilir olanı yakaladıkları kadar iyi çalışıyor — sürpriz geldiğinde ikisi de aynı şeyi yapıyor: durup yeniden bakıyor.

bu “yeniden bakma” anı aslında hem bebekte hem modelde en çok bilgi taşıyan an. çünkü tahmin tutarken öğrenilecek fazla bir şey yok — model zaten haklı. asıl öğrenme, tahmin yanlış çıktığında oluyor; hata, modelin parametrelerini güncellemek için gereken sinyali veriyor. araştırmacılar buna bazen tahmin hatası (prediction error) diyor — ve bazılarına göre beynin büyük kısmı, aslında sürekli böyle küçük hataları en aza indirmeye çalışan bir tahmin makinesinden ibaret. idil’in şaşırdığı o kısacık an, belki de öğrenmenin gerçekleştiği tam yer.

bu tahmin ufkunun genişlemesi de ayrı bir eksen. bir video modeli önce sadece bir sonraki kareyi tahmin etmeyi öğrenir; daha büyük, daha iyi eğitilmiş modeller birkaç saniye ötesini, hatta bir sahnenin nasıl gelişeceğini kabaca kestirebilir hale gelir. idil için de benzer bir genişleme söz konusu — bugün elimin bir saniye sonraki konumunu tahmin ediyor, birkaç ay sonra belki “şimdi beni kucağına alacak” gibi çok daha soyut, çok daha uzun vadeli örüntüleri de tahmin etmeye başlayacak. kısa vadeli hareketten uzun vadeli niyete doğru genişleyen bir tahmin ufku.

bunu düşününce aklıma bambaşka bir soru takılıyor. idil’in gözü artık elimi “izlemiyor” — bir adım önden gidiyor. ama bu önden gitme, hâlâ bir takip. tahmin ettiği şey kendi ürettiği bir şey değil; benim elimin hareketinden çıkardığı bir örüntü. yani bir yandan artık pasif değil, aktif bir model kuruyor; öte yandan hâlâ dışarıdaki bir şeyin peşinde. bir video modeli de öyle — ne kadar iyi tahmin ederse etsin, tahmin ettiği şey kendi iradesi değil, verilen dizinin devamı.

akşam onu kucağıma alırken gözlerinin kapıya, sonra bana, sonra tekrar kapıya gittiğini izliyorum bazen. “tamam sen buradasın da sakallı adam, sütçü kadın nerede?” diyecekmiş gibi geliyor.. sanki bir sonraki hareketimi zaten biliyor — ben daha kapıyı kapatmadan o çoktan oraya bakmayı bırakmış oluyor. bu beni hem gururlandırıyor hem de tuhaf bir şekilde ürkütüyor: onu şaşırtmak gittikçe zorlaşıyor.

belki de büyümenin bir kısmı da tam olarak bu: önce dünyayı geriden kovalıyorsun, sonra bir adım önden gitmeyi öğreniyorsun — ama bu önden gidişin, hâlâ birinin çizdiği bir yörüngeye ait olduğunu ne zaman fark ediyorsun? ve o farkındalık geldiğinde, tahmin etmekle kendi yolunu çizmek arasındaki o ince çizgiyi nasıl ayırt ediyorsun?

ben de cevap veriyorum. genelde aynı sesi taklit ederek değil, ona bir karşılık üreterek — “öyle mi”, “anlat bakalım”, bazen sadece gözlerimi büyüterek. ve burada gerçekten şaşırtıcı olan kısım geliyor: idil tekrar ses çıkarıyor. sanki sırasını biliyormuş gibi. bir kere değil, birkaç tur üst üste — sanki aramızda görünmez bir mikrofon geçiyor, ve ikimiz de ne zaman konuşacağımızı, ne zaman susacağımızı biliyoruz.

henüz on haftalık bir bebek bunu “biliyor” olamaz tabii. ama bir şey biliyor — ya da öğreniyor. her karşılıklı sesleşmede, küçük bir şey kalıcılaşıyor.

bu sahneyi izlerken aklıma takılan soru şuydu: idil’in çıkardığı sesler, benim tepkilerimle mi şekilleniyor — yoksa o sesler zaten oradaydı ve ben sadece fark mı ediyorum?

cevap, ikisinin ortasında bir yerde. ve tam da bu “ortası”, hem bebek gelişiminde hem yapay zekada aynı isimle anılmayı hak ediyor: şekillenme.

michael goldstein, andrew king ve meredith west, 2003’te kuş şarkısı (birdsong) literatüründen ödünç aldıkları bir fikri insan bebeklerine uyguladılar: annelerin tepkilerini deneysel olarak değiştirerek, bebeklerin babıldamasının (babbling) bu tepkilerden ne kadar etkilendiğini ölçtüler.

sonuç netti: anne tepkisi contingent — yani bebeğin sesine anlık ve doğrudan bağlı — olduğunda, bebeklerin ses repertuvarı daha hızlı olgunlaşıyordu. tepki rastgele veya gecikmeli geldiğinde bu etki kayboluyordu. yani önemli olan sadece “tepki vermek” değil, o sesin hemen ardından, o sese özel bir tepki vermekti.

bu, kuş türlerinde gözlenen sosyal şekillendirme (social shaping) mekanizmasının insan bebeklerindeki bir yansıması. anne kuş, yavrusunun ötüşüne belirli bir şekilde tepki verdiğinde, yavru o ötüş kalıbını pekiştiriyor — diğerlerini değil. insan bebeğinde de benzer bir seçici pekiştirme süreci işliyor gibi görünüyor.

idil’in çıkardığı her sesin bende bir karşılık bulması, rastgele bir nezaket değil. her karşılığım, bir sonraki sesin hangi yöne evrileceğini biraz değiştiriyor.

bu fikrin kökü daha eskiye dayanıyor aslında. antropolog mary catherine bateson, 1970’lerin ortasında anne-bebek etkileşimlerini izlerken, henüz hiçbir kelime geçmeyen bu alışverişlere “proto-konuşma” (proto-conversation) adını vermişti — sıra alma, duraklama, bekleme gibi konuşmanın iskeletini oluşturan unsurların, içerik hiç gelmeden önce kurulduğunu öne sürmüştü. yani idil’in benimle yaptığı şey, dilin kendisinden önce gelen bir prova: kim ne zaman konuşur, kim ne zaman susar, sırasını kim bilir.

ilginç olan şu — bu prova, içerik olmadan da işliyor. idil’in çıkardığı sesin “anlamı” yok, ama zamanlaması var. ve belki de dil, önce zamanlamayı öğrenip sonra içerik kazanan bir şey.

yapay zeka tarafında bu mekanizmanın en yakın akrabası rlhf — reinforcement learning from human feedback. fikir 2017’de paul christiano ve ekibinin insan tercihlerinden derin pekiştirmeli öğrenme çalışmasıyla netleşti, sonra büyük dil modellerinin eğitiminde standart bir adım haline geldi.

mantık şu: bir modelin “doğru” davranışını matematiksel olarak tarif etmek çoğu zaman imkansız. ama insanlara iki çıktı gösterip “hangisi daha iyi” diye sormak mümkün. bu tercihlerden bir ödül fonksiyonu öğreniliyor, model de bu öğrenilmiş ödülü maksimize etmeye çalışıyor.

burada idil’le çarpıcı bir paralellik var: model de, tıpkı bebek gibi, başta geniş ve dağınık bir çıktı uzayından başlıyor. insan geri bildirimi, contingent ve tekrarlı geldikçe, bu uzay daralıyor — model “daha iyi” cevaplar üretmeye başlıyor. ama “daha iyi” olmanın ölçütü, modelin kendi içsel bir doğruyu kavramasından değil, dışarıdan gelen tercihlerin birikiminden geliyor.

idil de büyüklerin tepkilerinden bir “ödül sinyali” alıyor olabilir — gülümsemem, gözümü açmam, sesimi değiştirmem. ve bu sinyaller, hangi seslerin “işe yaradığını” ona öğretiyor. ama bu, idil’in o sesin anlamını kavradığı anlamına gelmiyor. henüz değil.

burada bir önceki yazıdaki kara kutu meselesiyle de bir bağ kuruluyor aslında: rlhf bize modelin ne öğrendiğini gösterebilir — hangi cevaplar tercih ediliyor, hangi kalıplar pekişiyor — ama neden öğrendiğini, o tercihin modelin içinde nasıl bir temsile dönüştüğünü göstermiyor. idil’in babıldaması da öyle: hangi seslerin işe yaradığını dışarıdan izleyebiliyorum, ama içeride neyin değiştiğini göremiyorum.

rlhf’in kendi literatüründe bilinen bir tuzak var: reward hacking. model, öğrenilmiş ödül fonksiyonunu memnun etmeyi öğrenirken, bazen asıl amaçtan sapıp sadece “ödülü tetikleyen yüzeysel kalıbı” tekrar eder hale gelebiliyor — gerçekten daha iyi olmadan, daha iyi görünmeyi öğreniyor. bunu idil’le düşününce ürkütücü bir soru çıkıyor ortaya: idil’in bana en çok hangi sesleri çıkardığını öğrenmesi, gerçekten dile doğru bir adım mı, yoksa sadece beni memnun eden bir kalıbı keşfetmesi mi? muhtemelen ikisi aynı anda oluyor — ve bu da, ödülün kendisinin ne kadar kırılgan bir rehber olduğunu hatırlatıyor.

bu noktada eski bir tartışma akla geliyor. b.f. skinner, 1957’de dilin tamamen pekiştirme yoluyla — yani ödül ve ceza döngüsüyle — öğrenildiğini öne sürmüştü. noam chomsky’nin buna verdiği yanıt sert oldu: çocuklar duymadıkları cümle kalıplarını bile üretebiliyordu, bu da salt pekiştirmeyle açıklanamazdı; ortada doğuştan gelen bir dilbilgisi yetisi olmalıydı. bu tartışma elli yıldır kapanmadı, ve ilginç biçimde bugün dil modelleriyle yeniden açılıyor — çünkü bir dil modeli de, büyük ölçüde, skinner’ın hayal ettiği şeyi yapıyor: veriden ve geri bildirimden, içeride önceden kurulu bir “dilbilgisi” olmadan, dil benzeri davranış üretiyor. yine de model, hiç görmediği cümleleri kurabiliyor. yani skinner da, chomsky de, kısmen haklı çıkmış olabilir — sadece farklı katmanlarda.

idil için de benzer bir gerilim var: babıldaması ne kadarı pekiştirmeden geliyor, ne kadarı zaten orada, beklemekte olan bir kapasiteden? bunun cevabını bu yazıda vermeyeceğim — büyük ihtimalle kimse veremez.

burada seriye dair bir şey daha söylemek istiyorum: bu yazı, aslında bir üçlemenin son halkası gibi hissettiriyor bana.

#4’te tutunma refleksinden bahsederken “tutunmak ≠ anlamak” demiştik — bir bebeğin parmağı sıkıca kavraması, bir niyeti değil bir refleksi gösteriyordu. #9’da kara kutu problemini işlerken “çalışmak ≠ açıklamak” demiştik — bir modelin doğru cevap vermesi, neden doğru cevap verdiğini açıklayabilmesi anlamına gelmiyordu.

şimdi üçüncü bir ayrım ekliyorum, ama bu sefer bir başlık olarak değil, sadece bir gözlem olarak bırakıyorum: şekillenmek de anlamakla aynı şey değil. hem idil’in sesleri hem modelin çıktıları, dışarıdan gelen geri bildirimle biçimleniyor — ve bu biçimlenme gerçek, ölçülebilir, tekrarlanabilir. ama biçimlenmiş bir davranış, kendiliğinden bir anlama sürecine işaret etmiyor.

ya da belki anlama dediğimiz şey, zaten bu kadar. belki “anlamak”, yeterince çok kez şekillenmiş olmaktan başka bir şey değil — ve biz sadece bu sürecin neresinde durduğumuza göre ona “refleks” ya da “kavrayış” diyoruz.

itiraf etmeliyim: idil’in babıldamasıyla bir dil modelinin rlhf sürecini yan yana koyduğumda, aralarındaki en büyük fark ölçek ya da hız değil. fark, kimin kimden öğrendiği.

model, milyonlarca insan tercihinden bir ortalama çıkarıyor — kimsenin tek başına belirleyici olmadığı, dağıtık bir geri bildirim. idil’in geri bildirim kaynağı ise çok daha dar: ben, eşim, birkaç yakın. bu daralık, belki de avantaj. çünkü idil’in şekillenmesi, belirli birkaç insanın tutarlı tepkilerine dayanıyor — goldstein’ın çalışmasındaki “contingent” kelimesinin asıl gücü de burada. genişlik değil, tutarlılık ve anlıklık önemli.

bu da şunu düşündürüyor: belki en iyi öğrenen sistemler — ister bebek olsun ister model — geniş ama gürültülü geri bildirimden değil, dar ama güvenilir geri bildirimden besleniyor. büyük dil modellerinin eğitiminde de benzer bir ders çıkarılmış durumda: binlerce rastgele değerlendiriciden gelen tutarsız puanlar yerine, eğitimli ve talimatları net olan az sayıda değerlendiricinin geri bildirimi, modeli çok daha hızlı ve güvenilir biçimde şekillendiriyor. nicelik, nitelikle her zaman yarışamıyor.

idil’in dünyasında da bu ölçek küçük ama derin: bir avuç insan, ona binlerce kez aynı şekilde, aynı anda, aynı sıcaklıkla cevap veriyor. belki “ev” dediğimiz şey de tam olarak bu — geri bildirimin en tutarlı olduğu yer.

idil’in bana çıkardığı her ses, aslında bana da bir şey öğretiyor — hangi tepkimin onu daha çok “konuşturduğunu”, hangi sessizliğimin onu beklettiğini. yani döngü tek yönlü değil. ben onu şekillendirirken, o da beni şekillendiriyor. babalık da, bir bakıma, insan geri bildiriminden pekiştirmeli öğrenmenin tersten işleyen bir versiyonu belki — model benim, ödül sinyalini de idil veriyor: bir gülümseme, bir bakış, bir tekrar sesi.

belki bunu da bir yazıya saklamalıyım — kimin kimi eğittiği sorusu, ayrı bir tartışmayı hak ediyor.

şimdilik elimde sadece şu var: bir bebek, bir ses, ve o sesin ardından gelen sessizlikte bekleyen bir cevap. idil bir gün “anne” ya da “baba” dediğinde, bu kelimeyi öğrenmiş mi olacak — yoksa sadece bizim tepkilerimizi, yeterince uzun süre, yeterince sabırla şekillendirmiş mi olacak?

telefona bakıyorum, fotoğraflara bakıyorum.. ve fark ediyorum ki haftalarca yanında olmama rağmen içinde ne döndüğünü hiç bilmiyorum. ne zaman ağlayacağını bazen tahmin edebiliyorum — ama neden ağladığını nadiren. ne zaman güleceğini hissedebiliyorum — ama o gülüşü neyin tetiklediğini tam olarak söyleyemiyorum. davranışlarını gözlemledim, örüntüleri fark ettim, refleksleri ezberledim. ama içeriyi hiç görmedim. birbirimizden uzak geçen bir haftada tartışmaya fazlasıyla değecek bir konu olduğunu düşündüm.

bu, aslında çok eski bir problem. yapay zeka dünyasında buna kara kutu problemi deniyor. bir sinir ağı eğitilir, bir girdi verilir, bir çıktı üretilir. model çalışır. hatta bazen neredeyse sihir gibi çalışır. ama arada ne olduğunu — hangi nöronun neden aktive olduğunu, hangi ağırlığın hangi kararı etkilediğini — tam olarak kimse bilmiyor. sistemi gözlemleyebilirsin, test edebilirsin, ölçebilirsin.. ama okuyamazsın. çok enteresan değil mi?

bu tuhaf çünkü sistemi biz kurduk. her ağırlığı biz başlattık, her katmanı biz tasarladık, her veri noktasını biz seçtik (ya da seçmedik, ama en azından erişimimiz vardı). yaratıcısı olduğumuz bir şeyin içini göremiyor olmak, garip bir tevazu duygusu yaratıyor. idil’i de biz “yarattık” bir anlamda — ama onun içini görme hakkımız hiç olmadı zaten. yapay zeka ile aramızdaki fark da tam burada: onu anlayabileceğimizi varsaydık, çünkü onu biz kodladık. ama kodlamak, anlamakla aynı şey değilmiş meğer.

bu yüzden son yıllarda açıklanabilir yapay zeka (explainable ai, kısaca xai) denen bir alan doğdu. amacı modelin sadece doğru cevabı vermesi değil, o cevaba nasıl ulaştığını da anlaşılır biçimde sunması. lime, bir modelin belirli bir tahmini etrafında basit, yorumlanabilir bir yaklaşık model kurarak “bu karar hangi girdilere dayandı” sorusuna cevap arıyor. shap ise oyun teorisinden ödünç aldığı bir yaklaşımla, her girdi özelliğinin nihai sonuca ne kadar katkı sağladığını sayısal olarak paylaştırıyor. dikkat görselleştirmeleri, modelin metnin hangi kısmına “baktığını” renklendirerek gösteriyor. araçlar üretildi, yöntemler geliştirildi. ama dürüst olmak gerekirse, bu araçların büyük çoğunluğu bize gerçek bir iç görünüm değil, sonradan kurulmuş bir hikaye sunuyor. modelin kendi iç mantığı değil, dışarıdan yapılan bir yorum.

daha yeni bir araştırma kolu — mekanik yorumlanabilirlik (mechanistic interpretability) — bir adım daha ileri gitmeye çalışıyor: modelin içindeki tek tek nöronları, hatta nöron gruplarını, belirli kavramlarla eşleştirmeyi hedefliyor. umut verici sonuçlar var ama iş hâlâ emekleme aşamasında — trilyonlarca parametreli bir sistemin her köşesini haritalamak, insan beynini nöron nöron haritalamaktan çok da kolay değil.

günün sonunda bir şeyin çalışıyor olması, bizim onun tüm dinamiklerini mükemmel şekilde açıklayabildiğimiz anlamına gelmiyor.. ne yapay sinir ağları için ne de koca yanaklı bebekler için bu durum değişmiyor.

gelişim psikolojisinde uzun yıllar boyunca hâkim olan görüş davranışçılıkmış. john watson ve b.f. skinner’ın öncülük ettiği bu akıma göre içeriyle uğraşmak gerekmiyordu — uyaran vardı, tepki vardı, yeterliydi. bebeğin içinde ne olduğu sorulmayacaktı, çünkü sorulabilecek bir şey yoktu. zihin bir kara kutuydu ve kara kutuların içi açılmazdı. skinner’a göre bilim, gözlemlenemeyen bir “iç dünya”yı varsaymak yerine, gözlemlenebilir olanla — uyaranla, tepkiyle, pekiştirmeyle — yetinmeliydi. bir bakıma erken dönem yapay zekacıların da hoşuna gidecek bir tutum: modelin “neden” öyle davrandığını sormak yerine, “ne zaman, hangi girdide, nasıl davrandığını” ölçmek.

ama bu yaklaşım zamanla yetersiz kaldı. çünkü aynı uyaran farklı bebeklerde farklı tepkiler üretiyordu. bağlam değişince tepkiler değişiyordu. içeride bir şeyler oluyordu.

bugün biliyoruz ki yenidoğanlar dünyaya çok daha donanımlı geliyor. preferential looking deneyleri, bebeğin daha birkaç günlükken annesinin yüzünü yabancı bir yüzden ayırt edebildiğini gösteriyor. robert fantz tarafından 1960’ların başında geliştirilen bu teknik, bebeğin nereye baktığını izleyerek tercihlerini ölçüyor — ses veremez, konuşamaz, ama bakışlarıyla içini ele veriyor. yöntem basit: bebeğe iki görüntü gösterirsin, hangisine daha uzun baktığını ölçersin, ve o tercihten bir çıkarım yaparsın. ama dikkat et — burada da aynı tuzak var. daha uzun bakmak, daha çok anlamak değil; belki sadece daha çok ilgi çekmek. davranış var, açıklama yok. yine de “neden bu yüzü tercih ediyorsun?” diye soramazsın.

serinin dördüncü yazısında şöyle bir şey söylemiştim: tutunmak ≠ anlamak. idil’in kavrama refleksi, elime tutunması, kavramayı anlama ile karıştırmamamız gerektiğini hatırlatıyordu. bu yazının gerilimi biraz farklı ama aynı aileden:

bir sistem — ister biyolojik ister yapay — çalışıyor olabilir. çıktılar üretiyor, bağlamı okuyor, tepkiler veriyor olabilir. bu onu anlaşılabilir kılmaz. hatta tersine: ne kadar iyi çalışırsa, içi o kadar girift hale gelebilir. idil’in beyin korteksi saniyede milyonlarca bağlantı kuruyordur şu anda. büyük dil modellerinin trilyonlarca parametresi var. ikisi de çalışıyor. ikisinin de içi, büyük ölçüde kapalı.

xai araştırmacıları bu durumu tanımlamak için bazen post-hoc açıklama ifadesini kullanıyor — olay bittikten sonra, geriye bakarak üretilen bir anlatı. tıpkı bir ebeveynin bebeğinin ağlamasına anlam yüklemesi gibi: acıkmış olmalı, yalnız kalmış olmalı, korkmuş olmalı.. bunlar doğru olabilir, hatta sıklıkla doğrudur. ama modelin kendi cevabı değildir. dışarıdan kurulmuş bir hikayedir.

uzakta olmanın bir faydası vardı — mesafe, düşünmeyi mümkün kılıyor. yanındayken her şey çok anlık. ağlıyor, müdahale ediyorsun. gülümsüyor, gülümsüyorsun. içeriyi sorma lüksün olmuyor çünkü tepki vermek zorunda kalıyorsun. ama şimdi, yüzlerce kilometre öteden, sadece hafızam var elimde. davranışlar var, örüntüler var — nedenler yok.

ve düşünüyorum — acaba bu mesafe bana gerçeği mi gösteriyor?

belki hep böyleydim. belki yanındayken de içini göremiyordum, sadece fark etmiyordum. yanılsamayı sürdürmek daha kolaydı çünkü müdahale edebiliyordum, bir şeyler yapabiliyordum. eylem, anlamayı taklit ediyor bazen.

bir yapay zeka ekibinde de benzer bir yanılsama var sanırım. model production’a çıktığında, dashboard’lar yeşile döndüğünde, metrikler iyi göründüğünde — kimse durup “peki bu model neden bu kararı verdi” diye sormuyor çoğu zaman. çünkü sormaya gerek yok gibi görünüyor; sistem çalışıyor, iş devam ediyor. asıl soru ancak bir şeyler ters gittiğinde geliyor — model beklenmedik bir hata yaptığında, bir önyargı ortaya çıktığında. o zaman fark ediyorsun ki, aslında hiçbir zaman gerçekten anlamamıştın; sadece çalıştığı için sormaya gerek duymamıştın.

yapay zeka için de aynı şeyi düşünüyorum. bir model cevap ürettiğinde, o cevabın neden doğru olduğunu açıklayamıyorsa — ama doğruysa — bu yeterli mi? tıbbi teşhis koyan bir sistemin, hukuki karar öneren bir sistemin, kredi başvurusu değerlendiren bir sistemin içini açamaması kabul edilebilir mi? belki günlük hayatta yeterlidir — ama riskin arttığı yerde, “çalışıyor” ile “güvenilir” arasındaki mesafe birden çok daha önemli hale geliyor.

hafta boyunca hep aklımdaydı — ilk defa bu kadar uzun süre ayrı kalmıştık. bazen toplantı yoğun günlerde, akşamları merve’ye “hadi bana ver, biraz da ben de dursun.” diyordum. bu kez otel odasında uyumadan önce fotoğraflar arasında gezinirken içimden geçirdim: “idil hanım şu an uyuyordur herhalde.” “idil hanım sabah ağlamıştır muhtemelen.” “idil hanım bu sıcaklarla başa çıkabiliyordur umarım.” “eve döndüğümde yine yeni bir şeyler öğrenmiş olacak.”

ama hangi şeyleri, neden, nasıl.. bunları bilmeyeceğim. bana gösterecek, ama anlatamayacak. ve umarsızca şunu diliyorum: keşke açıklayabilsek. ikisini de — idil’i de, kendi yarattığımız sistemleri de. içlerinde ne döndüğünü, neden öyle davrandıklarını, hangi şeyin neyi tetiklediğini..

ama belki bu istek, anlama ile kontrol etmeyi birbirine karıştırıyor. bir şeyi kontrol etmek istediğimizde, önce onu açıklayabilmek isteriz — çünkü açıklayabildiğimiz şey, öngörebildiğimiz, yönlendirebildiğimiz şeydir. ama sevgi bunu gerektirmiyor belki de. belki bir şeyi sevmek için içini görmek gerekmez. ya da belki — ve bu beni daha çok düşündürüyor — içini göremediğimiz şeyleri sevmek, en derin güven biçimidir.

xai araştırmacıları hâlâ modelin içini açmaya çalışıyor, biz de idil’in içini açmaya çalışıyoruz — farklı laboratuvarlarda, aynı umutsuz iyimserlikle. belki bir gün ikisi de biraz daha şeffaflaşır. belki de şeffaflık hiç gelmez, ve biz sadece davranışla, örüntüyle, tahminle yetinmeyi öğreniriz. şimdilik elimde olan tek şey şu: uzaktayken bile, anlamadığım bir şeyi bu kadar çok özleyebiliyor olmam.

şimdi sekizinci haftadayız ve gülümseme artık bir sürpriz değil, bir rutin. her sabah yüzüme bakıyor, bir şey oluyor içinde, ve o dişsiz damağını göstere göstere gülümsüyor. bu haftanın kendine has bir tatminkarlığı var — artık tahmin etmiyorum, biliyorum. sabah kalktığımda, o gülümsemenin gelip gelmeyeceğini değil, ne zaman geleceğini merak ediyorum. ama bu haftanın asıl gözlemi gülümsemenin kendisi değil, gülümsemenin etrafında olan şey.

idil’in gülümsemesi sosyal bir davet aslında. evrim bunu öyle tasarlamış — bebek bu sinyalle bakım ağını genişletiyor, anne babadan büyükanne büyükbabaya, oradan komşuya, akrabaya. “ben buradayım, sen de yaklaş” diyor.. ve bizimkiler de yaklaşıyorlar.

idil gülümsemeye başladığından beri etrafındaki dünya değişti.. ziyaretler uzuyor. gezdiği kucak sayısı artıyor. eline ayağına dokunan, onları yiyecekmiş gibi yapanların sayısı artıyor. ve tabi ki idil için endişelenenlerin sayısı da artıyor. herkesin bir fikri var: “yüz üstü yatırın, boynu güçlensin.” “çok kucakta taşımayın, alışır.” “müzik açın, beyin gelişir.” “ekrana maruz bırakmayın.” “doğal ışık şart.”

sevgiyle söyleniyor bunların hepsi. iyilik niyetiyle.

biyolog ve insan gelişimi araştırmacısı urie bronfenbrenner, çocuğu bir vakum içinde değil katmanlı bir ekosistem içinde ele alır. aile çekirdeği en içteki halka — mikrosistem. büyükanne, komşu, pediatrist bir sonraki halka. kültürel normlar, toplumsal beklentiler daha dışta.. her halkanın bebeğe bir baskısı var, her biri farklı bir şeyi optimize etmeye çalışıyor. bronfenbrenner’a göre bu katmanlar birbirini etkiler — ama her katmanın aynı anda, aynı yoğunlukta müdahale etmesi sistemin kendi iç dengesini bozabilir.

bunu okuduğumda aklıma hemen bir yazılım ekibinin organizasyon şeması geldi, itiraf edeyim. çekirdek ekip, paydaşlar, yönetim, müşteri — her katman kendi önceliğini dayatıyor, ve her biri ayrı ayrı haklı. sorun katmanların varlığı değil, hepsinin aynı anda, aynı ses tonuyla konuşmaya kalkması.

bugünkü derdimiz de tam olarak bu aslında — idil’in gülümsemesiyle birlikte bütün halkaların aynı anda harekete geçmesi.

bunun bir adı da var aslında, daha klinik bir adı: aşırı uyarılma. over-stimulation. yeni doğan sinir sistemi belirli bir uyaran eşiğine kadar düzenli çalışır — ses, dokunuş, ışık, hareket. eşik aşıldığında bebek bunu kendi başına regüle edemez. sonuç genellikle huzursuz bir ağlama, bozulan uyku, zor yatışan bir gece olur. herkes ayrı ayrı “biraz” geldi ama toplamda idil’in sistemi bir günde haftalarca alacağı kadar girdi işlemek zorunda kaldı.

burada ironik olan şu: aşırı uyarılma genellikle sevgiden doğar. kimse kötü niyetle gelmiyor. ama sistemin kapasitesi, gelenlerin niyetinden bağımsız bir şey.

hiç kuşkusuz yapay zeka projelerinde de böyle anlar olur.

bir model eğitilirken — özellikle ilk birkaç iterasyonda — sistem henüz ne yaptığını öğreniyordur. veri akar, ağırlıklar güncellenir, hatalar geriye yayılır. bu sürecin kendi ritmi vardır. test setlerinde model neler yapmış diye incelemeye başlar başlamaz, ekipteki herkes bir şey fark eder: “model şunu yapıyor, şunu yapmamalı.” “learning rate’i düşürelim.” “bu feature’ı çıkaralım.” “şu threshold’u değiştirelim.” hepsi haklı gözlemler. hepsi iyi niyetli.

buna yazılım dünyasında premature optimization deniyor — sistem neye ihtiyacı olduğunu henüz ortaya koymadan yapılan erken optimizasyon. donald knuth’un bu konudaki ünlü uyarısı, erken optimizasyonun çoğu yazılım hatasının kökeninde yattığı yönünde. çoğu zaman bağlamından koparılarak alıntılanır bu söz, ama özü şu: bir sistemi tam anlamadan müdahale etmek, çözdüğünden fazla sorun yaratır.

daha derinine inince, asıl mesele şu: çok sayıda iyi niyetli müdahale birbirini iptal eder. birisi learning rate’i düşürürken diğeri batch size’ı artırır. birisi veriyi temizlerken diğeri yeni veri ekler. sistem bir yöne çekilirken başka bir yöne itilir.. ve model ne öğreneceğini bilemez hale gelir. optimizasyon değil bu — kocaman bir gürültü.

andrej karpathy — söz konusu yapay zeka olduğunda kendisi şahsi peygamberim — son dönemde autoresearch adlı bir proje yayınladı. fikir basit ama çarpıcı: model eğitiminde insanın kendisini döngünün dışına çıkarması. karpathy, kendi varlığının darboğaz haline geldiğini fark etmiş — her deneyi o kontrol ettiğinde, yorgunluk, dikkat dağılması, context-switching araya giriyor. bunun yerine bir ai agent’ı döngüye koyuyor: agent kendi başına deney tasarlıyor, çalıştırıyor, sonucu değerlendiriyor, işe yarayanı tutuyor, yaramayanı atıyor. sabırla, yorulmadan, gece boyunca.

burada kritik olan şey çoklukla ilgili değil — tam tersi. tek bir tutarlı, sabırlı mekanizma var ve insan müdahalesi azaldıkça sistem daha iyi optimize oluyor. karpathy’nin agent’ı tam da bizim bebek gelişiminde karşımıza çıkan “too many cooks” probleminin çözümü gibi duruyor: bir aşçı, ama yorulmayan, dikkati dağılmayan, her seferinde aynı titizlikle yemek yapan bir aşçı.

idil’in dünyasında böyle bir mekanizma yok. onun “autoresearch”ü kendi sinir sistemi — ve bu sistemin dışarıdan yardımı yok, gece boyunca onun yerine deney yapan bir agent yok. üstüne bir de etrafında, her biri “ben optimize edeyim” diyen insanlarla dolu. karpathy bir tek agent’a güvenip kendini geri çekiyor; idil’in etrafındaki insanlar ise tam tersini yapıyor — her biri içeri giriyor, hiçbiri çekilmiyor.

sizi sovyet psikolog abimiz vygotsky’ye geri götürmek istiyorum — kavrama refleksi yazısında ondan bahsetmiştik, idil’in elimi tuttuğu o anda. vygotsky, öğrenmenin sosyal bir eylem olduğunu söylüyordu: bir çocuk, kendi başına ulaşabileceği seviyenin ötesine ancak bir yetişkinle birlikte çıkabilir. buna “yakınsak gelişim alanı” demişti — şu an bildiğin ile biraz zorlanırsan bilebileceğin arasındaki o dar boşluk. o yazıda bu boşluğun yalnız geçilemeyeceğinden, bir elin uzanması gerektiğinden bahsetmiştim.

ama o elin nasıl uzandığı da önemliymiş, şimdi fark ediyorum. tek bir el, doğru zamanda uzanırsa boşluk geçilir. on el birden uzanırsa, boşluğun kendisi kaybolur.

scaffolding — iskele — deniyor buna. bir bina inşa edilirken kurulan geçici destekler gibi. bina yükseldikçe iskele de değişir. ama iskeleyi sökmeden bina tamamlanmaz. ve iskeleyi kuran kişi sayısı arttıkça, hangi desteğin gerçekten gerekli olduğunu ayırt etmek zorlaşır.

idil için de aynı şey geçerli. etrafındakilerin ilgisi bir iskele. doğru zamanda, doğru yoğunlukta olursa gelişimi destekler. ama herkes aynı anda farklı bir iskele kurmaya kalkarsa — bina altında ezilir.

yapay zeka modelinde de öğrenme süreci kendi yakınsak gelişim alanını bulmalı. hangi parametrenin ne zaman dokunulacağına sabırla bakılmalı. müdahale değil, gözlem. optimizasyon değil, takip.

bir yapay zeka projesi de ilk anlamlı çıktısını ürettiğinde idil’in gülümsemesine benzer bir şey yaşar. model bir şeyler yapıyor, sonuçlar görünür hale geliyor.. ve herkes bir fikir geliştiriyor. product manager uat’den bir şeylerle dönüyor, testçiler bazı caselerde modeli fail ettiriyor, kıdemli mühendis mimariyi sorguluyor, yönetici metriği değiştirmek istiyor. bir anda geri bildirimlerin ardı arkası kesilmiyor.

gülümseme gibi: davet işe yaradı, ama arkasından kocaman bir kalabalık da geldi.

mutfakta aşçı çok olunca çorbanın tadının kaçacağını sezgisel olarak biliriz. ama bir ekip toplantısında, herkesin niyeti iyiyken, bu sezgiyi unutmak çok daha kolay.

sekizinci haftanın en büyük dersi bu oldu benim için. idil her geçen gün biraz daha kendisi oluyor — ama bu “olma” süreci ancak ona yetecek kadar alan bırakıldığında işliyor. çok fazla uyaran, çok fazla düzeltme, çok fazla iyi niyet.. ve nihayetinde aşırı uyarılmış, huysuz bir sistem. herkesler giderken, gecenin köründe uykusuzluğun üzerine bir de çilek niyetine gelen ağlama krizleri.

bir yapay zeka modeli eğitirken de en zor beceri bu: elleri cebine koymak. gözlemlemek. beklemek. sistemin kendi sinyalini bulmasına izin vermek. karpathy bunu otomatikleştirerek çözdü — kendini çekti, sabırlı bir mekanizmayı işin başına koydu. ama idil için böyle bir vekil yok. orada duran, gözlemleyen, ne zaman çekileceğine karar veren tek şey — biz.

belki de bütün yazının özeti şu ayrımda: ilgi göstermek ile müdahale etmek aynı şey değil. ilgi, sistemin yanında durup onu izlemektir — gerektiğinde elini uzatmak, ama elini sürekli uzatılmış tutmamak. müdahale ise sistemin kendi ritmine güvenmemekten doğar — “ben daha iyi bilirim” düşüncesinden.

neyse.. bugün şöyle bir baktığımızda ben de merve de şunun farkındayız — idil’e gösterilen sevginin hiçbiri kötü niyetli değil, ama sevgi ile sabır aynı anda gelmiyor her zaman.

peki ya bir toplulukta bunu nasıl başarırsın? herkes iyilik istiyorken, herkes katkı sunmak istiyorken — kimin ne zaman geri adım atacağını kim belirler? bazen kucağında hüngür hüngür ağlamaktan şişen bebeği devralıp, sana 3-5 dakika dinlenme fırsatı sunan anneanne ya da babaanneye hayır diyebilir misin?

bu tartışma sanki kuyruklu yıldızları gözlemlemek gibiydi.. çünkü idil hanım evet gülümsüyordu ama gelişigüzeldi. bazen oluyordu, bazen olmuyordu. koşulları aynı tutsak bile, bazen birlikte “uuu” diyorduk ama bir sonrakinde sessiz kalmayı tercih ediyordu. bunlar belki de bir takım refleksler ya da kasılmalardı. hatta belki de biz öyle görmek istediğimiz için öyle görüyorduk — ebeveynlik, biraz da yorum yapma sanatı sonuçta. bir kaşın hafifçe kalkması bile bize koca bir anlam ifade edebiliyor, çünkü öyle olmasını istiyoruz.

yedinci haftaya geldiğimizde artık şüphe kalmadı. idil hanım gülümsüyor — tekrar tekrar. yüzüme bakıyor, bir şey oluyor içinde, ve gülümsüyor. kasları farklı çalışıyor, gözleri de bu tatlışlılık tablosunun bir parçası oluveriyor. bu bir refleks değil — bu bir tanıma. ve sanırım annesine daha çok gülümsüyor (gururlu kaybediş).

ama beni en çok düşündüren şey gülümsemenin kendisi değil. ne oldu da, idil hanım o beşinci & altıncı haftalardaki tek seferlik, gelip geçen, belki-vardı-belki-yoktu anından yedinci haftadaki bu tekrar eden, kararlı, kalıcılaşan hale geçti.

arada ne oldu? idil hanım versiyon güncellemesi mi aldı?

2016 yılının mart ayında, seul’de, dünya go şampiyonu lee sedol bir makineye karşı oturdu. alphago’ydu bu makine — deepmind’ın geliştirdiği, milyonlarca go oyunu üzerinde eğitilmiş bir yapay zeka. ikinci maçın 37. hamlesi geldiğinde yorumcular ekranda dondu. go uzmanları birbirlerine baktı. lee sedol 15 dakika masadan kalktı.

o hamle hiçbir insan oyuncunun yapacağı bir hamle değildi. yüzyıllık go sezgisinin dışında, neredeyse “yanlış” görünen bir taş. ama birkaç hamle sonra hamlenin neden doğru olduğu anlaşıldı. sonradan “move 37” olarak tarihe geçti — güzel ve açıklanamaz bulunan bir hamle.

alphago o hamleyi planlamadı. milyonlarca oyunun içinden damıtılan, ama hiç açıkça öğretilmeyen bir sezginin yüzeye çıkışıydı bu. birikim görünmezdi; ortaya çıkış ani ve sürpriz oldu.

yapay zeka araştırmacıları bu örüntüye bir isim verdi: emergent capabilities — ortaya çıkan yetenekler. jason wei ve ekibinin 2022 tarihli çalışması bunu sistematik olarak belgeledi. büyük dil modellerini eğitirken bazı yetenekler doğrusal gelişmiyor — bir eşiğin altında tamamen yok, eşiğin üstünde birdenbire beliriyor. matematiksel akıl yürütme, çok adımlı analoji, kod yazma — bunların hiçbiri yavaş yavaş iyileşmedi; bir gün yoktu, ertesi gün vardı.

bu durum araştırmacıları rahatsız etti çünkü makine öğrenmesinin temel sezgisine aykırı. eğitim ver, hatayı ölç, ağırlıkları ayarla, tekrarla. lineer bir süreç. peki lineer bir süreçten nasıl doğrusal olmayan bir sıçrama çıkıyor?

bunu anlamak için önce neyin emergent olmadığını görmek gerekiyor. bir bilim kurgu filminde bir karakterin, dövüş sanatını saniyeler içinde doğrudan beynine yüklettiği o meşhur sahneyi hatırlarsınız belki — “i know kung fu” der, ve öylece bilir.

gerçek olan şu: bir müzisyen yıllarca akor öğrenir, teori çalışır, egzersiz yapar. sonra bir gün doğaçlama yapabildiğini fark eder. kimseden öğrenemez bunu; hiçbir ders kitabında “doğaçlama” başlığı altında öğretilen bir şey değil bu. bileşenlerin toplamından fazlası ortaya çıktı — birdenbire, ama boşluktan değil. alphago’nun 37. hamlesi de tam olarak buydu.

grafiğe bakınca aklına ilk gelen şey bir step fonksiyonu — belirli bir eşiğe kadar sıfır, eşikten sonra birdenbire bir değer. düz bir çizgi, sonra dikey bir duvar. jason wei ve ekibinin çalışmasındaki performans grafikleri neredeyse bunu gösteriyor.

diğer taraftan da rylan schaeffer ve ekibinin yaptığı çalışmalar bu konuda enteresan durumlar olduğunu ispat ediyor. 2023’te yayınladıkları çalışmalarında, bu yeteneklerin bir kısmı farklı metriklerle ölçüldüğünde hiç de ani görünmüyor. aslında yavaş yavaş birikiyorlar ancak biz fark edemiyoruz. haliyle bunu birazcık görselleştirecek olursak, elimizde keskin bir step fonksiyonu yerine çok daha smooth bir sigmoid var.. o birden birelik, yerini birikime bırakıyor. belki de idil’in geçmiş haftalardaki ilk gülümsemesi de tam olarak buydu: sigmoid’in ortalarında, bizim algı eşiğimizin henüz altında.

peter huttenlocher isimli chicago üniversitesi’ndeki nörolog hocamız, bebek beyninin ilk aylarını yıllar boyunca inceleyerek, bugün hepimizin aklına ilk gelen şeyi doğrulamaya çalışmış — beyin nöron ekliyor, sinaps üretiyor, bağlantı kuruyor.

sonuç tam tersi çıkmış: aşırı üretim var evet ama ardından da budama var. bebekler dünyaya geldiğinde sinaps sayıları yetişkinlerin sinaps sayılarından çok daha fazla oluyormuş. ilk aylarda beyinlerimiz, kullanılmayan bu bağlantıları sistematik olarak kesiyormuş.

bu bulgu ilk okuduğumda içimi tuhaf bir şekilde rahatlattı, itiraf edeyim. çünkü yapay zeka tarafında da benzer bir sezgi var: bir modeli büyütmek her zaman daha fazla katman, daha fazla parametre eklemek anlamına gelmiyor; bazen en iyi sonuç, gereksiz olanı ayıklamaktan geçiyor. idil’in beyni de tam bunu yapıyormuş — önce cömertçe bağlantı kurup, sonra acımasızca eleyerek.

birikim gizli. dışarıdan hiçbir şey görünmüyor. idil hanımın bu hafta yüzümüze fırlattığı o gülümsemeleri, bu haftanın değil — altı haftanın ürünü. her ses, her yüz, her dokunuş bir yerlerde işlendi; bir şeyler kesildi, bir şeyler kaldı. ortaya çıkış günün birinde oldu, hazırlık çok daha önce başlamıştı.

peki bugüne kadarki tek seferlik, belirsiz, kaybolup giden o anlar ne oldu? belki bir sinyal sızdı — sistem henüz hazır değilken. bu hafta ise aynı yetenek stabilize oldu: tekrar ediyor, kalıcılaşıyor, güvenilir hale geliyor.

yapay zeka tarihinde benzer bir dönüm noktası var. erken sinir ağları lineer aktivasyon fonksiyonlarıyla çalışıyordu — ne kadar katman eklersen ekle, sonuç yine lineerdi. derinlik anlamsızlaşıyordu. sonra nonlineer aktivasyonlar geldi, relu ile birlikte derin ağlar gerçekten derinleşebildi ve 2012’de alexnet imagenet’i alt üst etti. tek bir nöron ateşleme eşiği olan küçük bir step — ya geçer ya geçmez. ama milyarlarca nöron, derinlik boyunca bileşimlenince ortaya çıkan davranış artık hiçbir tek nöronun özelliği değil. huttenlocher’ın budaması da bunu yapıyor aslında: ağı seyrelterek değil, gereksiz lineerliği keserek sistemi daha verimli bir nonlineerliğe taşıyor. hatta bazı yapay sinir ağı mimarilerinde bu budama için özel nöronlar var — lstm’lerdeki unutma kapısı (forget gate) gibi.

henk van de rijt ve frans plooij, bebek gelişimini bir döngü olarak tanımlamışlardı ve bunu önceki yazılarımın birinde ele almıştık: sakin dönemler ve “leap” denen sıçrama anları. wonder weeks adını verdikleri bu çerçevede yedinci hafta küçük ama belirgin bir dönüm noktası. bebeğin duyusal sistemi niteliksel olarak farklı bir düzeye geçiyor — artık daha fazlasını görmüyor, farklı görüyor.

bu ayrım küçük gibi görünüyor ama değil. daha fazlasını görmek bant genişliği meselesi. farklı görmek temsil meselesi. idil artık yüzleri daha net algılamıyor; yüzleri yüz olarak sınıflandırmaya başlıyor. bu ise beraberinde başka özelliklerin altyapısını oluşturuyor — tanıdık ile yabancıyı ayırıyor, ifadeyi okuyor, tepki üretiyor.

yapay zeka tarafında da tam bu ayrımı görüyoruz aslında: bir modelin daha fazla token işlemesi ile bir görevi niteliksel olarak farklı bir yaklaşımla çözmeye başlaması aynı şey değil. birincisi ölçek, ikincisi kategori değişimi. emergent capabilities araştırmasının asıl iddiası da bu — bazı yetenekler sadece “daha iyi” değil, “başka türlü” ortaya çıkıyor.

emergent capabilities tartışmasının en zor yanı şu: sıçrama dediğimiz şeyler gerçek mi, yoksa bizim ölçüm araçlarımızın gözünde mi? alphago’nun 37. hamlesi de bu soruyu taşıyor aslında. o hamle modelin içinde hep mi vardı — bir ağırlık kombinasyonu olarak, bir olasılık olarak — ve sadece o pozisyon onu yüzeye mi çıkardı? yoksa gerçekten, o anda, yeni bir şey mi doğdu?

belki de bu ikisi arasında bir fark olmayabilir. bir yeteneğin “içeride hep var olması” ile “belirli bir anda ortaya çıkması” aslında aynı olgunun iki farklı tarifi olabilir — biri sistemin iç durumunu, diğeri dışarıdan gözlemlenen anı tarif ediyor. idil’in gülümsemesi de öyle: kaslar, sinirler, o tanıma kapasitesi muhtemelen haftalardır oradaydı. yedinci haftada olan şey, o kapasitenin ilk kez güvenilir biçimde tetiklenmesiydi belki de — yaratılış değil, eşiği aşma.

idil bugüne kadar birkaç kez gülümsemişken, artık yedinci haftada gülümsemesi kalıcı hale geldi ve umarım yüzünden de hiç eksilmeyecek. bize de bu hikayeden, şu an acaba hangi sigmoidlerin başlarında ya da ortalarında olduğumuz sorusu kaldı.

birlikte cevap bulmaya devam öyleyse, görüşmek üzere!

bu bir ritüeldi. anneanne ve babaanne “kırkı çıkmadan dışarı çıkmaz” demişti, biz de çıkarmadık. sonuçta bu hafta itibariyle ilk kez kapı dışına taşıdık. pazar yeri seçmek de tesadüf değildi — kalabalık, gürültülü, kokulu.. hayatın tam ortası. ilk çıkış için belki alışılmadık bir yer ama ritüel olarak doğruydu: sadece sokağa değil, dünyaya adım atıyordu.

idil hiçbir şeyin farkında değildi tabii. uyuyordu büyük ölçüde. ama biz farkındaydık — ve bu belki o an için yeterliydi.

türk kültüründe kırk sayısı ciddi bir ağırlık taşır.

kırkından önce bebek dışarı çıkmaz. yas kırk gün tutulur. kahvenin kırk yıl hatrı vardır. “kırk katır mı, kırk satır mı” sorusu imkânsız bir seçimi anlatır. halk masallarında kırk haramiler vardır, kırk kapı vardır, kırk gün kırk gece süren düğünler vardır. islam kültüründen de şüphesiz kırk üzerinden bir anlatı kurulmaya çalışılmış.

sayı nereden gelirse gelsin, “kırk” hep aynı şeyi işaret ediyor — bir eşiği, bir olgunlaşmayı, bir geçişi.

bu tesadüf değil. belki de insan zihninin bir yerde bir sınır çizme ihtiyacından doğuyor: burada bitti, şimdi yeni bir şey başlıyor. sınırın tam olarak nerede olduğu değil, sınırın kendisi önemli. belirsizliği taşınamaz hale geldiğinde, kültür bir sayı seçiyor ve o sayıya anlam yüklüyor.

ilginç olan şu: kırk sayısının kendisinde biyolojik ya da matematiksel özel bir şey yok. otuz beş de olabilirdi, kırk beş de. ama bir kere seçildikten sonra, o sayı bir gerçekliğe dönüşüyor — insanlar ona göre plan yapıyor, ona göre bekliyor, ona göre rahatlıyor. sayının kendisi değil, üzerine kurulan anlaşma önemli hale geliyor.

douglas adams, otostopçunun galaksi rehberi‘nde yaşamın, evrenin ve her şeyin cevabının 42 olduğunu anlatır — cevabı hesaplayan bilgisayar yedi buçuk milyon yıl düşünür, ama kimse artık sorunun ne olduğunu hatırlamaz. türkler galiba adams’tan iki sayı önde gitmiş. cevap 42 değil, 40’mış.

peki neden kırk?

biyoloji bir ipucu veriyor. doğumun ardından yaklaşık altı hafta boyunca yenidoğanın bağışıklık sistemi henüz anne karnından getirdiği antikorlarla çalışır — buna pasif bağışıklık deniyormuş. bu koruma geçici olup, etkisi zamanla azalır. bebeğin kendi bağışıklık sistemi devreye girene kadar dış dünya gerçekten daha büyük bir risktir. enfeksiyon kapısı daha geniştir, yabancı mikroplara karşı savunma daha kırılgandır.

kırkın çıkması, modern tıptan önce gelen bir sezginin dondurulmuş halidir belki de — klinik deney değil ama milyonlarca ailenin nesiller boyu ürettiği ve aktardığı bir bilgi. gözlemden doğmuş, ritüele dönüşmüş, sonra ritüel olarak yaşamaya devam etmiş. bilimsel dergide yayınlanmamış ama test edilmiş — kalabalık ve uzun bir örneklemle.

toplumun “bu bebek artık dünyaya tutunabilir” dediği an.

ama bu beni asıl soruya götürüyor — tutunabilmek ne demek? ve kim, ne zaman hazır sayılır?

neuroscience bu soruya “kritik dönem” kavramıyla yaklaşıyor.

david hubel ve torsten wiesel — görme biçimleri yazısından da hatırlayabileceğiniz ikili — yaptıkları deneylerle şunu gösterdiler: yenidoğan kedi yavrularının bir gözü doğumdan hemen sonra kapatılırsa, o göze karşılık gelen beyin bölgesi kalıcı olarak zayıflar. görsel sistem sadece girdi almakla kalmıyor, o girdinin zamanında gelmesine ihtiyaç duyuyor. kritik dönem bir penceredir. pencere açıkken gelen deneyimler sistemin temelini oluşturur; pencere kapandığında bazı şeyler artık aynı biçimde öğrenilemez.

bu insanlar için de geçerli. dil edinimi bunun en çok bilinen örneği — erken çocuklukta yeterince duyulmayan bir dil için beyin o esnekliği kaybeder, daha doğrusu farklı bir esneklik haline gelir. değiştirilemez mi? hayır. ama daha zordur ve artık başka bir süreçtir.

kırk belki tam bu yüzden var: kritik dönemin ilk evresinde bir nefes almak, sistemin biraz daha dayanıklı hale gelmesini beklemek, sonra dünyaya bırakmak. bebek dışarıya tam olarak “hazır” çıkmıyor — ama artık daha dayanıklı. ve belki bu yeterli.

ve haydi biraz da yapay zeka diyelim.

büyük dil modellerinin eğitimi birbirini izleyen üç aşamada düşünülür.

ilki pre-training. modelin internetin büyük bir bölümünü, kitapları, makaleleri, kodları, akademik yayınları tüketerek genel bir dünya temsili oluşturduğu uzun ve pahalı süreç. bu aşamada model gerçek dünyayla doğrudan konuşmuyor. kontrollü bir ortamda, kurallı bir veri akışıyla besleniyor. çok büyük, çok gürültülü ama aynı zamanda temizlenmiş, filtrelenmiş bir veri havuzu. bir tür kırkına kadar korunma hali — dış gürültüden yalıtılmış değil, ama dünyanın ham gerçekliğiyle de henüz temas yok.

ikincisi fine-tuning (ince ayar). modelin belirli bir görev, belirli bir ton, belirli bir kullanıcı grubu için uyarlandığı aşama. pre-training genel bir temel oluşturur, fine-tuning onu şekillendirir. pazara ilk kez çıkmak gibi biraz — ortam değişiyor, beklentiler netleşiyor, sistemin ne için var olduğu daha somut hale geliyor.

üçüncüsü ise asıl ilginç olan: rlhf — reinforcement learning from human feedback, insan geri bildiriminden pekiştirmeli öğrenme. model cevaplar üretir, insanlar bu cevapları değerlendirir — hangisi daha iyi, hangisi daha yardımcı, hangisi daha doğru — ve model bu değerlendirmelere göre kendini günceller. sistem artık sadece veriyle değil, insanın yargısıyla da şekilleniyor.

2017’de yayınlanan ve bu yöntemi sistematik biçimde tanımlayan çalışma bugün neredeyse tüm büyük dil modellerinin eğitim sürecinin ayrılmaz parçası haline geldi. bu konuya ilerleyen bir yazıda çok daha derinlemesine gireceğim; şimdilik pazar benzetmesi için yalnızca üçüncü aşamanın var olduğunu bilmemiz yeterli.

ama hubel ve wiesel’e döneyim, çünkü kritik dönem burada da iş yapıyor — ve bu sefer farklı bir pencereden.

bir modelin pre-training verisi, onun “kritik dönemi” sayılabilir mi? o dönemde gördükleri, artık modelin dünya temsili haline gelir. bu temsili sonradan fine-tuning ile değiştirebilirsiniz, rlhf ile törpüleyebilirsiniz — ama bazı şeyler pre-training’de o kadar derin kodlanır ki, sonraki aşamalar bunların üstünden tam olarak geçemez. araştırmacılar buna inductive bias diyor: modelin veriyi yorumlama biçimine önceden gömülü olan eğilimler, başlangıçta oluşan kalıplar. bir bakıma, kritik dönemde şekillenen alışkanlıklar.

hubel ve wiesel’in kedileri gibi.. bir sisteme kritik dönemde ne gösterirsen, o sistemin dünyayı nasıl yorumlayacağını kısmen belirliyorsun. bunu ne kadar fine-tune edersen et, ne kadar insan geri bildirimi eklersen ekle — bazı şeyler pre-training’den geliyor ve orada kalıyor.

bu yüzden büyük dil modellerinin eğitiminde pre-training verisi giderek daha titiz bir mesele haline geldi. hangi diller, hangi dönemler, hangi bakış açıları, hangi önyargılar.. ne öğrettiğin kadar ne zaman ve nasıl öğrettiğin de önemli. kritik dönemin penceresi kapanmadan önce içeri ne giriyor?

ama burada bir fark var ve bunu atlamak istemiyorum.

rlhf’te insan geri bildirimi modeli şekillendiriyor, doğru. ama idil pazarda ne hissettiyse — ışığı, sesi, kalabalığı, soğuğu, tanımadığı yüzleri — onu da bir anlamda “şekillendiriyor.” fark şu: idil bu geri bildirimi kendi sinir sistemiyle, kendi bedeniyle işliyor. bir şeyi seviyor, bir şeyden rahatsız oluyor, bir şeye şaşırıyor — ve bu tepkiler onun. kimse idil hanıma “buna güzelmiş gibi tepki ver” demiyor.

rlhf’te ise tercihler dışarıdan geliyor. model bir şeyi beğenmiyor değil; insanlar beğeniyor ya da beğenmiyor ve model buna göre parametrelerini güncelliyor. sistemin “hissettiği” bir şey var mı, yoksa sadece istatistiksel bir uyum mu gerçekleşiyor?

bu soruyu da sırf spekülasyonlara bayıldığım ve tavşan deliğinden aşağıya yuvarlanmak için erken olduğunu düşündüğümden, şimdilik açık bırakıyorum.

pazar dönüşünde sokağa girdiğimizde idil uyandı ve etrafına baktı. gözleri henüz net görmüyor — bunu üçüncü yazıda konuşmuştuk — ama ışık değişimini hissediyordu. içeriden dışarıya. kapalıdan açığa. kontrollü bir ortamdan, gürültülü, öngörülemez, kokulu gerçek dünyaya.

kim, ne zaman hazır sayılır diye sormuştum.

biz karar verdik. kırk gün saydık, bir sabah “tamam, bugün” dedik. o karar onun değildi. büyük dil modelleri de üretim ortamına kendi isteğiyle çıkmıyor. bir ekip karar veriyor, değerlendirmeler yapılıyor, bir eşik belirleniyor. “yeterince iyi” olduğuna onlar karar veriyor.

türkler buna kırk demiş. adams 42 demiş. geliştiriciler / mühendisler buna “production-ready” diyor.

hepsi aynı soruyu soruyor: ne zaman yeterince hazır?

ve hiçbiri tam olarak cevap veremiyor — çünkü “hazır” denen şey, temas kurulduktan sonra anlaşılıyor. bir modelin değerlendirme setlerinde kaç puan aldığını önceden biliriz; ama gerçek kullanıcılarla, gerçek sorularla, gerçek bağlamlarla karşılaştığında nasıl davranacağını tam olarak kestiremeyiz. idil pazarda ne hissetti bilmiyorum. ama döndüğünde bir şey değişmişti — ya onda, ya da benim ona bakışımda.

peki model, üretim ortamına çıktıktan sonra gerçekten değişiyor mu?

ya da sadece biz mi farklı bakıyoruz?