dün sabah, güneş daha doğmadan yola çıktık. idil arka koltukta, bebek koltuğuna sıkıca yerleşmiş halde; ben direksiyondayım, merve de arkada idil ve eşyaların arasında bir yerlerde. hedef 900 kilometre ötede, önümüzde yaklaşık 11 saat var. bu, üçümüzün birlikte çıktığı ilk uzun yolculuk.
itiraf edeyim, bu benim için de bir ilk. 1.5 yıldır araba kullanıyorum ama hiç bu kadar uzun bir yol yapmadım — hep co-pilotluk yaptım. bugün ilk kez pilot koltuğundayım. tuhaf bir sorumluluk hissi var; artık sadece yolu izleyen değil, süreci yöneten benim. belki de bu yüzden yolculuğun her anını biraz daha dikkatli, biraz daha kayıt altına almaya çalışan bir gözle geçiriyorum — sanki pilot olmak, aynı zamanda “hatırlayan” olma sorumluluğunu da bana yüklüyormuş gibi.
ilk saatler beklediğim gibi geçti — motorun sabit uğultusu ve aracın hafif sallantısı idil’i uyuttu. bu, aslında pek çok ebeveynin bildiği bir sır: hareket ve düşük frekanslı titreşim, yeni doğanların sinir sistemini adeta bir beyaz gürültü jeneratörü gibi sakinleştiriyor. ilk iki-üç saat sessizlik içinde geçti. sonra bir mola, bir karın doyurma seansı, bir bez değişimi. yolun ortalarına doğru huzursuzluk arttı — uzun süre aynı pozisyonda kalmanın verdiği sıkıntı, belki de artık tanıdık gelmeyen bir manzaranın verdiği yorgunluk. son saatlerde ise hem idil hem biz, eve yaklaşmanın verdiği tuhaf bir sabırla ilerledik.
akşam eve vardığımızda, geride 11 saatlik bir gün bıraktık. ama şunu düşünmeden edemedim: bu 11 saatin ne kadarı gerçekten kalacak? benim hafızamda kalan, muhtemelen birkaç kesit olacak — ilk molanın hangi benzinlikte olduğu, idil’in bir an gülümsediği, belki bir şarkının araçta çaldığı an. geri kalanı, saatler geçtikçe bulanıklaşacak. idil için ise durum çok daha kesin: bu günden, muhtemelen, hiçbir şey kalmayacak.
bu ihtimal beni gelişim psikolojisinin eski ve hâlâ tam çözülmemiş bir sorusuna götürdü: neden hiçbirimiz bebekliğimizi hatırlamıyoruz? bu fenomene infantile amnesia deniyor — ve uzun süre, bunun sebebinin basitçe “bebeğin hipokampüsünün henüz olgunlaşmamış olması, yani anıyı kaydedecek donanımın eksik olması” olduğu düşünüldü.
ama son yıllarda bu resim değişti. yale üniversitesi’nden nick turk-browne ve ekibinin uyanık bebeklerin beynini fMRI ile görüntüleyen çalışması, yaklaşık 12 aylıktan itibaren bebeklerin hipokampüsünün, daha sonra hatırladıkları görsellere karşı belirgin biçimde aktive olduğunu gösterdi. yani bebekler anıyı gerçekten kodluyor. sorun kayıt değil, geri çağırma. anı bir yerde duruyor, ama ona giden yolu kaybediyoruz.
bir başka açıklama daha var, ve bu bana daha da çarpıcı geldi: bebeklik döneminde hipokampüste yeni nöron üretimi (nörogenez) yetişkinlere kıyasla çok daha yüksek hızda gerçekleşiyor. bu hızlı yenilenme, önceden kurulmuş anı ağlarını sürekli olarak yeniden düzenliyor — sanki bellek mimarisi henüz oturmadan, üzerine sürekli yeni katlar inşa ediliyor. anı orada, ama zeminin kendisi hiç durmuyor.
bu ayrım — kodlamak ile geri çağırabilmek arasındaki fark — bana çok tanıdık geldi. çünkü büyük dil modellerinde de neredeyse birebir aynı problem var.
2023’te stanford ve berkeley’den bir grup araştırmacı, dil modellerinin uzun bir bağlamı (context) nasıl kullandığını inceleyen bir çalışma yayınladı. bulgu şuydu: bir bilgi, verilen metnin başında ya da sonunda yer alıyorsa model onu güvenle buluyor. ama aynı bilgi metnin ortasına düşerse, modelin performansı belirgin biçimde düşüyor — bilgi hâlâ oradadır, model onu “görmüştür”, ama dikkat mekanizması oraya gereken ağırlığı vermiyor. bu fenomene araştırmacılar lost in the middle adını verdi.
araştırmacılar bunun bir parçasını modelin eğitim verisindeki alışkanlığa bağlıyor — talimatlar genelde metnin başında yer aldığı için model, dikkatini oraya yığmayı öğreniyor; sona doğru ise en güncel bilgiye doğal bir öncelik veriyor. arada kalan her şey, bu iki kutbun arasında sıkışıp kayboluyor.
burada da bilgi kayıp değil. context’in içinde, tıpkı bebeğin hipokampüsündeki iz gibi, duruyor. sorun depolama değil, erişim. model “hatırlamıyor” değil — “geri çağıramıyor.”
peki bu durumda uzun bir süreç — ister 11 saatlik bir yolculuk, ister milyonlarca token’lık bir context, ister bir insan ömrünün ilk yılları — nasıl tutarlı kalabiliyor? cevap, her şeyi eşit ağırlıkta hatırlamaktan değil, doğru yerlere sabit noktalar koymaktan geçiyor.
makine öğrenmesinde uzun bir eğitim sürecinde modelin durumu (state) belirli aralıklarla kaydedilir — buna checkpoint deriz. bir checkpoint, sürecin tamamını özetlemeye çalışmaz. sadece o ana kadarki ilerlemeyi güvene alır, öyle ki bir kesinti ya da hata olduğunda süreç sıfırdan değil, o son sabit noktadan devam edebilsin. checkpoint’in gücü, her şeyi tutmasında değil, doğru anları tutup gerisini bırakabilmesinde.
alternatifi düşünmek bile yorucu: her kesintide baştan başlamak, günler süren eğitimi sıfırlamak, aynı yolu tekrar tekrar kat etmek. checkpoint olmadan uzun süreçler kırılgan kalır — küçük bir hata, koca bir ilerlemeyi silebilir. tuhaf biçimde, tam da bu kırılganlığa karşı geliştirilmiş bir çözüm, unutmayı bir kusur olmaktan çıkarıp bir tasarım kararına dönüştürüyor: her şeyi tutmaya çalışmak yerine, sadece devam etmeye yetecek kadarını tutmak.
yolculuğumuzdaki molalar da tam olarak bunu yaptı bence. her mola, günün akışını sıfırlamadı — sadece bir sonraki parçaya sağlam bir noktadan başlamamızı sağladı. belki de idil’in hafızasında hiç yer etmeyecek bu gün, benim ve merve’nin hafızasında birkaç checkpoint olarak kalacak: ilk mola, belli bir şarkı, arka koltuktan gelen belli bir ses. gerisi, tıpkı context’in ortası gibi, sessizce silinecek.
burada asıl ilginç olan şu: idil’in kendi hafıza sistemi henüz bu checkpoint’leri kalıcı kılacak olgunlukta değil. ama bizim hafızamız — fotoğraflar, anlattığımız hikayeler, “sen hatırlamıyorsun idil hanım ama şöyle olmuştu” cümleleri — onun için dışarıdan bir checkpoint mekanizması gibi çalışıyor belki. o günü kendi başına geri çağıramayacak, ama biz onun yerine tutabiliyoruz.
eve vardığımızda idil’i kucağıma aldım, uykulu gözlerle bana baktı. o an hatırlayacağı bir an değildi — ama benim hafızamda, sanırım uzun süre kalacak bir checkpoint oldu. pilot koltuğunda geçirdiğim ilk uzun yolculuğun da, onun ilk uzun yolculuğunun da tek kaydı, şimdilik benim ve merve’nin zihninde.
ve düşünmeden edemedim: bir deneyimin anlamı, onu yaşayanın hatırlamasında mı saklı, yoksa deneyimi birinin — herhangi birinin — tutabilmiş olmasında mı? bir modelin context’inde kaybolan bilgi, o bilgiyi başka bir yerde tutan bir sistem varsa gerçekten “kaybolmuş” sayılır mı? yoksa kayıp, sadece erişimin geçici olarak kesilmesinde mi saklı?
belki idil’in hafızası bir gün bu tür günleri de kodlayıp geri çağırabilecek kadar olgunlaşacak. belki de bu 11 saat, onun için sonsuza dek context’in ortasında, erişilemez bir yerde kalacak — ama benim anlattığım hikayeler aracılığıyla, kendi hafızasıymış gibi ona geri dönecek; ödünç alınmış bir checkpoint, sonradan kendi tarihine eklenmiş. o zaman soru şu hale geliyor: bir anı, hiç senin olmasa bile, sana ait olabilir mi?