kızımla yapay zeka sohbetleri #4
yapay zeka kışları ile wonder weeks arasında nasıl bir bağlantı olabilir ki?
beşinci haftanın neredeyse başlangıcı itibariyle idil hanım ağlamaya başladı ve durmadı. gece, gündüz, ara ara, uzun uzun. bir şey yoktu ortada — acıkmamıştı, altına kirletmemişti, öyle boğucu bir sıcak da yoktu ortada. adana’ya rağmen..
sadece ağlıyordu. saatlerce onu kucağımda salladım, şarkı söyledim, odada volta attım. bir süre sonra duruyordu bu bilinmez ağlama ve ben de yapılan en mantıklı çıkarımı yaptım: 90lar - 2000ler türkçe rock! bu ağlama krizleri yaşanırken, hoparlörden çok da yüksek olmayan bir sesle bangır bangır yavuz çetin, kesmeşeker, pilli bebek ve daha niceleri çalıyordu. sonuçta babasını sakinleştiriyordu, idil hanım’ı niye sakinleştirmesindi ki?
ama benim bu müthiş çıkarımım 2 gün sonra kendisini yanlışladı ve bir kenara attı. çünkü tüm karışık playlistlere rağmen ağlama yeniden başlıyordu ve bu kez türkçe rockla da geçmiyordu.. sanki idil’in içinde bir şeyler kaynıyordu, ama ne olduğunu dışarıdan görmek mümkün değildi.
bu dönem birkaç gün sürdü. yorgunluktan değil, çaresizlikten bitkin düştük annesiyle birlikte. sonra enteresan bir şey oldu.. bayram nedeniyle köye geldik. etrafta dış ses namına yalnızca rüzgar hışırtısı, cırcır böceği cızırtısı ve bilimum köy sesleri.. bununla birlikte idil’in de benim de ne kadar zorlarsak zorlayalım gözümüzün detayları seçemeyeceği kadar uzaklara bakabileceği bir coğrafyadaydık. her tarafımızda ağaçlar var. çeşit çeşit.. insan gözünün en rahat seçebileceği ve kendisi en huzurlu hissettiği ~700nm dalga boylarında yüzlerce binlerce yeşilimsi doku.
ikimizin de içini kaplayan bir huzur ve nedensiz ağlayışlara pastoral bir veda. sanki takvimde “durduk yere ağla” olarak işaretlenmiş günler geride kalmış gibiydi.
her ne kadar biz kendimizi aşırı özel hissetsek de, bir kez daha başımıza gelen şey yalnızca bizim başımıza gelmiyormuş. hatta oldukça yaygın ve her bebekte gözlemlenen bir fenomenmiş.
hetty van de rijt ve frans plooij, hollandalı araştırmacı bir çift, yıllarca bebekleri gözlemledikten sonra tuhaf bir örüntü fark etti: bebekler büyük bir gelişim sıçraması yapmadan hemen önce çöküyor. daha çok ağlıyorlar, daha az uyuyorlar, daha huzursuzlar.. anneye / babaya, tutunabildikleri her yere daha çok yapışıyorlar. hatta sürekli ağlamaları sebebiyle, dünyanın en tatlı sümüklü böceklerine dönüşüyorlar. dışarıdan bakan biri için sistem bozulmuş gibi görünüyor ama içeride, tam o sırada, sinir sistemi yeniden yapılanıyordu.
van de rijt ve plooij buna “wonder weeks” adını verdi — mucize haftalar. the wonder weeks adlı kitapları, bu sıçramaların ne zaman geleceğini, nasıl hissettireceğini ve ardından ne kazanılacağını haritalıyor. bebeğin görmek, duymak, dokunmak, anlamlandırmak için kullandığı zihinsel kategoriler bir anda yetersiz kalıyor. sistem eskiyi terk etmek zorunda, yeniyi ise henüz kuramamış.
bir nevi, mutlak butlan! şaka şaka.. umarım idil mutlak butlan’ın ne demek olduğunu ve baş aktörünü asla bilmek zorunda kalmaz.
neyse, özetle bebeklerimiz bu krizleri atlatmadan sıçrama gelmiyor. adeta güzel giden günler bir anda mevsimin kışa dönmesiyle birlikte, çok da estetik olmayan bir biçimde yağmuruyla çamuruyla soğuğuyla idil hanım’ı esir etmiş gibiymiş. ve idil hanım’a söz, “yine baharlar gelecekmiş”. nohut adama rağmen -.-
yapay zeka tarihinde “kış” denen dönemler var.
birincisi 1970’lerin ortasında başladı. o zamana kadar yapay zeka araştırmaları büyük vaatlerle ilerliyordu — makinelerin birkaç on yıl içinde insan zekasına ulaşacağı söyleniyordu. sonra bir duvar geldi. ama ne duvar.. çin seddi kadar büyük değil ama berlin duvarı kadar da önemli. mevcut yaklaşımlar — sembolik akıl yürütme, kural tabanlı sistemler — gerçek dünyanın karmaşıklığıyla başa çıkamıyordu. araştırma bütçeleri ve yatırımlar kesildi, ilgi azaldı, laboratuvarlar kapandı. ikinci kış ise 1980’lerin sonunda geldi, benzer nedenlerle.
dışarıdan bakıldığında alan durmuştu. ama içeride ne oluyordu?
o “kış” dönemlerinde, görünürlüğü azalmış küçük araştırma grupları sessiz sedasız çalışmaya devam etti. backpropagation algoritması 1986’da yayınlandı — en derin kışın tam ortasında. hopfield ağları, erken sinir ağı mimarileri, istatistiksel öğrenmeye doğru kayan bir bakış açısı.. bunların hiçbiri o an için “büyük haber” değildi. ama her biri, sonraki baharın tohumuydu.
kış demek, öylesine boşluk demek değildi. bir nevi alt yapılanmaydı.
tohumların filizlenmesi için üç şeyin bir araya gelmesi gerekiyordu. bunlar ayrı ayrı zaten mevcuttu — ama yan yana gelmedikçe hiçbirinin tek başına gücü yoktu.
ilki veri. 2000’lerin ortasından itibaren internet büyük bir veri birikimi yaratmaya başladı. milyarlarca web sayfası, fotoğraf, video, metin. insanlığın ürettiği bilginin ve deneyimin dijital izi. bu kadar ham malzeme daha önce hiç yoktu. ama yalnız başına yetmiyordu — bir de onu işleyecek yöntemler ve güç gerekiyordu. bir anda cern’den wall street’e akın eden bir dönemin fizikçileri ve sonrasının borsacıları ortaya parçacık fiziği yöntemlerini saçarken; diğer yandan da büyük veri ile başa çıkabilecek ortamlar hazırlanmaya başlamıştı.
ikincisi ise gpu’lar. grafik işlemci kartları, aslında oyun sektörü için tasarlanmıştı. ekranda milyonlarca pikseli eş zamanlı hesaplamak için optimize edilmişlerdi — bu, derin öğrenmenin ihtiyaç duyduğu paralel işlemle neredeyse birebir örtüşüyordu. 2009 yılında andrew ng ve ekibinin large-scale deep unsupervised learning using graphics processors başlıklı çalışması bu fırsatı ilk kez net biçimde ortaya koydu. eğitim süreleri düştü, modeller büyüdü, denemeler hızlandı. artık hayal edileni gerçeğe dönüştürmek; teorik çalışmalar ve ötesiyle yıllara yayılmıyor, haftalar içinde sonuç verir hale gelmişti.
ve son olarak da, mimari. 2012’de, imagenet görüntü sınıflandırma yarışmasında alexnet adlı derin sinir ağı, ikinci sıradakini %17 farkla geride bıraktı. bu sadece bir yarışma sonucu değildi — bir paradigma kırılmasıydı. bundan görme üzerine odaklanan blog postta da bahsetmiştik. o güne kadar “sinir ağları işe yaramıyor” diyenlere somut, ölçülü, tekrarlanabilir bir cevaptı. ardından resnet, bert, transformer mimarisi geldi. her biri bir öncekinin tavanını kırdı.
veri, hesaplama gücü, mimari. bu üçü aynı anda olgunlaşmıştı. kışın altında birikmekte olan kar suyu, bir noktada barajı aştı ve türbinleri olağanca hızıyla döndürmeye başladı!
idil’in beşinci haftasında olan şeyle bu dönem arasında yapısal bir benzerlik var.
her ikisinde de dışarıdan bakan biri için sistem zorlanmış gibi görünüyordu. her ikisinde de içeride sessiz bir yeniden yapılanma yaşanıyordu. ve her ikisinde de kriz olmadan sıçrama yoktu — bu zorunlu bir koşuldu, istenmeyen bir yan etki değil.
bebek gelişiminde buna “regresyon penceresi” deniyormuş. yapay zeka tarihinde “duraksama dönemi.” ama her ikisi de aslında aynı şeyi tanımlıyor: sistemin mevcut kapasitesinin tavanına ulaştığı, bir sonraki düzeye geçmek için eski yapıyı bırakmak zorunda kaldığı o geçiş evresi. eski yöntemler artık dünyayı açıklamaya yetmiyor — yeni yöntemler henüz kurulmamış. tam ortası: kış.
sorun şu: bu evre içinden yaşanırken bitmek bilmiyor gibi hissettiriyor. o gece saatlerinde ağlayan idil’i tutarken, bunun bir sürecin parçası olduğunu bilmek bile yeterince rahatlatmıyor. 1980’lerin sonunda ödenek başvuruları reddedilen araştırmacılar için de öyle olmuştur büyük ihtimalle.. yıllar sonra dönüp bakıldığında anlam kazanan şeyler, içinden geçilirken genellikle anlamsız hissettiriyor.
sanırım bunun en güzel örneklerinden biri de tribün şovları. eskiden 19 mayıs, 23 nisan gibi milli bayramlarımızda; şehrin stadyumlarına tribünde oturan bir öğrenci grubu olurdu. ellerinde beyaz, kırmızı, mavi, yeşil, sarı flamalar olurdu. sırası geldiğinde ilgili flamayı kaldırırlardı. onlar için bu kırmızı, beyaz gibi renkler iken; uzaktan bakan birileri için ise ortaya türlü türlü düşük çözünürlüklü görseller çıkardı. maçlardaki koreografiler gibi.. bazen bir şeyleri anlamak için yeterince uzaklaşmak (zamansal ya da mekansal) ve öyle bakmak gerekiyor.
yeniden dönelim wonder weeks’e. van de rijt ve plooij’un teorisinde ilginç bir ayrıntı daha var. ve aslında tam da az önce üstüne parmağımızı bastığımız konuda.
bebeğin yaşadığı her kriz eşit büyüklükte değil. bazı wonder week’ler küçük — birkaç günlük huzursuzluk, ardından küçük bir sıçrama. ama bazıları daha büyük ve daha derin. sinir sisteminin köklü biçimde yeniden yapılandığı, bebeğin dünyayı algılama biçiminin temelden değiştiği türden. bu büyük krizlerin ardından kazanılan beceriler de o kadar köklü oluyor.
2010’ların başından ortasına uzanan o dönem — big data, gpu’lar, derin öğrenme — yapay zekanın tarihindeki en büyük wonder week’ti belki de. onlarca yıllık kışın ardından gelen, tek bir sıçramayla değil birbirine kenetlenen üç unsurun aynı anda olgunlaşmasıyla gelen bir dönüşüm. dışarıdan “aniden” göründü. içeriden ise uzun bir birikimin kaçınılmaz sonucuydu. bugünkü gibi, chatgpt 5’in çıkması ya da claude cowork’ün yayınlanması gibi değil yani. çok çok daha büyük şeyler..
idil’in beşinci haftası da bana biraz öyle hissettirdi. tüm ağlamalara rağmen, nispeten kolay atlattığımızı düşündüğüm bir krizdi bu. aniden çöktü, aniden geçti, aniden bir şeyler değişti. ama “aniden” kelimesi yanıltıcı olabilir — içeride günlerce / haftalarca biriken ve idil hanım’ın “bu huzursuzluk meyvesini vermeli artık!” dediği anda yüzeye çıkan bir şey yaşadık. küçük ya da büyük.. dönüştürücü mü? sonuna kadar!
şu an yapay zeka alanında yeni bir kış mı var, yoksa başka bir şey mi oluyor — bu soruyu sormak giderek daha anlamlı hale geliyor.
büyük dil modellerinin yarattığı coşku bir platoya mı ulaştı? mevcut mimari yaklaşımlar tavanlarına mı geliyor? bazıları bunu söylüyor. bazıları “hayır, hâlâ ivme var” diyor. ben bilmiyorum — ve dürüstçe, kimsenin tam bilmediğini düşünüyorum. kışın ortasında olduğunu anlayabilmek için çoğunlukla ilkbaharı beklemek gerekiyor. şu an yapay zeka alanında yaşananlar, o büyük atılımlar yerine biraz daha finansal olarak sürdürülebilirlik ve ürünleri kimlere / nasıl satarız arayışlarıyla geçiyor gibi görünüyor. ve bu tıkanmışlık, belki de satış kanalları üzerinden yeni bir devrime dönüşür, kim bilir?
ama idil’den öğrendiğim şu: ağlamak bitmişliğin değil, dönüşümün işaretidir.
o beşinci haftayı köyün tüm dinlendiriciliği ile üzerimizden attık diyebiliriz. kriz geçmişti ve arkasında yeni bir şey bırakmıştı. ağaçların arasında gezerken; yüzüne güneş vurmasın diye kapattığım örtüyü hafif araladığımda, bu krizin meyvesiyle karşılaştım. öyle rastgele olmayan, suratından hemen silinmeyen ve baya baya ben buradayım diyen, şişko yanakların ortasından bana doğru fırlatılan kocaman bir gülümseme!
şimdi ise gerek iş hayatlarımızda, gerekse özel hayatlarımızın ortasına oturan kocaman bir soru var elimde. bu satırları sabahın ilk saatlerinde tamamlarken, gözüm göle inen kalkan kuşlara dalıyor ve o soru gitgide berraklaşıyor:
bir sistemin sessizleştiğini ya da zorlandığını gördüğümüzde, buna ne kadar tahammül edebiliyoruz? bitmekte olan bir şeyi mi izliyoruz, yoksa henüz adını koyamadığımız bir şeyin başlangıcını mı? bu noktada destek mi olmalıyız yoksa sınır koşullarını hatırlatıp, dönüşümü zorlamalı mıyız?