bir şeyi kavramak (dokunmak / tutmak), onu anlamak demek değildir.

bunu ilk kez bir felsefe kitabında okumadım, hatta bunu bir yerden de alıntılamıyorum. bunu tamamıyla idil’den öğrendim.

son zamanlarda yeni açılan becerimiz: kavramak!

idil artık kucağımda dururken kolumu, emerken annesinin saçını ya da öylesine keyif yatışı yapıyorsa yanındaki ilk eşyayı tutmak, kavramak istiyor. ve bunlar gelişi güzel değil.. parmağımı sanki bir alet kullanırcasına, bizim çatalı / bıçağı tutuşumuz gibi kavramaya başladı.

dört haftalık bir bebek, eline ne gelirse kavrıyormuş meğerse. buna da palmar grasp (avuç içine dokunan her şeyi refleks olarak sıkıştırma eylemi) deniyormuş. doğumla birlikte gelen, sorulmadan yüklenen bir beceri. idil annesinin saçını kavrarken saçın ne olduğunu bilmiyor, benim kolumu tutarken kol kavramına dair hiçbir şey yok içinde.. sadece tutuyor. sıkıca.. ama kavradığı şeyin ne olduğundan habersiz.

bugün gözüm kapalı birçok nesneyi sadece dokunarak tanıyabilirim ya da ayrıştırabilirim. bir nevi, gözümün görmediği bir şeyi de tanımlayabilirim. ama bilin bakalım idil hanım şu an neyi yapamıyor — evet, evet.. o an göremediği şey onun için yok hükmünde. varlığın altını çizmek için de tüm dokularını oyuna sokuyor. bu aralar da dokunma duyumuz en ön planda gibi duruyor.

parmağımı avucuna koyduğumda, bir gün öyle bir sıktı ki.. aklımda yavaş yavaş bir şeyler şekillenmeye başladı: kavramak ile anlamak arasında ne kadar büyük bir mesafe var..

jean piaget bu mesafeyi ömrü boyunca incelemiş. isviçreli psikolog abimiz çocukların nasıl düşündüğünü anlamak için onlarca yıl boyunca hem kendi çocuklarını ve hem debinlerce başka çocuğu gözlemlemiş — ve vardığı sonuç şuymuş: bir bebeğin ilk birkaç ayı, saf motor reflekslerden ibarettir. kavramak, emmek, bakmak.

bunlar öyle zekayla falan alakalı şeyler değil, dümdüz biyolojik şeyler. piaget bunlara “birincil dairesel tepkiler” diyor ve “bebek bir hareketi yapar, bu hareket bir duyuma yol açar, duyum bebeği aynı hareketi tekrar yapmaya iter.” şeklinde tezini ortaya atıyor. bu böyle kendi içinde bir döngü oluşturuyor ama döngünün içinde henüz bir anlam bulunmuyor. bebek tuttuğu şeyin ne olduğunu değil, tutmanın kendisini öğreniyor.

anlam, ancak bebek bir nesnenin yokluğunu fark etmeye başladığında ortaya çıkmaya başlar. buna “nesne kalıcılığı” deniyor — görmediğim şey hâlâ var mı? elindeki oyuncak örtünün altına kaybolduğunda onu aramaya başlamak, basit bir kavramadan çok daha büyük bir sıçramayı gerektirir: zihnin, görünmez olanı temsil edebilmesini.

idil henüz bu soruyu sormuyor. ama umuyorum ki yakında soracak ve artık o ardı arkası uzunca zaman kesilmeyecek soru yağmuru başlayacak. bunun için gizliden gün sayıyorum. hiç sıkılmadan hepsini yanıtlamak istiyorum. fizik mühendisliği eğitimim boyunca, richard feynman’ı tanıdığım ve onun bakış açısını hem fizik bağlamında hem de yaşantı bağlamında kendime destur edindiğim için çok şanslı hissediyorum. ilerleyen haftalar, aylar ve yıllarda; feynman’a çokça temas edeceğimize adım gibi eminim. ama şimdilik çok da spoiler vermeden, idil hanımın sorularına vereceğim cevaplardaki yaklaşımım kabaca aşağıdaki alıntı gibidir deyip, ilerlemekle yetineyim.

bir sonraki pazartesi, babaların hepsi işe döndüğünde, biz çocuklar bir tarlada oynuyorduk. çocuklardan biriyle şöyle bir diyalogumuz oldu:
- şu kuşu görüyor musun? bunun cinsi ne?”
+ hiçbir fikrim yok.
- bu kahverengi boğazlı ardıç kuşudur. baban sana hiçbir şey öğretmiyor!

ama tam tersiydi. babam bana bunu çoktan öğretmişti:
- şu kuşu görüyor musun?
- bu bir spencer ötleğeni. (babamın gerçek adını bilmediğini biliyordum.)
- italyancası chutto lapittida, portekizcesi bom da peida, çincesi chung-long-tah ve japoncası da katano tekeda. bu kuşun adını dünyanın tüm dillerinde bilebilirsin, ama işin bittiğinde kuş hakkında kesinlikle hiçbir şey bilmeyeceksin. sadece farklı yerlerdeki insanları ve kuşa ne dediklerini bileceksin.
- öyleyse hadi kuşa bakalım ve ne yaptığını görelim. önemli olan bu.

bir şeyin adını bilmekle bir şeyi bilmek arasındaki farkı çok erken öğrendim.
richard feynman

neyse.. nerede kalmıştık? bizim idil hanım göremedi şeyleri yok olmuş hatta hiç varolmamış sayıyordu. bu konsepti anlamak için gerçekten bir ömür verilebilir. ben de bu postun bağlamını yaratmaya çalışırken john bowlby’e ve onun bağlanma teorisine denk geldim. benim kavramak ve anlamak arasındaki mesafeyi başka bir açıdan, başka aletlerle ölçümlemeye kalkmış enteresan birisi.

ingiliz psikiyatrist bowlby, savaş yetimlerini ve annesiz büyüyen çocukları yıllarca izlemiş, tıpkı piaget gibi. sonrasında da şöyle bir çıkarım yapmış: bebekler, anne ya da bakıcıya tutunurlar — hem fiziksel olarak hem de duygusal olarak. bu tutunma, biyolojik bir zorunluluktur; yakınlık güvenliktir, güvenlik hayatta kalmaktır. ama bowlby’yi asıl meşgul eden şey, bu tutunmanın zamanla nasıl içselleştirildiği ve bir anlama dönüştüğüymüş. çünkü gözlemleri sonucunda fark ettiği şey bebeklerin, bakıcılarını artık zihinsel olarak taşımaya başladığıymış. yani bebekler artık sadece tutunmakla kalmayıp, tutunduğunu hatırlar ve bu hatıra, dünyayla kurduğu tüm ilişkinin çekirdeği olur.

özetle diyebiliriz ki; tutunmak, burada bir başlangıçtır. anlam, tekrarlardan ya da hatıralardan çıkar. çok fazla bebek konuştuk, hani kardeşim bu yazının yapay zekası diyenlere çok geç kalmadan hemen yanıtımızı verelim.

2017 yılında google’dan bir ekip “attention is all you need” başlıklı bir makale yayımladı. bugün neredeyse her büyük dil modelinin temeli olan transformer mimarisini ortaya koyan bu çalışma, alanı kökten değiştirdi. bir önceki yazıyı hatırlayacak olursanız cnnler — convolutional neural network için devrim demiştim. bu da devrimini ağa babası gibi bir şey. günümüzde, özellikle potansiyel meslektaşlarımızın nereden başlayalım sorusuna verdiğim yanıtların en başında bu makale geliyor. “ai engineering”, “agentic ai”, “prompt engineering” vb. ne varsa kaynağı bu makaledir. birazdan bu makaleyi anlamak bağlamında biraz tartışacağız ama başlığındaki iddiaya bir kez daha dönüp bir baksanıza — dikkat, her şeydir.

attention mekanizması kabaca şöyle çalışıyor: bir yapay zeka modeli bir cümleyi okurken her kelimeye eşit ağırlık vermez — tıpkı bizim okurken bazı kelimelerin üzerinde daha uzun durduğumuz gibi. “ocak başında bekliyoruz.” cümlesinde model, ocak kelimesinin ne anlama geldiğine karar verirken; eğer cümlenin devamında “kar” veya “takvim” varsa zaman dilimine yüksek, eğer “kebap” veya “köz” varsa mekana yüksek dikkat atar — yazının adana’da yazıldığı daha nasıl belli edilirdi bilmiyorum. bizim attention mekanizması da bu örnekte olduğu gibi cümleye bakar, bağlamı tarar, ağırlıkları ayarlar ve anlamı — ya da anlam gibi görüneni — inşa eder. buna attention skoru deniyor: modelin, neye ne kadar tutunduğunun sayısal karşılığı.

az önce biricik kızım idil hanıma salladık ama modeli niye boş geçiyoruz. ona da sallayalım. bizim idil hanım bilmiyordu.. peki model şunu biliyor mu, tutunduğunun ne olduğunu?

transformer mimarisinde bir de “multi-head attention” denen bir yapı var — modelin aynı cümleye aynı anda farklı sorular sorması gibi düşünülebilir. bir kafa sözdizimsel ilişkilere bakarken diğeri anlam benzerliklerine, bir diğeri cümlenin genel bağlamına odaklanır. paralel kanallar, eş zamanlı kavrayış..

bu yapının biyolojik karşılığı tam da idil’in şu anki halidir: bir anda hem sesi hem sıcağı hem kokuyu hem de dokunuşu işliyor. tek bir öne çıkan sinyal değil, birbirine ağırlıklı olarak bağlı bir duyusal orkestra. idil hanımın beyni de bu orkestranın şefi!

ama model ve idil arasında küçük bir fark var. modeli makine yapan, idil’i insan yapay o anlamlı fark.. idil’in paralel kanallarının ucunda birikim var. her dokunuş, her ses, her yüz silinmiyor — bowlby’nin dediği gibi, bir iç temsile dönüşüyor. yani o her dokunuş, minnoş minnoş hatıralara dönüşüyor. modelin kanallarının ucunda ise ağırlık güncellemesi var. biri hafızaya dönüşüyor. diğeri parametreye.

sovyet psikolog lev vygotsky, öğrenmenin temelde sosyal bir eylem olduğunu söylüyor. bir çocuk, kendi başına ulaşabileceği seviyenin ötesine ancak bir yetişkinle birlikte çıkabilir. buna “yakınsak gelişim alanı” deniyormuş — şu an bildiğin ile biraz zorlanırsan bilebileceğin arasındaki o dar boşluk. bu boşluk, yalnız geçilemez; bir elin uzanması gerekir.

idil şu an benim elimden tutuyor. bu tutunma bir gün kavramaya dönüşecek. kavramak bir gün anlamaya. anlama bir gün sorgulamaya. ama bu zincirin her halkası bir öncekinin üzerine kurulacak — boşlukta değil, ilişkinin içinde.

transformer ise yalnız öğreniyor. metinden, tokenlardan, istatistiksel örüntülerden.. bağlamı var, ama ilişkisi yok.. neye tutunduğunu biliyor — en azından matematiksel anlamda. neden tutunduğunu bilmiyor. bu farkın nerede anlam kazandığı hala net değil benim için..

bir modelin “neyi kavradığını” test edebiliyoruz — karşılaştırma testleri var, değerlendirme setleri var, modeli yanıltmak için tasarlanmış özel örnekler var. ama bir modelin kavramanın ötesine geçip geçmediğini, yani gerçekten anlamaya ulaşıp ulaşmadığını test etmek için elimizde güvenilir bir araç yok. çünkü anlamak için önce neyin anlaşılacağını tanımlamamız gerekiyor. bu da hâlâ tartışmalı..

idil’in durumu aslında o kadar farklı değil. piaget’nin testleri, bowlby’nin gözlemleri, vygotsky’nin deneyleri — bunların hepsi bebeğin davranışını ölçüyor. içerideki anlama, dolaylı yoldan çıkarılıyor. belki de anlamanın kendisi, her zaman böyle çalışıyor: dışarıdan gözlemlenmiş, içeriden varsayılmış. öğrenme üzerine konuşabilecek, eserleri okunabilecek onlarca insan var. ben kendi atıp / tutmalarımı burada kesebilirim sanırım. bir yerden sonra ben de bir şeyleri gözlemleyip, içten içe varsayımlarımla bir yerlere varmaya çalışıyorum sonuçta.

uzunca lafların ardından beni esir eden soruyla yavaş yavaş bu postu tamamlayabiliriz: anlam, tutunmanın içinde mi doğuyor, yoksa tutunmanın bıraktığı izde mi?

idil her kavrayışında bir şeyler biriktiriyor — hangi dokunuşun güvenli olduğunu, hangi sesin rahatlatıcı olduğunu, hangi tutunmanın bırakılmaması gerektiğini. bu birikim bir gün anlama dönüşecek. belki zaten dönüşmeye başlamıştır bile. çünkü bu aralar ufak ufak gülümsemelere de tanıklık etmeye başladım.

model ise her token’a tutunuyor, her cümleyi işliyor, her bağlamda ağırlıklarını yeniden ayarlıyor. ve sonunda doğru kelimeyi üretiyor. en azından çoğu zaman doğru kelimeyi..

bu satırları tamamlarken parmağım hala idil’in avucunda. parmağı kavrıyor.. sıkıca. ben de parmağımla onun elini kavrıyorum sanırım, en azından matematiksel ve babasal olarak.

ikimiz de ne kavradığımızı tam bilmiyoruz henüz.

okuyuca notlar:
seriye gösterdiğiniz ilgi için bir kez daha teşekkürler. çenemin düşük olduğunu biliyordum ama klavyeden dökülenlere bu kadar ilgi ve alakayı beklemiyordum doğrusu.. geri bildimler doğrultusunda, görseller için artık yalnızca gemini’den destek almaya başladım, bütünselliği koruyoruz böylece. teknik dili, mümkün olduğunca herkese hitap edecek şekle çevirmenin yollarını arıyorum. yazıların bazı yerleri yapay zekalı gibi geliyorsa, bilin ki sebebi budur. igu’m beni şaşırtmazsa bir sonraki yazıyı production’a hazır model ve bebeklerin kırkının çıkması üzerine yazacağım. biz büyümeye devam ediyoruz, görüşmek üzere!

idil artık üç haftalık.. son günlerde dikkatimi en çok çeken şey, tensel temas dışındaki duyularını da kullanmaya başlaması oldu. ve geçen gün ilk kez gözlerini doğrudan yüzüme kilitledi. en azından ben öyle hissettim. nöroloji bunu muhtemelen farklı yorumlayacaktır ama o an, bir şeyin başladığını hissettim.. sanki sistemin bir katmanı daha devreye girdi.

yenidoğanlar doğduklarında göremez, demek tam doğru değil gibi.. görmesine görüyorlar ama ne gördükleri, bizim gördüğümüzden çok farklı. görme mesafesi yaklaşık 20-30 santimetre. yüksek kontrastlara ve sert kenarlara tepki veriyorlar. gri tonlar, flu geçişler henüz hiçbir anlam taşımıyor. retina fiziksel olarak gelişimini tamamlamamış.

hatta göz rengini bile henüz anlayamıyorum. koyu bir mavi ve kahverengi arasında değişiyor ışığın ne zaman hangi açıyla geldiğine bağlı olarak.. o değil de idil hanım, balkonda senin dünya nimetlerini tatmaya başladığında patır patır koparmandan korktuğum fesleğenler, naneler ne kadar büyümüş :)

kitaplıkta duran ancak bu fotoğrafta görünmeyen bir detay da john berger’in görme biçimleri kitabı. madem ki bu post görmeye adandı, onu anmadan geçmek mümkün olmazdı. o kitabı aldığım günün akşamında, berger’in ölüm haberi gelmişti. garip bir tesadüftü gerçekten de.. benim profesyonel olarak görme ile ilgilenmem 2013 yılındaydı sanırım. ilk kez computer vision çalışmaları yapmaya başladığım dönem..

o yıllarda toronto’da bir grup araştırmacı, imagenet yarışmasında rakiplerini ezdi geçti. alexnet! hata oranı bir anda yaklaşık %10 düştü — önceki yöntemler %26 civarında seyrederken, alexnet %15’e indi. yapay zeka tarihinde “öncesi” ve “sonrası” olarak ayrılan o kırılma noktası da büyük ölçüde bu modelle ve bu yarışmayla başladı. ama asıl ilginç olan mimarinin kendisiydi: convolutional neural network. CNN.

cnn’ler görüntüyü olduğu gibi almaz. önce kenarları öğrenir. sonra dokuları. sonra parçaları. sonra nesneleri. katmanlar halinde, her biri bir öncekinin üzerine inşa edilen bir hiyerarşi. ilk katmanda ağırlıkları görselleştirirsen, çoğunlukla dikey, yatay, çapraz çizgiler görürsünüz. ham kenarlara olan primitif, saf bir hassasiyet.. gelmek istediğim noktayı anladığınızı düşünüyorum. idil de tam olarak buradan başlıyor.

biraz da ilim & irfan ve insan beynine yolculuk yapma zamanı geldi gibi.. hadi tavşan deliğinden aşağıya yuvarlanalım.

hubel ve wiesel, 1959’da bir kedinin görsel korteksine elektrot yerleştirdiklerinde beklenmedik bir şeyle karşılaştılar. nöronlar rastgele ateşlemiyordu. belirli yönlere sahip kenar ve çizgilere seçici olarak yanıt veriyorlardı. bir nöron yalnızca 45 derece eğimli çizgilere tepki veriyordu. komşusu ise yalnızca yataylara.

bu keşif, görmenin pasif bir kayıt değil, aktif bir inşa süreci olduğunu gösterdi. beyin, dünyayı olduğu gibi almıyor. onu parçalıyor, filtreden geçiriyor, yeniden birleştiriyor.

hubel ve wiesel bu çalışma için 1981’de nobel ödülü aldılar. yann lecun ve ekibi ise 1989’da bu biyolojik mimariyi bilgisayara taşıdı — “biomimetic” denen şeyi tam anlamıyla yaptılar: doğanın çözdüğü problemi, doğanın çözüm yapısını kopyalayarak yeniden çözdüler. ve 2012’de alexnet, bu fikrin ne kadar doğru olduğunu kanıtladı.

idil’in beynindeki v1 bölgesi — primer görsel korteks — şu an tam bu mantıkla çalışıyormuş. retina gangliyon hücreleri, tüm görüntüyü değil, küçük bir bölgeyi işliyor ve merkez-çevre yapısıyla: ortaya ışık vurunca heyecanlanıyor, çevreye vurunca baskılanıyor. ya da tam tersi.. ilk haftalarda v1, yüksek frekanslı sinyallere neredeyse hiç yanıt vermiyor, bir nevi tembellik hali.
düşük frekans, yüksek kontrast: görüntü — gri tonlar, ince geçişler: gürültü

cnn mimarilerinin ilk katmanları da tam bu seçiciliği gösteriyor aslında. her pikseli eşit işlemek yerine, konvolüsyon filtresi küçük bir pencere gibi görüntü üzerinde kayıyor ve her adımda yalnızca lokal bir yapıya bakıyor.

görme biyolojisi ve cnn mimarisi arasındaki bu benzerlik tesadüf değil nitekim. lecun’un 1989 tarihli “backpropagation applied to handwritten zip code recognition” makalesi, bu yapıyı açıkça biyolojiden ödünç aldığını söylüyor. 2012 sonrasında gelen deep learning devrimi ise bu mimarinin ne kadar verimli bir başlangıç noktası olduğunu defalarca kanıtladı.

2015 geldiğinde, cnnler çok daha derin hale geldi.. o dönemlerin furyası da modelinin kaç katman olduğuydu. bugün artık bıraksak da, bir sene kadar önce falan her yeni büyük dil modelinin parametrelerini dövüştürüyorduk hatırlarsanız. 3 milyar parametre, 5 milyar, 70 milyar milyor! sen bu kadar parametreyi ne yaptın…

2015’te piyasayı alt üst eden microsoft’un resnet’i ise “residual connections” fikriyle 152 katmana ulaştı ve bu mimariler, yüzey özelliklerinin çok ötesine geçmeye başladı: derin katmanlar artık yalnızca kenar değil, nesne parçalarını, yüz ifadelerini, sahne bağlamını işliyordu.

bebek görme gelişimi de benzer bir katmanlı olgunlaşma izliyormuş. üçüncü ayda yüzleri ayırt etmeye başlıyor, dördüncü ayda renk ayrımı netleşiyor. altıncı ayda iki göz arasındaki fark işlenmeye başlıyor ve derinlik algısı kuruluyor. ilk yılın sonunda görme sistemi büyük ölçüde yerli yerine oturmuş oluyor. her aşama, bir öncekinin üzerine inşa ediliyor. backpropagation yok ama deneyim var, tekrar var, pekiştirme var. buralar gerçekten öyle mi işleyecek, takipçisi olacağız efenim hiç şüpheniz olmasın.

cnn’lerin o dönem yapay zeka dünyasını sarsan başarısı, aslında alçakgönüllü bir ders de içeriyordu, almasını bilene tabi. sıfırdan başlamak zorunda değilsin. doğru yapı, doğru veri, doğru tekrar.. gerisi bir şekilde gelir.

hatta işi bir tık daha öteye de götürebiliriz. transfer learning denen bir yaklaşım var. imagenet üzerinde eğitilmiş bir modeli alıp bambaşka bir göreve uyarlıyorsunuz. çünkü o ilk katmanlar — kenarlar, dokular, basit geometriler — neredeyse evrensel. hangi görev olursa olsun, bu temel özellikler işe yarıyor.

2014’te zeiler ve fergus’un “visualizing and understanding convolutional networks” makalesi bunu çarpıcı biçimde gösterdi: farklı veri setlerinde, farklı görevlerde eğitilmiş CNN’lerin ilk katmanları birbirine neredeyse aynıydı. evrensel bir görsel alfabe.

Visualizing and understanding convolutional networks

idil de sıfırdan başlamıyor. milyonlarca yıllık evrimsel optimizasyon, ona kenarları nasıl bulacağını bir şekilde aktarmış. bu “pretrained weights” ile dünyaya geliyor. ben de şimdi, o ilk filtrelerin ne üzerine inşa edileceğini düşünüyorum. hangi yüzler, hangi sesler, hangi ışıklar — bunlar onun ilk eğitim verisi.

peki ya ben ne yapabilirim, tam olarak?

cnn eğitiminde en kritik kararlardan biri, ilk katmanlara ne kadar müdahale ettiğindir. aşırı özelleştirirsen, genelleme gider. çok serbest bırakırsan, hiçbir şey öğrenmez. en iyi sonuçları veren yaklaşım genellikle şu: temel katmanları dondur, üst katmanları ince ayar yap. bildiğin fine-tuning..

ebeveynlik de sanırım, çok büyük ihtimalle, muhtemelen böyle bir şey.

ilk filtreleri — merak, güven, bağlanma — dokunmadan bırakmak. üst katmanlara, yani dünyayla ilgili spesifik şeylere, yavaş yavaş şekil vermek. ve her aşamada en önemli soruyu sormak: idil şu an hangi katmandadır? ona ne gösteriyorum?

bugün gözlerini yüzüme kilitleyip baktığında, muhtemelen henüz “baba” kavramını işlemiyordu. yüksek kontrastlı, hareketli bir yüzey görüyordu. ama o yüzey tekrar ettikçe, güvenli bir şeyle eşleşmeye başlayacak. ve bir gün, çok daha derin bir katmanda, bu tekrara anlam yüklenecek. (içim kıpır kıpır oluyor O_O)

sonuçta, bu benim en uzun vadeli fine-tuning projem. igumm <3

daha doğrusu hayatımın en uzun gecelerinden birinin ardından, sabahın erken saatlerinde hastane koridorunda oturmuş, elleri titrerken telefon tutmaya çalışan biri haline geldim.

idil’in doğumhane kapısından kollarıma teslim edildiği an aklımdan ne geçti bilmiyorum. muhtemelen hiçbir şey. yıldızlar arası yapılan bir yolculuk gibiydi.. bazı anlar, düşünceyi askıya alır nitekim.

ama sonraki günlerde, o tuhaf yenidoğan uykusuzluğunun içinde, meslek hayatımın üzerime çöküp oturduğunu hissettim. yaklaşık 15 yıldır yapay zeka alanında çalışıyorum. veriyle, modellerle, sistemlerle..

ve şimdi karşımda, dünyanın en karmaşık öğrenme makinesi var: henüz birkaç günlük, hiçbir şey bilmeyen ama her şeyi öğrenmeye programlanmış bir insan.

yıllardır insan beynini “modellemeye” çalışan işler yaptım. şimdi de belki hayatımda ilk kez, bunu kendi kendine yapacak birinin bu kadar yakınındayım. müthiş bir gözlem fırsatı!

ilk başta biraz absürd gelse de, bunların arasında bir bağlantı kurmak mümkün mü acaba diye düşünmeye başladım.. en azından mesleki açıdan ve babasal açıdan profesyonel bir şekilde bu süreci ele almayı denemek istiyorum.

etiketlediğimiz binlerce veri, eğittimiz yüzlerce model, çözdüğümüz onlarca problem.. okuduğumuz makaleler, blog postlar, haberler. hepsi günün sonunda tek bir soruya yanıt vermek içindi. “bir sistem, nasıl öğrenir?”

bu soruya verilen cevaplar değişti.. araçlar değişti.. ama esas yaklaşım büyük ölçüde hep aynı kaldı. iyi öğrenen sistemler, genellikle iyi genelleme yapar. genelleme yaparsa, daha önce hiç görmediği durumlarla başa çıkabilir.

idil henüz iki haftalık. görme mesafesi birkaç on santimetreyle sınırlı. seslerden önce korkuyor, sonra alışıyor. her gün bir şeylerin biraz daha fazlasını kaydediyor — yüzümü, sesimi, ışığın değişimini. nöronları, hiçbir mühendis müdahalesi olmadan, kendi mimarisini kuruyor. adeta bir reinforcement learning agentı.

bunu bir metafor olarak kullanmak kolay olurdu ama beni asıl meşgul eden şey metafor değil. benim bugünden dert etmeye başladığım şey, yıllarca modellerin başarımını arttırmak için kullandığımız o yöntemleri idil’in öğrenme süreçlerini desteklemek için nasıl kullanabileceğim.. ya da kullanabilecek miyim?

model eğitimde ilk gerekirimiz hiç şüphesiz verinin kalitesi. büyük veri, bol veri, kocaman veri her zaman o kadar iyi veri anlamına gelmiyor nitekim. gürültülü, kendi tekrarlayan, bir tarafı kayırmaya müsait nitelikte verilerle eğittiğimiz modeller belirli başlı eşik değerlerde takılıyor.

bebekler için de bu durumun bir varsayımın ötesine geçeceğini düşünüyorum. uyaran bolluğu, uyaran kalitesi değildir. umarım buradan yapacağım somut çıkarımlar, ekran süresi gibi tartışmaların da kökünü kazır.

peki, idil’in etrafındaki dünya ona zengin mi yoksa gürültülü mü görünüyor? bunu nasıl anlayabiliriz? madem zengin bir veri sunmamız gerekiyor, buradaki zenginliği nasıl ölçeceğiz? ben bir süre bu soruya yanıt bulmaya ve objektif gözlemlerime devam edeceğim gibi görünüyor.

konuşmalar, sorular, sessizlik anları, müzik, kitaplar, yürüyüşler. bunların hepsinin bir kalitesi var şüphesiz. şu kontrastı yüksek aynalı kitaplar falan.. her biri düşünülmüş ve boşu boşuna reyonlara konulmamış ürünler olsa gerek.

kafamda aktif olarak dönen düşüncelerden birisi de bu halüsinasyon konuları ve confussion matrix’imizin durumlarının ne olacağı.. çünkü bir şeyler eğiten herkes bilir ki, modelimizin ne öğrendiği kadar ne öğrenmediği de müthiş önemlidir. iyi eğitilen bir model, doğru cevabı ezberlemez. doğru cevabı nerede araması gerektiğini öğrenir. bu da aslında az önce tartıştığımız genelleme konusunun bir parçası.

bence tüm bu yapay zeka tartışmalarındaki en romantik, en devrimci hareketlerden birine de değinmeden geçmeyeceğim. özellikle, az veriyle büyük problemleri çözme süreçlerimizde genelleme kapasitesini arttırmak için zaman zaman hatalı etiketlenmiş verileri de eklerdik. ve mucizevi şekilde bu yöntem çalışırdı. aynı hayat gibi değil mi? çok iyi planlanan şeylerin zaman zaman belirsizlikle, hatalarla, düzeltmelerle yoğrulduğunda tahmin edilenden daha başarılı olması gibi aynı..

The Unreasonable Effectiveness of Noisy Data for Fine-Grained Recognition

işler alevlenmeden, birkaç şeyi araya sıkıştırmakta da fayda var. her şeyi aşırı optimize etmeye çalışan ebeveyn olmak gibi bir niyetim kesinlikle yok. sadece doğru sorular sorup, olanı biteni anlamak istiyorum. tamamıyla içgüdülerimle yönettiğim babalık sürecimde, eksik kaldığım yerleri de tanımlamak istiyorum.

idil’e her şeyin cevabını vermek istemiyorum. soruların nasıl sorulduğunu göstermek istiyorum. bu, teoride güzel bir cümle. pratikte ne anlama geldiğini henüz bilmiyorum. ama önümde idil ile birlikte uzunca bir zaman var. başaracağımıza hiç şüphem yok.

bu yazı bir tanıtım yazısı aynı zamanda. bundan sonra, bu iki dünyanın —yapay zeka ve ebeveynlik— kesişim noktalarını yazmaya çalışacağım. bazen teknik olacak, bazense çok daha hissiyatsal.. bazen idil’in bir haftalık gelişimiyle ilgili bir gözlem, beni veri dağılımları hakkında düşündürecek. bazen bir makine öğrenmesi kavramı, bana kötü bir ebeveynlik kararı aldığımı fark ettirecek.

ikisini her seferinde birbirine bağlamak zorunda değilim. ama zorunda olmadığım şeyleri yazmak, hep daha ilginç olmuştur.

idil iki haftalık. ben de bu rolde iki haftalığım. ikimiz de ne yaptığımızı tam bilmiyoruz. bu her halükarda çok heyecan verici değil mi?

PS: pirsig’in zen ve motorsiklet bakım sanatı’nı okuduktan sonra, ben de çocuğumla bir yolculuk hikayesi yazmalıyım demiştim. yanis varoufakis’in kızımla ekonomi sohbetleri ise bu yolculuğun fiziksel olmasa da olabileceğini ispat etmişti. buradan, ilham veren iki büyüğümüze de selamlar, saygılar. ve sevgili igumm olur da substack yok olup gitmezse, babandan sana böyle de bir anı kaldı.