LLM’ler ne düşünür ne de anlar; asıl sorun, biz onlara neyi devrettiğimizi fark edip etmediğimizdir.
YannLeCun’un büyük dil modelleri (LLM’ler) için kullandığı sert ifade —“en büyük aptallık sorununu çözmezler”— çoğu zaman yanlış anlaşılıyor. Bu söz, yapay zekânın güçsüzlüğünü açıklamaz, bakış ona yüklenen yanlış beklentiye yöneliktir. LeCun’un işaret ettiği sınır şudur: Dil, tek başına bir dünya modeli oluşturmaz. Anlam üretmez; anlamın izlerini düzenler. Bu ayrımı kaçırdığımızda, yapay zekâyı yanlış yere bağlarız.
Bugün LLM’ler dediğimiz dizgeler, en yalın hâliyle, dilsel örüntüler üzerinde çalışan yazılımlardır. Birler ve sıfırlardan oluşan altyapıları, insan dilinin istatistiksel izlerini yakalar; sözcüklerin, tümcelerin ve bağlamların birlikte görülme olasılıklarını hesaplar. Burada bir “zeka” varsa, bu zeka daha çok, dilin geçmiş kullanımının yoğunlaştırılmış bir haritasıdır. [çoğunlukla o yapay zekayı kullanan kişinin komutlarıyla ilintilidir]LLM’ler anlamı kavramaz; anlamın nerede ortaya çıkmış olabileceğini tahmin eder.
Bu nokta kritik. Çünkü sorun,LLM’lerin yetersiz olmasından kaynaklanmaz; onların neye yeterli olduğunu unutmamızdır.
Kant, matematiği ve makineyi bilginin düşmanı olarak görmez/okumaz, bilginin sınırlarını görünür kılan araçlar olarak düşünür. Matematiksel kesinlik, ona göre dünyanın kendisini açıklamaz, deneyimin hangi koşullarda mümkün olduğunu gösterir. Bu yüzden hesaplanabilir olan ile anlamlı olan arasında özsel bir ayrım vardır. Makine bu ayrımı ihlal etmez; ihlal, makineye anlam kurma yetkisi devredildiğinde başlar. Sorun teknolojinin gücünden kaynaklanmaz, bu gücün yargı ve sorumluluk alanına taşınmasıdır. Kantçı sınır, insan ile makine arasına bir engel koymaz; tersine, her ikisinin ne yapabileceğini ve ne yapamayacağını ayırt eden bir eşik işlevi görür.
Bu eşik bugün bulanıklaşmış durumda. LLM’ler yalnızca araç olmaktan çıkıp, düşünmenin yerini alıyormuş gibi konumlandırılıyor. Oysa burada olan şey düşüncenin devrinin bırakılmasını sorgulamaz,buradaki sorunsal düşüncenin askıya alınmasıdır. Dil düzgün akıyorsa, anlam da vardır sanıyoruz. Wittgenstein’ın “dilimin sınırları dünyamın sınırlarıdır” önermesi, tam da bu noktada yanlış okunuyor. Dil dünyayı kurmaz; dünyayla kurduğumuz ilişkinin sınırlarını görünür kılar. LLM’ler de bu sınırları genişletmez, yalnızca daha hızlı dolaşmamızı sağlar.
Burada “doxa” ile baksak örneğin; Platoncu anlamıyla evrensel yanılsamayla, Leibnizci anlamda tikelliğin dağınık çoğulluğu olarak doxa desek. Yani bireysel yargılar, sezgiler, önyargılar, duygular. LLM’ler bu doxaların dışına çıkmaz; tersine, onları yoğunlaştırır. Ne sorarsak onu alırız. Hangi duyguyla sorarsak, o duygunun izlerini geri çağırırız. Yapay zekânın çerçevesini belirleyen şey, onun “zekâ seviyesi” belirlemez, bizim eklektik düşünme biçimimizdir, yapay zekada sonuçta bu bakıştan ileri gidemez.
Bu yüzden LLM’lerin sorunu kavramsal olduğu kadar işlevseldir. Kavramsal noksan şudur: Anlamı kavrayamazlar. İşlevsel noksan ise daha tehlikelidir: Belirli bir işi yaparlar ama bu işi yanlış yere bağlarız. Örneğin düşünmenin yerine, yargının yerine, hatta etik kararların yerinedoxa. Sorunun, yanlış sonuç üretmeleriyle ilintili olmadığını görmeliyiz; doğru görünen sonuçların yanlış yetki alanında kullanılmasıdır.Etik ve insani düşünce daha tehlikeli bir hâl aldı. Yarı bilgi en tehlikeli olanı ve LLM’ler de bu bilgi gerçekmiş gibi karşımızda.
Burada bir “bilgi yorgunluğu”ndan da söz etmek gerekir. LLM’ler bilgiyi çoğaltır, hızlandırır, pürüzsüzleştirir. Ama bu pürüzsüzlük, düşüncenin direncini de ortadan kaldırır. Oysa düşünce tam da sürtünmede, duraksamada, yanlış anlaşılmada ortaya çıkar. Her şey akıyorsa, düşünce çoğu zaman yoktur; yalnızca işlem vardır.
Sorunsallar dolayısıyla, yapay zekânın dünya modeli sunup sunamayacağına ilişkin olmamalı. Asıl soru şudur: Biz, dünya ile ilişkimizi bir modele devretmek istiyor muyuz? LLM’ler anlamı kavrayamaz, eksik düşünür, yetersizdir — ama bu bir kusur olarak karşımıza çıkmaz, kendi kendimize oluşturduğumuz, düşünememe sınırı kendimize çizdiğimiz bir sınırdır. Tehlike, bu sınırı unutup, işlevi yetkiye dönüştürdüğümüzde başlar.
Yapay zekâ bir tahakküm aracıysa, bu kendi başına oluşmaz; bizim ona verdiğimiz yer yüzündendir. Ve belki de bugün asıl gereksinim duyduğumuz şey, daha güçlü modellerden çok, daha doğru sınırlardır. Bu sınırların neye göre şekilleneceği şüphesiz daha insani olan erdem adının verdiğimiz, duyu dünyasının da ötesinde insani kavramların işleyişi.
Bu yüzden yapay zekânın verimliliği, kendi başına ölçülmemeli, onu kullanan öznenin yetkinliğiyle sınırlıdır; burada eğitim erkini kaybedebilir fakat eğitimin yeterli olmaması daha büyük sorunsal. Veya/çünkü Kantçı sınırda, makine düşüncenin yerine geçmez, yalnızca düşüncenin devinim alanını görünür kılar. Sonuçta aptallık veya aptal olmayı ancak erdemli insan bilebilir.
Buradan devinimle, yaşantısının otuz yılını yazına, edebiyata adamış birinin şiire/yazına bakışı ile komutlardan oluşan bir dizgenin arasında, ayrıksı bir bakış mümkün mü sorusunu sorabiliriz. Evet otuz yıl yazı/şiirle ilgilenen biri bugün hâlâ şiirin yapay zeka ile mi yoksa insani bir oluşla mı [belki erdem] meydana çıktığını görmesi epey mümkün. Göremese/görmese bile ondaki ham hali fark edecektir.
Kendi deneyimleriminden biliyorum ki şiir ve yapay zeka hâlâ bir araya gelemiyor, gelmesi de ortalama bir okurdan fazlası biri için mümkün görünmüyor. Ama derin yapıyı hangi ülke tercih etmiş ki, burada yazdıklarım geçerli olsun. Gittikçe zayıflayan anlam dünyamız yerini siyasal rejimlere bile bırakmayacak, [usuma direkt Roma geliyor] kalan yalnızca bir sos/gusto olarak kalacak gibi.
