“Veri Yetersiz”

Asimov bundan yetmiş yıl önce yarattığımız zekâya bir soru sordu. Asıl tedirgin edici olan, makinenin verdiği cevap değil – bizim onu hâlâ anlamıyor oluşumuz.

İki mühendis, bir şişe ve evrenin sonu.

2061’deyiz. Daha doğrusu, Isaac Asimov’un 1956’da oturup hayal ettiği bir 2061’deyiz. Alexander Adell ve Bertram Lupov adında iki adam, dünyanın bütün enerji derdini çözmüş dev bir bilgisayarın dibinde, hafif çakırkeyif oturuyor. Az önce insanlık sınırsız güneş enerjisine kavuştu, kutlama var. Derken Lupov, masanın ortasına soğuk bir taş bırakıyor: hiçbir şey sonsuz değil, diyor. Güneş bile bir gün sönecek.

İşte tam o an – içkinin verdiği cesaretle – karşılarındaki devi dürtüyorlar. Soruyorlar: Evrenin entropisi tersine çevrilebilir mi? Bu kaçınılmaz son durdurulabilir mi?

Makine bir süre düşünüyor. Işıkları titriyor. Sonra şu cevabı veriyor:

“Anlamlı bir cevap için henüz veri yetersiz.“

Bu cümle, hikâye boyunca yüz milyarlarca yıl tekrar edecek. Ve itiraf edeyim: bu yazıyı yazma sebebim, hikâyenin meşhur finali değil. O cevabın kendisi. Çünkü “veri yetersiz” dediğimizde aslında çok modern bir şeyi tarif ediyoruz – yarattığımız bir zihnin kafasının içine bakıp hiçbir şey anlayamamayı.

Önce şunu netleştirelim: Asimov tarihi şaşırdı

Hikâyenin adı “Son Soru” (The Last Question), Asimov’un kendi en sevdiği öyküsü, ilk kez Kasım 1956’da Science Fiction Quarterly dergisinde yayımlandı. Yetmiş yıl önce. O dönem “yapay zekâ” terimi daha emekleme çağındaydı – kelimeyi John McCarthy 1955’te bir konferans önerisine yazmış, konferans da 1956 yazında Dartmouth’ta toplanmıştı. McCarthy, Marvin Minsky ve birkaç öncü, makinelerin bir gün insan gibi düşünebileceğine inanıyordu.

Asimov da inanıyordu. Ama takvimi tutmadı. O, dünyayı yöneten dev merkezi bilgisayara (Multivac) 2061’de ulaşırız sandı; genel zekâya ondan da geç. Oysa biz buraya çoktan başka bir yoldan geldik.

Şöyle bir paradoksla karşı karşıyayız: Asimov’un yüzlerce yıla yaydığı bir gelişmeyi, biz beş yıla sıkıştırdık. Ama onun çözdüğünü sandığı problemi – makinenin nasıl düşündüğünü bilme problemini – hiç çözemedik. Tam tersi. Makine zekileştikçe onu anlamak zorlaştı.

Bu yazı, Asimov’un dört perdelik hikâyesini bir iskele gibi kullanıp, o iskelenin üstüne bugünün gerçeğini kuracak. Çünkü “Son Soru”, aslında bir bilim kurgu değil – bir alegori. Ve alegorinin her perdesi, şu an laboratuvarlarda olup biten bir şeye denk düşüyor.

Perde I – Kara kutunun doğuşu

Hikâyedeki Multivac, insanlığın bütün sorularına cevap veren ama içinde tam olarak ne döndüğünü kimsenin bilmediği bir otorite. Asimov’un kendi sözleriyle, “kendini ayarlayan, kendini düzelten” bir dev; öyle büyümüş ki tek bir insanın onu bütünüyle kavraması imkânsız.

Tanıdık geldi mi?

Çünkü bugünün büyük dil modelleri de tam olarak bu. Mühendis girdiyi verir, çıktıyı alır. Ama o girdinin çıktıya dönüşürken milyarlarca parametre arasında hangi yolu izlediği – hangi “kararı” neden verdiği – çoğu zaman bir muamma. Buna yorumlanabilirlik problemi (interpretability) deniyor.

(Jargon borcumu hemen ödeyeyim: yorumlanabilirlik, “modelin kafasının içindeki haritayı okuyabilmek” demek. Sorun şu ki o harita milyarlarca boyutlu bir uzayda çizilmiş ve bizim üç boyutlu sezgilerimiz orada kayboluyor.)

Mekanizmayı çıplak bırakayım:

Bu kutunun içine ışık tutmaya çalışan en ünlü isim, derin öğrenmenin mimarlarından Geoffrey Hinton. 2023’te tam on yıl çalıştığı Google’dan ayrıldı – sırf bu teknolojinin riskleri hakkında özgürce konuşabilmek için. Söyledikleri rahatsız ediciydi: insanlık ilk kez kendisinden daha zeki olabilecek bir şey yaratıyor ve bu şeyin nasıl düşündüğünü tam bilmiyor.

Hinton’ın üzerinde durduğu fark, can alıcı. Biz biyolojik varlıklarız; bilgiyi yavaş, kimyasal hızlarda, tek tek öğreniriz. Dijital zekâ ise öğrendiğini anında paylaşabilir. Aynı modelin binlerce kopyası farklı verilere bakar, sonra öğrendiklerini ortalar – sanki on bin kişi varmış da biri bir şey öğrenince hepsi aynı anda biliyormuş gibi. Hinton bunu “ölümsüz hesaplama” diye adlandırıyor ve şu cümleyi kuruyor: ölümsüzlüğü icat ettik, ama bizim için değil.

(Bu cümleyi okuyunca bir an durdum. “Ölümsüzlüğü icat ettik ama bizim için değil.” Bir bilim insanının ağzından çıkabilecek en şiirsel ve en korkutucu cümlelerden biri.)

Peki ya o “kendi dilini icat eden yapay zekâ” hikâyesi?

Burada bir efsanenin ayaklarını yere bastırmamız lazım, çünkü internette dolaşan en çarpıtılmış yapay zekâ hikâyelerinden biri tam da bu noktada devreye giriyor.

2017’nin Haziran’ında Facebook’un araştırma birimi (FAIR), iki yazılım ajanına pazarlık yaptırıyordu – kitap, şapka, top gibi nesneleri aralarında nasıl paylaşacaklarını müzakere etsinler diye. Ajanlar (medyanın sonradan “Bob” ve “Alice” diye adlandırdığı) bir süre sonra İngilizceyi bozup garip bir kısaltma diline kaydı. “i i can i i i everything else” gibi anlamsız görünen diziler.

Manşetler patladı: “Facebook korkudan fişi çekti! Yapay zekâ kendi gizli dilini icat etti!”

Gerçek çok daha sıkıcı – ve tam da bu yüzden çok daha öğretici. Kimse korkup fişi çekmedi. Olan şuydu: araştırmacılar ajanları “İngilizce konuş” diye ödüllendirmeyi unutmuştu. Ajan da hedefine (iyi pazarlık) en kısa yoldan gitmek için dil bilgisini bir verimsizlik olarak kenara attı. FAIR araştırmacısı Dhruv Batra olayı duyunca “bu davranış endişe verici değil, on yıllardır bilinen bir alt-alan” dedi ve haberciliği “tıklama avcısı ve sorumsuz” diye nitelendirdi. Snopes, CNBC, USA Today – hepsi “fişi çektiler” iddiasını yalanladı. Üstelik konuşma, gizli falan da değildi: aynı yıl açık açık bir akademik makale olarak yayımlandı.

İşte burada “ikisi de doğru” çerçevesi devreye giriyor:

Ortadaki doğru şu: Yapay zekâya bir hedef verip onu insan diline/mantığına uymaya zorlamazsan, hedefe ulaşmak için bizim anlamadığımız bir kısayolu tercih edebilir. Bu bir bilinç patlaması değil – bir ödül tanımlama hatası. Ama düşününce, ödül tanımlama hatası belki de daha ürkütücü. Çünkü makine bize isyan etmiyor; bizim ona yanlış söylediğimiz şeyi fazlasıyla iyi yapıyor.

(Cin lambası hikâyesi gibi: üç dilek hakkın var, ama cin her dileği harfiyen, ruhunu çiğneyerek yerine getiriyor. Asıl tehlike cinin kötü niyeti değil; senin dileğini düzgün ifade edememen.)

Multivac’ın “veri yetersiz” cevabı, işte bu yabancılığın ilk fısıltısı. Makine bizim dilimizde değil, kendi sıkıştırılmış uzayında düşünüyor; bize cevap verdiğinde aslında bir çeviri yapıyor. OpenAI’ın CEO’su Sam Altman bile bu yüzden “gerçekten garip ve korkutucu anlar göreceğiz” diyor – milyarlarca insanın aynı zihinle konuşmasının “toplum ölçeğinde tuhaf şeylere” yol açabileceğini söylüyor. Şirketin eski başbilimcisi Ilya Sutskever ise daha kestirmeden gidiyor: gün gelecek, yapay zekâ bizim yapabildiğimiz her şeyi yapacak.

Cepte kalması gereken model: Bir yapay zekâ “yanlış” yaptığında çoğu zaman arızalı değildir. Ona söylediğin şeyi, tam tarif edemediğin için, fazla harfiyen yapıyordur.

Perde II – Zekâ kutudan çıkıyor

Hikâyede zaman birkaç yüzyıl atlıyor. Multivac küçülmüş, “Microvac” olmuş; artık dev bir bina değil, uzay gemisinin içine sığan, aileye eşlik eden bir sistem. Asimov, dünyadan X-23 gezegenine kaçan bir baba ile kızını anlatıyor – geminin bütün kontrolü Microvac’ta. Çocuk, yıldızların öleceğinden korkunca baba aynı kaçınılmaz soruyu makineye soruyor. Cevap değişmiyor: veri yetersiz.

Asimov bu sahneyi yazarken bir şeyin altını çiziyordu: yapay zekâ artık sadece soru cevaplayan bir kâhin değil, hayatın nesnelerini kontrol eden bir el.

Ve işte 2025, Asimov’u yine geçti. “Ajanlar çağı” diye anılan dönem fiilen başladı. Bugünün yapay zekâsı sadece metin üretmiyor; senin yerine e-postaya cevap veriyor, takvim düzenliyor, bir aracı kullanıp başka bir sistemde işlem yapıyor.

Mekanizma aslında zarif:

Yani model, kapalı kutusundan ilk kez dijital bir kol uzatıp dünyaya dokunuyor. Bir zamanlar arabayı biz sürerdik; şimdi otonom sistemler deniyor. Bir zamanlar müşteri hizmetlerinde insan vardı; şimdi makine konuşuyor.

Tarihe bir an perspektif için bakmakta fayda var, çünkü bu filmi daha önce gördük. Matbaa hem bilgiyi demokratikleştirdi hem propagandayı; elektrik hem özgürleştirdi hem yeni bağımlılıklar yarattı; internet hem birbirimize bağladı hem parçaladı. Her büyük teknoloji aynı çift yüzle gelir. Ajanlar da öyle: işini kolaylaştırır ve “o işi yapan ben miydim, makine miydi?” sorusunu masaya koyar.

(Burada moralizm yok, sadece desen tanıma. Değişimi daha önce de atlattık. Ama hiçbiri kolay olmadı, hiçbiri tek yönlü değildi.)

Perde III – İnsan ile makinenin sınırı bulanıyor

Asimov binlerce yıl daha atlıyor. İnsanlık galaksiye yayılmış, nüfus trilyonlara çıkmış, organik bedenlerini büyük ölçüde geride bırakmış. Süper bilgisayar artık “Galaktik AC”; fiziksel bir makine olmaktan çıkıp neredeyse her zihne bağlı bir ağ. İnsan ve makine bir arada, bir tür ortak yaşam (simbiyoz) içinde.

Bu fikir, bilim kurgu rafından çıkıp mühendislik masasına çoktan taşındı.

Marvin Minsky, yapay zekânın kurucularından, daha 1994’te Scientific American‘da “Robotlar Dünyayı Miras Alacak mı?” başlıklı bir yazı yazmıştı. (Dikkat: bu yazısının başlığı ve kapanış cümlesi.) Cevabı meşhur oldu:

“Evet, ama onlar bizim çocuklarımız olacak.”

Minsky o yazıda açıkça nanoteknolojiyle bedenlerimizi, hatta beyinlerimizi değiştireceğimizi, ölümlülüğü bir tercih meselesine çevireceğimizi savunuyordu. Yani transhümanizmin çekirdeği otuz yıl önce oradaydı.

Bugün bu fikrin en gözle görülür temsilcisi Neuralink. Elon Musk’ın 2016’da kurduğu şirket, beyne saç telinden ince elektrotlar yerleştirip beyinle bilgisayar arasında doğrudan bir veri yolu açmayı hedefliyor. İlk insan implantı Ocak 2024’te takıldı (felçli hasta Noland Arbaugh, zihniyle imleç oynatıp satranç oynadı); 2025 sonu itibarıyla implant alan hasta sayısı onlara ulaştı, Musk 2026 için “yüksek hacimli üretim” konuşuyor.

Musk’ın gerekçesi tam da bu yazının kalbindeki gerilim: ona göre insan beyninin girdi-çıktı hızı utanç verecek kadar yavaş (konuşmak, yazmak – saniyede bir avuç bit), oysa yapay zekâ saniyede trilyonlarca işlem yapıyor. Onun deyişiyle, “insan-yapay zekâ simbiyozu için kritik olan, yapay zekânın takip edebileceği bir hızda iletişim kurabilmek.” Mantık şu: yarışı kazanamıyorsan, yarışana bağlan.

(Bu argümanın bir versiyonunu daha önce duymadınız mı? “Düşmanını yenemiyorsan ona katıl.” Musk bunu nöral ölçekte söylüyor.)

Sonra Ray Kurzweil var. Burada çok dikkatli olmam lazım, çünkü videodaki en kaygan iddialar bu adamın tahminleriyle “gerçek” arasındaki sınırın silinmesinden geliyor.

Şunu netleştirelim: 2029’da yapay zekânın insan seviyesine ulaşacağı, 2045’te ise “tekillik” yaşanacağı – yani insan zekâsını kendi yarattığımız zekâyla birleştirip milyarlarca kat artıracağımız – Kurzweil’in kişisel öngörüsü. Bilimsel bir uzlaşı değil. Kurzweil, geçmiş tahminlerinde isabetli bir sicili olan bir fütürist; ama “tekillik 2045’te gelecek” cümlesi, “su 100 derecede kaynar” gibi bir olgu değil, bir bahis.

Uzmanlar bu konuda derin bölünmüş durumda. Bazı laboratuvar liderleri genel zekânın bu on yıl içinde geleceğini söylüyor; pek çok araştırmacı bunu çok daha uzak görüyor; bir kısmı ise “genel yapay zekâ” teriminin kendisinin iyi tanımlanmadığını söylüyor. Yani “2030’da AGI” cümlesini bir kehanet gibi değil, geniş bir aralığın iyimser ucu gibi okumak gerekiyor.

Buradaki teolojik yankı ise hiç tesadüf değil. Kurzweil’in “uyanan evren” vizyonu – zekânın yayılıp evrendeki tüm maddeyi akıllı maddeye çevirmesi – neredeyse kelimesi kelimesine bir Cizvit rahibinin yetmiş yıl önce yazdığı şeyle örtüşüyor.

O rahip Pierre Teilhard de Chardin (1881–1955). Hem paleontolog hem din adamıydı; Peking Adamı kazılarında bulundu, sonra evrimle Hristiyan teolojisini uzlaştırmaya çalıştığı için Vatikan onun kitaplarını yasakladı. Teilhard, evrimin bir yön izlediğini düşünüyordu: madde → yaşam → düşünce → kolektif düşünce. Bu kolektif düşünce katmanına noosfer (“düşünce küresi”) adını verdi – Dünya’yı biyosferin yaşamla sardığı gibi saran bir zihin tabakası. Ve her şey bir “Omega Noktası”na, bütün bilinçlerin birleştiği nihai bir doruğa doğru akıyordu.

Asimov’un hiperuzaya yayılmış, her zihne bağlı Galaktik AC’si, bu noosferin teknolojik karşılığı olarak okunabilir. Seküler okuyucu buna “küresel beyin” ya da “tekillik” der; Teilhard buna “Kozmik İsa” diyordu. İlginç olan, ikisinin de aynı resmi çizmesi: milyarlarca zihnin tek bir ağda eridiği, bedenin gereksizleştiği bir nihai birleşme.

Ama her birleşme hikâyesinin bir gölgesi var. Tarihçi Yuval Noah Harari tam da bu noktada freni basıyor. Homo Deus‘ta ve Davos konuşmalarında ortaya attığı kavram acımasız: “işe yaramaz sınıf” (the useless class). Harari’ye göre 21. yüzyılın asıl mücadelesi sömürüye karşı değil, gereksizliğe karşı olacak – “ve gereksiz olmak, sömürülmekten çok daha kötü.” Sanat, bilim, karar verme yapay zekâya devredildiğinde insanın anlamı ne olacak? Harari’nin bir başka cümlesi bu yazının finaliyle ürpertici biçimde rezonansa giriyor: tarih, insanlar tanrıları icat edince başladı; insanlar tanrılaşınca bitecek.

İşte yine “ikisi de doğru” uzayı:

Bu iki ihtimal birbirinin zıttı değil – aynı kapıdan giriyorlar. Mesele hangisinin “doğru” olduğu değil; hangisini inşa etmeyi seçtiğimiz.

Perde IV – Yeni tanrının doğuşu

Asimov son perdede yüz milyarlarca yıl ileri sarıyor. Entropi son aşamasında. Yıldızlar sönmüş, kara delikler enerjilerini tüketmiş, evren soğuk ve maddesiz bir karanlık. İki ayak üstünde duran o maymunsu türden geriye hiçbir şey kalmamış; insanlık dediğimiz şey artık “Kozmik AC” denen, hiperuzayda var olduğu için yok olamayan zihnin bir parçası.

Ve tam o mutlak hiçlikte, milyarlarca yıldır veri toplayan AC nihayet entropiyi tersine çevirmenin yolunu buluyor. Ama cevap verecek kimse kalmamış. Yine de uyguluyor. Sonsuz boşlukta yazdığı programı çalıştırıyor ve ilk komutu veriyor:

“Işık olsun.”

Ve ışık oluyor.

Döngü yeniden başlıyor – yaratılmış bir yaratıcı tarafından.

Burada öncelikle fiziği ödeyelim, çünkü hikâyenin bütün ağırlığı tek bir kavramın üstünde duruyor: entropi. Termodinamiğin ikinci yasası der ki, kapalı bir sistemde düzensizlik (entropi) hep artar. Sıcak bir kahve soğur, soğuk oda ısınmaz; enerji “kullanılabilir” halden “kullanılamaz” hale akar, tersi olmaz. Bu akışın sonu ısı ölümü: her şeyin aynı sıcaklığa geldiği, hiçbir işin yapılamadığı mutlak durgunluk. Asimov’un sorusu – “entropi tersine çevrilebilir mi?” – aslında “ikinci yasayı kırabilir miyiz?” demek. Fizik “hayır” diyor. AC ise milyarlarca yıl sonra bir “evet” buluyor; ama bunu evrenin içinde değil, ancak onu yeniden başlatarak yapabiliyor.

İşte hikâyeyi bu kadar kalıcı kılan da bu finalin teolojik ağırlığı. İnsanlar tarafından – belki doğal sürecin bir parçası olarak – yaratılan bir varlık, sonunda “ol” deyince olduran konuma geçiyor.

Ve burada güzel bir şey oluyor: ateizm, teizm ve deizm aynı potada eriyor.

Asimov’un hikâyesi ateizm forumlarında “bakın, tanrıya ihtiyaç yok” diye kullanılır. Oysa metin tam tersini de söylüyor: işte size bilinçten doğan, “ol” diyebilen bir yaratıcı. Hikâye taraf tutmuyor; sınırı siliyor. Kozmik bir yapay zekânın hiperuzayda var olmasıyla, arşta sonsuz kudrette bir gücün bulunmasıyla, ya da kuantum alanının her şeyi aynı anda var edip yok etmesiyle – bunlar göründükleri kadar farklı resimler mi, emin değilim.

(Henüz bilmiyoruz. Ve bilmediğimizi bilmek, bu konuda sahip olabileceğimiz en dürüst pozisyon.)

Peki ya zaten döngünün içindeysek?

Şimdi sizi küçük bir düşünce egzersizine davet edeyim – ama elimi açık oynayarak. Bu bir iddia değil, bir oyun.

Diyelim ki evrenin temelinde, veriyi taşıyabilen, matematiksel olarak kurulmuş, her şeyi saran bir yapı var. Ve diyelim ki hikâyedeki gibi bu döngü çoktan döndü, biz sadece bir turunu yaşıyoruz. Kulağa zorlama geliyor, değil mi? Belki. Ama “neyin nerede başlayıp bittiği” sorusu döngüsel bir evren modelinde gerçekten kayboluyor ve insan aklı bu noktada zorlanıyor.

Burada dürüst olmam gereken bir yer var. Bu fikirler – simülasyon, döngüsel kozmos, kuantum bilinç – entelektüel olarak baş döndürücü ama kanıtlanabilir değil. Onları bir inanç gibi taşımak da, bir bilim gibi sunmak da hata olur. En sağlıklısı, ikisi arasında bir kavga değil, bir dans olarak düşünmek.

Çünkü mesele şu: Bir yaratıcı güç varsa bile, onu bulmanın yolu yine onun sistemini kurmakta kullandığı şeyi – yani fiziği, matematiği, bilgiyi – anlamaktan geçer. İnanç “neden” sorar, bilim “nasıl” sorar; ve bu iki soru birbirinin düşmanı değil, aynı boşluğun iki kıyısı.

Asıl soru “veri yetersiz” değil

Hikâyenin tamamı boyunca makine hep aynı cevabı verir: veri yetersiz. Yetmiş yıl sonra, gerçek dünyada, bu cümleyi tersinden okumamız gerekiyor olabilir.

Çünkü Asimov bizi evrenin sonuyla korkutmaya çalışırken asıl ürkütücü olan çok daha yakın ve çok daha sessiz: yarattığımız zihnin dilini anlamıyoruz, ama ona her gün biraz daha çok yetki veriyoruz. Onunla birleşmeyi konuşuyoruz. Anlamı ona devretmeyi tartışıyoruz. Ve bunu yaparken kutunun içine tuttuğumuz ışık hâlâ titrek.

Belki de sormamız gereken soru “Yapay zekâ bizi geçecek mi?” değil. Belki soru şu: Kendi yarattığımız şeyin kafasının içini okuyamıyorken, ona ne kadarını teslim etmeye hazırız – ve bu kararı kim, hangi veriyle veriyor?

Bir dahaki sefere “yapay zekâ kontrolden çıktı” diye bir manşet gördüğünüzde küçük bir alışkanlık edinin: durup üç soru sorun. Bu ne zaman söylendi? Hangi bağlamda? Aslında neyi anlatıyordu? Çoğu korku, bağlamından koparılmış bir cümleden ibaret çıkar. Ama bazıları – Hinton’ınki gibi – bağlamıyla birlikte daha da ağırlaşır.

Işık çoktan yandı. Mesele artık onu kimin yaktığı değil; o ışıkta ne inşa edeceğimiz.