Laplace’ın Yeni Şeytanı: Yapay Zekâ Geleceğimizi mi Yazıyor?

Algoritmalar, özgür irade ve dijital determinizm üzerine

Her gün kullandığımız navigasyon uygulamalarını düşünün. Ekranda “İleride trafik var, alternatif rotaya sapın” uyarısını görür ve tereddütsüz o ara sokağa gireriz. Ancak uygulama bu tahmini yapıp yeterince fazla aracı aynı boş sokağa yönlendirdiğinde, biraz sonra oluşacak trafiğe kendisi de katkıda bulunur.

Bu durumda uygulama geleceği mi bildi, yoksa yaptığı tahminle o geleceğin nedenlerinden biri mi oldu?

Bu basit an, aslında yüzyıllardır devam eden derin bir felsefi tartışmanın modern yansımasıdır. Bugün bir dil modelinden bizim için felsefi bir metin yazmasını istediğimizde, ekrana dökülen kelimeler ilhamla dolu, özgür bir zihnin ürünüymüş gibi hissettiriyor. Model, daha önce kurulmamış cümleler kuruyor, ihtimaller arasında seçim yapıyor ve bazen bizi şaşırtan fikirler üretiyor.

Peki karşımızdaki gerçekten bağımsız bir yaratıcılık mı, yoksa yalnızca kusursuz bir “seçim görünümü” mü?

Nedenselliğin makinesi

Determinizm, evrendeki her olayın önceki koşullar ve doğa yasaları tarafından belirlendiğini savunur. Bugün verdiğimiz bir karar; geçmiş deneyimlerimizden, biyolojik yapımızdan, içinde bulunduğumuz çevreden ve o anda sahip olduğumuz bilgilerden bağımsız değildir. Her sonuç, kendinden önce gelen nedenler zincirinin içinden doğar.

Burada küçük ama kritik bir ayrım yapmak gerekir: Determinizm, kadercilik değildir.

Kadercilikte belirli bir sonuç, insan ne yaparsa yapsın gerçekleşecektir. Determinizmde ise insanın kararları, çabaları ve yön değiştirmeleri de sonucu meydana getiren nedenlerin bir parçasıdır. Başka bir ifadeyle çabamız gelecek karşısında anlamsız değildir; çabamız da geleceği oluşturan nedenlerden biridir.

19. yüzyılda Pierre-Simon Laplace, bu belirlenmişlik fikrini sonradan “Laplace’ın Şeytanı” olarak adlandırılacak düşünce deneyiyle zirveye taşıdı. Eğer evrendeki bütün kuvvetleri ve varlıkların mevcut durumlarını eksiksiz bilen, bunların tamamını hesaplayabilecek kadar güçlü bir zekâ olsaydı, onun için hiçbir şey belirsiz kalmazdı. Geçmiş ve gelecek aynı anda gözlerinin önünde bulunurdu. Laplace’ın düşünce deneyinin özgün metni

Günümüzün yapay zekâ modelleri Laplace’ın Şeytanı değildir. Evrenin bütün koşullarını bilmez, doğa yasalarının tamamını kavramaz ve geleceği kesin biçimde göremezler.

Fakat Laplace’ın temsil ettiği eski arzunun modern hâlini taşırlar:

Yeterince fazla veri toplarsak geleceği hesaplayabileceğimiz düşüncesini.

Dışarıdan baktığımızda yaratıcı ve tahmin edilemez duran bu sistemler; katmanlar, ağırlık matrisleri, matematiksel işlemler ve olasılık dağılımları üzerinden çalışır. Her kelime, kendinden önce gelen kelimeler ve modelin öğrendiği örüntüler doğrultusunda belirli olasılıklara sahip olur.

Spinoza’nın 1674’te G. H. Schuller’e yazdığı 58. mektuptaki taş benzetmesini hatırlayalım. Spinoza, hareket hâlindeki bir taşın bilinci olsaydı hareketini meydana getiren dış nedenleri bilemeyeceğini ve kendi isteğiyle ilerlediğini düşüneceğini söyler. Spinoza’nın 58. Mektubu

Bir yapay zekânın ürettiği eşsiz şiiri de bu benzetme üzerinden düşünebiliriz. Modelin kullandığı “temperature” ayarı, kelimelere ait olasılık dağılımının ne kadar dar veya çeşitli olacağını etkiler. Örnekleme mekanizması bu dağılım içerisinden seçim yapar. Model, girdi, başlangıç değeri ve yürütme ortamı sabitlenebilirse aynı çıktının üretilmesi beklenebilir; ancak modern yapay zekâ altyapılarındaki paralel hesaplamalar ve donanım farklılıkları nedeniyle bu tekrar edilebilirlik pratikte her zaman sağlanamaz.

Fakat buradaki değişkenlik, modele özgür irade kazandırmaz.

Öngörülemezlik ile özgürlük aynı şey değildir.

Bir sistemin sonucunu önceden hesaplayamamamız, o sistemin kendi iradesiyle karar verdiğini göstermez. Gördüğümüz şey organik bir mucizeden çok, insan zihninin bütün adımlarını takip edemeyeceği büyüklükte bir matematiksel karmaşıklıktır.

Yine de yapay zekâ bize rahatsız edici bir soru yöneltir:

Milyarlarca parametreli mekanik bir ağ bu kadar güçlü bir seçim görünümü yaratabiliyorsa, biyolojik sinir ağlarından oluşan kendi zihnimizin kararları ne kadar özgürdür?

Yapay zekâ yalnızca teknolojinin sınırlarını değil, kendi özgür irade anlayışımızı da sorgulatan büyük bir felsefi aynadır.

Fütürizmin itirazı: Gelecek tekil değildir

Laplace’ın evreninde gelecek tektir. Henüz yaşanmamış olsa bile, bugünün koşulları içinde belirlenmiştir. Yeterince güçlü bir zekânın yapması gereken tek şey, bu geleceği hesaplamaktır.

Fütürizm ise bu noktada farklı bir soru sorar:

Ya gelecek keşfedilmeyi bekleyen tek bir sonuç değilse?

Burada fütürizmi yalnızca teknoloji hayranlığı veya bilimkurgu anlamında değil, alternatif gelecekleri sistematik biçimde düşünmeye çalışan “gelecek çalışmaları” anlamında kullanıyorum. Bu yaklaşım geleceği genellikle üç farklı düzeyde ele alır:

• Gerçekleşmesi mümkün gelecekler,
• Mevcut eğilimlere göre gerçekleşmesi muhtemel gelecekler,
• İnsanların değerleri ve tercihleri doğrultusunda oluşturmak istediği gelecekler.

UNESCO’nun “Futures Literacy” yaklaşımında da geleceğin henüz var olmadığı, yalnızca hayal edilebildiği vurgulanır. Gelecek çalışmaları bu nedenle tek bir tahmini kesinleştirmekten çok mümkün, muhtemel ve tercih edilen gelecekler arasındaki farkı görmeye çalışır. UNESCO Futures Literacy

Yapay zekâ en çok ikinci alanda, yani “muhtemel gelecek” konusunda güçlüdür. Geçmişteki milyonlarca örüntüyü inceleyerek mevcut eğilimlerin devam etmesi hâlinde ne yaşanabileceğini hesaplar.

Fakat muhtemel olan, mümkün olanın tamamı değildir.

Daha da önemlisi, muhtemel olan her zaman tercih edilmesi gereken gelecek de değildir.

Yapay zekânın temel sınırı burada ortaya çıkar. Model geçmişten öğrenir. Dolayısıyla geleceği çoğu zaman geçmişin devamı olarak görür. Bugüne kadar başarılı olmuş insanlara, gerçekleşmiş olaylara ve kayda geçmiş davranışlara bakarak yarın hakkında tahminde bulunur.

Oysa insanlık tarihindeki büyük dönüşümler, geçmişin sorunsuz bir devamı olarak ortaya çıkmadı. Bilimsel devrimler, toplumsal değişimler, yeni sanat akımları ve teknolojik sıçramalar; çoğu zaman mevcut verilerin içinden kolayca tahmin edilemeyen kırılmalarla gerçekleşti.

Yapay zekâ geçmişin örüntülerini son derece iyi okuyabilir. Fakat insanın henüz gerçekleştirmediği, hatta bazen henüz hayal etmediği bir geleceği yalnızca geçmiş verilerden çıkarması çok daha zordur.

Bu nedenle fütürizmin yapay zekâya yönelteceği temel itiraz şudur:

Gelecek, geçmiş verilerin daha gelişmiş bir devamından ibaret değildir.

Tahmin toplumundan dijital determinizme

Yapay zekâ çağında gelecekle ilişkimiz de değişiyor. Önceden geleceği tahmin etmeye çalışıyorduk. Şimdi ise tahminlere dayanarak gelecekte gerçekleşmesi muhtemel olaylara daha yaşanmadan müdahale etmeye başlıyoruz.

Bir sistem kişinin başarısız olacağını, hastalanacağını, suç işleyeceğini, borcunu ödeyemeyeceğini veya belirli bir davranışta bulunacağını tahmin ettiğinde, bu tahmin henüz gerçekleşmemiş bir gelecek hakkında hüküm üretir.

İşte dijital determinizm burada başlar.

Dijital determinizm, geleceğin gerçekten kodların içinde önceden yazılı olması değildir. Algoritmik tahminlerin, insanların karşısına çıkabilecek gelecekleri daraltacak kadar etkili hâle gelmesidir.

Bir algoritma geçmiş verilerinize bakarak başarısız olacağınızı hesaplar ve sizi bir fırsattan elerse, başarılı olma ihtimalinizi fiilen ortadan kaldırır. Model daha sonra haklı çıkmış gibi görünür. Ancak geleceği bir kâhin gibi gördüğü için değil, tahmin ettiği geleceğin oluşmasına katkıda bulunduğu için.

Makine öğrenmesi literatüründe bu durum “performative prediction” olarak tanımlanıyor: Bir tahmin, kararları ve davranışları etkileyerek tahmin ettiği sonucu değiştirebilir veya bizzat üretebilir. Performative Prediction

Böyle bir dünyada insan artık yalnızca geçmişinin sonuçlarını taşımaz. Geçmişinden üretilmiş algoritmik gelecekle de mücadele etmek zorunda kalır.

Yakın geleceğe ilişkin bir düşünce deneyi yapalım.

Çocukluğunuzdan itibaren eğitim geçmişinizi, sağlık verilerinizi, ilgi alanlarınızı, konuşmalarınızı, harcamalarınızı ve günlük alışkanlıklarınızı bilen kişisel bir yapay zekâ düşünün. Bu sistem hangi meslekte başarılı olacağınızı, hangi şehirde mutlu yaşayacağınızı, kimlerle daha uyumlu olacağınızı ve hangi kararların sizi başarısızlığa götüreceğini tahmin ediyor.

Şimdi bir an durup kendi hayatınızı düşünün: Böyle bir sistem sizin için nasıl bir gelecek çizerdi? Hangi yönlerinizi güçlü, hangi tercihlerinizi riskli bulurdu? Bugün peşinden gittiğiniz hayallerden hangisini geçmişinizle uyumsuz görür, hangisinden vazgeçmenizi önerirdi? Ve tahminleri sizi şaşırtacak kadar isabetli olsaydı, onun çizdiği hayatın dışına çıkmayı hâlâ göze alabilir miydiniz?

Başlangıçta bu sistem yalnızca tavsiyelerde bulunacaktır. Fakat tahminleri yeterince isabetli hâle geldiğinde, ona karşı çıkmak irrasyonel görünmeye başlayabilir.

Neden daha düşük başarı ihtimali bulunan mesleği seçesiniz?

Neden uyumsuzluk riski yüksek görülen biriyle ilişki kurasınız?

Neden modelin başarısız olacağınızı söylediği bir fikrin peşinden gidesiniz?

Hiç kimse sizi zorlamaz. Önünüzdeki seçenekler resmen ortadan kaldırılmaz. Fakat algoritmanın hesapladığı “en doğru hayat”, diğer bütün ihtimallerin üzerine görünmez bir ağırlık gibi çöker.

O noktada yapay zekâ geleceğimizi yasaklarla değil, olasılıklarla yönetmeye başlayabilir.

Yapay zekâ kâhin mi, olasılık motoru mu?

Buradan iki farklı yapay zekâ geleceğine ulaşabiliriz.

Birinci gelecekte yapay zekâyı modern bir kâhin olarak görürüz. Ondan en olası sonucu bulmasını ister, tahminlerini kararların yerine koyar ve belirsizliği ortadan kaldırmaya çalışırız. Bu dünyada yapay zekânın görevi tek bir “en doğru gelecek” hesaplamaktır.

Bu, Laplaceçı yapay zekâdır.

İkinci gelecekte ise yapay zekâyı farklı ihtimalleri görünür kılan bir düşünce aracı olarak kullanırız. Ondan tek bir cevap vermesini değil, alternatif senaryolar üretmesini; varsayımlarını açıklamasını ve farklı kararların bizi hangi geleceklere götürebileceğini göstermesini isteriz.

Bu da fütürist yapay zekâdır.

Birincisi olasılıkları daraltır.

İkincisi olasılık alanını genişletir.

Dolayısıyla yapay zekâ zorunlu olarak dijital determinizm yaratmaz. Tam tersine doğru kullanıldığında insanın tek başına göremediği ihtimalleri görünür hâle getirerek özgürlük alanını genişletebilir. İklim, şehirler, bilim, eğitim ve insanlığın uzun vadeli geleceği hakkında çok sayıda senaryoyu aynı anda değerlendirmemize yardımcı olabilir.

Sorun, yapay zekânın ürettiği en olası geleceği mümkün olan tek gelecek zannetmemizdir.

Geleceğin ortak yazarlığı

Sonuç olarak yapay zekâ geleceği biliyor mu?

Hayır. En azından Laplace’ın hayal ettiği anlamda bilmiyor. Yapay zekâ evrendeki bütün nedenleri gören kusursuz bir zihin değil; geçmiş verilerdeki örüntülerden hareketle geleceğe ilişkin olasılıklar üreten bir sistemdir.

Tahmin ettiği şey kaderimiz değil, geçmişimizin benzer biçimde devam etmesi hâlinde ortaya çıkabilecek sonuçlardır.

Fakat yalnızca “tahmin ediyor” demek de yeterli değildir. Çünkü insanlar onun tahminlerine göre davranmaya başladığında yapay zekâ geleceği dışarıdan gözlemleyen bir sistem olmaktan çıkar. Kararlarımızı, beklentilerimizi ve görebildiğimiz ihtimalleri etkileyerek o geleceğin nedenlerinden biri hâline gelir.

Asıl tehlike, yapay zekânın kaderimizi bilmesi değildir. Asıl tehlike, bizim onun tahminlerini kader gibi kabul etmemizdir.

Bir olasılığı kesin hükme, geçmiş verileri insanın değişmez kimliğine ve algoritmik tutarlılığı nesnel hakikate dönüştürdüğümüzde dijital determinizmi kendi ellerimizle kurmuş oluruz.

Bu nedenle yapay zekâ çağında özgürlük, hiçbir nedenden etkilenmeden karar vermek olmayabilir. Özgürlük; hakkımızdaki tahminleri görebilmek, onları sorgulayabilmek, başka türlü davranabilmek ve geçmişimizin çizdiği sınırların dışına çıkabilmek olabilir.

Yapay zekâ Laplace’ın yeni şeytanı değildir; çünkü geleceği bütünüyle bilmiyor. Belki de “yeni şeytan”, bütün geleceğin hesaplanabileceğine duyduğumuz eski inancın kendisidir.

Gelecek henüz modelin ağırlıklarında yazılı değil. Tek bir gelecek de yok.

Muhtemel gelecekler var.

Mümkün gelecekler var.

Ve henüz hayal etmediğimiz gelecekler var.

Yapay zekânın en büyük fütürist değeri, hangisinin kesin olarak gerçekleşeceğini söylemesi değil; daha önce göremediğimiz gelecekleri düşünmemize yardımcı olması olabilir.

Çünkü yapay zekâ geleceğin ortak yazarlarından biri hâline gelecekse, asıl soru onun ne yazacağı değildir.

Asıl soru, kalemi bütünüyle ona bırakıp bırakmayacağımızdır.

Laplace’ın Yeni Şeytanı: Yapay Zekâ Geleceğimizi mi Yazıyor?