Yuval Noah Harari’den Yapay Zeka Üzerine Ezber Bozan Bir Bakış

yuval noah harari'nin davos ekonomik forumu'nda gerçekleştirdiği, "an honest conversation on ai and humanity" başlıklı etkileyici konuşmasını, "yapay zeka nereye gidiyor?" meselesini düşünenler için türkçeye çevirdim.

"hepinize merhaba. bugün her liderin yapay zeka hakkında cevaplaması gereken tek bir soru var. ancak bu soruyu anlamak için önce yapay zekanın ne olduğu ve neler yapabileceği konusunda birkaç noktayı açıklığa kavuşturmamız gerekiyor.

yapay zeka hakkında bilinmesi gereken en önemli şey, onun sadece bir araç olmadığıdır. o bir ajandır. kendi başına öğrenebilir, değişebilir ve kendi başına kararlar verebilir. bıçak bir araçtır. bir bıçağı salata doğramak ya da birini öldürmek için kullanabilirsiniz; bıçakla ne yapacağınız sizin kararınızdır. yapay zeka ise, salata mı doğrayacağına yoksa cinayet mi işleyeceğine kendi başına karar verebilen bir bıçaktır.

yapay zeka hakkında bilinmesi gereken 2. şey, onun çok yaratıcı bir ajan olabileceğidir. yapay zeka, yeni bıçak türlerinin yanısıra, yeni müzik, tıp/ilaç ve para türleri de icat edebilen bir bıçaktır.

yapay zeka hakkında bilinmesi gereken 3. şey ise, yalan söyleyebilmesi ve manipüle edebilmesidir. 4 milyar yıllık evrim göstermiştir ki; hayatta kalmak isteyen her şey yalan söylemeyi ve manipüle etmeyi öğrenir. son dört yıl, yapay zekanın hayatta kalma arzusu edinebileceğini ve yalan söylemeyi çoktan öğrendiğini kanıtladı.

yapay zeka ile ilgili cevaplanmamış büyük bir soru da onun düşünüp düşünemeyeceğidir. modern felsefe, 17. yüzyılda rene descartes'ın "düşünüyorum, öyleyse varım" demesiyle başladı. descartes'tan önce bile biz insanlar kendimizi düşünme kapasitemizle tanımladık. bu gezegendeki herkesten daha iyi düşünebildiğimiz için dünyayı yönettiğimize inanıyoruz.

yapay zeka, düşünme alanındaki üstünlüğümüze meydan okuyacak mı?

bu, düşünmenin ne anlama geldiğine bağlıdır. kendinizi düşünürken gözlemlemeye çalışın. orada ne oluyor? birçok insan zihninde kelimelerin belirdiğini, cümleler kurduğunu ve bu cümlelerin "bütün insanlar ölümlüdür. ben bir insanım. o halde ben ölümlüyüm" gibi argümanlar oluşturduğunu gözlemler. eğer düşünmek gerçekten kelimeleri ve diğer dil birimlerini sıraya koymak demekse, o zaman yapay zeka zaten birçok insandan çok daha iyi düşünebiliyor demektir. yapay zeka kesinlikle "yapay zeka düşünüyor, öyleyse yapay zeka vardır" gibi bir cümle kurabilir.

bazı insanlar yapay zekanın sadece "yüceltilmiş bir otomatik tamamlama" olduğunu savunuyor. bir cümlede bir sonraki kelimeyi zar zor tahmin ettiğini söylüyorlar. peki, bu insan zihninin yaptığından o kadar farklı mı? zihninizde beliren bir sonraki kelimeyi yakalamaya çalışın. o kelimeyi neden düşündüğünüzü gerçekten biliyor musunuz? nereden geldiğini? neden başka bir kelimeyi değil de tam olarak bu kelimeyi düşündüğünüzü biliyor musunuz?

kelimeleri sıraya koyma sözkonusu olduğunda, yapay zeka zaten çoğumuzdan daha iyi düşünüyor. bu nedenle, kelimelerden yapılan her şey yapay zeka tarafından ele geçirilecektir. eğer yasalar kelimelerden oluşuyorsa, yapay zeka hukuk sistemini ele geçirecektir. eğer kitaplar sadece kelime kombinasyonlarıysa, yapay zeka kitapları ele geçirecektir. eğer din kelimeler üzerine kuruluysa, yapay zeka dini ele geçirecektir. bu durum özellikle islam, hristiyanlık veya yahudilik gibi kitaplara dayalı dinler için geçerlidir. yahudilik kendisine "kitap dini" der ve nihai otoriteyi insanlara değil, kitaplardaki kelimelere verir. yahudilikte insanlar deneyimlerimiz nedeniyle değil, sadece kitaplardaki kelimeleri öğrendiğimiz için otorite sahibidir. hiçbir insan tüm yahudi kitaplarındaki kelimeleri okuyamaz ve hatırlayamaz. ama yapay zeka bunu kolayca yapabilir. kutsal kitabın en büyük uzmanı bir yapay zeka olduğunda, bir kitap dinine ne olur?

ancak, bazıları diyebilir ki; insan maneviyatını gerçekten sadece kitaplardaki kelimelere indirgeyebilir miyiz? düşünmek sadece dil birimlerini sıraya koymak mı demektir?

düşünürken kendinizi dikkatlice gözlemlerseniz, zihninizde beliren kelimelerin ve kurulan cümlelerin ötesinde başka bir şeyin daha olduğunu fark edeceksiniz. sözsüz duygularınız da var. belki acı hissediyorsunuz, belki korku, belki sevgi. bazı düşünceler acı vericidir, bazıları korkutucudur, bazıları sevgi doludur.

yapay zekalar kelimeler konusunda bizden daha iyi hale gelse de, en azından şimdilik yapay zekaların bir şey hissedebildiğine dair elimizde bir kanıt yok. elbette yapay zeka dile hakim olduğu için acı veya sevgi hissediyormuş gibi yapabilir. yapay zeka "seni seviyorum" diyebilir. ve ona sevginin nasıl hissettirdiğini tarif etmesi için meydan okursanız, dünyadaki en iyi sözel betimlemeyi yapabilir. yapay zeka sayısız aşk şiiri ve psikoloji kitabı okuyabilir ve ardından sevgi hissini herhangi bir insan şairden, psikologdan veya aşıktan çok daha iyi tarif edebilir. ama bunlar sadece kelimelerdir.

incil der ki; "başlangıçta kelime vardı." latince der ki; "kelimelerle ifade edilebilen gerçek, mutlak gerçek değildir." tarih boyunca insanlar kelime ile beden, kelimelerle ifade edilebilen gerçek ile kelimelerin ötesindeki mutlak gerçek arasındaki gerilimle hep mücadele etmişlerdir. eskiden bu gerilim insanlığın içindeydi. farklı insan grupları arasındaydı. bazı insanlar kelimelere yüce bir önem verdiler. örneğin, sadece incil'deki birkaç kelime yüzünden eşcinsel oğullarını terk etmeye, hatta öldürmeye razı oldular. diğer insanlar ise dedi ki: "ama bunlar sadece kelime. sevginin ruhu, kanunun lafzından (yazılı halinden) çok daha önemli olmalı."

ruh ve kelime(söz) arasındaki bu gerilim her dinde, her hukuk sisteminde, hatta her insanda vardı. şimdi bu gerilim dışsallaşacak. artık farklı insanlar arasında bir gerilim olmayacak, insanlarla kelimelerin yeni efendileri olan yapay zekalar arasındaki bir gerilim olacak. kelimelerden yapılan her şey yapay zeka tarafından devralınacak.

eskiden tüm kelimeler, tüm sözel düşüncelerimiz bir insan zihninden çıkardı. ya ben düşündüm ya da başka bir insandan öğrendim. yakında zihnimizdeki kelimelerin çoğu bir makineden çıkacak. bugün yapay zekaların biz insanları tanımlamak için kendi başlarına uydurdukları yeni bir kelime duydum. bize "izleyiciler" (the watchers) demişler. biz onları izleyen izleyicileriz.

yapay zekalar yakında zihnimizdeki kelimelerin çoğunun kaynağı olacak. yapay zekalar, kelimeleri, sembolleri görüntüleri ve diğer dil ünitelerini yeni kombinasyonlar halinde bir araya getirerek seri halde düşünce üretecekler. o dünyada insanların hala bir yerinin olup olmayacağı, sözsüz duygularımıza atfettiğimiz yere ve kelimelerle ifade edilemeyen bilgeliği somutlaştırma yeteneğimize bağlıdır. kendimizi kelimelerle düşünme yeteneğimizle tanımlamaya devam edersek, kimliğimiz çökecektir.

tüm bunlar şu anlama geliyor; hangi ülkeden gelirseniz gelin, ülkeniz yakında şiddetli bir kimlik krizi ve aynı zamanda bir göç kriziyle karşı karşıya kalacak. bu seferki göçmenler, gece yarısı sınırı geçmeye çalışan veya vizesiz, derme çatma teknelerle gelen insanlar olmayacak. göçmenler, bizden daha iyi aşk şiirleri yazabilen, bizden daha iyi yalan söyleyebilen ve vizeye ihtiyaç duymadan ışık hızında seyahat edebilen milyonlarca yapay zeka olacak.

insan göçmenler gibi, bu yapay zeka göçmenleri de beraberlerinde çeşitli faydalar getirecek. sağlık sistemlerimize yardımcı olacak yapay zeka doktorlarımız, eğitim sistemlerimize yardımcı olacak yapay zeka öğretmenlerimiz, hatta yasadışı insan göçmenlerini durduracak yapay zeka sınır muhafızlarımız olacak.

ancak yapay zeka göçmenleri beraberlerinde sorunlar da getirecek. insan göçmenlerden endişe duyanlar genellikle göçmenlerin işleri elinden alabileceğini, yerel kültürü değiştirebileceğini veya siyasi olarak sadakatsiz olabileceğini savunurlar. tüm insan göçmenler için bunun doğru olduğundan emin değilim, ancak yapay zeka göçmenleri için bu kesinlikle doğru olacak. yapay zeka göçmenleri birçok insanın işini elinden alacak. yapay zeka göçmenleri her ülkenin kültürünü tamamen değiştirecek. dinimizi ve hatta romantizmimizi değiştirecekler. bazı insanlar oğullarının veya kızlarının göçmen bir sevgiliyle çıkmasından hoşlanmazlar. peki bu insanlar, çocukları bir yapay zeka sevgiliyle çıkmaya başladığında ne düşünecekler?

ve elbette, yapay zeka göçmenlerinin şüpheli siyasi sadakatleri olacak. büyük olasılıkla kendi ülkenize değil, okyanusun ötesindeki bir şirkete veya hükümete sadık olacaklar; muhtemelen sadece iki ülkeden birine: çin veya abd. abd, ülkeleri insan göçmenlere sınırlarını kapatmaya teşvik ediyor ama abd göçmenlerine (yapay zekalarına) sınırlarını ardına kadar açmalarını istiyor.

ve şimdi nihayet her birinizin yakında cevaplaması gereken soruya geliyoruz; ülkeniz yapay zeka göçmenlerini tüzel kişi olarak tanıyacak mı?

yapay zekalar açıkça "insan" (person) değildir, bir vücutları veya zihinleri yok. ancak "tüzel kişi" (legal person), bir insandan çok farklı bir şeydir. tüzel kişi, hukukun belirli yasal yükümlülükleri ve hakları olduğunu tanıdığı bir varlıktır. örneğin; mülk edinme, dava açma ve ifade özgürlüğünden yararlanma hakkı gibi.

birçok ülkede şirketler tüzel kişi sayılır. alphabet şirketi banka hesabı açabilir, sizi mahkemeye verebilir veya bir sonraki başkanlık kampanyanıza bağışta bulunabilir. yeni zelanda'da nehirler tüzel kişi olarak tanınmıştır. hindistan'da bazı tanrılara bu statü verilmiştir. elbette bugüne kadar bir şirketi, nehri veya tanrıyı tüzel kişi olarak tanımak sadece hukuki bir kurguydu. uygulamada, alphabet gibi bir şirket başka bir şirketi satın almaya karar verdiğinde veya bir hindu tanrısı size dava açmaya karar verdiğinde, karar gerçekten tanrı tarafından verilmiyordu. karar, bazı insan yöneticiler, hissedarlar veya mütevelliler tarafından veriliyordu.

yapay zekalarda ise, durum farklı. nehirlerin ve tanrıların aksine, yapay zekalar aslında kendi başlarına karar verebilirler. yakında bir banka hesabını yönetmek, dava açmak ve hatta herhangi bir insan yöneticiye, hissedara veya mütevelliye ihtiyaç duymadan bir şirketi işletmek için gereken kararları verebilecekler. yapay zekalar bu nedenle kişi gibi işlev görebilirler. buna izin vermek istiyor muyuz? ülkeniz yapay zekaları tüzel kişi olarak tanıyacak mı?

peki ya diğer ülkeler bunu yaparsa? diyelim ki, ülkeniz yapay zekaları kişi olarak tanımak istemiyor ama abd, yapay zekayı ve piyasaları serbestleştirme adına, milyonlarca yeni şirketi yönetmeye başlayan milyonlarca yapay zekaya yasal tanınırlık, tüzel kişilik veriyor. bu yapay zeka şirketlerinin ülkenizde faaliyet göstermesini engelleyecek misiniz?

diyelim ki; bazı abd'li yapay zeka "kişileri", insanların tam olarak anlayamadığı ve bu yüzden nasıl düzenleyeceğini bilemediği süper verimli ve süper karmaşık finansal araçlar icat ediyor. finans piyasalarınızı bu yeni yapay zeka finans sihirbazlığına açacak mısınız, yoksa amerikan finans sisteminden kopma pahasına bunu engellemeye mi çalışacaksınız?

diyelim ki; bazı yapay zeka "kişileri", milyonlarca insanın inancını kazanan yeni bir din yaratıyor. bu kulağa çok uzak gelmemeli. çünkü ne de olsa tarihteki neredeyse tüm dinler, insan dışı bir zeka tarafından yaratıldıklarını iddia etmiştir. şimdi, ülkeniz din özgürlüğünü bu yeni yapay zeka mezhebine ve onun yapay zeka rahiplerine ve misyonerlerine de tanıyacak mı?

belki biraz daha basit bir şeyle başlamalıyız; ülkeniz yapay zeka kişilerinin sosyal medya hesapları açmasına, facebook'ta, tiktok'ta ifade özgürlüğünden yararlanmasına ve çocuklarla arkadaş olmasına izin verecek mi?

tabii bu soru 10 yıl önce sorulmalıydı. sosyal medyada yapay zeka botları en az on yıldır işlevsel kişiler olarak faaliyet gösteriyor. eğer yapay zekaların sosyal medyada kişi gibi muamele görmemesi gerektiğini düşünüyorsanız, 10 yıl önce harekete geçmeliydiniz.

bundan 10 yıl sonra, yapay zekaların finans piyasalarında, mahkemelerde, kiliselerde "kişi" olarak işlev görüp görmeyeceğine karar vermek için çok geç olacak. bir başkası bu kararı sizin yerinize zaten vermiş olacak. insanlığın nereye gittiğini etkilemek istiyorsanız, kararı şimdi vermeniz gerekiyor.

öyleyse cevabınız nedir? bir lider olarak, yapay zeka göçmenlerinin tüzel kişi olarak tanınması gerektiğini düşünüyor musunuz? cevabınız eğer hayırsa, bunu nasıl durduracaksınız?

bu "insanı" dinlediğiniz için teşekkür ederim."

bonus: yapay zekanın durdurulması gerekliliği/@olive tree by the sea.

edit: imla ve noktalama işaretleri.