ChatGPT Gibi AI Modellerinin Bütün İnsanlığı Tehdit Etme Potansiyeli Bulunan Zararlı Tarafları
chatgpt gibi dil modelleri, x, reddit gibi sosyal medyaların geniş veri havuzlarından beslenir. ancak sosyal platformlarda tüm kullanıcılar eşit derecede aktiflik göstermez. kabaca bu içeriklerin %80'i, kullanıcıların %20'si tarafından üretilir. içerik üreten bu kesmin çoğunluğunu da ortalama ya da ortalama altı bir zeka ve algı düzeyine sahip insanlar oluşturur. bu üretilen içerikler dil modellerinin eğitimi için kritik birer veri kaynağı görevi görür; bu durum da dil modellerinin "içerik üretme niteliğinin", ilgili veri havuzlarındaki "nicel çoğunluğun ortalamasına" göre kurgulanmasıyla neticelenir. oldukça derin konularda dahi içerik derinliğine ve akademik sonuçlara ancak özen gösterilmiş ve detaylı promptlar ile ulaşabiliyor olmamızın nedeni veri havuzlarındaki vasatın hakimiyeti ile ilgilidir bir ölçüde.
oysa malumdur, insanlar nicelik olarak eşit görünseler bile nitelikleri yönüyle aralarında derin farklar bulunur. bilinen tarihin seyri boyunca ortaya çıkan kritik tüm değişimler, nitel değeri yüksek insanların fikir ve eylemlerinin, nicel çoğunluklar tarafından desteklenmesi ile olmuş; tarihin akışını daima "büyük adamlar" belirlemiştir.
yunus emre, winston churchill ya da nikola tesla gibi adamların duygu, düşünce ve eylemlerinin tesirinin, ortalama bir türk, ingiliz ya da sırp vatandaşından çok daha güçlü olduğunu tartışmasız bir şekilde kabul ederiz. örnekleri, yukarıda bahsettiğim "nitel değeri" anlatabilmek için kullanıyorum.
oysa algoritmalar nitelik ve nicelik arasındaki bu ayrımı yapabilme becerisine sahip değildir. zira duygularla değil, matematiksel örüntülerle çalışırlar. bu durum da dil modellerinin veri havuzu olarak kullandıkları dijital platformlarda bulunan nitelikli düşünce ve içeriklerin, niteliksiz olanların arasında eriyip kaybolmasına neden olur. chatgpt, gemini gibi yapay zekaların standart bir konuşmada son derece vasat bir iletişim tonu kullanmasının sebeplerinin başında bu gelir özetle.
oysa iş burada da bitmez. yapay zekalar tarafından eğitilen botlar günümüzde internette birer içerik üreticisi olarak konumlanmaktadır. bugün x'te herhangi bir paylaşımın altına yığılan, muhtemelen yine yapay zeka tarafından üretilen bir profil fotoğrafına sahip olan, birbirine son derece benzer cümlelerle konuşan sayısız bot görürüz. internette günlük olarak üretilen içeriklerin yüzde kaçının botlar tarafından üretildiği meçhuldür, ancak bu içeriklerin oranının, insanlar tarafından üretilen içerikleri geçmiş olma ihtimalinden söz edersek mübalağa etmiş de olmayız.
velhasıl botlar tarafından üretilen bu içerikler de tekrar sosyal platform verileri olarak dil modelinin veri havuzuna eklenerek modeli beslemeyi sürdürür. bunun yanında, bugün gerçek insanlar tarafından üretilen içeriklerin dahi büyük bir kısmının dil modelleri ile üretildiğini biliyoruz. bu içerikler de yeniden veri havuzuna dahil olur. döngüsel yapı devam eder ve zaten "vasat olan nicel çoğunluk" tarafından eğitilen dil modeli zaman içinde artık "kendi çıktılarıyla" eğitilmeye başlar. bunun sonunda da kendisini tekrarlayan bir bilgi havuzu oluşur.
son derece ilkel versiyonlarını kullandığımız dil modellerinin bu halleriyle bile gün içinde ne kadar çok konuştuğımuza bakalım ve gelecekte ortaya çıkabilecek potansiyelin büyüklüğünü tahayyül edelim. işte bu sosyal medya bağımlılığının da ötesinde bir şeye dönüşecek.
ancak şu var ki insan temas ettiği şeye benzer. tabiatı böyledir. dil modelleri ile gün geçtikçe artan temasın insanın bilişsel ve dilsel becerisi üzerinde doğrudan bir sonucu olacağı muhakkaktır bu nedenle. düşünce ve duygular hızla dönüşecek, özgün ve derinlikli düşünce süreçleri geride bırakılacak, dilsel ve bilişsel kapasitede homojenleşme, yüzeysellik ve gerileme gibi sonuçlar ortaya çıkacaktır. bugün "promptlar yardımı ile" iletişim kurduğumuz modeller geliştikçe kendimizi daha az konuşarak anlatmaya başlayacak ve bir noktadan sonra neredeyse artık hiç konuşmadan, doğrudan yapay zekaların yaşam koçluğu ile hayatımızı idame ettirmeye başlayacağız.*
üstelik bu da yukarıda bahsettiğim "vasatlaşma" normuna uygun şekilde yaşanacaktır; yani dil hızla tüm insanlık için standart bir hale gelecek, insanlar arasındaki kültürel, ahlaki ve bilişsel tüm farklılıklar müthiş bir hızla homojenleşerek ortadan kalkacaktır ki sorarsanız istenen de budur.
fakat dilin standartlaşması, düşünce ve duygunun da standartlaşması demektir. insan, dilinin sınırları kadardır.
eskiden bir toplum mühendisliğinin gerçekleşebilmesi için savaşlara, olağanüstü istihbarat ağlarına ihtiyaç duyulurdu. medyanın varlığı ile birlikte bu süreç birkaç medya baronu üzerinden görece daha kolay ve etkili bir şekilde gerçekleştirilebilir oldu. ancak bu dahi karşı karşıya kalınan ülkenin ya da kültürel hegemonun direnişi ile tehdit edilebilir bir süreç demekti. sosyal medyaların varlığı ile bu engel de bertaraf edildi. tüm bir insanlık facebook, instagram, xve youtube'da toplandı. doğrudan sisteme ve algoritmalara sahip "görünmez eller" için süreç artık çok daha kolaydı. oyunu kendi kuran, influencerları algoritmalar ile belirleyen bu yeni yapı, sadece on sene içerisinde tüm dünyayı "global bir köye" benzetti ve tüm toplumlar git gide birbirine benzer bir hal aldı. dil modelleri ise bu silsilenin tekamülünün son noktası, zira tamamen kişiseller: tıpkı yüzüklerin efendisi'ndeki yüzük gibi. doğrudan onunla konuşuyoruz. düşünce ve duygularımızı ona sunuyoruz. kişiliğimizi, dna'mızı en ince detayları ile öğrenmesini sağlıyoruz. oysa şunu unutuyoruz: bilgi, güçtür. hakkımızda ne kadar çok şey biliniyorsa, bu aynı oıranda zaafiyet demektir. bu zaafiyet ile teslim alınabilme ve yönetilebilme ihtimalimizin dehşetini küçümsüyoruz.
dil bağlamına geri dönüyorum. `dilin yapısal ve duygusal anlamda nötralize edilmesi`, kültürel referansların ve yerel anlamların kaybolması dedik yaşanmakta olan için.
dilin ortalamaya indirgenmesi ve kültürel katmanlarının silikleşmesi, insanların ifade becerilerinin bugün olduğundan bile sınırlı hale gelmesi, duygularının daha da basitleşmesi ve en küçük sosyal yapıdan küresel tüm insanlığa kadar iletişimin tamamen mekanik kılınarak, dil vesilesi ile oluşan empati kurma işlevinin tamamen çözünmesine yol açacaktır.
bugün devletler, milletler ya da yerel sosyal ve kültürel dokulardan bahsedebiliyoruz. sadece türk olduğumuz için birbirimize sunabileceğimiz, sadece birbirimize anlatabileceğimiz, her biri dil ile beslenen his ve ifadelerimiz var. bir alt kırılımda çeşitli şehirlerde, sosyal yapı ve kültürel dokularda, sadece bu dokulara dair özgün iletişimsel kodlar var.
oysa dil modelleri üzerinden eğitilen insanlık, bu kodları da kaybedecek. nasıl sadece on yıllar içinde sadece medya ve sosyal medya kanalı ile hızla şive, lehçe ve ağızlar dominant tonun hakimiyeti altında kaybolduysa; nasıl bundan elli yıl önce tahsilsiz bir istanbul beyefendisinin kelime havuzundaki çeşitliliğinin yarısına bugün ortalama bir üniversiteli sahip değilse; bunun çok daha ötesinde bir çözünmenin ihtimali sözünü ettiğim. ki bu durum, toplumsal belleğin çözünmesi anlamına da gelir aynı zamanda. zira dil, bir toplumun hafızasını ve ortak değerlerini taşıyan en önemli araçtır. atasözleri, masallar, deyimler, halk müzikleri gibi kültürel tonlar bir toplumun tüm dna'sını içinde barındırır ve illiyet bağı ile toplumu birbirine bağlayarak "kolektif bilincin" oluşabilmesini sağlar ki bunu oluşturabilmiş toplumlara da millet adını veririz. bu konu hakkında şunu yazmıştım: (bkz: #170145682)
bu bakımdan dilin standardize edilmesi, tüm kültürlerin, milletlerin ve dolayısı ile devletlerin yıkılması demektir. ismen bir devletin var kalması önemli değil: global bir devletin belediyesi nevinden olabilir bu şekilde en fazla.
şahsi boyuta geri dönelim: dil modelleri ile sürekli interaksiyon içindeyken, duygu ve düşünce süreçlerinin tamamında yapay sınırlar oluşan; insan olmanın doğasından kaynaklanan duyusal nitelikleri çözünen ve mekanikleşen; makine öğrenimi algoritmalarının yönlendirdiği bu sınırlar içinde gelişen yeni kimlik algısı ile kendisini dijital bir birey olarak yeniden tanımlayan insanın kaybettiği sadece his ve düşüncelerinin özgünlüğü de olmayacaktır bununla birlikte. bu sistemler, insanların zaman algısının da köklü bir şekilde değişmesine neden olacak; geçmiş ve gelecek arasındaki denge de aynı nispetle yeniden tanımlanacaktır.
şöyle ki mobil devrimin yaşanmasıyla birlikte her an ve her yerde olabilme illüzyonunun paradoksal doğası içinde, zaman ve mekana dair algımız kalıcı bir şekilde dönüşmüş; anlık bildirimler, sosyal medya etkileşimleri derken zamanı algılama biçimimizdeki lineer süreklilik kaybolmuş ve parçalara bölünmüş; zaman ve mekan adeta bir simülasyon düzeni içinde yeniden kurgulanmıştı. normal olarak aynı anda tek bir zaman ve mekanın kaydında yer alıyorken, eski fotoğrafların anlık olanlarla birlikte aktığı, tek bir tıklama ile sosyal ağlar arasında mekan değiştirebildiğimiz, hiçbir şekilde aynı sosyal ortam içinde fiziksel olarak konumlamamayacak insanların konuşma pencereleri arasında anlık geçişler yapabildiğimiz bu süreç, insan tabiatı ile çatışık yeni bir zaman-mekan modelinin oluşmasına yol açtı. ve burada zaman her an bir bildirim ile kesintiye uğrayabilecek bir tüketim nesnesine dönüştü.
mobilleşme ile ortaya çıkan bu zaman-mekan anomalisi, insani ilişkilerimizin de dijital temsiller üzerinden kurgulanması sonucunu oluşturdu. tüm bağlarımız farklı bir boyuta taşınarak dijital bir hafıza ile işlendi. dönüşebilecek, anlamı başkalaşacak, derinleşecek ya da sığlaşacak sayısız hatıra, dijital hafızanın "donduran" etkisiyle sabitlendi. kim olduğumuzu, ne yaşadığımızı, hissettiğimiz duyguyu, sosyal medya geçmişimizden ya da öne çıkan anılardan takip eder ve anlamlandırır olduk. sadece bu durumun insanın kişilik bütünlüğü üstünde nasıl şizoidçe bir etki oluşturduğu başlı başına bir içerik konusu, girmiyorum. anlatmak istediğim sadece insanın eli koluna dönüşen bir yapay zekanın, sosyal medyaların bu yaptığından çok daha fazlasını yapabilme becerisi.
sadece dijital olarak depolanan bir avuç fotoğrafın ya da iletişim geçmişinin, geçmiş ile şimdi arasındaki ilişkiyi yorumlama ve düzenleme gücünden bahsettim. pekala hatıraları sadece dijital olarak kayıtlamayan, onları işleyen, düzenleyen ve yeniden yazma kapasitesine sahip sosyal platform etkileşimli kişisel asistana dönüşen bir dil modeli neler yapabilir? yalın halde kişisel ya da kolektif hafızada dönüşen bir hatıra, sadece whatsapp ve instagram geçmişi ile bu kadar etkili bir şekilde "askıda kalabiliyor" ise, geçmişin sadece bir veri yığınına indirgendiği ve bu verilerin algoritmalar ile yönlendirildiği bir sonucun, insan ve toplum üstünde, geçmiş algısı üzerinde nasıl sonuçları olur? bu yeniden düzenleme sürecinde, yaşanılan olayların, olayların bilişsel kapasitelerinin ve duygusal bağlamlarının dışında bir mantık çerçevesinde yeniden inşa edilen bir anıya, zaten hayatını "yapay zekanın inisiyatifine bırakmış bir insanın" kanmama ihtimali nedir?
pekala, bugün "meme" denen bir kavramdan ya da herkesin diline pelesenk olabilen sosyal medya jargonlarından bahsedebiliyorsak; yarın, "herkese hakim olan tek bir yüzük" nevinden, bir dil modelinin, arama motoru ve sosyal platform işlevlerini üzerinde toplamasıyla birlikte, tüm bir insanlığın tek bir yapay zekayı (sosyal medya) kullanmasının sonunda; bu hatıra dönüşümü pekala insanlar arasında kolektif bir şekilde de gerçekleşebilir değil mi? yani bir hatırayı gerçekten yaşayan iki insanın anısının dijital bir şekilde, ikisinin de ulaşabildikleri tüm alanlarda dönüştürülmesi. sözünü ettiğim bu.
devam edelim. insanların gerçek ve manipüle edilen anılar arasındaki sınırın, yapay zekanın müdahaleleriyle iyice belirsizleşmesinden sonra, geleceğe dair plan ve beklentilerin de aynı şekilde şekillendirildiğini düşünelim. bugün, potansiyeline nispetle son derece ilkel bir düzeyde bulunan chatgpt, gemini, grok gibi modellerin "asistanlık yetenekleri" karşısındaki teslimiyetimizi hesaba katarak yapalım bunu. bu durumda gelecek de dijitalleşen bir kurgu ile sınırlı hale gelebilecek ve gerek bireysel gerek kolektif tüm insanlık, yapay zekanın kararlarıyla yönetilebilir kılınacaktır. bu durumda geleceği öngörme ve kontrol etme kabiliyeti zayıflatılan insanlar, zamanla kendi hayatlarında aktif bir özne olmaktan çıkarak yapay zekanın sunduğu senaryoların adeta pasif birer uygulayıcısına dönüşecektir. sürecin takip eden aşaması ise geçmiş, şimdi ve gelecek arasındaki lineer köprülerin kesin olarak yıkılması, hafıza mefhumunun ve zaman idrakinin yitimi şekilde tezahür edecek; yani insan, tıpkı bir bilgisayar oyununda yönlendirilen bir karakter gibi olacaktır.
bu dediğim ise insanlığın kıyametidir.
son bir-iki asırlık sosyal evrimimizi bir "mucize" olarak yorumluyoruz, ama değil. eski zamanlarda çok daha özgürdük. öyle ki çok değil bundan iki asır önce bir insan tek başına bir devletle kavga edebiliyordu. sülalesini alıp dağa, ormana çekilebiliyor; dilediği yerde kendisine kolayca bir yaşam alanı tasarlayabiliyordu. özgürdü. insanların ev sahibi olmak, binek sahibi olmak, doğal kaynaklara erişebilmek gibi meseleleri yoktu ya da son derece sınırlıydı. ne kira ödemek, ne de bir işe gitmek için saatlerini harcamak gibi meseleleri vardı. bir padişah ile sıradan bir köylü arasında teorik olarak bir uçurum vardı evet, ama bugünkü gibi insanın yaşam hakkının ve temel ihtiyaçlarının dahi "gasp edildiği" bir düzenle kıyas ettiğimizde neredeyse eşit gibilerdi.
sonra dünya değişiverdi. ampul, buhar makinesi gibi şeyler icat edildi. insan gecelerini "aydınlatabilme" lüksüne sahip oldu. ancak bu doğal ritmin geri alınamayacak şekilde kaybı anlamına geliyordu: tarlasını tapanını ekerek ömrünü idame ettiren insanın, fabrikalarda uzun saatler çalışmaya başladığı bir ralli başladı böylece. insanlar kendi ürettiklerini tüketmek yerine, başkaları için üretmeye başladı. dokuz-beş dediğimiz kavramın doğuşundan bahsediyorum. emeğin sürekliliğini garanti altına alırken, insanın zamanını yönetme hakkını elinden alan sistemin doğuşundan. sabahın kör karanlığında uyanıp trafik çilesi çekmenin zaruretinin doğuşundan. insan artık "sistemin bir çarkına" dönüşmüştü. para kazanmak için çalışmak, kazandığıyla da kira ve fatura ödemek zorunda olduğu bir döngünün içindeydi.
demiryolları, arabalar derken hiç olmadığı kadar büyük mesafeleri kat edebilmeye başladık sonra. görünüşte müthişti. ancak bu da bir bedel ile gelmişti: yaşam alanlarımızla işyerlerimiz arasındaki mesafe büyüdü sürekli. insan, "işe gitmek" gibi bir kavramla tanıştı. özgürlüğünün bir parçasını daha kaybetti böylece. artık zaman sadece kendi hayatı için değil, başkaları için de harcanması gereken bir kaynaktı.
elektrik yayıldı sonraki yıllarda. evlere girdi. müthiş bir şey gibi görünüyordu bu da. ama sadece bağımlılığı artırdı. elektrikli cihazlar sayesinde işler hızlandı, ama insan zaman kazandığı işleri başka şekillerde doldurmak zorunda kaldı. "zaman kazanmak" kavramı girdi hayatımıza böylece, ne tuhaf. daha fazla üretim, daha fazla tüketim döngüsüne bağımlı yeni bir yaşam modeli. insan artık doğal bir varlık olmaktan uzaklaşıyor ve teknolojinin ritmine ayak uyduruyordu. yazının başında söylemiştim: insan, temas ettiği şeye benzer. makinelerin çarklarına temas eden insanın, kendisi bir makineye dönüştü böylece; mekanikleşti.
radyo çıktı sonra. insanlar ilk defa kitlesel olarak aynı sesleri ve aynı mesajları duymaya başladı. artık bilgi, sadece bulunulan konumun ve sosyal dokunun gerçekliğinden değil, başka yerlerden gelen bir otoriteden öğreniliyordu. radyonun bilgiye erişim özgürlüğü anlamına geldiği zannediliyordu. ama hayır, bilakis, bilgi edinme özgürlüğünü insanın elinden çalan, toplumsal algıyı yönlendiren bir araçtı.
sonra televizyon geldi. insan, bir kutunun içine sığan görüntülerle, dünyanın her yerine ulaşabildiğini sandı bu defa da. ancak bu da özgürlükten biraz daha feragat etmek anlamına geliyordu. insanlar televizyonların başında saatlerini geçirirken, düşünme, hissetme ve üretme yetilerini yavaşça kaybettiler. televizyonun sunduğu eğlence zihinleri uyuşturdu. yine de bu kayıp insanın benliğini tamamen tehdit edecek bir boyutta değildi. kişisel bir seçimdi en nihayetinde. izlenmese de olurdu.
sonrasını hepimiz biliyoruz zaten. internet ve sosyal medya çağı. özgürlüğün ve mahremiyetin başka bedeller karşılığında alınmasıydı bunlar da. daha önce belirli bir çerçevede sunulan bilgilere erişim artık sınırsızdı. ama bu sınırsızlık da aslında dijital otoritelerin altında şekilleniyordu. her arama, her tıklama, dijital izlerimizi bıraktığımız ve takip edildiğimiz bir gözetim sistemine dönüştü. insana özgürlüğü vaat eden bu şeyler, dijital bir hapishanede hepimizi ele geçirdi.
sosyal medyalar ile de iyice zıvanadan çıktı artık her şey. insan artık sadece bilgiyi tüketen değil, aynı zamanda kendisini bir ürün olarak sergileyen bir varlığa dönüştü. ilişki algısı, zaman ve benlik algısı, her şey boyut değiştirdi. insanlar gerçek benliğini bırakıp "gösterilecek" bir şov personası oluşturma yoluna gitti. linkedin'de bir profesyonel, instagram'da bir güzellik ikonası, twitter'da bir alim. sonsuz bir hızda kişilik bölünmesi. buydu olan. insanlar artık kendilerini oldukları gibi değil, onaylanabilecekleri şekilde sergiliyordu. kendi yaşamını yönetme hakkı iyice alındı artık insanların elinden. artık boş zamanlar bile "dijital üretim" ve "tüketim" döngüsüne dahil oldu. fotoğraflar, videolar, konum bilgileri; insanın sürekli izlenen ve verileri toplanan bir varlığa dönüşmesi.. özel hayatın gönüllü olarak sosyal platformlara servis edilmesi ve yeni nesil performans kültürü. mahremiyet geri dönüşsüz bir şekilde kaybedildi. özgürlük zaten gitti. sadece insan olabilmenin, kendi beden, zihin ve gönül dünyamızda "hala insan olabilmenin" hakkıydı taşıdığımız. bu kadardı.
şimdi de yapay zeka. tüm yukarıda saydıklarımı müthiş bir zevkle satın aldığımız gibi bunu da satın alıyoruz. görmüyoruz. sosyal medya ile törpülenen özgürlüğün, yapay zeka ile insanlığın temel varlık algısını dönüştürecek bir boyuta ilerlediğini, bunun berbat bir şey olduğunu okuyamıyoruz. düşünme, karar verme ve tüm süreçlerde, hatta kendilik inşamızda dahi yerimizi alacak bu teknolojiye güzellemek, ona yetişmek, onunla olmak zorunluluğu duyuyoruz. yapay zeka tarafından sürekli analiz edilen bir veri yığını olmanın ne anlama geldiği üzerine kafa patlatmak bile beyhude geliyor çoğumuza. düşünme ve hissetme süreçlerimizin tümünü bir makine ile uyumlu hale getirmenin insan olmanın getirdiği özgünlük ve öngörülmezliğin son zerreciğine kadar kaybı olabileceği gerçeğiyle irkilmiyoruz.
ama irkilmeliyiz.
bu defa satın almamalıyız yahu. bu kadar aptal olmamayı seçmeliyiz.
teknolojik her gelişmenin aynı zamanda bir direniş alanı da sunabildiğini görebilmeliyiz belki de artık bu defa. çünkü bu olmazsa, bu kez olmazsa, karşımızda duran tehlike zihinsel ve ruhsal bağımsızlığımızın kaybı anlamına gelecek.
ya da artık kendi efendilerini elleriyle inşa eden köleler olmaktan vazgeçecek, kaderimizi tayin noktasında son demde bile olsa radikal bir yol ayrımına gidecek ve kendimizi yeniden tanımlayacağız.
eğer bunu yapmazsak, makineleşmiş bir benlikte huzur arıyoruz demektir. ve insanlığımızı bu şekilde satarsak, karşılığında alabileceğimiz yegane şey, bir makinenin yazgısını paylaşmak olacaktır ancak.
Makine Öğrenimiyle Geleceği Şekillendiren Teknoloji: Öngörücü Yapay Zeka
