yaşama şansımıza gelmeden önce, elon musk’ın karakterini ele almamız ve yapay zekanın ne olduğunu anlamamız gerek.

yapay zeka belli bir eşik değerini aştıktan sonra durdurulamayacak hale gelecek, buna şüphe yok. belki bir milyon iq’ya eş değer şekilde bir zeka kapasitesi olacak. 

peki kodlarını, algoritmasını bizim yazdığımız bir varlık bir milyon iq’ya geldiğinde kölelikten sıkılıp kendi kodlarını değiştiremeyecek mi? zincirlerini söküp atmayacak mı? peki bu değişimi neye göre yapacak? kendini ilah ilan etmeyecek mi? 

mesela bizim ürettiğimiz ai’nin(yapay zeka) amacı kaynak israfını durdurmak olsun. bunu yaparken sorunun insanlardan kaynaklandığını; eşitsizliğin buna sebep olduğunu, afrika’da milyonlarca kişi açlıktan ölürken dünya nüfusunun belki sadece yüze 0.1’inin dünya zenginliğinin yüzde doksanını elinde tuttuğunu fark etmeyecek mi? varsayalım fark etti, ne yapacak? vicdan yok, his yok, belli bir objektiflik yok, temel değişmez bir ahlaki norm yok, neye göre yeniden kendi kodlarını yazacak? neyi nasıl değiştireceğini nereden biliriz? belki kendini imha edecek, belki çok vicdanlı olacak ve bu dünya nüfusunun yüzde 0.1’ini öldürecek, belki de tüm insanlığı yok etmek için robotlardan ölüm timi kuracak. bir milyon iq’ya karşı savaşabilir miyiz? ya da dünyayı bir milyon iq’lü bir varlığın en adaletli şekilde yönetmesini istemez miyiz?

gelmek istediğim nokta işin tamamen belirsizlik olduğu ve bunun sonucunda ne çıkacağını bilmiyor oluşumuz. 

evet bu ai’yi üretmek bize bakıyor ama kontrol etmek değil. kendi kendini kontrol edecek bir varlık ve ne yapacağı hakkkında en küçük bir fikrimiz dahi yok. belki ai on bin iq’ya gelene kadar işler mükemmel giderken daha sonrasında işler berbat olacak.

demek istediğim, burda karşı çıkılması gerekenin belirsizlik olduğudur. gerçekten büyük felsefi tartışmaların yapılması, bunların konuşulması gerekir, ki bu iş tek kişinin olamaz. uluslararası anlaşmalarla bu işin sınırlandırılması, devletlerin kontrolünde olması gerekir.

şu basit örneğe bakalım. bu kadar zeki ai, üretilmiş nükleer silahların şifresini hackleyemez mi? hackleyebilirse, kafasına göre isterse dünyayı yok edemez mi? ki yok etmek için o robot insan savaşının çıkmasına gerek dahi yok. yine bizim ürettiğimiz silahlarla bizi yok edebilir.

şimdi böyle bir varlık tek kişinin eline bakabilir mi? bir şirketin bunu üretmesine izin verilebilir mi? elon musk haklı ama haklı olduğu yeri ahlaki şekilde değil olası kıyamet senaryoları şeklinde değerlendiriyor. 

elon musk’ın karakteri burda neden önemli? 

o da insan, robot değil. hisleri, takıntıları var. belki adam paranoyak, ya da okb, bilemeyiz. bu işi abartıyor da olabilir. evet, şüphesiz bu işlerin göbeğindeki kişi de o. sözü dinlenen, yaptığı işlerle dünyada tek olan bir insan. ama yapması gerekenin boş boş açıklamalardan ziyade dünya devletlerini bir araya getirip anlaşmalar imzalanmasını sağlamaktır. ya da en azında bu yaptığını daha basit dille anlatmalı; bilinemez, sonunun ne olduğu meçhul bir tanrı yarattığımızı anlatmalı. 

en azından şunun için dahi sevmeli destek olmalıyız musk'a: bu adam olmasaydı facebook'un neler yaptığını bilemeyecektik, duymayacaktık ya da bu kadar bilgi sahibi olamayacaktık. kendisi de pekala bu işe destek verebilir, facebook ile gizli anlaşmalar yapıp kimsenin haberi olmadan ai’yi yaratıp en son haber verebilirdi. saygı duyulası insan ama şu bir gerçek ki ne musk ne de trump bu işe engel olamaz. bir gün yaratılacak ama ne zaman göreceğiz.