yıl 1965, yer: ingiltere. i. j. good adlı bir ingiliz matematikçinin "advances in computers" isimli dergide bir makalesi yayımlanıyor. makalenin adı "speculations concerning the first ultraintelligent machine" ve derginin 33. sayfasındaki şu cümlesi göze çarpıyor:

"ilk ultra-zeki makine, insanın yapması gerekecek son icattır, tabii ki bu makine bize kendisini nasıl kontrol altında tutacağımızı söyleyecek kadar uysal olursa".

orijinal ingilizcesiyle:

"the first ultraintelligent machine is the last invention that man need ever make, provided that the machine is docile enough to tell us how to keep it under control".

şimdi burada bir dakika duralım. chatgpt, gemini, claude gibi yapay zeka tartışmalarında artık odağımıza aldığımız şeyler; yapay zekanın insan ırkına üstün gelmesi, onu kontrol altında tutabilme problemi, varoluşsal risk, yapay zeka güvenliği. tüm bu tartışmaların özü bu iki cümlede vücut buluyor, üstelik henüz 1965 yılında, sosyal medya yokken, internet yokken, kişisel bilgisayar yokken.

kim bu adam?

irving john good, londra doğumlu, polonyalı yahudi bir göçmen ailenin çocuğu. cambridge'de aldığı matematik öğreniminin ardından g.h. hardy'nin öğrencisi oldu. 1941'de -bismarck zırhlısının battığı gün, tesadüfen- bletchley park'a girdi. bletchley park'ı bilmeyenler için: ıı. dünya savaşı'nın en büyük sırrı olan; nazi almanyası'nın "enigma" isimli meşhur şifreleme makinesiyle gönderdiği mesajları kıran ingilizlerin gizli istihbarat üssü. üssün tartışmasız lideri alan turing'den başkası değildi -bugün "bilgisayarın babası" olarak tanıdığımız adam -hani şu apple'ın logosundaki elmaya ısırık atan.

good, doğrudan turing'e bağlı olarak çalıştı ve birlikte alman deniz kuvvetlerinin şifrelerini kırdılar. savaş tarihçileri bu çalışmanın ii. dünya savaşı'nı 2 yıl kısalttığını tahmin ediyor. ayrıca bu sayede doğal olarak milyonlarca insanın da canı kurtulmuş oldu.

enigma'dan chatgpt'ye giden gizli köprü

bletchley park'ta alman mesajlarındaki harf örüntülerini kırarken good, turing ile birlikte bir matematiksel yöntem geliştirdi. soru şuydu: "daha önce hiç görmediğim bir kelime dizisinin olasılığı ne olmalı?". bu sorunun cevabı "good-turing frekans tahmini" olarak tarihe geçti. good, yöntemi 1953'te "biometrika" dergisinde yayımladı. bugünkü llm’lerin atası sayılan istatistiksel dil modellerinde bu yöntem kritik rol oynadı. google’ın eski n-gram modellerinde bile kullanıldı.

yani good için, hem siri'ye konuşmayı öğreten çözümün mimarı, hem de yapay zekanın getireceği tehlikelere dair kehanetleri 60 yıl önceden kaleme alan bir "kâhin" dersek yanlış ifade etmiş olmayız.

kubrick'in telefonu

1965'te good'un makalesinin yayımlanmasından birkaç ay sonra stanley kubrick telefonu eline alıp birini aramak için numaraları çeviriyor. kubrick o sıralar hayatının en büyük projesini çekmek için kolları sıvamış: "2001: a space odyssey". filmde merkezi karakter olarak bir bilgisayara yer veriliyor ve bu sıradan bir bilgisayar değil elbette. yapay zekaya sahip bu bilgisayarın adı "hal 9000". bu karakterin inandırıcı olması için kubrick bir uzmanın danışmanlığına ihtiyacı olduğunu düşünüyor. ve tahmin edelim o uzman kim? evet, good'dan başkası değil. kubrick, good'u hal 9000 karakterini geliştirmek için danışman olarak işe aldı, bu doğru.

film 1968'de vizyona girdi ve hal 9000'in o meşhur sahnesi -mürettebatı öldürmemek için kapatılmayı reddedişi- good'un 1965'te yazdığı şu şartın ekran karşılığıydı: "tabii ki makine yeterince uysal olursa". hal 9000’in merkezindeki kontrol problemi, good’un birkaç yıl önce tarif ettiği korkularla dikkat çekici biçimde örtüşüyordu.

bostrom, yudkowsky, altman - hepsi aynı cümleye bakıyor

bugün "ai güvenliği" denilen alanın en önemli isimleri bu cümleden besleniyor. nick bostrom'un 2014'te "oxford university press"ten yayımlanan superintelligence kitabı -silicon valley'de onlarca ceo'nun başucu kitabıdır aynı zamanda- sayfa 4'te good'un paragrafını alıntılayarak başlıyor ve tüm argüman buradan filizleniyor.

eliezer yudkowsky'nin machine intelligence research ınstitute için yazdığı intelligence explosion microeconomics (2013) adlı teknik raporun ilk paragrafı da good'u doğrudan alıntılıyor ve şunu ekliyor: good'un "intelligence explosion" tezi, yeterince gelişmiş bir makinenin kendinden daha akıllı versiyonlar üretebileceğini ve bu sürecin insan zekasını oldukça geride bırakacak noktaya kadar devam edeceğini öngörüyor.

sam altman, haziran 2025'te bloguna yazdığı "the gentle singularity" başlıklı yazısında, mevcut ai sistemlerini "özyinelemeli kendini geliştirmenin larva hali" olarak tanımlıyor -good'un 1965'te "kendinden daha iyi makineler tasarlayabilir" dediği şeyin başladığını kabul ediyor, açıkça.

demis hassabis -deepmind'ın kurucusu, 2024 nobel kimya ödülü sahibi- 2025'teki bir podcast'te agi için "2030'a kadar %50 ihtimalle gerçekleşecek" diyor.

hepsi aynı cümlenin etrafında dönüyor. good'un 1965'te kaleme aldıkları, 2025'te halen gündemde ve tartışmaların odağı konumunda.

ve sonra good fikrini değiştirdi

en çarpıcı kısım burası; good, makaleyi 1965'te şu cümleyle başlatmıştı: "insanın hayatta kalması, ultra-zeki bir makinenin erken inşasına bağlıdır", iyimserdi, teknoloji kurtarır diyordu.

1998'de -ölümünden 11 yıl önce- yayımlanmamış otobiyografik notlarında kendinden üçüncü tekil şahısla şöyle bahsediyor:
"'hayatta kalma' kelimesi 'yok oluş' kelimesiyle değiştirilmeli. uluslararası rekabet nedeniyle makinelerin kontrolü ele geçirmesini engelleyemeyiz. biz leminglerden farklı değiliz."

"hayatta kalma" yerine "yok oluş"

good 33 yıl sonra tam tersini söyledi ve gerekçesi ise -"uluslararası rekabet"- bugün openai, google deepmind ve çin arasındaki yarışın tam tarifiydi, üstelik 1998'de. 33 yıl önce insanlığın kurtuluşu olarak gördüğü yapay zekayı artık insanlığın sonunu getirebilecek bir tehlike olarak görüyordu.

bize neyi miras bıraktı?

altı kavramı tek paragrafta toplayan, 1965'te yazılmış bir kehanet:

- süper-zeki makineler,
- özyinelemeli kendini geliştirme,
- zeka patlaması,
- insanın geride kalması,
- kontrol problemi,
- ve son icat.

bugün bunların her biri için ayrı araştırma enstitüleri var. milyarlarca dolarlık bütçeler, hükümet komiteleri, varoluşsal risk konferansları. aynı adamın geliştirdiği matematik, bugün bu sistemlerin istatistiksel temelidir. aynı adam, hal 9000'i yaratmak için sinema setine çağrıldı. ve aynı adam, 82 yaşında kendi cümlesine dönüp yalnızca bir kelimeyi değiştirerek insanlığı bekleyen ürkütücü sonu işaret etti: "hayatta kalma" yerine "yok oluş".

kaynaklar

Kendisini Kullanan Bir Avukattan: Yapay Zeka, Avukatlık Mesleğini Nasıl Etkileyecek?