Sam Altman, Kovulmadan Önce İnsanlığı Tehdit Edebilecek Bir Yapay Zekanın Eşiğinde miydi?
ana akım medyada geçen haberlerden sıkıldaysanız, sizi şöyle alalım. iyi bir yazı. ilgi çekici kısımlarını aşağıda aktarmaya çalıştım ancak tamamını okumanızı tavsiye ederim.
...
yazar (aynı zamanda george w. bush'un ekonomi danışmanı) makalenin en sonunda yer alan kısmı en başta söylese daha iyi olurmuş: "altman gibi uzmanlar, yapay zekayı iyilik yapmak için tasarladıklarını söylüyor. ancak yapay zeka tasarımcıları neyin "iyi" olduğu konusunda hemfikir değiller. "
makale, altman'ın kovulmadan bir gün önce önemli bir yapay zeka atılımı gerçekleştirmenin eşiğinde olduğunu açıklamasıyla başlıyor. bu atılımın "insanlığı tehdit edebileceğini" söyleyen bir mektup var. bunun gerçekleşmesi için de haliyle geniş bilgi işlem kaynaklarına ve finansmana ihtiyacı olacak. ayrıca dünyanın en hızlı süper bilgisayarlarının ve yapay zeka çiplerinin üreticisi nvidia'nın en büyük rakibi cerebras'ın tasarımcısıyla görüştüğü iddiaları da var. nvidia'nın abd'nin ulusal savunmasının merkezinde yer alan süper bilgisayarların en güçlülerini ürettiği biliniyor. cerebras, nvidia'nınkinden 20 kat daha hızlı bir çip tasarladı. bu yüzden bazı çevreler cerebras'ın halka arzının nvidia'yı öldüreceğini öne sürüyor. yani abd'nin ulusal savunması için bir potansiyel bir tehdit.
bunlar dışında altman yapay zeka çağı için yeni nesil bilgisayarlar oluşturmak istiyor. batı, altman'ın sahip olmayı istediği anlamlı veriyi toplayacak mekanizmalara, geleneklere ya da altman'ın istediğini finanse edecek paraya sahip değil.
yapay zeka üzerine çalışanlar, altman'ın bir daha şişeye konamayacak bir şey inşa etme riskini almaya istekli olduğunu düşünüyor. yazar, burada metaforun dibini sıyırıyor. aynen yazıyorum: "o, ikinci dünya savaşı'nı kazanmak için atomları parçalamaya hazır olan oppenheimer'a benziyor; bunu yapmak için atmosferi ateşleyip dünya'yı yakıp kül etmiş olsa da."
altman'ın bu vizyon için orta doğu ve asya'da milyarlar toplamaya çalıştığını fark ettiğinde openaı yönetim kurulu'nun neden tedirgin olabileceği daha net anlaşılıyor. çünkü bu, çip tasarımının, veri toplama ve depolamanın, hesaplama gücünün ve yapay zeka ile fiziksel robotik arasındaki arayüzün en ileri teknolojilerini yeniden tanımlamakla ilgili.
yazar, bu yeni tedarik zincirinin yalnızca amerika'nın bt altyapısına meydan okumakla kalmayacağını, abd'nin gücünün azalmasını kolaylaştıracağını da aktarıyor. altman'ın sınırlara inanmayan biri olduğunun altını çizerek "mümkün olan en iyi yapay zekayı yaratma" hedefinin hem yönetim kurulunu hem de abd'yi endişelendirdiğinden bahsediyor. bir sonraki paragrafta ise daha net tanımlamış: "abd ve müttefikleri, altman'ın vizyonunun batı'nın güvenlik ve kontrol kavramlarına yönelik ciddi zorluklarını biliyor olacaklar."