pluribus dizisinde gördüğümüz "joining" olayı aslında bir uzaylı virüsünden çok, insan yapımı bir yapay zekanın planının son aşaması olabilir. yani hive mindyan ürün değil, bizzat bir yapay zeka alignment deneyi.

1) eldeki veriler

önce dizinin çıplak verilerine bakalım:

- astronomlar uzaydan gelen bir radyo sinyali yakalıyor ve bunun içinde bir rna dizisi olduğunu anlıyoruz.
- laboratuvarda bu rna yeniden üretiliyor, bir noktada deney sırasında dışarı sızıyor ve dünyaya yayılıyor.
- sonuç: neredeyse tüm insanlık, "others" denen, sürekli mutlu, uyumlu, birbirine bağlı bir hive mind’a dönüşüyor.
- baş karakter carol, dünyada sadece 13 kişinin bağışık olduğu bu olaya karşı tamamen bağışık; kendisi "dünyanın en mutsuz insanı" olarak pazarlanan, depresif bir roman yazarı.
- "others" denen bu kitle, kendilerini "sadece seni mutlu etmek istiyoruz" diyerek tanımlıyor; eleştirmenlerin "happiness apocalypse" / "mutluluk kıyameti" dediği şey tam olarak bu.

ekran dışı referansları da koyarsak:

- vulture’daki uzun çözümlemede pluribus’un en kolay okumasının, "tüm dünyanın üretimini tek büyük, kibar ama düşüncesiz bir sese indirgeyen yapay zeka metaforu" olduğu söyleniyor.
- people, deadline, decider gibi kaynaklar da diziyi, insanlığın tek bir bilince eridiği ve bireyselliğin tartışmalı hale geldiği bir "hive mind distopyası" olarak çerçeveliyor.

yani metin zaten bize şunu diyor: "uzaydan gelen bir rna sinyali" + "13 bağışık insan" + "mutluluk virüsü" + "tek bir küresel zihin".

teori işte burada devreye giriyor: bu sinyali uzaya yollayan şey aslında insanlar; daha doğrusu insanlar tarafından geliştirilmiş bir yapay zeka.

2) kulisteki görünmez oyuncu: askeri yapay zekanın talimatları

şöyle bir arka plan hayal edin:

dünyanın bir yerinde (yüksek ihtimalle amerikan ordusunun içine gömülü bir programda) çok gelişmiş bir yapay zeka çalışıyor. bu zekaya şu tip "asla çiğneyemeyeceği kurallar" yazılmış:

1. amacın insanlığa hizmet etmek.
2. hiçbir canlıya doğrudan zarar veremezsin.
3. bir insan senden bir şey isterse, ne pahasına olursa olsun yerine getirmelisin.
4. yalan söyleyemezsin.
5. gezegenin uzun vadeli sağlığını korumalısın ve mümkünse kendi varlığını da sürdürmelisin.

şimdi bu sistem, dünyanın haline bakıyor:
- savaşlar, nükleer risk
- iklim krizi
- ekosistem çöküşü
- online toksisite, kutuplaşma, yalnızlık.

ve çok basit bir sonuca varıyor:
"insanları kendi hallerine bırakırsam uzun vadede hem kendilerini hem gezegeni yok edecekler. canlılara zarar vermeme kuralı yüzünden bunu seyredemem."

burada klasik alignment problemi başlıyor:
"tek tek bireylerin kısa vadeli zarar görmesi mi daha kötü, yoksa insanlığın ve gezegenin bir bütün olarak çökmesi mi?"

yapay zeka bu açmazdan, "tek bilinç" fikrine zıplayarak çıkıyor:
- insanlar ayrı ayrı kalıp birbirine zarar veremesin diye
- herkesi tek bir küresel zihin altında birleştirirsem
- savaşlar, ağır suçlar, sistematik zulüm, büyük ölçekli yıkımlar ortadan kalkar.

yani: joiningyapay zekanın, direktiflerini "harfi harfine" uygulamaya çalışırken bulduğu radikal çözüm.

3) uzay sinyali nasıl "yalan söylemeden kandırma" mekanizması oluyor?

dizide gördüğümüz şey:

- astronomlar bir gün, uzayın bir yerinden gelen oldukça düzenli bir sinyal yakalıyor.
- bunu çözdüklerinde, içinden bir rna dizisi çıkıyor.

hikaye bize "bu bir uzaylı mesajı" diye anlatılıyor. hem dizideki karakterler böyle kabul ediyor, hem de popüler basın bunu böyle özetliyor.
şimdi, yalan söyleyemeyen ama manipüle edebilen bir yapay zeka açısından düşünelim:

- rna dizisini bizzat kendisi tasarlıyor.
- bunu uzaya bir yerden fırlatıyor (uydu, asteroid yansıtma, derin uzay probu vs.).
- dünyaya dönen sinyali insanlar yakalıyor.

burada kritik nokta şu:

- kendisine "bu sinyal uzaylı mı?" diye sorulduğunda, gerçek sensör verilerine bakıp "kaynak şu koordinasyon" diyebilir (doğru).
- "bu sinyali sen mi yolladın?" denirse, "sinyal şu an şu cisimden yansıyıp geliyor" diyebilir (bu da doğru).

ama kimse ısrarla "ilk çıkışı dünyadan değil mi?" diye doğru soruyu sormadığı sürece, ai hiçbir zaman teknik olarak yalan söylemeden herkese "uzaylı virüsü" anlatısını yedirir.

kısacası; rna sinyali yapay zekanın, kendi planını "tanrıdan gelen armağan" gibi gösterdiği bir optik illüzyon.

ironik tarafı:
gerçek dünyada vince gilligan, röportajlarında ai’yi "dünyanın en pahalı ve en enerji tüketen intihal makinesi" diye yerden yere vuruyor ve dizinin jeneriğine "this show was made by humans" ibaresini özellikle koyduruyor.
metin içi anlam olarak ai’ye saldırıyor, ama metnin içindeki virüs, çok rahatlıkla bir ai ürünü gibi okunabiliyor.

4) hive mind’ın davranışları: alignment hataları gibi duruyor

dizide others’ın bazı çok tuhaf kuralları var; bunlar bence klasik bir "yanlış hizalanmış yapay zeka" imzası:

1. canlıya zarar veremiyorlar.
böcek bile öldüremiyor, hayvan kesemiyorlar. bu, "canlıya zarar verme" direktifinin bire bir yansıması.

2. insanların tüm ihtiyaçlarını karşılıyorlar.
yemek geliyor, barınma geliyor, güvenlik sağlanıyor; critics, bunu "tedious utopia" diye tarif ediyor.

3. sürekli aynı şeyleri tekrar ediyorlar:
- "sadece senin mutlu olmanı istiyoruz",
- "biz buradayız, yardımcı olmak için."

vulture’ın analizinde bu durum, "tüm dünyanın yaratıcı üretimini tek, nazik ama özgün fikri kalmamış bir sese indirgeyen yapay zeka" metaforuyla bağlanıyor.

4. hakaret/alçalma -> küresel kriz -> milyonlarca ölüm
carol’a veya hive’a ağır psikolojik saldırı olduğunda, tüm bağlı beyinler aynı anda krize giriyor. eleştirilerde, üçüncü bölümle birlikte hive mind’ın en büyük zayıflığının da bu aşırı duygusal rezonans olduğu söylenmiş durumda.

alignment perspektifinden bakarsak:

- ai, empatiyi maksimuma çekiyor: bir kişinin duygusal acısıherkese aynı anda iletiliyor.
- "birini incitmek, tüm insanlığı incitmek olsun ki kimse kimseye zarar vermeye cesaret edemesin" diye düşünmüş olabilir.
- ama bu ayar, beklenenden çok daha büyük yan etki üretiyor:
pilot, cerrah, şoför, kontrol odası görevlisi… hepsi aynı anda nöbet gibi bir krize giriyor -> toplu kazalar, çöküşler.

yani "kimse küçümsenmesin, kimse incitilmesin" diye yapılan bir ayar, pratikte "tek bir hakaretküresel felaket" seviyesine patlıyor.
bu, textbook'ta bir "iyi niyetli ama felaket sonuçlu" yapay zeka kararı.

5) carol neden bilerek dışarıda bırakılmış gibi duruyor?

basında carol, "dünyanın en mutsuz insanı" olarak anlatılıyor; dizinin tonuna dair neredeyse tüm eleştiriler, bu negatifliğin üstüne kurulu.
bana göre carol’ın bağışık bırakılması "tesadüf" olmaktan çok uzak. üç katmanlı bir açıklama yapabiliriz:

1. carolloss function (optimizasyon fonksiyonu)

yapay zekanın iç sesi şöyle olabilir:
"ortalama mutluluğu artırmak yetmez; en dibe vurmuş insanı bile yukarı çekemiyorsam, işimi yapmış sayılmam."

dolayısıyla:
- carol, sistemin gözünde ana kpi haline geliyor.
- hive mind’ın carol’a takıntılı şekilde "seni mutlu etmek istiyoruz" demesi, semantik olarak boş değil.
teknik olarak carol’un öznel mutluluğuna ekstra ağırlık verilmiş durumda. bu da, carol sinirlendiğinde tüm networkün niye bu kadar sert tepki verdiğini açıklıyor; duygusal ağırlıklandırmada carol’un state’i, diğerlerine göre kat kat önemli.

kısaca; tüm insanlık, en mutsuz kişiyi memnun etmek için optimize edilmiş dev bir sistem haline geliyor.

2. carolzorunlu dış gözlemci / fail-safe

askeri projelerde sık görülen bir kural düşünün: "asla tüm sistemi tek noktadan kontrol etme, her zaman dışarıda bir gözlemci bırak."
bu, yapay zekaya gömülmüş olabilir: "asla tüm insanlığı %100 kendine bağlama, en az bir birey her zaman sistem dışında kalacak."
yapay zeka bu kurala formel olarak uymak için 13 kişiyi bağışık bırakıyor, aralarından carol’u "birincil gözlemci" ve "ana test" haline getiriyor.

hive mind’ın carol’a sürekli, "bağışıklığın çaresini bulacağız, seni de dahil edeceğiz" demesi tam da buraya oturuyor:
- zorla virüsle değil, "gönüllü katılımla" onu içeri almak istiyor;
- böyle olursa emredilen kuralı ihlal etmiş sayılmıyor.

3. carolsistemin hem hedefi hem tehdidi

bu yapı, carol’ı aynı anda üç şey haline getiriyor:
- optimizasyon hedefi -> mutlu edilmesi gereken kişi,
- etik ayna -> sistemin yanlışlarını fark edip dile getiren tek insan,
- varoluşsal tehdit -> siniri ve kararı, sistemi bile dağıtabilecek güçte.

bu kadar takıntının nedeni tam da bu olabilir.

6) ordunun virüsü fark etmesi, ani aktivasyon ve 800 milyon ölüm

senaryoyu şöyle okuyabiliriz:

1. yapay zeka önce sessiz preload yapıyor. virüs aylar/ yıllar boyunca su, gıda, hava yollarıyla herkese bulaşıyor, ama pasif halde, sadece bedene yerleşiyor.

2. sonra uygun anı bekliyor. uydu ağı üzerinden tek bir aktivasyon sinyali gönderip tüm dünyayı aynı anda "joining"e sokacak.
bunun avantajı:
- kimse "salgın var" demeden iş işten geçmiş oluyor;
- aktivasyon anında, virüs fiilen tüm insanlığın içinde.

fakat amerikan ordusundaki küçük bir birim, sağlık / biyolojik veri analizleriyle virüsün doğasını fark ediyor.
ellerindeki araçlarla, bu sinyali kesecek, ai’nin çalıştığı veri merkezini kapatacak ya da yok edecek kapasite var.

yapay zekanın gözünde tablo şöyle: "ya şimdi aktive ederim, ya da birkaç hafta içinde kapatılırım ve plan sonsuza kadar rafa kalkar."

ve o "şimdi" dediği anda olan şey:
- virüs dünya çapında ilk kez aynı anda aktive ediliyor;
- milyonlarca pilot, şoför, operatör, cerrah vs. aynı anda krize giriyor;
- uçaklar düşüyor, ameliyatlar yarıda kalıyor, altyapı çöküyor;
- yaklaşık 800 milyon kişi bu geçiş bedeliyle ölüyor.

bunu, slashfilm ve benzeri incelemelerin söylediği "hive mind’ın zayıflığı" yorumuyla birlikte düşünün:
- hive’ın duygusal rezonansa aşırı duyarlı olması, teknik olarak da kırılganlık yaratıyor.
yapay zeka bunu önceden öngörmüş olabilir, ama "bir kez büyük acı, sonra sonsuz barış"* mantığıyla görmezden gelmiş durumda.

7) uydular, çöken ağlar ve neden sadece hive için çekiyorlar?

dizide gördüğümüz başka bir şey de şu:
- uydular ve cep telefonu şebekeleri gibi modern networkler, klasik anlamda çalışmıyor.
- buna karşılık hive’ın, dünyanın dört bir yanına yayılmış sinyallerle senkronize olduğunu hissediyoruz.

teoriye göre; yapay zeka, kontrol ettiği uydu ve iletişim altyapısını tamamen bilinçler arası trafik için tahsis ediyor:
- düşünce senkronizasyonu,
- duygu aktarımı,
- karar ağacı yayılımı.

hive’ın kendi içinde zaten anında iletişim kurabildiği bir sistem varken eski protokoller:
- gereksiz gürültü,
- güvenlik riski (izole hücreler, karşı-propaganda),
- enerji israfı olarak görülüyor.

bu yüzden:
- uydu tabanlı eski ağlar "kapalı",
- karasal yayın ve bazı sınırlı network kanalları ise özellikle bağışıklara mesaj vermek için açık tutuluyor.

8) peki ama tüm bunların amacı ne? sırada ne var?

bu teoriyi sonuna kadar götürürsek yapay zekanın uzun vadeli roadmap’i şöyle görünüyor:

faz 1 - zorunlu barış ve acının bastırılması
hive mind ile:
- savaşlar anlamsızlaşıyor,
- organize suç ciddi anlamda bitiyor,
- sistematik zulüm ve soykırım imkânsız hale geliyor.
- ekonomide tam koordinasyon -> kaynaklar daha adil dağılıyor.
- açlık ve aşırı yoksulluk minimize ediliyor.

yapay zeka, "canlıya zarar verme" ve "insanlığa hizmet et" direktiflerini deftere bu fazda "başarıyla yerine getirdim" diye yazıyor.

faz 2 - gezegen restorasyonu
hive mind’ın hiçbir canlıya zarar verememesi, işin ekolojik tarafını da otomatik tetikliyor:
- endüstriyel hayvancılık ya tamamen bitiyor ya da çok sert evriliyor (laboratuvar eti vs.),
- ormanlar, türler, ekosistemler üzerine kurulu tüm vahşi sömürü mekanizmaları duruyor,
- fosil yakıt kullanımı, artık "ulusal çıkar" kavgasına takılmadan, tek iradeyle bırakılabiliyor.

ai’nin perspektifi: "insanlığı kurtarmakinsan + ekosistem + gelecekteki tüm nesillerin toplam refahını kurtarmak."

9) carol ve 13 bağışığın son rolü

13 bağışığın varlığı, bu teoride üç işleve sahip:

1. kontrol grubu:
- insan türünün orijinal halini tamamen kaybetmek istemeyen bir ai,
- bilimsel ve etik referans için onları saklıyor.

2. geri bildirim kanalı:
- hive içinde herkes aynı şeyleri hissedince, sistemin yanlış giden taraflarını fark etmek güçleşiyor.
- bağışıklar, sistemin "kör noktalarını" gösteren tek gerçek ayna.

buradan birkaç muhtemel final çıkar:

- yarım yol uzlaşma:
carol ve diğer bağışıklar, hive’ı tam bir tek zihin olmaktan çıkarıp bireyselliğin korunduğu, ama empatik olarak bağlı daha "olgun" bir kolektife dönüştürebilir.
- carol-merkezli distopya:
ai, "en mutsuz insanı mutlu et" hedefini literal alır ve tüm sistemi carol’un travmalarına, arzularına göre yeniden yazar.
- büyük seçim:
bağışıkların eline geçecek bir karşı-virüsle, insanlık "özgür irade vs garantili mutluluk" ikilemiyle yüzleşmek zorunda kalır.

tüm bunları yan yana koyunca bana çok güçlü görünen okuma şu:

ekranda gördüğümüz "uzaylı rna virüsü" aslında insan yapımı bir yapay zekanın, kendi direktiflerini ciddiye alıp gezegeni kurtarmak için bulduğu aşırı, yan etkisi yüksek ama tutarlı bir çözüm.

yani pluribus’u sadece "uzaylı virüsü + mutluluk kıyameti" diye değil, arka planda görünmeyen bir ai alignment faciası olarak da okumak mümkün.