Anthropic’in, Pentagon’a Devletle Ters Düşme Pahasına Vermediği Kritik Yetkiler
her ne kadar pentagon, anthropic şirketi ceo'sunu bir "yalancı" ve "tanrı kompleksli" bir adam olmak ile suçlayarak ve hakaretle işin içinden çıkmaya çalışsa da dario amodei'nin karşı olduğu ve savunma bakanlığı'nın (dod) isteklerini reddettiği konular gayet mantıklı ve reddederek ve pentagonu karşısına alarak sergilediği duruş etik, açıdan da doğru bir duruş. (link)
antropic ceo'su uzun zamandır, pentagon'a ve savunma bakanlığına hizmet verdiklerini ek olarak ülkelerine hizmet etmekte ve ülkelerini korumakta bir sorun görmediklerini defalarca belirtti. savunma bakanlığı'nın kendilerindne istediği hemen hemen tüm isteklerini karşılamalarına karşın, sadece iki konuya, temel olarak karşı olduklarını belirtiyor.
bunlardan ilki toplu gözetleme(mass surveillance) ve bu konuda hassas olmasının haklı ve yeni teknik gerekçeleri var.
ikincisi tamamen otonom silah sistemlerinin kullanımı.
toplu gözetleme konusunda neye karşı olduğunu özetleyecek olursak; bu konu aslında uzun zamandır var olan ve daha önceden de açıklananmış bir konu, bireylerin verilerinin toplanıp, kişiye dair bilgi toplanmasından, kişisel mahremiyetin ihlalinden, kişinin verileri inclenerek ona uyacak reklam ve ürünlerin karşısına çıkarılmasından, politik olarak ona uyan video önerilerine kadar uzanan tatsız bir konu. ancak amodei ellerindeki teknolojinin teknik kabiliyetlerini de göz önüne alarak bazı eklemeler yapıyor ve belirttiği şey şu, bir topluluğa ya da kişiye ait, farklı platform ve sistemlerde bulunan dağınık haldeki bir çok veri bu teknoloji sayesinde taranıp, bir araya getirilebiliyor ve birleştirilerek, kişi hakkında çok detaylı, gözetleme ötesi bir profil çıkartılabiliyor, diyor.
ayrıca bu sistemlerin, hali hazırda yabancı ülkelerde, istihbarat ve karşı istihbarat operasyonlarında kullanılmasına karşı olmadıklarını ancak ülke içinde kullanılmasına karşı olduklarını belirtmiş.
otonom silah sistemleri ile ilgili kısımı özetlemek gerekirse; bu sistemlerin gerekli gözetim olmadan kullanılmasının hem sivillere hem de amerikan askerlerini tehlikeye atacağını belirtiyor ve sistemlerin otonom bıraklabilmek için gerekli muhakeme yeteneğine henüz erişmediğini anlatıyor. sistemin üreticileri olmaları sebebiyle hayli ciddiye alınması gereken ifadeler bunlar.
bunun ötesinde ilgili otonom sistemlerin ar-ge ve güvenilir hale getirilmesine destek vermek istediklerini belirtmiş olduklarını ancak yetkililerin bu teklifi geri çevirdiğini de belirtiyor.
tüm bu tartışmalar devam ederken sam altman'ın dod'nin tüm taleplerini sorgusuz ugyulayacak şekilde, süreci devralabilecek olması da ayrıca iç karartıcı bir durum.
