Orjinal Başlık: Pençeleme
Orjinal Yazar: Dean W. Bal
Çeviri: Peggy, BlockBeats
Editör Notu: Bireyin yaşam ve ölüm deneyiminin, devlet kurumunun yükselişi ve çöküşü ile örtüşmesi, siyasi anlatının artık sadece soyut bir kurumsal tartışma olmaktan çıkıp derin bir duygusal farkındalık haline gelmesine neden olur. Bu yazı, bir baba ölümü ile bir çocuğun doğumu arasında kurulan bağlam üzerinden, "ölüm bir süreçtir" bu kişisel anlayışı, ABD'nin cumhuriyetçi sistem durumuna genişletir. Yazarın gözünde, şu anda yapay zeka şirketleri ile hükümet arasındaki çatışmanın, izole bir olay olmadığı, aksine bir kurum ve güç dengesizliğinin uzantısı olduğu görüşündedir.
Yazı, Anthropic ve ABD Savunma Sistemi arasındaki anlaşmazlığa odaklanmakta olup, sözleşme şartlarından, politika sınırlarına ve "tedarik zinciri riski" tehdidine kadar ele alınan konu, artık sadece bir şirket ile hükümet arasındaki rekabet değil, daha temel bir sorunu ele almaktadır: İleri teknoloji çağında, kontrol hakkı kime aittir? Özel şirketlere mi, idari güce mi, yoksa olgunlaşmamış bir kamu mekanizmasına mı? Ulusal güvenlik, iktidarın genişlemesinin gerekçesi haline geldiğinde, politika araçları giderek geçici ve zorunlu düzenlemelere dayandığında, cumhuriyet sisteminin kural hissi ve öngörülebilirliği zayıflıyor mu?
Teknolojik ilerleme ve kurumsal değişim aynı anda gerçekleşebilir ve bu iki unsurun kesişimi genellikle bir çağın yönünü etkiler. Yazar, hem hükümetin uygulamalarını sorgular hem de gelecekteki kurumsal yapıların yeniden inşasına umutla bakar ve okuyucuları, "demokratik kontrolü" basitçe "hükümet kontrolü" ile eşdeğer tutmamaları konusunda uyarır. Hızla ilerleyen yapay zeka ve sürekli olarak yeniden şekillenen yönetişim modelleri arasında, bu tartışma belki de sadece bir önsezi olabilir. Güvenlik, verimlilik ve özgürlük arasında yeni bir denge kurmanın, gelecekte karşılaşılacak önemli bir konu olacağına dikkat çeker.
Aşağıda orijinal metin sunulmaktadır:
On yıl önce babamın yanında oturmuş, onun gözlerinin içine bakarak ölümünü izledim. Altı ay önce hala enerjik bir insan olan o, bugünkü benimden daha güçlüydü, bisiklet sürerken çoğu yirmi yaşındaki gençten daha hızlı ve dayanıklıydı. Sonrasında bir gün kalp ameliyatı geçirdi ve o zamandan beri artık eskisi gibi değildi. Ruhu tamamen alınmış gibi hissedildi, gözlerindeki ışık kayboldu. Arada bir eski babalık hali geri geldi onun giderek yaşlanan bedenine, ama bu tür anlar giderek azaldı. Düşünceleri aralıklı hale geldi, sesi giderek solgunlaştı.
O altı ay boyunca birçok kez hastaneye kaldırıldı. Son gün hastane ve palyatif bakıma alındı. O gün neredeyse hiç konuşmadı. Hayatının son saatlerinde, neredeyse dünyayı terk etmiş gibiydi. Yatağında yatıyor, nefesi yavaşça kesiliyor, sesi giderek zayıflıyordu. Sonunda hemen hemen hiç işitilemiyordu, sadece rahatsız edici bir "son hırıltı" kalmıştı - bu, artık bedenin yutamayacağının bir sonucuydu. Yutamayan bir beden, artık yemek yiyemez veya su içemez durumda, bir bakıma mücadeleyi bırakmıştır.
Annem ve ben göz göze geldik, birbirimizi anladık ama açıkça dile getirmediğimiz ve sormadığımız açık olan şey, aklımızdaki sorular. Zamanın azaldığını biliyorduk. Şu anda söylenecek veya sorulacak her şey faydalı bilgi getirmeyecekti; sorgulamak sadece acıyı artırır.
Birkaç kez özel olarak onunla konuştum. Onunla vedalaşmaya çalıştım elini tutarak. Annem odaya geri döndüğünde üçümüz el ele tutuştuk. Sonunda, bir makine belirli bir sınırı aştığını bildiren uzun bir ses çıkardı—o sınır odaya bakanlar için görünmeyen bir sınırdı. Babamın öldüğü tarih 26 Aralık 2014 öğleden sonra oldu.
Birkaç gün sonra, on bir yıl sonra, 30 Aralık 2025'te oğlum doğdu. Hem ölümün gerçekleşmesini gözlemledim hem de hayatın doğuşunu gözlemledim. Öğrendiğim şey şuydu: İkisi de anlık bir olay değildir, uzanan bir süreçtir. Doğum bir dizi uyanmadır, ölüm bir dizi uykudur. Oğlumun gerçek anlamda "doğması" için birkaç yıl gerekti, babamın gerçek anlamda "gitmesi" ise altı ay sürdü. Bazı insanlar yavaş yavaş ölmek için yıllarca hatta onlarca yıl harcarlar.
Hayatımın belirli bir noktasında, ne zaman olduğunu net olarak söyleyemem, tanıdığımız Amerika Birleşik Devletleri'nin çöküşe geçtiğini görmeye başladık. Doğal ölümün çoğu gibi, nedeni karmaşıktı ve birbirine dolanmıştı. Ölümün başlangıcı için herhangi bir olay, kriz, saldırı, başkan, parti, yasa, fikir, birey, şirket, teknoloji, hata, ihanet, başarısızlık, hatalı yargı veya yabancı rakip "tek başına" sorumlu değildi, ancak hepsi etkili oldu. Bu sürecin hangi aşamasında olduğumuzu bilmiyorum, ancak artık "palyatif bakım odasında" olduğumuzu biliyorum. Bunun farkındaydım, sadece bazen tüm yas tutanlar gibi inkar etmeye meyilliydim. Ağrı getireceği için bunun hakkında fazla konuşmak istemiyordum.
Ancak ölüm döşeğinin yanında oturduğumuzu kabul etmeseydim, bugün istediğiniz gibi analitik ve sıkı bir şekilde yazımı tamamlayamazdım. Sınırlar arası yapay zekâ gelişiminin ve hangi geleceği inşa etmemiz gerektiğine dair dürüst bir tartışma yapmak, tanıdığımız Cumhuriyet'in son anlarında olduğumuz gerçeğini göz ardı edemez. Sadece burada bir makine son uzun sesi için bizi uyaracak. Sadece sessizce izleyebiliriz.
Amerika tarihinde, Cumhuriyetimiz birkaç kez "ölüme" ve "yeniden doğuşa" şahit oldu. Amerika'nın sadece bir "kuruluş" yaşamadığı bilinmektedir. Belki de başka bir tekrar doğumun eşiğinde duruyoruz ve ülkenin sürekli olarak kendini yeniden şekillendirdiği yeni bir bölümünü açıyoruz. Böyle olmasını umuyorum. Ancak yeni bir kuruluşu desteklemek için yeterli erdem ve bilgeliğe sahip olmadığımız gerçeği daha gerçeğe uygun olabilir ve daha olası bir anlayışla, belki de yavaş yavaş bir "sonrası Cumhuriyet" tarzı Amerikan yönetimine geçiş yaptığımız gerçeğidir. Cevabı bildiğimi iddia etmem.
Yazmak üzere olduğum, bir yapay zeka şirketi ile Amerikan hükümeti arasındaki bir çatışmadır. Bunun üzerine abartmak istemiyorum. Anlatmak istediğim o "ölüm", hayatımın büyük bir kısmı boyunca devam etti. Yazmak istediğim olay geçen hafta meydana geldi, hatta birkaç gün içinde belirli bir çözüm bulabilir.
Ben bu olayın Cumhuriyet'in ölümüne "sebep olduğunu" söylemiyorum, aynı şekilde onun "yeni bir çağın başlangıcını" "açtığını" da söylemiyorum. Eğer bir anlamı varsa, o da yaşanmakta olan çöküşün benim için daha belirgin, inkar edilmesi daha zor hale gelmesidir. Geçen haftaki olayı, eski Cumhuriyet'in bir "ölüm dörtlüğü" olarak görüyorum, artık mücadeleyi bırakmış bir bedenin dışarı doğru ses çıkarmasıdır.
Bildiğim kadarıyla olay şöyle gelişti: Biden yönetimi sırasında, yapay zeka şirketi Anthropic ve Savunma Bakanlığı (şimdi "Savaş Bakanlığı" olarak adlandırılıyor, bundan sonra DoW olarak anılacaktır) arasında anlaşma sağlandı, yapay zeka sistemi Claude'ün gizli ortamlarda kullanılmasına izin verildi. Bu anlaşma, 2025 Temmuz'unda Trump yönetimi tarafından genişletildi (tam açıklama: o sırada Trump yönetimindeydim, ancak bu anlaşmada yer almadım). Diğer dil modelleri gayri resmi ortamlarda kullanılabilirken, gizli çalışmalar yani istihbarat toplama, savaş eylemleri vb. Claude'ün kullanılmasına kadar sadece Claude kullanılıyordu.
İlk olarak Biden ekibiyle Anthropic arasında yapılan anlaşma, Biden hükümetinin AI politikasının bazı temel tasarımcılarının görev süresinin ardından hemen Anthropic'e geçmeleri de dahil olmak üzere iki kullanım kısıtlamasını içeriyordu. İlk olarak, Claude'ün Amerikalılara yönelik geniş çapta gözetim amacıyla kullanılması yasaktı. İkincisi, Claude'ün ölümcül otonom silahları kontrol etmek için kullanılması yasaktı, yani tanıma, takip ve saldırı sürecinde tamamen insan müdahalesine ihtiyaç duymadan tamamen hareket edebilen silahlar. Trump yönetimi, anlaşmayı genişletme fırsatını değerlendirirken bu şartları gözden geçirebilme imkanına sahipti ve nihayetinde bunları kabul etti.
Trump yetkililerine göre, fikir değişikliğine sebep olan şey, acil bir şekilde geniş çapta gözetim veya ölümcül otonom silahları hemen devreye almak değil, özel sektörün askeri teknoloji kullanımına kısıtlama getirme fikrine karşı olmalarıydı. Hükümetin tavrı değişince, politika araçlarını kullanarak Anthropic'i zarar vermeye veya hatta yıkmaya yönelik hareketleri başlattılar - belki de kapitalizm tarihinde en hızlı büyüyen şirketlerden biri olan ve mevcut küresel AI sektörünün önde geleni olarak kabul edilen bu şirket, hükümetin AI'nın ülkenin geleceği için ne kadar hayati önem taşıdığını söylemesine rağmen. Ancak bu konuyu ileride konuşacağız.
Trump yönetiminin ortaya attığı görüşün tamamen haksız olduğunu söylemek de mümkün değil: Özel şirketlerin askeri teknoloji kullanımına kısıtlama getirmesi, gerçekten de biraz yanlış bir izlenim uyandırıyor. Ancak aslında binlerce özel şirket bunu yapıyor. Askeriye ile özel sektör arasındaki her teknoloji anlaşması bir sözleşme olarak varoluşunu sürdürüyor (bu yüzden "savunma yüklenicisi" olarak adlandırılıyorlar) ve genellikle sözleşmeler çalışma kısıtlamaları içerir (örneğin, "Sistem X'in Y ülkesi için kullanılamayacak şekilde" veya Musk'ın Starlink'inin sıkça karşılaşılan şartlarına benzer). teknik kısıtlamalar (örneğin, "belli bir uçuş koşulunda savaş uçağı sertifikalı kullanımı") ve fikri mülkiyet kısıtlamaları ("yüklenici ilgili teknik fikri mülkiyeti elinde bulundurur ve yeniden kullanabilir").
Bazı yönlerden, Anthropic'in şartları bu geleneksel kısıtlamalara benziyor. Örneğin, şirket ölümcül otonom silahlara yönelik değil, mevcut lider AI sistemlerinin henüz insan yaşamını otonom olarak kararlaştırabilecek kadar yeterli olmadığını düşünüyor. Bu, "uçuş sertifikasyon kısıtlaması" ile oldukça benzer.
Ancak temel fark şudur: Anthropic'in sözleşme yoluyla uyguladığı kısıtlamalar, daha çok teknik kısıtlama değil, politika kısıtlamasına benzemektedir. Örneğin, "bu savaş uçağının belirli bir yüksekliğe uçması onaylanmış değil" ile "belirli bir yüksekliğe uçamazsınız" arasındaki fark. Ordu belki böyle bir maddeyi kabul etmemeliydi, özel sektör belki de koymamalıydı. Ancak Biden Hükümeti kabul etti, Trump Hükümeti ilk başta kabul etti ve sonra vazgeçti.
Bu tek başına şunu gösterir: Bu tür maddeler absürt bir ihlal olarak görülmemektedir. Hiçbir yasada sözleşmelerin sadece teknik kısıtlamalara sahip olabileceği ve politika kısıtlamalarına sahip olamayacağı belirtilmemektedir. Sözleşmeler yasadışı değildir, belki sadece sonradan bakıldığında pek mantıklı görünmemektedir. Toplu gözetimi ve ölümcül otonom silahları karşı çıkıyorsanız bile, savunma sözleşmelerinin politika hedeflerine ulaşmanın en iyi aracı olmadığını düşünebilirsiniz. Cumhuriyetin normal kuralları altında, yeni politikaların uygulanması genellikle yasama yoluyla yapılır.
Ancak, "yasama yoluyla" terimi günümüz Amerika'sında giderek bir şaka gibi hale gelmektedir. Eğer gerçekten bir sonuç elde etmek istiyorsanız, yasama artık birinci yol değildir. Yönetim giderek daha az resmi, geçici olarak güçlendiricidir, yürütme yetkisi genişlemekte, politika araçları ve hedefleri giderek uyumsuz hale gelmektedir.
Trump Hükümeti, fikrini değiştirmesine ilişkin iki endişesini dile getirdi: Birincisi, Anthropic'in kritik bir anda hizmeti geri çekebileceği; ikincisi, bir alt yüklenici olarak, Anthropic'in şartlarının diğer askeri yüklenicileri bağlayabileceği endişesi. Üstüne bir de hükümet, Anthropic'i siyasi rakip olarak görmüş olabilir (doğru bir değerlendirme yapmış olabilirler), askeri birden bire güvenilmeyen bir şirkete bağımlı olduklarının farkına vardı.
Mantıklı hareket tarzı, sözleşmeyi iptal etmek ve nedenlerini açıklamak, aynı zamanda gelecekte benzer durumları önlemek için düzenlemeler eklemektir. Ancak Savunma Bakanlığı sözleşmenin "tüm yasal amaçlara izin vermesi gerektiğini" ve Anthropic'i "tedarik zinciri riski" olarak listelemekle tehdit etti. Bu tanımlama genellikle yalnızca yabancı rakiplerin kontrolündeki şirketlere (örneğin Huawei gibi) yöneliktir. Savunma Bakanı daha da ileri giderek, tüm askeri yüklenicilerin Anthropic ile "herhangi bir ticari ilişki kurmasını" engellemeyi düşündüklerini söyledi.
Bu neredeyse bir şirkete "kurumsal cinayet" ilanı anlamına gelmektedir. Kurşun belki öldürücü olmayabilir, ancak bir işaret göndermeye yeterli olabilir: İşimizi bizim koşullarımıza göre yapın, aksi takdirde işiniz bitecek.
Bu, Amerikan Cumhuriyeti'nin temel prensiplerine dokunmaktadır: Özel mülkiyet. Eğer ordu Google'a "küresel kişiselleştirilmiş arama verilerini sat, aksi takdirde risk olarak listele" derse, ilkesel olarak şu anda yapılanlarla aynıdır. Sözde özel mülkiyet, sadece ulusal güvenlik adına istenildiğinde kullanılabilen bir kaynaktır.
Bu, AI endüstrisinin genel sermaye maliyetini artıracak, ABD AI'sının uluslararası güvenilirliğini zayıflatacak ve hatta AI endüstrisinin kendisinin karlılık potansiyelini etkileyebilecektir.
Her yeni başkanlık dönemi değiştikçe, Amerika'nın politika oluşturma süreci daha öngörülemez, daha kaba ve daha keyfi hale gelmektedir. Özgürlük düzeni ne zaman buharlaşacak, bunu belirlemek zor olacaktır.
Özellikle Savunma Bakanı tehdidi geri alsa da, zarar zaten meydana gelmiştir. Hükümet şunu açıkça belirtmiştir: Boyun eğmeyi reddettiğiniz sürece potansiyel bir düşman olarak görülebilirsiniz. Bu, Amerikan siyasi kültürüne daha derin bir şekilde zarar vermektedir.
Daha da önemlisi, bu gerçekten ilk kez "AI kontrolünün geleceği nerede olmalı?" etrafında açık bir tartışma başlatılmıştır. Kamu kurumlarımız düzensiz, kötü niyetli ve stratejik netlikten yoksun bir şekilde davranmaktadır. Siyasi elitin başarısızlığı yeni bir konu değil, aksine son yirmi yılda sürekli kötüleşen bir tema: "Geçmişte olduğu gibi, ama açıkça daha kötü."
Belki de sonraki iyileşme aşaması ileri AI ile sıkı sıkıya bağlantılı olacaktır. Gelecekteki kurumsal tasarımlarda "demokratik kontrolü" "hükümet kontrolüyle" eşdeğer tutmayın lütfen. Bugün olduğu gibi aralarındaki fark, hiçbir zaman bu kadar belirgin olmamıştır.
Gelecekte ne olursa olsun, kitle gözetimi ve otonom silahların özgürlüğü aşındırmamasını sağlamalıyız. AI laboratuvarının çizgisini korumasını takdir ediyorum. Önümüzdeki on yıllarda, özgürlüğümüzü hayal ettiğimizden daha fazla tehdit edebilir.
Herkes, mücadele etmeye ya da savunmaya istekli olduğu geleceği seçmelidir. Bu seçimi yaparken, "son an sesinin" gürültüsünü yoksayarak bağımsız düşünmeyi sürdürün. Yeni bir kurumsal tasarım çağına doğru ilerliyorsunuz.
Ancak bu zamandan önce, geçmişteki o Cumhuriyet için biraz zaman ayırın.
BlockBeats Resmi Topluluğuna Katılın:
Telegram Abonelik Grubu: https://t.me/theblockbeats
Telegram Sohbet Grubu: https://t.me/BlockBeats_App
Twitter Resmi Hesabı: https://twitter.com/BlockBeatsAsia