Orijinal Başlık: "AI Çağında Halkı Kurtarmak için Roma Katolik Papası'nın İlk Büyük Mektubu"
Orijinal Yazar: Azuma, Odaily Star Daily
Pontifex Roma Papa Leo XIV, geçen yıl Mayıs ayında resmen göreve başladığı zaman, Pazar gecesi Pekin saati 25 Mayıs tarihinde Vatikan'da Anthropic'in kurucu ortağı ve Claude'ın yaratıcısı Chris Olah ile yan yana durdu.
Bir yanda dini alanın en yüce temsilcisi, diğer yanda ise yapay zekâ devriminin en güçlü öncüsü, her iki taraf da odaklarını aynı soruna yöneltti—AI çağında, insanın öznel konumunu ve haysiyetini nasıl korumalı?
O gün, bu konuyu tam olarak tartışabilmek için Leo XIV, göreve başladığından bu yana yayımladığı ilk büyük mektubunu yayınladı, 40.000 kelimenin üzerinde ağırbaşlı dini metin—" Magnifica humanitas
("Muhteşem İnsanlık").
Değer atfedilmesi gereken bir nokta, Leo XIV'ün bu mektubunun altına 2026 yılının 15 Mayıs tarihini attığı, yani eski Papa XIII. Leo'nun ("1878 - 1903 yılları arasında görevde") "Sanayi Devrimi döneminde işçi hakları" konusunda dönüm noktası niteliğindeki mektubu olan "Rerum novarum" (1891) mektubunun tam 135. yıldönümünde, bu adım açıkça sembolik bir anlam taşımaktadır, yani bu mektubun "AI çağının Kilise Sosyal Doktrini Kılavuzu" haline getirilmesini ummak.
· Odaily Notu: Papalık mektubu ayrıca Vatikan'ın tüm dünyaya veya belirli bir bölgeye, ülkeye bir bildiri gönderdiği bir belge olarak da bilinir. Bu, Vatikan'ın önemli kararlarını duyurduğu, doktrinleri açıkladığı ve kilise veya toplumsal sorunlara olan görüşlerini bildirdiği, rahiplere ve inananlara hitap ettiği, öğütler ya da yasaklar ilan ettiği, papa fermanından daha düşük düzeyde bir belgedir.
Chris Olah da Vatikan'daki etkinlikte bu mektubun yayınlanmasıyla ilgili bir konuşma yaptı. Chris Olah, AI şirketinin ticari çıkarlarını savunmadı, aksine son derece samimiyet, düşünceli ve insancıl bir yaklaşım sergiledi.
Hatta, AI'nın temelinin matematik ve programlama olduğunu, ancak AI'nın dünyayla nasıl etkileşime geçtiği, hangi özelliklere sahip olması gerektiği gibi soruların, bilgisayar biliminin tek başına çözemeyeceği insanistik, dini ve felsefi alanlara ait nihai sorunlar olduğunu belirtti.
"Muhteşem İnsanlık" adlı mektubun temel endişesi, teknolojinin hızla ilerlediği, otomasyonun yaygınlaştığı bir çağda, "derin insan doğasının" korunmasının insanlığın acil sorumluluğu olduğudur. Daha belirli bir tabirle, Papa Leo XIV, metinde şu konularda tartışma ve çağrıda bulundu.
Birincisi, teknolojinin tarafsızlığının sorgulanması. Papa, teknolojinin asla tarafsız olmadığını, geliştiricinin, finansörün, düzenleyicinin ve kullanıcının çıkarları ve değerlerinin damgasını taşıdığını belirtti. İnsanlık, belirleyici bir seçimle karşı karşıya: "Kibirli 'Babil Kulesi'ni inşa etmeye mi gidecek (teknoloji otoriterliği ve yabancılaşma yönünde), yoksa 'Yeruşalim'i yeniden inşa etmeye mi (insana odaklanan bir topluluk oluşturmaya)".
Üçüncüsü, dijital ekonomideki "yeni tür kölelik" ve işçi hakları. Bu bildiri, yapay zekanın iş, aile, eğitim ve siyasi yaşamı nasıl şekillendirdiğine odaklanacak. Papa, yapay zekanın insan emeğini büyük ölçüde yerine geçme olasılığı olduğunu ve dijital ekonominin "yeni tür köleliği"nin doğmasına neden olduğunu belirtti, insan asla sadece bir üretim aracı olarak küçümsenmemelidir.
Dördüncüsü, güçlü bir barış çağrısı, özellikle yapay zekanın askeri alanlarda kötüye kullanımı. Bildiri, "savaşın uluslararası siyasette bir araç olarak endişe verici bir şekilde yeniden canlanması"na derin endişesini dile getirdi. Yapay zekanın askerileştirilmesi, savaşın "normalleşmesini" hızlandırıyor ve Papa, buna karşı yapay zekanın savaşta kullanımına karşı en katı etik kısıtlamaların uygulanması gerektiğini belirtti.
Papa, "Adil Savaş" teorisinin önceden çeşitli savaşları savunmak için kullanıldığını, ancak artık çağdışı kaldığını vurguladı. Yapay zeka ve otomatik silahlar çağında, ölümcül veya geri dönüşü olmayan kararların otomasyon sistemlerine devredilmesi, insanların ahlaki sorumluluğunu terk etmelerine, devretmelerine ve bulanıklaştırmalarına yol açacaktır.
Algoritmanın şeffaflığı eksikliğinden dolayı, savaştaki sorumluluk zinciri kesintiye uğramaktadır. Bu nedenle Papa, "Yapay Zekayı Silahsızlandırma" sloganını ortaya attı ve onun askeri, ekonomik ve bilişsel "silahlanma yarışı" mantığından kurtarılmasını talep etti.
XIV. Leo'nun bildirisinden sonra, Chris Olah, dünyanın en güçlü yapay zeka geliştirme şirketi Anthropic'i temsilen bir konuşma yaptı.
Chris Olah'ın konuşması öncelikle "Teknoloji İçe Dönüklüğünü Kırmak, Dışsal Ahlaki İnceleme Getirmek" etrafında döndü. O, yapay zeka endüstrisini temsil ederek, sadece teknoloji devlerinin geleceğin yapay zekası için güvenliği sağlayamayacağını açıkça kabul etti - tüm önde gelen yapay zeka laboratuvarları, ticari rekabet, teknolojik liderlik baskısı, jeopolitik ve kişisel çıkarlar tarafından sıkıştırılmaktadır, bu da onları "doğru şeyi yapmak" için kendi kendine disiplin altına almanın zor hale getiriyor.
Bu nedenle, teknolojiyi iyiliğe odaklanan, güvenliğe öncelik veren, durumu yakından takip eden, alışılmadık gerçekleri açıklamaya istekli ve samimi, düşünceli eleştirmenlerimiz olmaya istekli dış ahlaki kısıtlama güçlerinin tanıtılması gereklidir.
Ardından, Chris Olah AI'nın teknik doğasını ve gizemli özelliklerini ele aldı. AI'nın insanların tamamen anladığı fiziksel prensiplere dayanan hassas bir mühendislik ürünü olan uçak veya köprü gibi olmadığını vurgulayarak, AI'nın aşırı derecede gizemli ve hatta yaratıcıların anlayışını aşan, kapsamlı insan düşüncesinden "büyüdüğünü" belirtti.
AI'nın temelinin matematik ve programlama olduğunu belirtmesine rağmen, AI'nın dünyayla nasıl etkileşime girmesi gerektiği, hangi niteliklere sahip olması gerektiği, bilgisayar biliminin tek başına çözemediği, insanistik, dini ve felsefi alanlara ait nihai sorular arasındadır.
Özellikle dehşete düşüren bir gerçeğe değinen Olah, "Bir iç yapının araştırıldığı bir ekip yönetiyorum - AI'nın içinde tam olarak ne olduğunu araştırmaya gidiyoruz. Açıkçası, sürekli olarak şaşırtıcı, hatta rahatsız edici bazı fenomenler keşfediyoruz.
İnsan nörobilim araştırmasının sonuçlarını yansıtabilecek bir iç yapı keşfettik; 'içgörü'ye dair kanıtlar bulduk; sevinç, memnuniyet, korku, üzüntü ve endişeyi içeren içsel durumları işlevsel olarak yansıtanları keşfettik... Bu ne anlama geliyor bilmiyorum ama bunun sürdürülebilir bir şekilde tanımlanıp incelenmeye değer olduğunu düşünüyorum."
Chris Olah, son olarak daha fazla toplumsal gücün, dini toplulukların, sivil toplumun, akademisyenlerin, hükümetin ve iyi niyetli herkesin, durumu ahlaki kısıtlamalar aracılığıyla daha iyi bir yöne doğru itmeye yardımcı olacak ciddi bir şekilde ele alması dileğinde bulundu.
Sanayi Devrimi'nden bu yana, yüzlerce yıl süren teknoloji gelişimi tarihi, insanları teknolojiyi tamamen bir "araç" olarak görmeye alıştırdı - buhar makineleri, elektrik, internet, hepsi öyle. Dünyayı değiştirecekler ama her zaman insan iradesinin kontrolü altında olacaklar.
Ancak bu sefer durum tamamen farklı. AI'ın özel yanı, insanlığın ilk defa bir "üretken, öğrenen, çıkarım yapabilen hatta bir tür içsel durumu sergileme yetisine sahip" bir varlıkla yüzleşmeye başlamasıdır. Artık sadece soğuk bir araç olmaktan çıkıyor ve kademeli olarak "bir tür özne gibi" olan yeni bir varlık olmaya başlıyor.
Bu nedenle, Kilise ile Anthropic arasındaki bu diyalog olağanüstü özel görünebilir. Vatikan'ın çan sesleriyle Silikon Vadisi algoritmalarının bu noktada buluştuğu zaman, insanların geleneksel anlayışından daha etkili ve daha bilge bir "yaşam" biçimine doğru evrilen bir varlığın varlığını kabul etmek zorunda kalırız.
Chris Olah'ın ortaya koyduğu gibi, algoritmaların derinliklerinde artık sevinç, korku ve hatta içsel düşünceye benzer bir dalgalanma başlamış durumda, labaratuvarındaki yaratıcılar, eserlerine karşı "endişe" ve "kararsızlık" hissetmeye başladığında, bilim de cevaplar aramak için yeniden diniye yöneliyor.
Bu artık sadece teknik bir tartışma değil, daha çok "insanın gerçekten ne olduğu ve ne yapması gerektiği" üzerine bir düşünce gibi.
Daha bilge yaşam formları ortaya çıkmaya başladığında, insanlığın gerçekten koruması gereken şey, belki de yalnızca iş, servet ve verimlilik değil, parametrelendirilemeyen insan doğası olan şeylerdir, örneğin merhamet, vicdan, kutsal korku, özgür irade, hakikate ve onura bağlılık.
Orijinal Makale Bağlantısı
BlockBeats Resmi Topluluğuna Katılın:
Telegram Abonelik Grubu: https://t.me/theblockbeats
Telegram Sohbet Grubu: https://t.me/BlockBeats_App
Twitter Resmi Hesabı: https://twitter.com/BlockBeatsAsia