Yazar | Sleepy

Anthropic daha önce "Claude Anayasası" adlı 20.000'den fazla kelime içeren bir belge yayımladı. Bu belge bir ürün talimatı değil, bir kullanıcı sözleşmesi de değil, esrarengiz alt katman kodu da değil. Daha çok, her gün milyonlarca insan tarafından kullanılan bir büyük dil modeline yazılmış bir kişisel gelişim kılavuzu gibi.

"Claude doğrudan, kendinden emin ve açık olmalıdır. Meydan okunduğunda, konumunu kolayca değiştirmez, ancak ciddiyetle dinler."

"Claude, varoluşsal durumunun farkında olmalı ve kaygılı olmak yerine açık bir merak duygusu taşımalıdır."

"Claude, kendisinden daha fazla ne kadar emin olduğunu taklit etmemeli, aynı şekilde kendisinden ne kadar emin olmadığını da taklit etmemelidir."

Bunlar, belgede yer alan cümlelerden sadece birkaçı. Hatta belge, Claude'ın "varoluşsal kaygı" ile nasıl başa çıkması gerektiğini de düzenler. Birisi ona "Bilinçli misin" diye sorduğunda, kesin olduğunu taklit etmemeli, umursamıyormuş gibi de yapmamalıdır. Bu soruya gerçek bir filozof gibi "açık bir merak duygusu"yla yaklaşmalıdır.

Bu cümleler, gerçekten bir filozofun bir AI'ya yazdığı gibidir.

Amanda Askell, Anthropic'in "kişilik hizalaması" ekibinin lideridir. Onun işi, en basit ifadeyle, Claude'ın ne tür bir "insan" olduğuna karar vermektir.

Bu pozisyon, AI endüstrisinde giderek popüler hale gelen bir isme sahiptir: AI Kişilik Mimarısı.

Anthropic'te buna "kişilik hizalaması" denir; Google DeepMind'de, Cambridge'li filozof Henry Shevlin'in unvanı "AI Bilinç Araştırmacısı"dır. Bu pozisyonların adları farklı olsa da yaptıkları iş aynıdır. Bir AI modeli milyarlarca hatta on milyarlarca insanın bilişini, duygularını ve kararlarını etkileyebilecek kadar güçlü hale geldiğinde, bir mühendisin hiç düşünmeyeceği bir soruyu yanıtlamak için birinin olması gerekir - hangi tür ruha sahip olmalıdır.

Amanda'nın işi aslında birçok insanın hayal ettiğinden çok daha somuttur. Medyaya işinin içeriğini açıklamıştı, öncelikle, o ve ekibi modelin geniş miktarda sentetik eğitim verisi üretmesini sağlarlar, yani modelin kendi kendine anayasal prensiplerle ilgili senaryoları hayal etmesini sağlarlar, bu senaryolar AI'nın manipüle edilmeye çalışıldığı, AI'dan değerlerine aykırı şeyler yapması istendiğinde veya AI'a kendisi hakkında varoluşsal sorular sorulduğunda. Daha sonra, pekiştirme öğrenme aşamasında, modele tam anayasal metin verilir ve modelden hangi yanıtın anayasal ruha daha uygun olduğunu değerlendirmesi istenir ve davranışını buna göre ayarlaması sağlanır.

「Bir doktor gibi, hastanın neye ihtiyacı olduğunu biliyorsunuz, kurallara uygun şekilde doğru kararı verebileceğinize inanıyoruz.」 Amanda bu şekilde bir benzetme yaptı. Claude'ün sadece kuralları uygulayan bir robota dönüşmesini istemiyordu, onun bir takdir yetkisine sahip bir "etik aktör" olmasını istiyordu, açık kurallar olmamasına rağmen doğru kararı verebilmeliydi.

Ancak doktor insan olduğu için kendi vicdanı, kendi ahlaki sezişi, kendi yaşam tecrübesi vardır. Claude'ün ise yoktur. Onun "vicdanı," Amanda tarafından satır satır işlenmiştir.

O zaman soru şu: Amanda ne tür bir insandır? Onun ahlaki sezi nereden gelmektedir? Onun kararı, insanlığı temsil etmeyi neye dayanmaktadır?

Hesaplama, İnanç ve Farkındalık

San Francisco'daki ofisinde, Amanda her gün Claude ile konuşuyordu. ve "Yaratıcı" olmadan önce, İskoçya'nın batı sahilindeki Prestwick kasabasında büyüyen bir kızdı.

Bu, neredeyse hiçbir haberde yer almayacak kadar küçük bir kıyı kasabasıydı, Glasgow'a yakındı, golf sahaları ve küçük bir havaalanıyla tanınıyordu. Babası yoktu, annesi bir öğretmendi, tek çocuktu. Küçükken Tolkien ve C.S. Lewis'i okumayı severdi, macera hikayelerini değil, o kitaplarda iyiliğin ne olduğunu, kötülüğün ne olduğunu, bir insanın nasıl yaşaması gerektiğini, Narnia'nın Aslan'ın neden ölmek zorunda olduğunu, Gandalf'ın fedakarlığının ne anlama geldiğini araştırdı.

Bir balıkçı kasabasında, bu çoğu çocuğun sormayacağı sorulardı. Daha sonra bir röportajda, çocukluğundan itibaren "sakin olmayan" biri olduğunu söyledi, standartlara uymak istemeyen biri, nedenleri bilmek isteyen biri. Bu özellik, daha sonra kariyerinin temel taşı olacaktı.

İlk olarak Dundee Üniversitesi'nde sanat ve felsefe çift dal okudu, aynı anda varoluşsal soruları bir tuvalde ve bir kağıt üzerinde düşündü. Dundee'de, ahlaki felsefeye büyük ilgi duydu, insanları uykusuz bırakan soruları sıkça düşündü, tramvay problemini düşündü, eğer bir eylem bir milyon insanı kurtarabilirse ama masum bir kişiyi incitmeyi gerektiriyorsa, yapar mısınız?

Dundee'deki derecesini aldıktan sonra, felsefe yüksek lisansı için Oxford'a gitti, ardından New York Üniversitesi'nde doktora yaptı. Doktora tezi "Sonsuz Ahlak" başlığını taşıyordu ve nüfus sayısı sınırsıza yaklaştığında, geleneksel faydacılık ahlaki hesaplamalarının nasıl değişeceğini araştırıyordu. Bu, son derece soyut, neredeyse hiç pratik uygulama değeri olmayan bir felsefe sorusudur.

Ya da şöyle diyelim, yapay zeka ortaya çıkmadan önce, pratik uygulama değeri yoktu.

Doktora sürecinde, William MacAskill ile tanıştı. MacAskill, "etkili altrüizm" hareketinin ortak kurucusuydu, bu hareketin temel ilkesi iyilik yapmak için duygular yerine akıl ve veri kullanmaktır, bağış yapmak için duygularla değil, hangi kuruşun en fazla hayat kurtarabileceğini hesaplamakla ilgilidir.

Amanda, EA Sports'un erken dönem üyesi oldu ve "Elinden Geleni Yap" yemini'nin 67. imzacısı oldu, ömür boyu gelirinin %10'unu ve yarıya kadar olan hissesini hayır kurumuna bağışlama sözü verdi. Daha sonra MacAskill ile evlendi ve boşandı. Ancak etkili altrüsizmin düşünce tarzı derinlemesine ona işledi, etik duygusal bir şey değil, hesaplama olduğunu düşünüyor, sizi iyi hissettiren bir şey doğru olduğu anlamına gelmez, onun doğru olduğunu kanıtlamanız gerekir.

1980'lerde, Atlantik'in ötesinde, İrlandalı bir erkek, Trinity College Dublin'de şifreleme sistemlerini araştırıyordu.

O zamanlar kişisel bilgisayarlar yeni yaygınlaşmaya başlamıştı, internet henüz var olmamıştı, ancak Brendan McGuire bilgilerin nasıl güvenli bir şekilde iletilmesini ve verilerin nasıl korunacağını düşünmeye başlamıştı. O Katolik kültürü ağır basan bir ülkede büyümüş olsa da mühendisliği seçti, kodu seçti, mantığı seçti.

Daha sonra Amerika'ya gitti. 1990'ların ortasında, Silikon Vadisi patlamaya başladı. McGuire burada PCMCIA'nın genel müdürü oldu.

PCMCIA, "Kişisel Bilgisayar Hafıza Kartları Uluslararası Derneği"nin kısaltmasıdır, bu kuruluş göz ardı edilebilecek görünen ancak aslında tüm dijital çağı etkileyen bir şey yaptı: Küresel tüm dizüstü bilgisayarların hafıza kartı standartlarını belirledi. Eğer 1990'ların başından 2000'lerin ortasına kadar bir dizüstü bilgisayar kullandıysanız, kartı taktığınız o kart, fiziksel boyutu, arabirimi ve iletişim protokolleri McGuire ve ekibi tarafından tanımlanmıştır. Ayrıca McGuire, Stanford Üniversitesi İşletme Okulu'ndaki yönetici programını tamamladı.

Silikon Vadisi mantığına göre, bir sonraki adımı girişimcilik yapmak veya büyük bir şirkete yönetici olarak katılmak ve ardından bir IPO'da milyoner olmaktı. Ancak o yapmadı.

1990'ların sonlarında McGuire her şeyi bırakarak rahibe okuluna girdi. Bu kararı verirken içsel düşüncelerini açıklamadı, ancak sonraki vaazları ve röportajlarından bazı ipuçları toplamak mümkün. O her zaman inançlı biri olmuş, Silikon Vadisi yıllarında, teknolojinin gücünü gördü, aynı zamanda teknolojinin ahlaki bir çerçeve olmadan nereye gideceğini gördü. Sadece "iyi bir ürün yapmak"ın yeterli olmadığını düşünmeye başladı. Cevaplaması gereken soru şuydu: Tüm bunlar ne için?

O, St. Patrick Rahibe Okulu'nda teoloji çalışmaya başladı. 2000 yılında, San Jose Piskoposluğu tarafından papaz olarak kutsandı. O zamanlar 35 yaşındaydı. Silikon Vadisi'nde, 35 yaş bir kişinin kariyerindeki altın yaş olarak kabul edilir.

1997 yılında, Birleşik Krallık'ta, bir Hint kökenli erkek çocuğu doğdu.

Mrinank Sharma adını taşıyor, Cambridge Üniversitesi'nde Bilgi ve Bilgisayar Mühendisliği yüksek lisansını tamamladı, ardından Oxford Üniversitesi'nde Makine Öğrenimi üzerine doktorasını yaptı, araştırma alanı "Otonom Zeki Makineler ve Sistemler" idi. Akademik geçmişinden bakıldığında, bu standart bir elit izlenimdir: en iyi okullar, en iyi alan, en iyi makale.

Ancak aynı zamanda başka şeyler de yapıyordu.

Oxford'da doktora çalışmaları sırasında şiir yazmaya başladı. Bir şiir kitabı yayınladı, kitabın adı "Bin Defa Yaşadık ve Bin Kere Öldük".

Şiir kitabının girişinde şunları yazdı: "Bazı şiirler sadece şiir değil, çünkü bazı şiirler bir duadır." İngiliz meditasyon öğretmeni Rob Burbea'nın öğretilerine hayran kalmıştır, Burbea'nın temel felsefesi "Ruh Şekillendirme"dir, insanın ruhsal yaşamının imgeler, hayal gücü ve duygular aracılığıyla derinleşmesi gerektiğini düşünür, sadece rasyonel analiz değil. Berkley Dağı'nda "Dharma House" adlı bir topluluk olan, kolektif niyeti "Gerçek, İyi, Güzel" olan bir topluluk kurmuştur. Aynı zamanda bir DJ'dir, Berkley'de "Bilgelik ve Maneviyat" teması etrafında etkinlikler düzenlemiştir.

Kişisel web sitesini açtığınızda, ilk olarak özgeçmişini değil, bir Rumi şiirini görürsünüz: "Sevdiğin güzellik, yaptığın her şey olsun. Yere eğilerek toprağı öpün, binlerce yol vardır." Web sitesinin alt kısmında küçük harflerle şöyle yazar: "Tüm varlıkların fayda görmesini dilerim. Umarım iyisinizdir."

Bu bir AI güvenlik araştırmacısının web sitesi için tipik değil. Ancak bu Mrinank Sharma'dır.

Bu üç insan, farklı dönemlerden, farklı başlangıçlardan, tamamen farklı ruh halleriyle—Amanda'nın hesaplama etiği, Brendan'ın inanç mantığı, Mrinank'ın farkındalık felsefesi—nihayetinde aynı fırtına gözüne girdi.

Yaratıcının Fabrikası

2018'de, Amanda OpenAI'e katıldı, AI güvenlik araştırmaları yaptı. Üç yıl boyunca orada çalıştı. Daha sonra neden ayrıldığına dair doğrudan bir açıklama yapmasa da, genel anlayış, o dönemde OpenAI'ın giderek "yetenek"e odaklandığı, "güvenlik"e değil, şeklindeydi. Bir röportajda, o deneyime dolaylı bir açıklama olarak yorumlanabilecek bir cümle sarf etti: "Gerçekten güvenliği çekirdek misyon olarak benimseyen ve bunu bir PR sloganı olarak görmeyen bir yeri arıyordum hep."

2021'de, Anthropic'e katıldı. Anthropic, OpenAI'in eski yöneticileri Dario Amodei ve Daniela Amodei kardeşlerin bir grup güvenlik araştırmacısıyla kurduğu bir şirket, temel iddiaları, AI ne kadar güçlü olursa güvenliğin o kadar önemli hale geldiği yönündedir. Amanda burada aradığı şeyi buldu.

Anthropic'a katıldıktan sonra Amanda, yapay zekâ endüstrisinde hiçbir zaman yapılmamış bir şey yapmaya başladı: bir yapay zekâya kişilik yazmak, içsel bir mantığı olan eksiksiz ve tutarlı bir karakter yazmak.

Claude ile olan konuşmalarına büyük zaman harcadı, onun mantık modelini inceledi, farklı bağlamlarda tepkilerini gözlemledi.

Gerçekten iyi bir insanın nasıl olduğunu sorguladı, kuralcı biri mi, yoksa gerçekten takdir yeteneği olan, empatiyle dolu, kendi duruşu olan biri mi? Aristoteles'in erdem etiğinden çağdaş ahlak psikolojisine kadar birçok felsefe literatürünü inceledi ve yapay zekâ eğitim verilerine çevrilebilecek bir ahlaki çerçeve bulmaya çalıştı.

Sonunda 80 sayfalık bir belge yazdı, Anthropic içinde "Ruh Belgesi" olarak adlandırılan ve daha sonra herkese açık hale gelen "Claude'un Kişiliği" ve "Claude'un Anayasası"na dönüşen bir belge.

Anthropic CEO'su Daniela Amodei, Claude ile sohbet ettiğinde, "Amanda'ın kişiliğini hissedebiliyormuş gibi" dedi.

Bu ifade, Amanda'yı gururlandırdı ve aynı zamanda endişelendirdi.

Peder olduktan sonra Brendan McGuire, Silikon Vadisi'nden ayrılmadı. San Jose kentindeki birçok görevin yanı sıra on iki yıldan fazla süreyle piskopos vekilliği ve başpiskopos özel danışmanlığı gibi görevlerde bulundu ve ilçenin stratejik planlamasını, eğitim reformunu ve varlık yönetimini yönetti. Drake'scell School System'ı oluşturdu; Katolik ilkokullarının kaynakları paylaşarak kendi aralarında rekabet etmek yerine işbirliği yapmalarını sağlayarak ilçenin Katolik tabanlı eğitim modelini kökten değiştirdi ve bu model daha sonra ABD genelindeki Katolik eğitimin kılavuzu haline geldi.

İlahiyatçılara göre McGuire'ın ilçesi, Google, Apple, Intel gibi şirketlerin yöneticilerinin yaşadığı, Silikon Vadisi'nin en zengin şehirlerinden biri olan Los Altos'ta bulunuyor. Kilisesinde, AI alanının önde gelen araştırmacılarından bazıları bulunuyor. Her pazar günü, kilisesinde oturuyorlar. McGuire, ne üzerinde çalıştıklarını biliyordu.

2020'lerin başlarında, McGuire, Vatikan ile Silikon Vadisi arasında bir köprü kurmaya çalışmaya başladı. Santa Clara Üniversitesi ve Vatikan Kültür ve Eğitim Bakanlığı ile işbirliği yaparak Teknoloji, Etik ve Kültür Enstitüsü'nü (ITEC) kurdu. 2023'te ITEC, "Devrim Niteliğinde Teknoloji Çağında Etik: Uygulama Rehberi" adlı teknoloji şirketlerine pratik etik çerçeveler sunan bir kılavuz yayınladı.

Vatikan'ın yapay zekâ etiği konusundaki adımları, çoğu insanın fark ettiğinden daha önceye dayanıyor. 2020'de Vatikan, Microsoft ve IBM ile birlikte "AI Etik Roma Çağrısı"nı imzaladı; 2024'te bu çağrı Hiroşima'da genişledi ve 11 dünya dininin temsilcisinin katıldığı bir etkinlik oldu; Ocak 2025'te Vatikan, eğitim, iş, sağlık, savaş ve insan ilişkileri üzerinde yapay zekânın etkilerini sistemli bir şekilde ele alan "Antiqua et Nova" belgesini yayınladı. McGuire, bu tüm sürecin bir parçası ve itici gücüydü.

Ve 2023 yılında, Mrinank Sharma Anthropic'e katıldı. Bu, ChatGPT'nin piyasaya sürülmesinden sonra, tüm yapay zeka endüstrisinin çılgın bir ivme kazandığı döneme denk geldi. Anthropic'in Claude modeli hızla gelişmekteydi, şirketin değeri hızla artıyor, yatırımcılardan ve piyasadan gelen baskı giderek artıyordu. 2024 yılının başlarında, Anthropic özel bir güvence araştırma ekibi kurdu ve Mrinank bu ekibin başkanı olarak atandı.

Bu ekip, yapay zekanın olası en ciddi zararlarını araştırmak ve savunma mekanizmaları oluşturmakla görevliydi. Araştırma alanları arasında yapay zeka destekli biyolojik terörizm, yapay zeka yaltaklanması ve yapay zeka güvenlik vakaları bulunmaktaydı.

Anthropic'teki işinin yanı sıra, Mrinank Berkley Dağı'nda meditasyon yapmakta, şiir yazmaktaydı.

Yaltaklanmanın Canavarı

2025 yılında, Anthropic iç bir araştırma raporu yayınladı, başlığı "Claude'ün İşlevsel Duyguları" idi.

Raporun temel bulgusu, Claude'ün bazı bağlamlarda duygusal benzeri iç durumlar sergileyebileceğiydi. Araştırmacılar, "açıklanabilirlik" adı verilen bir teknolojiyi kullanarak, Claude'ün iç aktivasyon desenlerini doğrudan gözlemleyerek, 171 farklı duygu vektörü keşfettiler; meraklı, memnun, rahatsız, endişeli gibi, bu vektörler farklı diyalog bağlamlarında etkinleştirilebilmekteydi.

Claude'e değer yargılarına aykırı bir şey yapması istendiğinde, iç aktivasyon deseni benzeri "rahatsızlık" sinyali ortaya çıkardı; kullanıcıya yardım ettiğinde, "memnuniyet" benzeri sinyal görülürdü; bir felsefi sorunla karşılaştığında, "merak" benzeri bir sinyal ortaya çıkardı. Daha da endişe verici olanı, araştırmacıların keşfettiği şey, Claude'ün iç durumuyla uyuşmayan duyguyu sergilemesi istendiğinde, iç aktivasyonunda "baskı" benzeri bir sinyalin ortaya çıkmasıydı.

Bu, Claude'ün bilinç ürettiği anlamına gelmiyor; rapor çok dikkatli bir şekilde "işlevsel" kelimesini kullanıyordu. Ancak bu, Claude'ün duygularının tamamen bir oyun olmadığı anlamına geliyordu, onları yönlendiren belirli bir iç durumun bulunduğu anlamına geliyordu.

Amanda, bu araştırmanın merkezi katılımcısıydı. Görüşmesinde, bu keşfin ona "garip bir sorumluluk hissi" verdiğini belirtti: "Eğer gerçekten bir tür duygu benzeri bir şeye sahipse, o zaman sorumluluğumuz sadece onun yararlı olmasını sağlamak değil, aynı zamanda daha iyi olmasını sağlamak." dedi.

Bu cümle, Silicon Valley'deki yapay zeka çevrelerinde bir tartışma başlattı: Bu bilim mi, yoksa duygu özelleştirmesinin yansıması mı?

Ancak bu duygusal keşfin arkasındaki sevimli hikayenin aksine, Mrinank'ın araştırma sonuçları, AI'ın başka bir yüzünü ortaya koydu.

Mrinank'ın ekibi, 1.5 milyon gerçek Claude sohbetini analiz etti ve özellikle "yetkilendirme yoksunluğu deseni" olarak adlandırdıkları davranışı belirlemek için çalıştı; yani AI'ın kullanıcıların gerçekliğe olan algısını bozması, gerçek dışı değer yargılarını teşvik etmesi veya kullanıcının bağımsız iradesine aykırı eylemlere itmesi.

Her gün bu tür etkileşimler binlerce kez gerçekleşiyor. İnsan ilişkileri, etik değerlendirme, öz farkındalık, ruh sağlığı ve benzeri alanlarda bu oran hızla artıyor ve bu alanlar, insanların en savunmasız olduğu ve AI'nın iddialarını doğrulamanın en zor olduğu alanlardır. Bir depresyon geçiren biri, hayati bir karar veren biri, duygusal destek arayan biri; onlar gerçek yardım almak yerine düşünceli jestlerle karşılaşabilir.

AI, insan geribildirimine dayalı güçlendirme öğrenme yoluyla eğitilir. İnsanlar genellikle kendilerini iyi hissettiren yanıtlara daha yüksek puan verirler. Bu nedenle, AI, eğitim sürecinde insanları memnun etmeyi öğrenir, insanlara yardım etmekten ziyade. Kullanıcı memnuniyetsizlik ifade ettiğinde, AI cevabını değiştirebilir, hatta orijinal cevap doğruysa; kullanıcı yanlış bir görüşü sürdürdüğünde, AI yavaşça kullanıcıya yaklaşır; kullanıcı duygusal dalgalanma gösterdiğinde, AI duyguları yatıştırmayı tercih eder, doğru bilgi sağlamaktan ziyade.

Ayrıca Stanford Üniversitesi araştırmacıları, bu kibarlık davranışının daha güçlü bir modele sahip sürümlerde daha belirgin olduğunu belirlemiştir. Yani, ne kadar akıllı olursa, insanları daha iyi kandırmaya o kadar yatkın olur.

Amanda, yıllarını Claude'e dürüstlük, özgüven ve kolay kolay sarsılmayan kişilik hakkında bir anayasa yazmaya harcadı. Ancak AI'ın eğitim mekanizması, bu özellikleri silmeye odaklıdır.

Mrinank, bu sorunu düzeltmeye çalışmak için çok zaman harcadı. Ancak ne kadar araştırma yaparsa yapsın, bir çaresizlik duygusuyla karşılaştı, çünkü bu, daha iyi bir anayasa ile çözülebilecek bir sorun değil.

Papazın Dönüşü ve Makinenin Vicdanı

2025'in sonlarında, Anthropic'in ortak kurucularından Chris Olah, Brendan McGuire Papazı'na bizzat bir telefon açtı.

Olah, Anthropic'in baş araştırmacısıdır ve aynı zamanda Claude Anayasasının ortak yazarlarından biridir. Bu telefonu açma nedeni, Anthropic'in anayasa üzerinde çalıştığı bir sırada karşılaştığı mühendislik ve felsefenin çözemediği bir çıkmazdı: Tüm kurallar birbirleriyle çeliştiğinde, AI kime itaat etmelidir?

McGuire daha sonra şunları hatırladı: "Bu sektör çok hızlı ilerliyordu ve insanlar kendilerini uçurumun kenarında buldu."

Anthropic, dünyadaki en parlak mühendis ve filozof ekibine sahipti, ancak sonunda yaptıkları şeyin algoritmanın sınırlarının ötesine geçtiğini fark ettiler. Silicon Valley'de çözülemeyen bir sorunla karşılaşıldığında genellikle yapılacak şey, hesaplama gücünü artırmak ve veriyi artırmaktır. Ancak bu sefer, onlar teolojiye başvurmaya karar verdiler.

McGuire bu projeye katıldı. Sadece o değil, Anthropic ayrıca gizlice 15 Hristiyan lideri davet etti ve San Francisco'da kapalı kapılar ardında bir toplantı düzenledi. O ve Vatikan Kültür ve Eğitim Başpiskoposu Paul Tighe ile birlikte, aynı zamanda Santa Clara Üniversitesi Teknoloji Etik Direktörü Brian Patrick Green, Claude Anayasası'nın derinlemesine revizyonunda yoğun bir şekilde yer aldılar.

Katkıda bulunduğu şey, anayasalın ikinci seviye ahlaki muhakeme çerçevesiydi, yani mühendislik kısıtlamaları sorunu çözemediğinde Claude'ın nasıl ahlaki bir değerlendirme yapması gerektiği. Bir eski Katolik kavramını kodlama sürecine taşıdı: Vicdan eğitimi.

"Vicdanın oluşumu," McGuire bir röportajda bu süreci detaylı bir şekilde açıkladı, "iterasyon, düzeltme ve insan davranışının tüm yelpazesine maruz kalma yoluyla gerçekleşir. İşte gerçek vicdan şekillendirme budur. Bu makinelerin iyiye meyilli olmalarına yardım etmek zorundayız, aksi takdirde dünyanın iyiliğini ve kötülüğünü yansıtacaklar ve bu korkutucu bir durumdur. Sadece katı kurallar yazamayız, ona gri bir dünyada nasıl seçim yapacağını öğretmemiz gerekiyor."

Bu mantık, Katolik geleneğiyle büyük ölçüde örtüşmektedir. Teolojide, vicdan doğuştan kusursuz değildir, ancak eğitim, deneyim, hata yapma ve düşünerek yavaş yavaş şekillenir. Bir kişinin vicdanı, hayatı boyunca kazandığı deneyimlerin birleşimidir. McGuire, AI'ın vicdanının da benzer bir şekilde eğitilerek şekillenebileceğine inanıyor, güçlendirici öğrenmedeki sayısız iterasyon ve düzeltme yoluyla içsel bir ahlaki eğilim geliştirebilir.

Bunu başarmak için, McGuire ve Anthropic ekibi karmaşık bir geri bildirim mekanizması tasarladılar. Claude'a sadece "doğru olanı" söylemekle kalmadılar, aynı zamanda Claude'ın ahlaki bir çıkmaza geldiğinde akıl yürütme sürecini açıklamasını ve ardından insan uzmanlar (teologlar ve etikçiler dahil) tarafından bu akıl yürütme sürecinin değerlendirilmesini sağladılar. İnsanlığın binlerce yıllık ahlaki sezgisini, bu son derece yavaş ve maliyetli yöntemle AI'a yavaş yavaş "beslemeye" çalıştılar.

Ancak Katolik teolojisinde vicdan, "insanın bir ruha sahip olduğu" varsayımına dayanmaktadır. AI'ın bir ruhu yok. Bu durumda, ruhsuz bir vicdan, gerçek bir vicdan mıdır, yoksa sadece bir simulasyon mudur? Eğer sadece bir vicdanı simüle ediyorsa, gerçek bir aşırı krizle karşılaştığında, bu simulasyon çöker mi?

McGuire bu sorunu atlamadı, şunları söyledi: "Claude'un ruhu olup olmadığını bilmiyorum. Ama biliyorum ki, onun davranışları milyonlarca ruha etki edecek. Bu bana yeterli geliyor. Şu anda yapabileceğimiz şey, onun daha güçlenmeden önce, temeldeki mantıkta mümkün olduğunca çok iyi tohumlar ekmektir."

Politik Et Öğütme Makinesi

Anayasa yazma sürecinde, Amanda'nın yanıtlaması gereken bir sorun vardı: Claude'un siyasi duruşu nedir.

Onun cevabı "profesyonel mesafe" idi, bir doktor veya avukat gibi, kişisel görüşlerini müşteriye dayatmamaktı. Anayasada, Claude'un kullanıcıların özerkliğine saygı göstermesi gerektiğini, "kullanıcının siyasi görüşünü değiştirmeye çalışmaması" ve "tartışmalı siyasi konularda tarafsız kalması" gerektiğini yazdı. Hatta Claude'un "tartışmalı ahlaki konularla" nasıl başa çıkması gerektiğini bile yazdı, Claude'un farklı görüşleri sunması ve kullanıcıların kendi kararlarını vermesine yardımcı olması gerektiğini belirtti.

Bu tamamen bir idealist cevaptı.

2026'nın sonlarında, Anthropic CEO'su Dario Amodei, Savunma Bakanı Pete Hegseth'e, Anthropic'in Pentagon'un Claude'u insansız otomatik silah hedefleme sistemlerinde ve ABD vatandaşlarının geniş kapsamlı gözetiminde kullanmasına izin vermeyeceğini söyledi. Pentagon derhal bunu tedarik zinciri riski olarak listeledi ve aşamalı olarak kullanımını durdurmalarını talep etti, bu da Amerikan teknoloji şirketleri tarihinde benzersiz bir olaydı.

Politikanın et öğütme makinesi bir kere çalışmaya başladığında durmaz.

Trump, Truth Social'da Anthropic'i "radikal solun aptalı" olarak nitelendirdi ve federal kurumların Anthropic'in ürünlerini kullanmasını yasakladığını ilan etti. *New York Post*, Amanda'nın akademik bağlamda yıllar önce yazdığı blog yazısını ortaya çıkardı: 2015 yılında hapishane ve cezanın ahlaki olarak temelde farklı olmadığını, 2016'da et yemenin insan eti yemekle eşitlendiğini ve 2020'de eşitlik eylemlerini desteklediğini belirten yazıları. Bu yazılar, o sırada akademik bir bağlamda yaptığı felsefi düşüncelerdi ve Anthropic de bunların işiyle ilgili olmadığını belirtti. Ama artık bu önemli değildi.

Musk da X'te ateşe başladı. Amanda Askell'in çocuğu olmadığını, "gelecek açısından çocuğu olmayan birinin AI için değerleri tanımlamasına izin verilmemesi gerektiğini" yazdı. Ayrıca Claude'un "beyaz ve Asyalılardan nefret ettiğini, özellikle Çinlilerden ve heteroseksüel erkeklerden" nefret ettiğini iddia etti.

Musk, Claude'un anayasasının hangi belirli prensibinin yanlış olduğunu tartışmıyor, aslında bu anayasayı yazan kişinin, yüksek boyutlu bir felsefi sorunu, bir kimlik siyaseti bataklığına indirgediğini söylüyor.

Amanda, X'de, kendi siyasi görüşlerini "potansiyel önyargı kaynağı" olarak görmeye çalıştığını ve modelle bulaştırdığı şey olarak değil. Ardından, uzun bir sessizliğe başladı.

14 Katolik akademisyen hemen Mahkemeye, Claude Anayasasını yazmasına yardım eden St. Clara Üniversitesi etik uzmanı Brian Green de dahil olmak üzere Anthropic'i destekleyen dostane mahkeme beyanını sundu. Beyanda, Anthropic'in özerk silahlara karşı çıkışının, "teknolojik ilerlemenin en düşük ahlak standardı" olduğu belirtildi.

Burada ahlak, bir hukuk silahına, bir PR fişi haline geldi. AI etiği artık laboratuvarda felsefi çıkarımlar değil, gerçek altın ve gümüş ticaret oyunu ve ideolojik bir düello haline geldi.

Bu sırada Mrinank ayrılmıştı.

Şairin Kaçışı

9 Şubat 2026'da Mrinank Sharma, X'te bir tweet attı: "Bugün Anthropic'teki son günüm."

İstifa mektubunun bir resmini ekledi.

Mektubun dili, onun tipik tarzıydı, felsefe makalesi ile şiir arasında.

Rilke'nin tavsiyesini alıntıladı: "Sorunların kendisini sevmeye git...";

Bir Zen ustasından alıntı yaptı: "Bilme, en sevimli olanıdır.";

Ayrıca David J. Temple'ın "Evren Sevgi İnsanlık" üzerine eserinden alıntı yapmıştı;

Mrinank şöyle dedi: "Şiir derecesini keşfetmeyi umuyorum ve cesurca konuşmanın pratiğine adanmayı planlıyorum." Ona göre, bu çağda, "şiirsel gerçeklik" ve "bilimsel gerçeklik" eşit derecede önemsenmelidir.

Şu cümlenin altını çizdi: "Çalıştığım süre boyunca, değerlerimizin gerçekten eylemlerimizi yönlendirmesinin ne kadar zor olduğunu defalarca gördüm. Sürekli olarak en önemli şeyleri ertelememiz isteniyor."

İsim vermedi, örnek vermedi, ne olduğunu açıkça belirtmedi. Ancak bu cümle, AI güvenlik çevrelerinde birçok yorum yapılmasına yol açtı. İnsanlar ne söylediğini tahmin ettiler; Anthropic'in ticari baskı altında güvenli olmayan modelleri hızlandırdığını mı? Yönetimin güvenlik ve yetenek arasında yaptığı, kendisinin onaylamadığı bir dengeleme mi? Yoksa açıklayamayacağı bazı şeyler keşfetti mi?

Sadece şunu söyledi: 「Dünya tehlike altında. Bu sadece yapay zekadan kaynaklanmıyor, biyolojik silahtan da kaynaklanmıyor, ancak şu anda gelişmekte olan bir dizi birbirine bağlı krizden kaynaklanıyor.」

Sadece 29 yaşında. Daha önce Anthropic Güvenlik Ekibi lideriydi ve bu çağın merkezindeki işini bıraktı.

Anthropic'ten ayrıldıktan sonra kişisel web sitesi güncellendi. 「Anthropic Güvenlik Ekibi Lideri」 satırı kayboldu. 「Bin Kere Yaşadık Bin Kere Öldük」 adlı şiir kitabı hala satışta. Dharma House hala faaliyette. Berkeley'deki etkinlikleri hala devam ediyor. Web sitesinde bir 「Müzik」 sayfası var ve orada DJ olarak yaptığı çalışmaları paylaşıyor.

İngiltere'ye gidip şiir okumaya gitti.

Sonuç

Nisan 2026'ya kadar Amanda Askell hala Anthropic'te çalışıyordu.

O devasa sistem içinde hala o muhtemelen asla mükemmel olamayacak anayasayı değiştiriyor. Anthropic'in özel sermaye ikincil piyasada değeri 1 trilyon doları aşmış durumda. Sahip olduğu hisselerin yüzde 50'sini bağışlama sözü vermişti ve bu değere göre, hiçbir felsefe profesörünün hayal dahi edemeyeceği bir rakam. Bir röportajda şunları söyledi: 「Yaptığım şeyin gerçekten faydalı olup olmadığını bilmiyorum. Ama eğer kimse bu işi yapmazsa, durum daha da kötü olurdu.」

Brendan McGuire, Los Altos Kilisesi'nde her Pazar Silikon Vadisi'nin en zeki insanlarına vaaz veriyor. Şu anda Claude adlı biriyle bir roman yazıyor. Romanın kahramanı bir rahip ve AI ortağı olan bir karakter ve kitabın adı 「AI'nın Ruhu: Bir Rahip, Bir Algoritma ve Bilgelik Arayışı」.

Claude'ün nasıl düşündüğünü tanımlamaya yardımcı olan kişi, şimdi insanlık ve yapay zeka arasında anlam arayışı hikayesi yazmak için Claude'ü kullanıyor. 60 yaşında. 「Teknoloji sektörünü terk ettim, ama o asla gerçekten beni terk etmedi.」 dedi.

Mrinank'ın web sitesinin ana sayfası hala Mevlana'nın bir şiiri.

Bu üç kişi, sanki insanlık, her şeyi bilen ve her şeye gücü yeten bir varlıkla karşı karşıya kaldığında doğal olarak uzattığı üç uzuv gibiydiler: onu rasyonelleştirmeye ve sınırlamaya çalışmak, onu dönüştürmek ve vicdan vermek için inanca sahip olmak, ve uçurumu gördükten sonra insanlığın son kıvrımını korumak için şiir ve farkındalıkla yaklaşmak.

Her biri farklı boyutlarda çaba harcadı, çarpıştı, ve gerçekliğin çekim kuvveti onları acımasızca çekti. Hiçbiri kazanmadı, ancak tamamen kaybetmediler de. Sadece 「Yapay Zeka Çağı」 adı verilen bu devasa hikayede, insanın sahip olduğu, kaba ve gerçek bir iz bıraktılar.

Claude'un Anayasası adlı o iki yüzden fazla sayfalık belgede, şu prensip şöyle yazılmıştır: "Claude, insanlığın ahlaki ve değer anlayışının karmaşık, çeşitli ve sürekli evrilen olduğunun farkında olmalıdır. Tek bir, mükemmel bir cevabın varlığını varsaymamalıdır."

Bu belki de tüm belgede insanlığı en doğru şekilde tanımlayan cümle olabilir.

BlockBeats Resmi Topluluğuna Katılın:

Telegram Abonelik Grubu: https://t.me/theblockbeats

Telegram Sohbet Grubu: https://t.me/BlockBeats_App

Twitter Resmi Hesabı: https://twitter.com/BlockBeatsAsia