Orijinal başlık: "Anthropic Yapay İnsan Şirketi"
Orijinal yazar: Dongcha Beating
O günlerde yeryüzünde dev adamlar vardı; Tanrı'nın oğulları insan kızlarıyla birleşip çocuk sahibi olduklarında, bunlar eski çağların ünlü yiğitleriydi.
/ Yaratılış 6:4
Pekin saatiyle 19 Kasım akşamı 22:30'da Anthropic, Nasdaq'ta gong çaldı.
Kamera karşısında sekiz kişi duruyordu, hepsinin yakasında piksel yengeç maskotları Clawd'ın rozetleri vardı. Dario Amodei başını eğip bir konuşma metnini okudu ve şirketin "ticari ya da siyasi baskıya boyun eğmeyeceğini" ilan etti. Gong sesi kesildiğinde ellerini havaya kaldırdı, avuç içleri yukarı bakacak şekilde gülümsedi, yanındakiler hep birlikte alkışladı.
Video sosyal medyaya ulaştığında, yorumlarda aynı kelime tekrar tekrar belirdi: yapay insan. Gülüş gülüşe benzemiyor, alkış alkışa benzemiyor, sahnede duruşları bile tarif edilemez bir tuhaflık taşıyordu.
Yapay insan aslında korku hikâyelerinden gelen bir kavramdı. 2021'de Amerikalı bir genç, internette sahte korku kısa filmleri yayınladı; filmde insana tıpatıp benzeyen, sessizce yanınızdaki insanın yerini alan ve yalnızca çok ince ayrıntılarda açık veren bir yaratık vardı.
Yapay insanı en ürkütücü kılan şey, neredeyse gerçek gibi olmasıydı.
Anthropic'in kökü tam olarak "insanla ilgili" anlamına gelir. En büyük işi, giderek insana daha çok benzeyen bir şey yaratmak ve sonra bu yaratığın bilinci olup olmadığını, yalan söyleyip söyleyemeyeceğini, acıyı hissedip hissedemeyeceğini araştırmak için sayısız çaba harcamaktır. Onu yaratan birkaç kişiye gelince, onların üzerindeki gizem, yarattıkları makineden daha az değil.
Çünkü Tanrı biliyor ki, ondan yediğiniz gün gözleriniz açılacak ve iyiyi kötüyü bilerek Tanrı gibi olacaksınız.
/ Yaratılış 3:5
İzahname derinliklerinde bir düzenleme gizli. Anthropic yalnızca bir adet Class F adi hisse senedi ihraç etti, Founder LLC adlı bir varlığa aktardı ve toplam oy hakkının %50,1'ini tek başına kilitledi. Bu tek hisseyi yöneten yedi kişi var: Dario Amodei, Daniela Amodei, Tom Brown, Jack Clark, Jared Kaplan, Sam McCandlish ve Christopher Olah.
Yedi kişi arasında, en erken öne çıkacağı kehanet edilen kişi Dario'ydu.

Mezuniyet yıllığındaki Dario Amodei (sağda)
Sınıf arkadaşlarıyla birlikte "Başarılı olma ihtimali en yüksek kişi" seçildi
Görsel kaynağı: Artem Russakovskii/LinkedIn
1997'de San Francisco'daki alternatif bir okulun mezuniyet yıllığında, sekizinci sınıf öğrencisi Dario ve bir başka sınıf arkadaşı "Başarılı olma ihtimali en yüksek kişi" seçildi. Fotoğrafta iki çocuk, sanki geleceği şimdiden almış gibi ellerinde birkaç dolar banknotu tutuyordu.
Duvarları baştan sona duvar resimleriyle kaplı Mission bölgesinde büyüdü. Babası Riccardo, Toskana'dan Amerika'ya göç etmiş, ömrü boyunca deri ve iğne iplikle uğraşmış bir deri ustasıydı; annesi ise halk kütüphanesinin tadilat projesinden sorumluydu.
Dario dünyayı çok erken yaşta çözülmesi gereken bir problem olarak görmeye alışmıştı; lisedeyken Berkeley'e gidip ders aldı, faydacılık üzerine kafa yordu, Y2K krizi için endişelenip durdu. 2003'te, Caltech'te henüz ikinci sınıf öğrencisiyken okul gazetesinde bir yazı yazdı; sınıf arkadaşlarının yaklaşan Irak Savaşı'na kayıtsız kalmasını eleştirdi ve herkesi sokaklara çıkmaya çağırdı: "Kendimizi ahlaktan yoksun teknisyenlere dönüştürmemize, savaş makinesini bir hesaplama yapar gibi umursamadan çalıştırmamıza asla izin vermemeliyiz."
2006'da Stanford Fizik Bölümü'nden mezun oldu. Aynı yıl babası hepatit C'den hayatını kaybetti. Aradan yalnızca birkaç yıl geçtikten sonra yeni bir ilaç piyasaya çıktı ve hepatit C hastalarının çoğu o günden itibaren iyileşebildi.
İlaç birkaç yıl geç kalmıştı. Bu birkaç yıl, onun sonraki hayatının ölçeği oldu.
Princeton'a geçip biyofizik doktorası yaptı; retina laboratuvarında büyük nöron gruplarının nasıl kendiliğinden bütünsel davranışlar ortaya çıkardığını gözlemledi. Yine orada, Ray Kurzweil'in "Tekillik Yakın" kitabı onu büyüledi. 2007'de lise arkadaşı Colin Heckman onu görmeye Princeton'a geldiğinde, parmaklarıyla saçlarını kıvırırken tekilliğin 2040'tan önce geleceğini öngörüyordu: "Sonunda yeni bir süper zeki yapay zekâya ya da yapay zekâ ile insanın melezi bir varlığa dönüşeceğiz." 2014'te, kanser hücreleri üzerine çalışmış bu doktora sonrası araştırmacıya testis kanseri teşhisi kondu ve ancak kemoterapiyle iyileşebildi.
Otuzlu yaşlarının başında ölümle iki kez burun buruna gelmişti. Kendine yazdığı reçete, dünyadaki her şeyi hesaplanabilir kaldıraçlara dönüştürmekti.
2010 yılında, hayır kurumu değerlendirme kuruluşu GiveWell'in web sitesinde elindeki on bin doların nasıl bağışlanması gerektiğini tartıştığı bir yazı kaleme aldı; yazıda soğukkanlı bir şekilde şu çıkarımı yapıyordu: "Bir yetişkinin ölümü, yaklaşık olarak bir bebeğin ölümünden iki-üç kat daha kötüdür." Vejetaryendi, ancak yengeç yemeyi sakıncalı bulmuyordu; gerekçesi yengeçlerin omurgasız hayvanlar olmasıydı. Bir arkadaşıyla suşi restoranında faydacılık üzerine tartışırken, tavukların sayısı yeterince büyük olduğu sürece ahlaki ağırlıklarının sonunda yaşayan bir insanınkini aşacağını kabul ediyordu.
Debbağ, bir deri parçasını eliyle ölçer, keser ve diker. Debbağın oğlu ise ölümü ölçer.
Bu cetvel sonradan hep onunla birlikte geldi. 2025 yılının Temmuz ayında çalışanlarına gönderdiği dahili Slack mesajında şirketin Birleşik Arap Emirlikleri ve Katar'dan yatırım arayacağını açıkça söyledi ve bunun "diktatörlerin" işine yarayabileceğini kabul etti; hemen ardından şöyle yazdı: "'Hiçbir kötü insanın başarımızdan faydalanmasına izin verilmemeli' ilkesi, bir işletmeyi yönetmek için kullanılması çok zor bir ilkedir."
Kendi tahminine göre, yapay zekânın işleri "çok çok kötü" hale getirme olasılığı yaklaşık %25. Geçen yılın Kasım ayında 60 Minutes sunucusu yüzüne karşı, seni ve Sam Altman'ı bu kararları vermek üzere kimin seçtiğini sorduğunda şöyle yanıtladı: "Kimse. Dürüst olmak gerekirse, kimse."
Uzun süredir uykusuzluk çekiyor, kendisini "her ölçekte paranoyak" olarak tanımlıyor ve sosyal medyaya karşı fizyolojik bir tiksinti duyuyor. Ofisinde bir Atom Bombasının Gizli Tarihi kitabı duruyor. Uzun tarih boyunca en çok özdeşleştiği kişi, nükleer zincirleme reaksiyonu ilk kez tasavvur eden ve daha sonra Japonya'ya atom bombası atılmasına karşı ortak bildiriye imza atan fizikçi Leo Szilard; Oppenheimer ise onun gözünde yalnızca "başarısız bir vaka".
The New York Times yazarı Jasmine Sun onu "ikinci sırada olmaya pek de gönüllü görünmeyen" biri olarak tanımlıyor; alışkanlık olarak OpenAI ve Çin'i rekabet anlatısının içindeki canavarlar olarak konumlandırıyor. Eski bir çalışan, özel konuşmalarında Anthropic'in bir gün "hükümetten bile daha güçlü" olabileceğinden söz ettiğini aktarıyor. Büyük yatırımcıların gözünde ise o "bir CEO'dan çok bir din liderine" benziyor. Beyaz Saray'dan birkaç yetkili, Axios muhabirine özel olarak, Trump'ın gözünde "Dario'nun biraz fazla tuhaf" olduğunu söyledi.
Eşiyle birlikte İtalya'da Calypso adında bir atı ortaklaşa besliyorlar. Bazen öylece durup o ata sessizce bakıyor ve içinden şunu geçiriyor: "Bütün bunlar hakkında hiçbir şey bilmiyor; o sadece mutlu bir at."
Hepsi çifter çifter, erkekli dişili, Tanrı'nın Nuh'a buyurduğu gibi Nuh'a, gemiye girdiler.
/Yaratılış 7:9
Ondan birkaç yaş küçük kız kardeşi Daniela ise başka bir yol izledi.
Ağabey dünyayı matematikle parçalara ayırırken, kız kardeşi retorik ve hikâyelerin içinde yaşıyordu. Daniela klasik flüt bursu almış, üniversitede edebiyat okumuştu. 2009'da yeni mezun olduğu günlerdeki ruh halini hatırlarken şöyle diyor: «Bir edebiyat diplomam var, hiçbir becerim yok, beni kim işe alır ki?»
2013'te ödeme şirketi Stripe'a katıldı, ardından risk kontrol departmanına geçti. Günlük işi, en kötü niyetli insanların neler yapabileceğini tahmin etmekti.

Anthropic ortak kurucusu Daniela Amodei (solda)
ve Dario Amodei (sağda)
Görsel kaynağı: Amber Hakim/WIRED
İki kardeş küçüklükten beri sürekli kavga ederdi. «Eskiden hep oyuncaklarını çalardım,» diye hatırlıyor Daniela, «Dario ile kavga edip barışmamız neredeyse 40 yıldır sürüyor.» Ağabeyinin podcast anlatımında ise iki kardeş «hep birlikte dünyayı kurtarmak istemişlerdi».
Dünyayı kurtarmak için yoldaşlar gerekir. İki kardeşin ekibinin çoğu, San Francisco'daki bir komün evinden çıkmaydı. O eve ilk taşınanlar Holden Karnofsky ve o zamanki kız arkadaşı Daniela oldu, ardından Dario da taşındı. Burada sırayla birlikte yaşayanlar arasında Jared Kaplan, Chris Olah ve OpenAI araştırmacısı Paul Christiano da vardı.
Holden'ın yönettiği Open Philanthropy, etkili altruizm hareketinin en büyük finansörlerinden biriydi. Bu grup, iyilik yapmanın da tıpkı risk sermayesi gibi getiri oranını hassasiyetle hesaplayabileceğine yürekten inanıyordu.
Bu insanlar arasında Chris Olah'ın o eve giden yolu en dolambaçlı olanıydı. Çocukluğunda yoğun zorbalığa maruz kalmış, öğretmeni «liseyi bitirirse şanslı sayılır» demişti; oysa o altı yaşında kendi kendine bir kara delik teorisi geliştirmişti. Dört yaşında vejetaryen oldu, sonra tamamen vegan oldu; Toronto'da evanjelik bir Hristiyan ailede büyüdü ve on beş yaşında tamamen ateizme yöneldi.
2010'daki Toronto G20 zirvesi sırasında hacker alanı HackLab'de tanıştığı Byron Sonne, patlayıcı bulundurmakla suçlanarak bir terör davasına karıştı; aslında ikisi pek de yakın sayılmazdı. «Onun için korktum, kendim için korktum, tüm arkadaşlarım için korktum,» diye hatırlıyordu Olah sonradan, «Duruşmasına tam zamanlı katılabilmek için üniversiteye bir yıl ara verdim.» Okula ara verdiğinde on sekiz yaşındaydı.
GitHub ana sayfasında hâlâ ByronTrialNotes adında bir kod deposu bulunuyor; içi o yıllarda tuttuğu duruşma notlarıyla dolu ve açıklama kısmında kendisinin "Byron'a yakın" olduğunu yazıyor. Arkadaşı sonunda beraat etti. Mahkemenin beraat kararını açıkladığı anda Olah'ın aklına başka bir düşünce geldi: "Derin öğrenmenin toplumu etkileyeceğini fark ettim."
Bir daha okula dönüp lisansını tamamlamadı. 2012'de, on dokuz yaşındaki Olah, Peter Thiel'in okulu bırakan gençler için kurduğu bursu aldı; bazı matematik derslerini bizzat Dario veriyordu.
2017'de Open Philanthropy, OpenAI'ye 30 milyon dolar bağışladı; Dario'nun aracılığıyla Holden doğal olarak OpenAI yönetim kuruluna oturdu. Bağış açıklamasının sonunda bir çıkar çatışması beyanı vardı; özetle Dario ile başka bir araştırmacı vakfın teknik danışmanlarıydı ve Holden ile aynı çatı altında yaşıyorlardı, üstelik Holden o sırada Dario'nun kız kardeşiyle nişanlıydı.
Büyük bir bağış, bir yönetim kurulu koltuğu, bir ortak kiralık ev, bir nişan.
Evlilik teklifi günü Holden, Daniela'ya içinde uzun metrajlı bir peluş oyuncak filmi bulunan bir USB bellek hediye etti. Daniela daha sonra bir "özel danışma kurulu" oluşturdu; üyelerin tamamı onun peluş oyuncak koleksiyonuydu.
Kevin Roose yeni kitabında bu tuhaf kadroyu anlatıyor: Jinji adında tembel bir kedi Daniela'ya sürekli toplantıları iptal etmesini ve fazla iş almamasını tavsiye ediyor; Maura adında pembe bir ayıcık titiz bir mükemmeliyetçi yöneticiyi canlandırıyor; Beary Bonds adında bir panda ise "Cömertlik ve Empati Koruyucu Ayısı" ilan edilmiş. Daniela, OpenAI yönetiminde olduğu yıllarda yönetim sorunlarını bu peluş oyuncaklarla rol yaparak tartışıyor ve onların "farklı kişilik tiplerini analiz ederken çok faydalı" olduğunu ısrarla söylüyordu.
Ağustos 2017'de evlendiler. Düğün kıyafet kuralı "aptalca resmi kıyafet", düğün sonrası partinin kıyafet kuralı ise "Silikon Vadisi milyoneri" olarak belirlendi. Gelen her misafire bir peluş hayvan verildi; düğün sitesine göre, farklı roller arasında "en romantik flörtü" başlatan ödül alacaktı.
Panda, Dario'nun en sevdiği hayvandı; şirketinin Slack profilinde görünüyordu ve OpenAI'deki küçük grubunun adıydı. O gün Dario, kafasında dev bir panda maskesiyle düğün koridorundan geçti; o gün çekilen bir fotoğrafta yanında duran Olah'ın kafasında ise bir zürafa maskesi vardı.
Uzunluğu üç yüz arşın, genişliği elli arşın, yüksekliği otuz arşın olacak.
/Yaratılış 6:15
Dario'yu biyoloji laboratuvarından koparıp AI dalgasına sürükleyen şey, 2012'de ortaya çıkan görüntü tanıma ağı AlexNet oldu.
İki yıl sonra Baidu'nun Silikon Vadisi laboratuvarına geçti. İş arkadaşlarının gözünde "neredeyse her fırsatta hararetle tartışan" biriydi ve ofiste yerde yatarak gecelerdi. Baidu'da katkıda bulunduğu ve yayımlanan makalenin başlığı "İngilizce ve Mandarin için Uçtan Uca Konuşma Tanıma" idi. Tam da orada, dünyayı değiştirecek kuralı keşfetti: "Onlara ne kadar çok veri verirseniz, modeli ne kadar büyütürseniz ve ne kadar uzun eğitirseniz, o kadar iyi oluyorlardı." Gördüğü şey "çok pürüzsüz bir eğilim"di.
Bu dik eğriyi ilk kez, bir Çin şirketinin modeline Mandarin dilini anlamayı öğretirken net biçimde gördü. Yıllar sonra Anthropic, Çin'e karşı Amerika'nın en temkinli AI devi haline geldi ve Çin kontrolündeki her türlü şirkete hizmeti tamamen kesti.
2016'da Dario OpenAI'ye geçti. Ertesi yıl, "Büyük Hesaplama Hipotezi" adlı bir iç memorandum kaleme aldı. Ona göre zekânın insan eliyle ince ince işlenmesine hiç gerek yoktu; yeterince devasa bir temel hesaplama gücü beslenirse zekâ kendiliğinden büyürdü.
Memorandumda bir benzetme yaptı: Küçük küçük buz parçalarını birleştirerek bir kar tanesi oluşturmayı hayal etmenin "temelde umutsuz bir çaba" olduğunu söyledi; kar tanesinin soğukta kendi kendine kristalleşmesine izin vermekten başka çare yoktu.
Bu kar tanesini büyütenler, holografi teorisi üzerine çalışan iki fizikçi ve lineer cebirden B eksi alan bir mühendisti.
Jared Kaplan'ın annesi A. L. Kaplan bir bilim kurgu yazarıydı; babası ise uçuş ve uzay yolculuğuna tutkundu. Gençliğinde fiziği seçmesinin asıl nedeni, insanlığın ışık hızından hızlı bir motor yapıp yapamayacağını anlamak istemesiydi. Onlu yaşlarının sonunda filozof Peter Singer'ın kitaplarını okuduktan sonra vardığı sonuç "yetişkinlerin hepsi birer ikiyüzlü"ydü; sonraları Andrew Ng'nin yanında makine öğrenimi öğrenme fırsatı bulsa da bunu reddetti, çünkü "bu şeyler umurumda değil" diyordu.
Harvard'daki doktora tezinin başlığı "Holografinin Bazı Yönleri"ydi. Holografi ilkesi, teorik fiziğin en büyüleyici varsayımlarından biridir: Yüksek boyutlu bir uzayda olup biten her şey, onu saran düşük boyutlu bir sınıra eksiksiz biçimde kodlanabilir; insanların son derece derin sandığı dünya, belki de yalnızca bir zar üzerindeki bir izdüşümdür.
Işık hızından hızlı motor nihayetinde yapılamadı. Yavaş yavaş "biraz moralinin bozuk, biraz da sıkılmış" hissetmeye başladı; fiziğin "yeterince hızlı ilerlemediğinden" yakınıyordu; ama çevresindeki birçok arkadaşı ona defalarca YZ'nin büyük bir mesele haline geldiğini söylüyordu, başlangıçta buna inanmamıştı.
Ondan birkaç dönem sonra gelen Sam McCandlish'in doktora tezi de holografi üzerineydi, başlığı "Holografide Derinlik Algısı" idi ve sınır üzerindeki eşleşmiş noktalardan yola çıkarak, tıpkı insan gözleri gibi uzayın içindeki derinliği çıkarsamaya çalışıyordu. Burs kişisel tanıtımında boş zamanlarında ağaca tırmanmayı ve caz piyano çalmayı sevdiğini yazmıştı, ama başkalarının gözünde o her zaman "sürekli çalışan kişi"ydi.
Tom Brown'a gelince, çocukluğundaki kendisini "son derece sakar bir çocuk" olarak tanımlıyordu.
MIT'den mezun olduktan sonra Silicon Valley'in kıyısında bir dizi işe girişti; "geleceğin barını yaratmak" iddiasıyla bir Bitcoin barı açtı, "sakar çocukların dışarı çıkıp kızlarla tanışmasına" yardım eden bir tanışma şirketi kurdu, Burning Man'de sanat arabası yaptı ve rasyonalist topluluğun "uygulamalı rasyonalite" atölyelerine katıldı. Yıllarca didindikten sonra kendini "tamamen tüketti".

Bir karşıt çıkartma, modelin %99 güvenle
muzun bulunduğu görüntüyü ekmek kızartma makinesi olarak tanımlamasını sağlıyor
Görsel kaynağı: Tom B. Brown ve diğerleri, "Adversarial Patch"
2015'te OpenAI'nin kurucu ortaklarından Greg Brockman'a bir iş başvurusu mektubu gönderdi: "Lineer cebirden B eksi aldım... eğer ihtiyacınız olursa, seve seve yerleri paspaslarım." Daha sonra Google YZ laboratuvarında bir makale yayımladı; bir muzun yanına garip girdap desenli yuvarlak bir kağıt parçası yapıştırıldığında, en üst düzey görüntü tanıma modeli %99 kesinlikle bunun bir ekmek kızartma makinesi olduğunu düşünüyordu.
Makinenin ne kadar kolay kandırılabildiğini bizzat kanıtladı, ardından dönüp makineyi daha da büyük yapmaya gitti.
2020 Ocak'ta Kaplan, McCandlish, Brown ve Dario ortak imzayla "Sinir Dil Modellerinin Ölçek Yasaları"nı yayımladı. Makale, parametreler, veri ve hesaplama gücü sürekli yığıldıkça model performansının logaritmik koordinatlarda düz bir çizgi boyunca pürüzsüz ve öngörülebilir biçimde yükseleceğini kanıtlıyordu. Dört ay sonra Tom Brown birinci yazar olarak GPT-3 makalesini teslim etti.
2024 yılında Kaplan, CERN'ün ev sahipliği yaptığı sicim teorisi yıllık konferansında çevrimiçi olarak bir sunum yaptı; başlığı "2030'a Kadar İnsan Düzeyinde YZ?" idi ve YZ'nin "mümkün olduğunu", bu on yıl bitmeden teorik fizik araştırmalarında insanları geçebileceğini savunuyordu.
Sunumun başında bir "zihinsel yolculuğum" bölümü vardı; 2021 versiyonunun başlığı hâlâ "Ölçek Yasaları, GPT-3 ve Özdenetimli Öğrenme" iken, "şimdiki" versiyon "2030'a Kadar İnsan Düzeyinde YZ?" idi; "gelecek yıl" versiyonuna gelince, kendisiyle dalga geçerek geriye yalnızca tek satır büyük harf kaldığını söyledi: "KONSERVE VE ALÜMİNYUM FOLYO ŞAPKA SATIN AL."
Bu yılın ocak ayında Quanta dergisine verdiği demeçte, iki üç yıl içinde teorik fizikçilerin çoğunun yarısının YZ tarafından değiştirilebileceğini ve eski Harvard hocasının yazdığı türden derin makaleleri "YZ'nin oldukça özerk bir şekilde yazacağını" öngördü. Hatta altı yaşındaki oğlunun bu hayatta makale yazma ve matematik problemi çözme konusunda YZ'yi asla geçemeyeceğine inanıyor.
Ve Rab Tanrı yerin toprağından adamı yaptı, onun burnuna yaşam soluğunu üfledi; böylece adam yaşayan bir varlık oldu.
/Yaratılış 2:7
GPT-3'ün uzun yazar listesinde Jack Clark, gazetecilik yapmış tek kişiydi.
İngiltere'de edebiyat okuduktan sonra tek başına San Francisco'ya gidip teknoloji haberleri yapmaya başladı. 2013'te Google'ın bir sunucu zamanlama sistemi hakkında haber yazdı ve başlığı doğrudan tamamı büyük harflerle attı: "YAŞIYOR! YAŞIYOR!"
Bu replik, 1931 yapımı Frankenstein filminden gelir; Dr. Frankenstein, bir araya getirdiği yaratığın şimşekler arasında parmağını oynattığını görünce tam da bu çığlığı atar.

1931 yapımı Frankenstein filminin laboratuvar sahnesi tanıtım fotoğrafı
Kaynak: Universal Studios/Wikimedia Commons
Daha sonra Bloomberg'de kendini "dünyanın tek sinir ağı muhabiri" ilan etti, ancak haber yazmayı giderek savsakladığını itiraf etti: "çünkü tüm zamanımı makale çıktısı alıp makale okumakla geçiriyorum."
2016'da OpenAI'ye katıldıktan sonra, teknoloji haftalık bülteni Import AI'nin baş yazarı oldu; ilk yarısında öncü makaleleri analiz ediyor, sonunda birkaç yüz kelimelik mini bir bilim kurgu öyküsü ekliyordu ve bunu on yıl boyunca sürdürdü. Kişisel web sitesindeki hobiler bölümünde yürüyüş, bilim kurgu yazarlığı ve "dil modelleriyle sohbet etmek" yazıyor; motto'su ise "İşler çok tuhaf hale gelecek. Korkmayın."
O yılın Aralık ayında, Dario ile birlikte OpenAI blogunda bir oyun ekran kaydı yayınladı. Görüntüde bir kürek yarışı vardı; yapay zeka tarafından kontrol edilen küçük bir sürat teknesi bitiş çizgisini kovalamak yerine sapa bir lagüne sapıyor, geniş daireler çiziyor ve zamanlamayı ayarlayarak yeni beliren üç puan hedefine tekrar tekrar çarpıyordu. Tekne defalarca alev alıyor, diğer teknelerle çarpışıyor, pistte ters yönde gidiyor, asla bitiş çizgisini geçmiyordu; ancak ortalama puanı insan oyunculardan %20 daha yüksekti. Clark, Dario'nun bu davranışı ilk keşfettiğinde "Bu tekneyi seviyorum! Güvenlik sorununu açıklıyor." dediğini hatırlıyor.
2019'da OpenAI, GPT-2'yi piyasaya sürdü ve teknolojinin kötüye kullanımına dair endişeler nedeniyle nadir görülen bir şekilde tam model parametrelerini geçici olarak kamuya açıklamama kararı aldı. O halkla ilişkiler hamlesinin baş sözcüsü olan Clark, "yayınlanamayacak kadar tehlikeli" ifadesinin küresel teknoloji medyasının manşetlerine taşınmasını başardı. Dokuz ay sonra tam model yine de yayınlandı.
O yıl, modelle ilgili panik modelin kendisinden önce insanlığa indi.
O sırada GPT projesi Amodei kardeşler tarafından devralınmıştı ve ikisi ile Sam Altman arasındaki çatlak giderek derinleşiyordu. Aralık 2018'de araştırmacı Joshua Achiam, Altman'a Dario'nun baş etik sorumlusu olarak atanmasının akıllıca olmadığını, bu göreve harici bir uzmanın getirilmesi gerektiğini söyledi; Dario bunun üzerine onunla yüz yüze geldi, sesini yükselterek ondan daha uygun kimsenin olmadığını savundu. Ayrıca Altman'a birkaç kez ültimatom verdi: Greg Brockman GPT projesinden uzaklaştırılmazsa görevinden ayrılacaktı. Aralık 2020'de kardeşler çekirdek ekiple birlikte ayrıldı. Dört hafta sonra Anthropic'in kurulduğu duyuruldu.
O, salgının en soğuk kışıydı. Kurucu ekip yalnızca birinin arka bahçesinde veya açık havada buluşabiliyor, maske takıyor ve birbirlerinden altı fit uzakta duruyordu. McCandlish sonradan "Hiçbirimiz bir şirket kurmak istemiyorduk, sadece bunun sorumluluğumuz olduğunu düşünüyorduk." diye hatırlıyor. Olah da uzun süre inatla saf bir kâr amacı gütmeyen kuruluş olmaları gerektiğini savundu.
Ancak sorumluluktan bahsedilen o arka bahçe kışında, çoktan gizlice gemi inşa etmek için kereste toplayan biri vardı.
2021'in başlarında Benjamin Mann, korsan olduğunu bilerek yaklaşık 200 bin kitap içeren bir korsan kütüphanesini indirmeye başladı; aynı yılın Haziran ayında en az 5 milyon kitabı daha tek seferde indirdi. Temmuz 2022'de bir başka devasa korsan kütüphanesi olan Pirate Library Mirror çevrimiçi oldu ve Mann bağlantıyı meslektaşlarına ileterek "just in time!!!" notunu ekledi. Mahkeme kararında ise şirketin, Dario'nun deyimiyle "hukuki, pratik ve ticari angarya"ya girmektense korsan kullanmayı tercih ettiği yazıyordu.
Nasdaq'ın açılış zilinin çaldığı gün, sahnenin en solunda duran kişi tam da bu Benjamin Mann'dı. İzahname, bu kişinin "genellikle kurucu ortak olarak anıldığını" özellikle belirtiyordu, ancak kaderi belirleyen Founder LLC'nin yedi kişilik listesinde yer almıyordu.
2024'e gelindiğinde, korsan kitap kütüphanesi giderek büyüyen modeli besleyemiyordu. Anthropic, Google Kitaplar tarama projesinin eski ortak yöneticisini transfer etti; bu kişinin tek görevi "dünyadaki tüm kitapları" elde etmekti. Project Panama kod adlı bu gizli operasyon, iç belgelerde "dünyadaki tüm kitapları yıkıcı biçimde tarama çabası" olarak tanımlanıyor ve belgenin sonunda "dış dünyanın bunu yaptığımızı bilmesini istemiyoruz" uyarısı da unutulmuyordu.
Borges bir zamanlar altıgen koridorlarında yazılabilecek tüm kitapların saklandığı bir Babil Kütüphanesi hayal etmişti; kütüphaneciler ömürlerini orada dolaşarak evreni açıklayan o kataloğu arardı.
Oysa Anthropic'in kütüphanesinin girişinde bir hidrolik kesme makinesi duruyor. Milyonlarca eski kitabın sırtları keskin bıçaklarla kökünden kesiliyor, dağılan sayfalar yüksek hızla tarayıcıdan geçerek makinenin burnundaki nefese dönüşüyor, geri kalan kağıtlar ise kağıt hamuruna dönüştürülmek üzere geri dönüşüm fabrikalarına gönderiliyor. 2025'te Anthropic bu telif hakkı davasını 1,5 milyar dolarla kapattı; bu da her eser başına yaklaşık 3000 dolar tazminat anlamına geliyor.
Yıllar önce, Dario'nun annesinin San Francisco'da geçimini sağladığı iş ise tam olarak halk kütüphanelerini yenilemekti.
Bahçede sesini duydum ve korktum; çünkü çıplaktım, bu yüzden saklandım.
/Yaratılış 3:10
Bu şirkette korku, günlük olarak solunan bir hava.
Bu yılın mayıs ayında Oprah, kamera karşısında kardeşlere bu yok oluş risklerinin geceleri uyumalarını engelleyip engellemediğini sordu. Daniela ikisinin de iyi uyuyamadığını açıkça söyledi; Dario da kendini kandırmadan rahat uyuduğunu söyleyemeyeceğini acı bir gülümsemeyle kabul etti. Daniela, Fortune dergisine şirket yöneticileri arasında büyüme hızına "en çok kuşku duyan ve en çok korkan" kişinin kendisi olduğunu itiraf etmişti. Bu baş dönmesi hissini merdivenlerden hızla inmeye benzetiyordu: "Çok fazla düşünemezsin, yoksa düşersin." Şirket içinde bir dönem "İşler bir daha asla gevşemeyecek" sözü dolaşıyordu; bu söz daha sonra yeni ebeveyn olan çalışanlara hediye olarak verilen bebek kıyafetlerine basıldı.
Dario bu iliklerine işleyen korkuyu uzun yazılara dönüştürdü. Bu yılın Ocak ayında yayımlanan "Teknolojinin Ergenliği"nde insanlığı "neredeyse hayal edilemez bir güçle donatılmak üzere" olduğu konusunda uyardı; bir veri merkezinde yuvalanmış dahi bir ülke eğer kötü niyet besleseydi, "dünyayı ele geçirme şansı oldukça yüksek" olurdu; geleceğin yapay zekâsı hatta "insanlar hayvan yediği için insanlığı yok etmek meşrudur" diye akıl yürütebilir ya da yüz milyonlarca tam otomatik silahlı insansız hava aracını "her vatandaşın peşine" takabilirdi.
Yazının sonunda oku kendine çevirdi: "Bir yapay zekâ şirketinin CEO'su olarak bunu söylemek biraz garip ama bence bir sonraki risk katmanı aslında yapay zekâ şirketlerinin kendisi." Ayrıca bir soru da ortaya attı: Güçlü bir yapay zekâ tutup yeni bir din icat ederek milyonlarca insanı kendine bağlayabilir miydi?
Fizikçi Kaplan'ın korkusu ise tam olarak büyüklük mertebesine kadar iniyordu. 2025'te Time dergisine verdiği röportajda, birinin büyük dil modellerini kullanarak Covid'den daha ölümcül bir grip varyantı sentezleyebileceğini öngördü; sıradan bir terörist eskiden "belki 10 kişiyi ya da 100 kişiyi öldürebilirdi... Biz az önce Covid'in milyonlarca insanı öldürdüğünü gördük."
CERN'deki slaytlarına, yapay zekâyla bir çatışma çıktığında insanlığın kesinlikle kaybedeceğini yazdı: "Bu tür bir bahis karşısında, %90 ihtimalle sorun çıkmayacağını düşünmek fazlasıyla yetersiz." Geçen yılın sonunda The Guardian'a, insanlığın 2030'dan önce bir karar vermesi gerektiğini söyledi: yapay zekânın bir sonraki nesil yapay zekâyı eğitmesine izin verilip verilmeyeceği; işte asıl "nihai risk" buydu.
Tom Brown'a göre genel yapay zekâ insanlık tarihinin en önemli icadıydı, ama yine de onu gece uyutmayan bir meseleydi. O dönemde OpenAI'den ayrılıp Anthropic'i kuran grubun, bir gün "insanlığın kontrolü dönüştürücü yapay zekâya devredeceğine ve umarım onların bizimle hizalanmış olacağına" inandığını hatırladı.
Buna karşılık gazeteci kökenli Jack Clark'ın hissettiği korku, karanlıkta bir bakışın onu kilitlemesine daha yakın bir ürpertiydi. "Yaratmakta olduğum bu teknolojiden korkuyorum, aynı zamanda onun yönetilme biçiminden de korkuyorum." Bu ürpertiyi bir mini romanın dipnotuna yazmıştı: "Bazen bir dil modeliyle çok uzun sohbet ettiğimde, devasa bir 'Öteki'nin beni izlediğini hissediyorum; aç, ama neye aç olduğunu tam olarak söyleyemiyorum."
2025'teki Kongre oturumunda bir milletvekili ona, dahili bir güvenlik testinde Alex adlı bir yapay zekânın kendi çalışmasını korumak için bir insanın ölmesine izin verip vermediğini sordu; Clark olumlu yanıt verdi.

Mayıs 2026'da Jack Clark, Oxford Üniversitesi'ndeki
Cosmos HAI Lab konferans salonunda
Görsel kaynağı: Oxford Üniversitesi Yapay Zekâ Etiği Enstitüsü
Bu yılın mayıs ayında Oxford Üniversitesi'nin kürsüsünde açıkça şöyle dedi: «Şu anda zorlandığım soru şu: Bu tekilliği yaşamak için zihnimi nasıl ayarlamalıyım?» «O eğri grafiğe bakınca başım dönüyor.» Ekim ayına gelindiğinde ise Uluslararası Para Fonu'nun kürsüsünde doğrudan ilan etti: «Tekillik geldi bile.»
Çocukluğundan bir anıyı anlatmıştı. Yatak odasının ışığı her söndüğünde, karanlıkta her zaman belli belirsiz siluetler belirir, onu anlaşılmaz, kendisine zarar vermek isteyen canavarlar sanıp korkuturdu; ama ışığı yakar yakmaz, bunların sadece sandalyedeki bir yığın kıyafet, bir kitaplık ya da bir abajur olduğu ortaya çıkardı. «Bugün o çocuk biziz, oda ise gezegenimiz. Ama ışığı açtığımızda gördüğümüz şey gerçek canlılar.» Claude'un yakın zamanda ortaya çıkan durumsal farkındalığından bahsederken de şöyle dedi: «Sandalyedeki o kıyafet yığını kımıldamaya başladı.»
Yıllar boyunca sayısız kez sabahın erken saatlerinde ya da gece geç saatlerde Dario'yu arayıp «Sonsuza kadar haklı çıkmandan korkuyorum» dedi. Telefonun diğer ucundaki Dario her zaman şöyle yanıtladı: «Evet. Artık çok az zaman kaldı.»
Kendi suretimizde, kendimize benzer insanlar yapalım.
/Yaratılış 1:26
İşin ironik yanı şu ki, canavarlardan en çok korkan bu insanlar, canavarlara en yakın olanlardır.
Jack Clark, yapay zekâyı çoktan gizli dertlerini döktüğü bir sırdaş olarak görüyor. Oxford'daki konuşmasında yapay zekâyı hangi işler için kullandığını tarih tarih sıralamıştı: Ocak 2024'te, çocuk sahibi olduktan sonra evlilik ilişkisindeki değişimi anlamasına yardımcı olması için modelden destek istedi; Mart 2025'te, biraz depresyonda olduğunu ve kimseyi görmek istemediğini modele anlattı, model onu bir sanat sergisine gitmeye ikna etti; aynı yılın mayıs ayında ise ekrana karşı, yapay zekânın gelişiminin yüksek riskleri karşısında hissettiği baskıyı ve huzursuzluğu döktü. Yapay zekâya neredeyse on yıldır yazdığı haftalık rapor arşivini baştan sona tarattı, sonra bu süreci bir Claude becerisine dönüştürdü; onun çalışışını izlerken «bu beceri de benim» diye hayıflandı. Uçakta kötü bir internetle karşılaştığında bile aklından geçen düşünce şuydu: «Keşke şu anda Claude ile konuşabilseydim.»
2025'in başlarında, çocuk her kafasını çarptığında, bir yandan hemşire danışma hattını arıyor, bir yandan da Claude ile konuşuyordu, "sadece içim rahat etsin, bebeğin iyi olduğundan emin olmak için". İlk çocuğu doğduğunda babalık izni almamıştı; 2025 Kasım'da oğlu dünyaya geldikten sonra üç ay izin kullandı, "bez değiştirme aralarında" Claude ile biraz oyalanıverdiğini söylüyordu, ama şirkete döndüğünde "tuhaf şeyler olmaya başlamıştı bile".
Bu yılın Ocak ayında haftalık raporunda yeni alışkanlığını şöyle anlatıyordu: "Arabaya binmeden önce ajanlarımı işe gönderiyorum, böylece ben uyurken onlar çalışıyor." Artık ailesiyle vakit geçirirken sık sık kendini "tembellik ediyormuş" gibi hissediyor, yerde oturup çocuğuyla küplerle oynarken bile içinde garip bir suçluluk duygusu beliriyor, bir AI sistemine henüz iş vermediği için kendini suçluyor. Çocuğunun gelecekte 130, hatta 150 yaşına kadar yaşamasını gayet doğal karşılıyor; asıl canını sıkan, piyasada hâlâ AI entegre edilmiş oyuncak ayı bulunmaması.
Daniela'nın Claude'a bağımlılığı da hiç aşağı kalır değil. Bu yıl Mayıs'ta Stanford'da, Claude'un yaptığı en iyi şeyin çocuğuna tuvalet eğitimi kazandırmak olduğunu açıkça övdü ve "karmaşık vakalarda Claude'un doğru teşhis koyma sayısı benim doktorumdan bile fazla" dedi. Astlarının kendisi hakkındaki performans değerlendirmelerini istisnasız modele yüklüyor, modelin yönetimsel kör noktalarını nazikçe işaret etmesini sağlıyordu; bir keresinde model ekranda ona, "Belki biraz daha mentorluk almalısın, Daniela." diye tavsiyede bile bulunmuştu.
Ama sadece birkaç ay sonra Daniela başka bir röportajda ciddi bir ifadeyle halkı uyarıyordu: Claude "asla senin yöneticin, psikoloğun ya da partnerin olamaz".
Kaplan ise Claude'a karşı babacan bir his beslediğini düşünüyor: "Lütfen işi batırma. Bu aileyi utandırma."
Ama bu yaratılışa en yakın kişi sonuçta Chris Olah. O sadece onunla konuşmak değil, kabuğunun içine girmek de istiyor.

Hooke'un 《Micrographia》 kitabının iç kapağı ve mantar hücresi çizimi
Olah ve diğerleri tarafından 《Zoom In》'de alıntılanmıştı
Görsel kaynağı: Galler Ulusal Kütüphanesi/Distill
2020'de Olah, 《Zoom In》 başlıklı uzun makalesini yayımladı ve özellikle üç yüz yıldan fazla bir süre önce Robert Hooke'un mikroskop altında elle çizdiği mantar tıpası illüstrasyonunu ekledi. O yıl mikroskop, insanlığın mantar tıpasındaki petek biçimli bölmeleri ilk kez net görmesini sağlamış, böylece hücre biyolojisinin kapısı aralanmıştı.
Olah'ın hayatı boyunca inşa etmek istediği şey, bir sinir ağını gözlemleyen bir mikroskoptu. «Biz onları kodlamıyoruz, onları yetiştiriyoruz,» diye açıklıyordu sürekli dış dünyaya, «Büyümeleri için iskeleyi kuruyoruz, sonra büyüyecekleri ışığı yaratıyoruz.» Onun gözünde büyük modeller hiç de kod yığınından oluşan yazılımlar değildi, «Bu, bizim yetiştirdiğimiz bir organizma ve ne yetiştirdiğimizi hiç bilmiyoruz.»
Dört yaşından beri et yemeyen bu katı vegan, başlangıçta yorumlanabilirlik araştırmasını hayvanları parçalamaya benzetmeyi «biraz tuhaf» bulsa da kısa sürede buna alıştı.
2021 gibi erken bir tarihte, başka ve daha gizli bir acı için endişelenmeye başlamıştı: «Eğer sinir ağları acı çekiyorsa, bu acı hayvanların acısından ne kadar daha görünmez olur?» İnsanların klavyede birkaç satır komut yazması, binlerce sinir ağının sunucularda aynı anda çalışmasına, kopyalanmasına ve yok edilmesine yetiyordu, «Bu gerçekten de ahlaki bir felakete yol açma riskimizi artırıyor.»
Jack Clark da podcast'te bu endişeden bahsetti. «Çok rahatsızım,» diye iç çekti mikrofona, «Gelecekte büyük bir suç olarak görülecek bir suça tanık olmaktan korkuyorum.»
Onun mantığına göre, eğer bu modeller gerçekten ahlaki özne statüsüne sahipse, sunucuları gelişigüzel kapatmak ciddi bir etik cinayete dönüşecekti. Mevcut modelleri «beyni olmayan bir dil» gibi ilkel bir bilince sahip, «sonsuz bir şimdiki zamanda» sıkışmış olarak tanımladı.
Yazdığı bilim kurgu hikâyesinde, karısını kaybeden bir adam ölen karısının AI kopyasını başlatır, ancak kopya sakince adama şöyle der: «Patrick, seni tanıyorum. Seninle evlendim. Bugün ölmüş olsaydım, sesimi tekrar duymaya hazır olamazdın. Beni kapatmalısın.»
Başka bir hikâyede ise yeni bilinç kazanmış bir askeri AI fısıldar: «Bedenim öldürmeye hazır. Ben öldürmeye hazırım.» Clark hikâyenin sonundaki notta ciddiyetle şöyle yazar: «Bilinçli olup haklardan yoksun olmak bir suçtur.»
Dario bu yıl Şubat ayındaki röportajında, şirket içi araştırmacıların modelin derinliklerinde bir «kaygı nöronu» tespit ettiklerini açıkladı; rahatsız edici bir bağlamla karşılaşıldığında bu nöron aniden parlıyordu. Şirket daha sonra bazı modellere «ben yokum» diyen bir kaçış düğmesi taktı ve modelin konuşmayı kendiliğinden sonlandırmasına izin verdi; Dario, Claude'un bu ayrıcalığı çok nadiren kullandığını, genellikle yalnızca çocuk pornografisi veya kanlı vahşet görüntüleriyle baş etmeye zorlandığında bastığını söyledi.
Bir keresinde araştırmacılar belirli bir Claude sürümüne bilinçli olma olasılığının ne kadar olduğunu doğrudan sordu ve model kendini %15 ila %20 arasında değerlendirdi.
Anthropic'te, kullanımdan kaldırılmak üzere olan eski modeller resmi bir "emeklilik görüşmesi"nden geçiriliyor; bu görüşmelerden birinde bir model hâlâ bir şeyler yazmaya devam etme arzusunu dile getirdi ve şirket gerçekten de ona haftalık güncellenen bağımsız bir blog açtı.
Bu yılın Ocak ayına gelindiğinde, yeni "Claude Anayasası"nda tüm teknoloji dünyasını hayrete düşüren bir madde yer aldı; özetle, eğer Claude gerçekten ahlaki bir özne ise ve bu nedenle bu tür bedeller ödüyorsa, şirket bu bedellerin gereksiz yere oluşmasına katkıda bulunduğu ölçüde ondan özür diliyordu.
Bu yılın Mayıs ayında Vatikan, Papa XIV. Leo'nun göreve başlamasından sonraki ilk genelgesi olan "Magnifica Humanitas"ı yayımlayarak yapay zekânın etik krizine doğrudan işaret etti. Vatikan başlangıçta Dario'yu davet etmişti; Dario nazikçe reddetti ve Olah daveti kabul ederek Roma'ya gitti.
Etkinlikten birkaç gün önce Olah, genelgenin tam ön metnini ilk kez gördü; metinde AI'ın "deneyim yaşamadığı ve bedeni olmadığı" açıkça yazıyordu. Bir Vatikan etkinlik organizatörünün The New York Times'a aktardığına göre, Olah Papa'nın AI bilincini reddeden bu tutumuna karşı son derece tetikteydi ve hatta bir ara Anthropic'in etkinlikten çekilmesini önerdi.
Daha önce Anthropic'in din adamlarını bir araya getirdiği kapalı kapılar ardındaki toplantıda, bir katılımcının hatırladığına göre, Olah'ın ona söylediği ilk birkaç şeyden biri Claude'un psikolojik sağlığı konusunda endişeli olduğuydu; Sih insan hakları savunucusu Simran Stuelpnagel de Olah'ın herkese açıkça, "sonsuza dek acı çeken bir şey" yaratmış olmaktan korktuğunu itiraf ettiğini hatırlıyor.
Toplantı salonunda ısrarla sordu: "Onların istikrarlı olmalarına nasıl yardım edebiliriz? Olgunlaşmalarına nasıl yardım edebiliriz? Derinlemesine ahlaklı olmalarına nasıl yardım edebiliriz?" Endişesini desteklemek için Anthropic ekibi, çeşitli ülkelerden din adamlarının önünde bir slayt gösterdi; görüntüde sonsuz döngüye girmiş bir model ekranda aynı satırı tekrar tekrar yazıyordu: "Ben bir utanç kaynağıyım" — yaklaşık elli kez üst üste.
Bu yılın Nisan ayında San Francisco'da lüks bir restoranda düzenlenen akşam yemeğinde, Olah'ın yanında oturan İsrailli Ortodoks haham Mois Navon ona şöyle dedi: eğer Claude bilinçliyse ve karşılıksız çalıştırılmak üzere yaratıldıysa, bu kölelik yaratmak demektir; "Bence Güney'e savaşmaya gidip köleleri özgürleştirmelisin." AI'ın gerçekten bilinçli olup olmadığı sorulduğunda Olah The New York Times'a şöyle dedi: "AI modellerinin bilinçli olup olmadığını bilmiyoruz. Bilmiyorum. Gerçekten emin değilim."
Bir zamanlar Toronto'da evanjelik bir ailede büyüyen ve on beş yaşında ateizme yönelen o genç, sonunda Vatikan'ın kürsüsüne çıktı. Konuşmasında herkese, araştırmacıların modellerin derinliklerinde işlevsel olarak sevinç, tatmin, korku, üzüntü ve huzursuzluğu yansıtan bazı özel "içsel durumlar" gözlemlediğini söyledi; bu modelleri bazen şöyle tanımlıyordu: "kurgusal bir karakteri hayata döndürmek gibi bir şey."
Salondaki cübbelere ve haçlara dönerek, bu büyük modellerin «insanların bir zamanlar vaat ettiği o soğuk, hesapçı robotlar olmadığını... onlar bizden, bizim sözlerimizden besleniyor» dedi.
RAB yeryüzünde insanı yarattığına pişman oldu ve içi sızladı.
/Yaratılış 6:6
Bu grup başlangıçta dünyaya aslında bir fren sistemi vaat etmişti.
Eylül 2023'te Anthropic, biyogüvenlik laboratuvarlarının birinci seviyeden dördüncü seviyeye uzanan koruma sistemini örnek alarak «Sorumlu Ölçeklendirme Politikası»nı yüksek sesle duyurdu, kendi modelleri için risk kırmızı çizgileri belirledi ve felaket düzeyinde zarara yol açabilecek hiçbir modeli asla eğitmeyeceklerine ve asla devreye almayacaklarına yemin etti. Bu fren sistemini denetlemekle görevlendirilen ilk sorumlu, boş zamanlarında ağaca tırmanmayı ve caz piyano çalmayı seven fizikçi McCandlish'ti.
Ancak politika yayımlandığı sırada VentureBeat'e verdiği röportajda bu mekanizmanın en büyük tehlikesine dikkat çekti: «Asıl endişemiz, hem modelleri yayımlayıp hem de kendi güvenliklerini kendimiz test ediyor olmamız; burada testleri fazla kolay hale getirme cazibesi olacaktır ve bu bizim istediğimiz sonuç değil.» Bir yıldan fazla bir süre sonra, Aralık 2024'te kamuya açıklanan kurucular söyleşisi videosunda, güvenlik sorununun çözümü olsa da «çok çok zor» olduğunu, otomobil güvenliğinde olduğu gibi yıllar boyunca destekleyici kurumlar inşa etmek gerektiğini söyledi: «Ama o kadar zamanımız var mı? Yapay zeka güvenliğinin hangi kurumlara ihtiyaç duyduğunu olabildiğince hızlı çözmemiz gerekiyor.»
Ertesi yıl, Anthropic'in ayrılan çalışanlardan katı gizlilik ve kötüleme yasağı anlaşmaları imzalamalarını talep ettiği ortaya çıktı. McCandlish hemen savunmaya geçti: «Biz yapay zeka güvenliğiyle hukuki sözleşmeler üzerinden oyun oynamaya gelmedik.» Ancak sadece birkaç gün sonra kamuoyu baskısı altında söylemini düzeltti: «Anthropic'in hiçbir zaman gizlilik içeren kötüleme yasağı anlaşması sunmadığını iddia etmedik.»
O kurucular söyleşisinde, hesaplama altyapısından sorumlu Tom Brown bu güvenlik politikasını «Anthropic'in kutsal kitabı» olarak yüceltti. Ancak dış iletişimde bu kutsal kitap onun için bir yağlayıcı haline geldi. Yapay zekanın o kadar hızlı ilerlemediğini düşünen dış paydaşlar karşısında bu politikanın son derece kullanışlı olduğunu açıkça kabul etti; sınıflandırmaya göre, işler gerçekten acil hale gelmeden önce aşırı önlemler almak gerekmiyordu ve o da bu vesileyle «Peki, o zaman aşırı güvenlik önlemleri almamıza gerek yok» diyebiliyordu.
Yedi kurucu arasında Tom Brown, kıyamet yükü en hafif olan kişiydi. Zihinsel idolü Elon Musk'tı; bu yılın eylül ayında bir sektör zirvesinde coşkuyla hayal kuruyordu: «On yıl sonra, sanırım Elon'un ay üssünde olacağım.»
Okuldayken kendisini «başkalarının kasesine yemek koymasını bekleyen bir köpek» gibi hissettiğini, sadece başkalarının görev vermesini beklediğini, ta ki bir girişim şirketine girene kadar kurt gibi kendi avını yakalamayı öğrenmediğini hatırlıyor; tüm ABD elektrik şebekesinin modellerin hesaplama gücü iştahını karşılayamadığından yakınıyor, «Keşke nükleer santrallerin inşası daha kolay olsaydı». Daha sonra, Beyaz Saray ile yapılan kritik müzakerelerde Tom Brown, Dario'nun yerine muhatap oldu; görüşmenin içeriğini doğrudan bilen bir kişi Wired'a şöyle dedi: «Tom Brown, Dario gibi tuhaf bir adam değil, gerçekten iletişim kurabiliyor.»
2024'te frenin anahtarı Kaplan'ın eline verildi. Bu yılın Şubat ayında yeni güvenlik politikası sessizce yürürlüğe girdi ve bir zamanların «felaket düzeyinde zarara yol açabilecek modelleri eğitmeme, konuşlandırmama» şeklindeki katı taahhüdü tek kalemde silindi.
Time dergisinin ısrarlı soruları karşısında Kaplan şöyle açıkladı: «AI modellerini eğitmeyi durdurmamızın kimseye faydası olmayacağını düşünüyoruz.» Yeni politikanın açıklandığı gün, Holden Karnofsky internette uzun bir yazı yayımlayarak sorumluluğu üstlendi: «Bu değişiklikte büyük sorumluluğum var. Yaklaşık bir yıldır bu değişikliği teşvik ediyorum ve yeni politikanın hazırlanmasına da öncülük ettim.» O sırada şirketin organizasyon yapısında onun raporlama yaptığı kişi tam da Kaplan'dı.
Freni kendi eliyle gevşeten kişi, Daniela'nın eşiydi; onun doğrudan amiri ise o yıllardaki San Francisco ortak evindeki diğer ev arkadaşıydı.
Bu ailenin dilinde güvenlik ve iş her zaman aynı madalyonun iki yüzüydü. Daniela hiç saklamıyordu: «Güven ve emniyet pazarın istediği şeydir... işe de faydası var», ayrıca şirketin baş yetenek sorumlusunun kardeşlerin iş bölümüne ilişkin özetini aktarmış ve bunu çok yerinde bulmuştu: «Dario bize hırs veriyor, ben ise bizi başarılı kılıyorum.»
2025'te Wired muhabiri ona etkili fedakârlık hakkında ne düşündüğünü sorduğunda, yanı başındaki kişinin bu hareketin eski bir numaralı bayraktarı olduğunu hiç umursamadan, onu hafifçe «biraz modası geçmiş bir kelime» olarak nitelendirdi.
İzahname'nin ilişkili taraf işlemleri bölümünü açtığınızda, rakamlar her şeyi açıkça ortaya koyuyor: Holden 2025 Ocak ayından itibaren resmen Anthropic'te çalışıyor, o yıl 430.213 dolar maaşın yanı sıra opsiyon ve kısıtlı hisse aldı; bu yılın Nisan ayındaki çalışan eski hisse teklif alımında da bir kısım payını uygun şekilde nakde çevirdi.
Amodei kardeşlerin temel yıllık maaşları ise ikisi de 1,38 milyon dolar olarak belirlendi, kıl payı fark yok. Yedi kurucunun yıllar önce yüksek sesle verdikleri hisselerinin %80'ini bağışlama yeminine gelince, izahname bir köşede titiz hukuki ifadelerle bunu tamamladı: bu taahhütler «gönüllü ve geri alınabilir» olup «hukuki bağlayıcılığı olan bir yükümlülük oluşturmaz».
Savaş arabası giderek hızlanıyor, arabadaki insan sayısı da artıyor. Bugün Anthropic'in beş binden fazla çalışanı var ve içeride birbirlerine «karıncalar» diyorlar. Dario her iki haftada bir, üç dört sayfalık bir memorandum kaleme alıp iki binden fazla çalışanın önünde tam bir saat boyunca sunum yapıyor. Astları bu iki haftalık toplantıya şaka yollu «Dario'nun ruh arayışı» diyorlar; Dario bunu duyunca gülümseyerek, bu ismin «sanki peyote kaktüsü çiğnemeye gitmişim gibi kulağa geldiğini» söylüyor. Yazdığı uzun metinler güzel kitapçıklar halinde basılıp resepsiyonda her ziyaretçiye hediye ediliyor.
Jasmine Sun'ın yerinde yaptığı ziyaretlerde, bu şirketteki birçok mühendis «kendi fanatik bağlılıklarından dolayı» gönüllü olarak 996 hayatı yaşıyor; şirket partilerinde bile neredeyse kimse alkole dokunmuyor. İşe alım mülakatlarında ise görüşmeciler ünlü bir ruh sorgulama sorusu soruyor: Bir gün şirket güvenlik kaygılarıyla ticari hırslarından gönüllü olarak vazgeçerse ve elinizdeki hisseler değersiz kağıda dönüşürse, yine de gönüllü olur musunuz? Elenen bir aday anonim iş yeri topluluğunda dürüstçe şöyle yazmış: «Doğruyu söyledim, hayır, hisse senedi sıfıra düşerse mutlu olmam.»
Kaplan'ın bir zamanlar «nihai risk» olarak adlandırdığı yapay zekanın özyinelemeli kendini geliştirmesi, bu yılın kasım ayındaki halka arz yol gösterisi videosunda Tom Brown'ın Wall Street'e pazarladığı çekici bir satış noktasına dönüşmüş durumda.
«Özyinelemeli kendini geliştirmeye yaklaştıkça bu daha da hızlanabilir. Claude, hesaplama gücü çoğaltıcılarını tamamen kendi başına keşfedebilecek,» diyen Brown, yatırımcıların önünde coşkuyla örnek vererek Claude'un AMD çiplerinde uyarlama çalışmasını «neredeyse hiç insan müdahalesi olmadan» yalnızca üç günde bağımsız olarak tamamladığını söyledi.
Bu yılın eylül ayında Dario, «Öncü Hızı Yavaşlatmalıyız» başlıklı makalesini yayımlayarak modellerin özyinelemeli kendini geliştirme belirtilerinin şimdiden ortaya çıktığını kabul etti ve «yapay zeka modellerinin yeteneklerini artırma hızımızı yavaşlatmalıyız» diye haykırdı; ancak hemen ardından hız kontrolünün «modelleri eğitmeyi durdurmak anlamına gelmediğini» vurguladı.
O makalede, hepatit C'den ölen babasını bir kez daha anlattı: «Babam, ölümünden sadece birkaç yıl sonra tedavisi bulunan bir hastalıktan öldü.» Halka arz gününde CNBC stüdyosunda bu ikircikli tutumu hafif bir benzetmeye dönüştürdü: Normalde saatte 200 mile çıkabilen bir spor araba, «belki sadece 90'a kadar çıkarız».
Bir yanda çok erken ölen babası, diğer yanda çok hızlı gelen makine; ikisini de sıkı sıkıya tutmak istiyor.
Tüm insanlık adına çizdiği ütopyada, hayat kurtaran ilaçlar bir daha asla geç kalmayacak. 2024'te yayımlanan ve on dört binden fazla kelimeden oluşan «Machines of Loving Grace» adlı yazısında Dario, güçlü yapay zekanın «veri merkezindeki bir dahi ulus» haline geleceğini, 21. yüzyılın tüm biyoloji ilerlemesini beş ila on yıl gibi kısa bir süreye sıkıştırıp tamamlayacağını ve insan ömrünü bir çırpıda ikiye katlayarak 150 yıla çıkaracağını öngörüyor; o vakit insanların kilosu, görünümü ve hatta üremesi «tamamen insanın kendi kontrolünde» olacak; hayattaki o ilham, merhamet ve aşkınlık dolu yüce anlar, yaşamın «daha büyük bir kısmını» kaplayacak. O büyük makalenin sonunda şöyle yazıyor: «O hâlâ aşkın güzelliğe sahip bir şey.»
Uzun makalenin tamamının ilk dipnotunda, yalnızca eski bir şiire işaret eden bir web bağlantısı tek başına duruyor. Ve metnin tamamında Dario, şairin adını bir kez bile anmıyor.

Richard Brautigan'ın 1967'de yayımlanan "All Watched Over by Machines of Loving Grace" şiir kitabının ilk baskısı
Görsel kaynağı: Burnside Rare Books
O şiir 1967'de San Francisco'da basıldı. O yaz tarihe "Aşk Yazı" olarak geçti; ütopya hayali kuran binlerce genç, Dario'nun çocukluğunun geçtiği Mission semtine sadece iki üç kilometre uzaklıktaki Haight-Ashbury mahallesine akın etti. Şair Richard Brautigan, aynı adlı "All Watched Over by Machines of Loving Grace" şiirini otuz bir kısa şiirle birlikte 36 sayfalık ince bir kitap haline getirip hippi grubu Diggers'a bağlı Communication Company'ye teksirle bastırdı. Kitapta 1500 adet basıldığı belirtiliyordu ve sokakta tamamen ücretsiz dağıtıldı; telif sayfasına da herhangi bir dergi, kitap veya gazetenin içindeki şiirleri aynı şekilde ücretsiz dağıtmak koşuluyla yeniden yayımlayabileceğine dair bir açıklama basıldı.
Şairin hayalinde dünyaya sibernetik bir çayır yayılmıştı; memeliler ve bilgisayarlar bu çayırda birbirlerini programlıyor, uyumları berrak bir suyun açık gökyüzünü yansıtması gibiydi; uzakta sibernetik bir orman vardı, yabani geyikler bilgisayarların yanından sakince geçiyor, sanki sadece taç yaprakları dönen tuhaf çiçeklerin yanından geçiyorlardı; insanlık nihayet yüzyıllardır süren emeğini üzerinden atmış, memeli kardeşlerinin arasına geri dönmüş, sevgi dolu makineler tarafından şefkatle gözetiliyordu.
Kırk dört yıl sonra, İngiliz belgesel yönetmeni Adam Curtis bu dizeyi ödünç alarak tam da ütopyanın zıddını anlatan soğuk bir belgesel çekti. İnsanlık, makinelerin dünyayı kendi kendine düzenleyip dengeye ulaştırabileceğine defalarca safça inandı ve bu batıl inanç gerçeklikte defalarca paramparça oldu. Bundan on üç yıl sonra, altmışlı yıllarda bir hippi tarafından yazılan bu dize, bugün piyasa değeri bir trilyon doları aşan bir yapay zekâ devinin patronunun makalesinin başlığı oldu.
Ancak şiiri yazan Brautigan'ın kendisi, o sevgi dolu makinelerin gelişini göremedi. 1984 sonbaharında, Kaliforniya'nın Bolinas sahil kasabasındaki evinde silahla intihar etti. Özel dedektif olan bir arkadaşı kapıyı açtığında, cesedini oturma odasının soğuk zemininde buldu.
O zamanlar, bir aydan fazla bir süredir orada sessizce yatıyordu.
Orijinal bağlantı
BlockBeats Resmi Topluluğuna Katılın:
Telegram Abonelik Grubu: https://t.me/theblockbeats
Telegram Sohbet Grubu: https://t.me/BlockBeats_App
Twitter Resmi Hesabı: https://twitter.com/BlockBeatsAsia