Partnered With:

Anthropic, Dario Amodei ve "Son Özel Şirket"

Bu makaleyi okumak için 43 Dakika

Ticari çıkarlar ve medeniyet misyonu birbirini taşır.

Orijinal Başlık: "Anthropic, Dario Amodei ve 'Son Özel Şirket'"
Orijinal Yazar: Dongcha Beating

Anthropic'in kurucusu Dario Amodei hakkında iki farklı söylenti dolaşıyor; birbiriyle çelişiyor ama ikisi de mantıklı.

Bir söylentiye göre, o bu çağın en bilinçli bekçisi. Tüm dünya süper zekâ uçurumuna doğru gaz pedalına basarken, sadece o yol kenarında durup defalarca bağırıyor: Önünüz uçurum.

Diğer söylentiye göre, o Silikon Vadisi'nin en hırslı insanlarından biri. Dünyanın en güçlü yapay zekâ şirketini yönetiyor, gece gündüz çalışıyor ve herkesin uyardığı o geleceği, adım adım, kendi elleriyle inşa ediyor.

Bir insan gerçekten de bu iki şeyi aynı anda yapabilir.

Hayalindeki o dünyaya bir isim verdi: "Veri Merkezlerindeki Dâhiler Ülkesi." O ülkede elli milyon dâhi var; uyumuyorlar, günde yirmi dört saat çalışıyorlar, düşünme hızları sıradan insanların onlarca katı ve kendileri gibi sayısız dâhi kopyalayabiliyorlar. Bu ülkenin toprağı yok, sınırı yok; sıra sıra veri merkezlerinde yer alıyor.

Ocak 2026'da bu hayalini uzun bir makaleye döktü; başlığı "Teknolojinin Ergenliği" idi.

Sonra bir adım daha ileri gitti. Ya bir gün bu elli milyon dâhi insanların sözünü dinlemezse ne olur?

Sonrasındaki görüntüler tehlikeli hale geliyor. Biyolojik silahlar, kitlesel işsizlik, diktatörlük, savaş; birer birer sayıyor. Sonunda diyor ki: Bize kalan zaman az.

Ama aynı makalede şunu da yazıyor: "Yapay zekâ zaten Anthropic için büyük miktarda kod yazıyor ve bir sonraki nesil modellerin daha hızlı geliştirilmesine yardımcı oluyor."

Bir yandan uyarıyor, bir yandan hızlanıyor. Bunda bir çelişki olduğunu düşünmüyor.

Tüm sorunun başlangıcı bu; o kötü biri değil, gerçekten bunun bir çelişki olmadığını düşünüyor.

Elbette onun bir açıklaması var. Anthropic dursa, OpenAI durmaz, Google durmaz, diğer ülkelerin şirketleri de durmaz. Kimse ilk bırakmak istemez; ilk duran, çoğu zaman hiçbir şeyi engelleyemez, sadece meyveyi başkalarına bırakır.

Bu söylemin tercümesi şudur: Madem herkes yarışıyor, o zaman "ben" birinci olayım. Madem kimse duramıyor, o zaman ne zaman duracağına "ben" karar vereyim.

Bu durumda, süper zekânın yapılıp yapılmaması aslında o kadar da önemli değil. Onun tahminine göre, er ya da geç yapılacak. Asıl önemli olan, onu ilk kimin yapacağı ve o gün geldiğinde direksiyonu kimin tutmaya hak kazanacağı.

Çok Geç

Dario Amodei, 1983 yılında San Francisco'da doğdu, 1983. Babası İtalya'nın Toskana bölgesindendi ve hayatı boyunca deri eşya işiyle uğraştı; annesi ise Chicago'lu bir Yahudiydi ve San Francisco Halk Kütüphanesi'nin planlanması ve inşasında emeği geçti.

Küçüklüğünden beri matematik ve fiziği severdi. 1990'ların sonunda, Körfez Bölgesi'ndeki internet balonu sırasında şirketler birbiri ardına ortaya çıkıyor, gençler web siteleri yazıyor, yatırım arıyor ve halka arz gününde ne kadar para kazanacaklarını hesaplıyordu. Bu hikayeler onu etkilemedi. Yıllar sonra, o dönemde aradığı şeyin "temel bilimsel gerçekler" olduğunu söyledi; sadece dünyanın neden böyle olduğunu anlamak istiyordu.

"Önemli meseleler" konusunda çok erken yaşlardan itibaren neredeyse inatçı bir ciddiyeti vardı. Bir şeyin yeterince önemli olduğuna kanaat getirdiğinde, insanların nasıl olup da hiçbir şey olmamış gibi yavaşlayabildiğini anlayamıyordu.

2003 yılında, ABD Irak'a savaş açacaktı ve o Caltech'te okuyordu. Kampüste savaş karşıtı pek çok kişi vardı. Sohbetlerde bazıları endişeli sözler söylüyordu; ertesi gün herkes normal şekilde derslerine devam ediyordu. Öğrenci gazetesinde sınıf arkadaşlarını eleştiren bir yazı yazdı: Eğer bir savaşın birçok insanı öldüreceğinden gerçekten korkuyorsanız, karşı çıkış sadece lafta kalmamalı; savaş gerçekleştiğinde pişman olmak için çok geç olur.

Ona göre, tereddüt hiçbir zaman tarafsızlık değildir. Beklemek, başlı başına bir seçimdir.

Bu yirmi yaşındaki genç adamın en tahammül edemediği şey beklemekti.

Üç yıl sonra, yirmi üç yaşındayken, babası hepatit C'den öldü.

O dönemde hepatit C neredeyse tedavi edilemezdi. Standart tedavi bir yıl boyunca interferon enjeksiyonuydu, ancak ateş, saç dökülmesi ve depresyona neden oluyordu ve iyileşme oranı yarıdan azdı.

Aralık 2013'te yeni bir ilaç onaylandı. Tedavi süresi on iki haftaya indi ve iyileşme oranı yüzde doksan beş oldu.

Babası bunu göremedi.

Sadece yedi yıl eksikti.

Babasını kurtaramayan bir oğul, sonraki yirmi yıl boyunca bilimi daha hızlı, daha da hızlı ilerlemeye zorladı.

Babasının ölümünden sonra teorik fizikten biyofiziğe geçti ve Princeton'da retinanın sinir devreleri üzerinde çalıştı. O dönemdeki cihazlar bir seferde çok az sinir sinyali kaydedebiliyordu; bu onun için çok yavaştı, bu yüzden yeni sensörler geliştirmeye katıldı.

Daha sonra Stanford Tıp Fakültesi'ne girdi ve kanser ile proteinler üzerine araştırma yaptı. Hastalığa yaklaştıkça insan daha da küçük görünüyor. Bir hastalık yüzlerce geni, binlerce proteini ve sayısız birbirine bağlı yolu içeriyor. Araştırmacılar yıllarını harcayarak belki bu zincirin yalnızca bir halkasını anlayabiliyor, ancak onu tüm vücuda geri koyduklarında ne olacağını hâlâ bilmiyorlar.

Daha sonra bu karmaşıklığın onu neredeyse umutsuzluğa sürüklediğini anlattı.

AI tam da bu sırada görüş alanına girdi; insanın ölçeğini genişletebilecek bir araçtı. Makine aynı anda birçok makaleyi okuyabilir, birçok veriyi işleyebilir, birçok olasılığı deneyebilir ve yüzlerce, binlerce araştırmacının birlikte yapması gereken bilişsel emeğin yerini alabilirdi.

"İnsan çok küçük" noktasından yola çıkarak, insanı bir kez daha sıkıştıracak daha büyük bir şey inşa etme sonucuna ulaştı.

2014'te yaşam bilimlerinden ayrıldı ve Baidu'nun Silikon Vadisi'ndeki yapay zekâ ekibine katıldı. Ekip kısa sürede fark etti ki model biraz daha büyük, veri biraz daha fazla ve hesaplama gücü biraz daha artırıldığında sonuçlar daha da iyileşiyordu. Yıllar sonra bu deneyim "ölçek yasası" olarak özetlendi; bir sonraki modelin aniden ne öğreneceğini bilmesen de, bir öncekinden kesinlikle daha güçlü olacağını kabaca tahmin edebilirsin.

Zekâ ilk kez endüstriyel bir ürün gibi üretilebilir göründü. Güçlü bir AI da er ya da geç ortaya çıkacak bir şey hâline geldi.

Geriye kalan fark yalnızca ne kadar veri, ne kadar çip, ne kadar elektrik ve ne kadar beklemek gerektiğiydi.

Beklemekten en çok nefret eden kişi, istediği cevaba giden yolun var olduğunu kendi elleriyle kanıtladı.

Direksiyon

2016'da Dario Amodei OpenAI'ye katıldı.

Sonraki yıllarda dil modelleri hızla büyüdü. GPT-3'e gelindiğinde OpenAI, hesaplama gücünün yarısından fazlasını Dario'ya verdi ve modelin ölçeğini yüz kat büyütmesini sağladı. Sonuç, birçok kişinin beklediğinden daha çarpıcıydı; makale yazabiliyor, çeviri yapabiliyor, özet çıkarabiliyor ve kimsenin öğretmediği, kendi kendine öğrendiği yeteneklere sahipti.

Ölçek bir birim arttıkça yetenek de bir birim artıyor.

Bu yolun genel zekâya ulaştığına emindi. Ve modelin sonunda insan kadar zeki olabileceğini kabul ettiğinizde, güvenlik artık önemsiz bir konu olarak görülemezdi.

Sonra sorunu fark etti. Dario modeli inşa etmekten sorumluydu, ancak zamanla modeli inşa etmenin ve modelin nereye gideceğine karar vermenin tamamen farklı şeyler olduğunu keşfetti. Modelin ne zaman yayınlanacağı, ne kadar açık olacağı, hangi şirketlerle iş birliği yapılacağı ve kimin karar yetkisine sahip olacağı, onun eğitimden sorumlu olması nedeniyle otomatik olarak kendisine bağlı değildi.

OpenAI içinde iki grup oluştu. Bir grup teknolojiyi hızla dünyaya sunmak istiyor; diğer grup ise şirketin kim tarafından yönetildiğinin ve hangi ilkelere göre hareket ettiğinin, belirli bir teknik detaydan daha önemli olabileceğinden endişeleniyor.

Peki, güçlü bir zekâ üreten bir şirketi yönetmeye gerçekten kim layık olabilir?

Onun cevabı şuydu: Liderler dürüst olmalı, motivasyonları samimi olmalı ve gerçekten dünyanın daha iyi bir yer olmasını istemeliler.

Teknik güvenlik, yavaş yavaş insan yargısına dönüştü. Bu çıkarım tehlikeli ve aynı zamanda oldukça mantıklı. Tehlikeli olan kısmı, tüm karmaşık sorunları sonunda tek bir şeye indirgemesi: Bu kişiye güvenilir mi? Ve bu çıkarımda her zaman eksik olan bir halka var: Bu kişiye güvenilip güvenilmeyeceğine kim karar verecek?

2020'ye gelindiğinde, OpenAI liderliğiyle arasındaki çatışma artık uzlaştırılamaz hale gelmişti. O yılın Aralık ayında, kız kardeşi Daniela, Jack Clark, Chris Olah ve birkaç meslektaşıyla birlikte OpenAI'den ayrıldı. Dario pandaları sevdiği için, bu küçük grup içeride "Panda Grubu" olarak adlandırılıyordu.

Birkaç ay sonra Anthropic'i kurdular. Anthropic, sözlükte "insanla ilgili" anlamına gelir.

Bu sefer Dario, direksiyonu başkasına devretmeye niyetli değildi.

Yirmi Kişi

2021'de San Francisco'daki salgın henüz bitmemişti.

Anthropic yeni kurulmuştu, sadece on beş ila yirmi kişi vardı. Çoğu zaman herkes Zoom üzerinden toplantı yapıyordu; haftada bir gün seçip, herkes kendi sandalyesini getirip parkta buluşuyordu. Öğle yemeği yerken modeller, hesaplama gücü, güvenlik araştırmaları ve bu şirketin nasıl bir yapıya sahip olması gerektiği hakkında konuşuyorlardı.

Yirmiden az kişi, San Francisco'nun çimenlerinde oturmuş, ellerinde belki yarım kalmış bir salata kutusu, sekiz milyar insanın geleceği için endişeleniyordu.

Ölçek yasaları onlara geleceğin kesinlikle geleceğini söylüyordu. Madem gelecek, birileri yolu önceden hazırlamalıydı. "Birileri hazırlamalı" ifadesi, tüm meşruiyet argümanıydı.

Anthropic kendine şu hedefi koydu: En ileri modelleri inşa ederken, onu anlamak ve kontrol etmek için araştırmalar yapmak ve bu güvenlik yöntemlerini diğer şirketlerin standardı haline getirmek.

Dario, OpenAI'de bir kez kaybetmişti. Teknolojinin dışında durup güvenlik hakkında konuşmanın, sonunda çoğunlukla gerçekten modeli elinde tutanlara sadece tavsiye vermekten ibaret olacağını anlamıştı. Ne kadar güzel sözler söylenirse söylensin, bu sadece kıyıda durup suda yüzenlere yüzme öğretmek gibiydi.

Kendi ellerinle işe koyulmak zorundasın.

Bu, Anthropic'ı kuruluşunun ilk gününden itibaren çelişkili bir konuma soktu. En güçlü modelin tehlikelerini bilmek için önce en güçlü modele sahip olman gerekir; düzenlemeleri etkilemek için önce sektörde ağırlığın olmalı.

Böylece Anthropic, tüm öncü büyük model şirketlerinin kaçamadığı döngüye hızla girdi: finansman toplamak, hesaplama gücü satın almak, modeller eğitmek, ürünler piyasaya sürmek, müşteri kapmak ve yeni gelir ile değerlemeyle daha fazla hesaplama gücü elde etmek.

Dario, şirketi büyütmenin dünyayı korumak olduğunu söylüyor. Yatırımcılar da Anthropic'a yatırım yapmanın daha sorumlu bir yapay zeka şirketine yatırım yapmak olduğuna inanmak istiyor.

Bu anlatının incelikli yanı şu: Ne kadar çok para kazanırsa, o kadar ahlaklı görünüyor; şirketin değerlemesi ne kadar yüksekse, "dünyayı koruma" iddiası için o kadar fazla kanıtı oluyor.

Ticari çıkarlar ve medeniyet misyonu birbirini taşıyor.

Yönü Dario belirliyor. Uzun yazılar yazıyor, medeniyet, bilim ve insanlığın geleceği hakkında konuşuyor. Bu büyük vizyonları hayata geçiren ise kız kardeşi Daniela; işe alım, ekip kurma ve finansman bulma işlerini o yönetiyor.

Şirketin başlangıç noktası, neredeyse çürütülemez bir büyük vizyon:

Güçlü yapay zeka yaklaşıyor ve dünyanın en öne geçecek daha güvenilir bir şirkete ihtiyacı var.

"Daha güvenilir" ifadesi şirketin kendi iddiası.

Bu anlatı, Anthropic'a güçlü bir birlik duygusu kazandırdı. Katılanlar sadece daha yüksek maaşlı bir iş aramıyor. İnsanlık medeniyetiyle ilgili büyük bir iş yaptıklarına inanıyorlar.

Bir şirketin en korkunç hali, çalışanlarının gerçekten insanlığı kurtardıklarına inanmasıdır.Çünkü o andan itibaren, ticari genişleme otomatik olarak kutsal bir savaşa dönüşür; tüm karşıt sesler otomatik olarak insanlığa ihanet haline gelir.

Kuruluşun ilk birkaç yılında Anthropic, bir yapay zeka şirketinin diğerlerinden daha temkinli ve daha sorumlu olabileceğini kanıtlamak istedi. Bu dilek muhtemelen samimiydi.

Ama samimiyet asla doğruluğu garanti etmez. Samimi insanlar hata yaptığında, genellikle ikiyüzlülerden daha sorunludur, çünkü kendilerine asla şu soruyu sormayı bırakmazlar:

Sorumlu olmak gerçekten ne anlama geliyor?

Özel bir şirket, hangi hakla tüm dünya adına karar veriyor?

Cetvel

Erken dönem büyük model eğitimleri genellikle çok sayıda insan etiketleyicinin yanıtları değerlendirmesine dayanıyordu. Hangi yanıt daha iyi, hangi içerik zararlı, model reddetmeli mi — tüm bunlar önce insanlar tarafından yargılanıyor, ardından bu tercihler makineye geri besleniyordu.

Bu yöntem etkili ama hantaldı. Etiketleyiciler farklı yerlerden geliyordu ve değer yargıları da farklıydı. Kurallar ne kadar detaylı yazılırsa yazılsın, tüm durumları kapsayamıyordu.

Anthropic başka bir yol düşündü: insanların modele her soru için tekrar tekrar nasıl yanıt vereceğini söylemesi yerine, ona önce bir dizi ilke vermek. 2022'de Anthropic "Anayasal Yapay Zeka"yı önerdi. Yöntem kabaca şöyleydi: önce modelin yanıt üretmesi, ardından yazılı bir ilke setine göre kendi yanıtındaki kusurları bulması, sorunları tespit edip yeniden düzeltmesi.

Bu "anayasa" giderek uzuyor. Gücü anlaması, çıkar çatışmalarını anlaması, olgunluğun ne demek olduğunu, bilgeliğin ne demek olduğunu bilmesi gerekiyor. Hatta kendi kimliğini, durumunu ve refahını düşünmesi, kendini içsel değeri olmayan basit bir araç olarak görmemesi gerekiyor.

Şekillendirdiği şey bir kişilik.

Anthropic anayasada şunu yazdı: bu belge doğrudan Claude'un davranışını şekillendirir, şirketin Claude'un değerleri ve karakteri hakkındaki vizyonunu temsil eder ve Claude'un nasıl hareket etmesi gerektiğini anlamak için "nihai otorite"dir. Tarihte bu tür işleri yönetenler kiliseler, imparatorlar, siyasi partilerdi. Şimdi ise özel bir şirket.

Ancak büyük bir modelin dünya üzerindeki etkisi artık tek bir tüketimden ibaret değil. Claude'un reddettiği şeyler, teşvik ettiği şeyler, bir ülkeyi, bir savaşı veya bir siyasi sistemi nasıl tanımladığı — tüm bunlar aşağı akıştaki ürünleri etkiliyor ve başkalarının dünyayı anlama biçiminin bir parçası haline geliyor.

Anthropic hâlâ bir şirket gibi kararlar alıyor, ancak bu kararların etkisi giderek bir kamu kurumuna benziyor, yine de bir kamu kurumunun maruz kaldığı hiçbir denetime tabi değil.

Modele anayasayı yazdıktan sonra Anthropic sektör için trafik kuralları tasarlamaya başladı. 2023'te şirket "Sorumlu Ölçeklendirme Politikası"nı çıkardı. Sadece e-posta yazabilen bir model ile biyolojik silah tasarlayabilen ve karmaşık siber saldırılar başlatabilen bir model, açıkça aynı yöntemle yönetilemez. Bu yüzden Anthropic modellere farklı risk seviyeleri belirledi. Yetenek ne kadar güçlüyse, çıkarabileceği sorun o kadar büyük olur ve şirketin o kadar sıkı güvenlik önlemleri uygulaması gerekir.

Özel bir şirket, böylece aynı anda birden fazla rol üstlendi. Modeli üretiyor; model üretildikten sonra ne kadar tehlikeli olduğunu test eden de o; neyin tehlikeli sayılacağının standardını koyan da o; tehlikenin hangi noktada durdurulması gerektiğinin sınırını çizen de o; son olarak, bu sonuçları alıp düzenleyicilere nasıl kural koymaları gerektiğini söyleyen de o.

Hem oyuncu, hem hakem olmak.

Anthropic açıkça bu durumu da düşünmüş. Şirketin sonunda tamamen ticari çıkarlar tarafından yutulmaması için Anthropic, uzun vadeli çıkar tröstü tasarladı. Bu tröst, şirketin ekonomik çıkarlarını doğrudan elinde tutmayan dış üyelerden oluşuyor; amaç, Anthropic'in hissedar getirilerinin yanı sıra insanlığın uzun vadeli çıkarlarını da gözetmesini sağlamak. İlk tasarıma göre, tröst adım adım yönetim kurulu üyelerinin çoğunluğunu atama yetkisini elde edecek ve şirket misyonundan saptığında fren görevi görecekti.

Kurumsal yönetim açısından bu tür bir düzenleme oldukça nadirdir. Çoğu girişim fon toplarken yatırımcılara hızlı büyüyeceğini kanıtlamakla meşguldür. Anthropic ise tam tersini yaparak, gelecekteki yatırımcıların ve yönetimin para kazanmak için güvenlik taahhütlerini bir kenara atmasını önleyecek bir yapı kurdu.

Bunların gösteriş olduğu söylenemez. Anthropic, teknoloji şirketlerinin büyük çoğunluğundan daha ciddi bir şekilde güç konusunu düşünüyor ve kendine zorluk çıkarmaktan da kaçınmıyor. Ancak baştan sona ciddi şekilde düşündüğü tek şey, bu gücü nasıl daha iyi kullanacağı, gücü isteyip istemeyeceği değil.

Doğuştan misyonu olan bir şirket asla "ben neden varım" diye sormaz. Sadece "nasıl daha iyi var olabilirim" diye sorar.

"Sana bu gücü kim verdi" sorusuna cevap vermez; sadece gücün zaten elinde olduğunu ve nasıl iyi bir insan olmayı planladığını anlatır.

Bu noktada Dario artık sadece bir şirket yönetmiyor. Güvenlik anlayışı modelin karakterine, kamu politikalarına sızıyor. Ardından hangi ülkenin güçlü yapay zekayı ilk alması gerektiğini, hangi siyasi sistemin korunmaya değer olduğunu, dünyanın yapay zekaya erişim sırasını kimin belirleyeceğini konuşmaya başlıyor.

Geleceği Önce Amerika Alır

2024'te Dario Amodei, "Machines of Loving Grace"i yazdı.

Bu isim bir şiirden alınmıştır. 1967'de şair Richard Brautigan, Kaliforniya Teknoloji Enstitüsü'nde "All Watched Over by Machines of Loving Grace"i yazdı:

Makinelerin her şeyle barışmasını anlatan bir şiir. Başlığı ödünç alarak insanlık tarihinin en iyimser teknoloji kehanetlerinden birini yazdı.

Güçlü yapay zeka, sayısız üst düzey bilim insanından oluşan bir araştırma ekibi gibi olacak; gece gündüz makaleler okuyacak, deneyler tasarlayacak ve onlarca yıllık bilimsel ilerlemeyi birkaç yıla sıkıştıracak. Kanser, bulaşıcı hastalıklar, genetik hastalıklar büyük ölçekte çözülebilir. İnsanlık belki de depresyon, anksiyete ve bağımlılığın nasıl oluştuğunu gerçekten anlayabilir. Yaşam süresi uzayabilir, yoksul ülkeler sanayileşmeyi atlayabilir.

Son derece cesur bir tahminde bulunuyor: Güçlü yapay zeka gelişimi sorunsuz ilerlerse, önümüzdeki 50 ila 100 yıllık biyomedikal ilerleme, 5 ila 10 yıl içinde tamamlanabilir.

Babasını hatırlamamak elde değil.

Oğlu yedi yıl bekledi, yeni bir ilacın onaylanmasını; bu ilaç başkalarını kurtarabilirdi ama artık onu kurtaramazdı. Gelecekteki insanların artık beklemek zorunda kalmamasını umuyor.

Onun ideal dünyasında, bu teknolojinin hastalıkları, acıyı ve ölümü azaltabileceğine gerçekten inanıyor. Hatta yapay zekanın faydalarının yalnızca zengin ülkelere gitmemesi için özel olarak tartışıyor; yapay zekanın küresel Güney'in kalkınmasına yardımcı olmasını ve teknolojik kazanımların mümkün olduğunca tüm dünyaya yayılmasını umuyor.

Ama bu geleceğe nasıl ulaşılacağını konuşmaya başladığında, işler artık o kadar kardeşçe değil.

Güçlü yapay zeka ortaya çıktığında, devletlerin avantajı elinde tutması gerektiğini düşünüyor. Bu avantaj, yalnızca bir şirketin ürününün daha iyi olması veya sıralamada birkaç puan daha yüksek olması olamaz. Çiplere, hesaplama gücüne, enerjiye, tedarik zincirlerine, askeri güce ve uluslararası ittifaklara dayanmalı.

ABD ve müttefikleri daha fazla gelişmiş yarı iletken elde etmeli, daha büyük ölçekli veri merkezleri kurmalı ve aynı zamanda stratejik rakiplerini sıkıştırarak en güçlü modelleri eğitmek için gereken çiplere ulaşmalarını engellemelidir. Güçlü yapay zeka gerçekten geldiğinde, askeri ve ekonomik avantajı genişletmek için ondan yararlanmalı ve başka ülkelerin kolayca sarsamayacağı bir konum oluşturmalıdır.

Ancak ondan sonra sıra paylaşıma gelir.

İlaçlar dağıtılacak, çipler sıkıştırılacak. Vaadettiği "gelecekteki insanların artık beklemek zorunda kalmaması"nın gerçek versiyonu, "uygun koşulları sağlayan insanların artık beklemek zorunda kalmaması"dır. Kimin uygun olduğuna ise o karar verir.

Bu durumu "ebedi 1991" olarak bile tanımlıyor. 1991'de Sovyetler Birliği dağıldı, Soğuk Savaş sona erdi ve ABD ile müttefikleri ezici bir üstünlük elde etti. Güçlü yapay zekanın böyle bir tarihsel anı yeniden yaratmasını umuyor.

Bu benzetmenin değerine dikkat edin.İnsanlığa fayda sağlayacağını iddia eden bir teknolojinin ideal modeli, insanlık tarihindeki en köklü tek kutuplu hegemonyadır.

"Dünya herkesindir" dört kelimesi güzel yazılmış. Sadece "dünya" ABD'ye, "herkes" ise Anthropic'e ait.

Sonra DeepSeek ortaya çıktı. Çinli bir şirket, nispeten sınırlı kaynaklarla rekabetçi bir model eğitti. Dario'nun görüşüne göre, bu tam olarak Çin'in mükemmel araştırmacılara ve mühendislik yeteneklerine sahip olduğunu kanıtlıyor. Yeterince gelişmiş çip elde ettiklerinde, Çinli şirketler dünyanın en güçlü modelini eğitebilir.

Bu yüzden, çipe onu kesinlikle veremeyiz.

Rakip ne kadar güçlenirse, ambargonun doğru olduğunu o kadar kanıtlar; rakip yeteneğini kanıtladıkça, ambargo için bir gerekçe haline gelir. Bu mantık her zaman tutarlıdır, çünkü kendi kuyruğunu yiyen bir yılandır.

Geleceği ikiye ayırıyor. Biri iki kutuplu dünya: her iki taraf da son derece güçlü modeller eğitebilir, zeka yarışı yeni bir soğuk savaşa dönüşür. Diğeri tek kutuplu dünya: ABD ve müttefikleri gelişmiş hesaplama gücünün büyük kısmını elinde tutar, Batı bu önde olduğu birkaç yılı kullanarak teknolojik, ekonomik ve askeri üstünlük kurar ve bu üstünlüğü kalıcı hale getirir.

Açıkça ikinci geleceği daha çok arzuluyor. İnsanlığa fayda sağlamak, artık beklemeye gerek olmaması, makinelerin her şeyle barışması—bunların hepsi "sonsuz tek kutupluluk" karşısında sadece birer önsöz.

Bir zamanlar bir anlatıya açıkça karşı çıkmıştı: AI şirketlerinin kurucularının kendilerini insanlığı kurtuluşa götüren peygamberler olarak tanımlamasından hoşlanmadığını söylemiş, ayrıca az sayıda şirketin teknolojik avantajlarına dayanarak herkesin geleceğini tek taraflı şekillendirmesine karşı uyarıda bulunmuştu.

Peygamberlere karşı çıktı. Ama yaptığı şey, peygamberlerin yaptığıyla aynıydı.

Tüm tehlikeleri gördü, kendisi hariç

Şimdi zamanı 2026 Ocak'ındaki "Teknolojinin Ergenliği"ne geri saralım.

Bu makalede Dario Amodei, dışarıdan kendisine ve Anthropic'e yöneltilen neredeyse tüm eleştirileri önceden kendisi yazmış.

Öncü AI şirketlerinin tarihte çok az özel şirketin elinde tuttuğu bir gücü ele geçirdiğini kabul ediyor. Hatta perdeyi aralayıp AI şirketlerinin ürünleri aracılığıyla kullanıcıların siyasi tutumlarını etkileyebileceğini, hatta kullanıcıları "beyin yıkayabileceğini" söylüyor. Kamuoyunun AI şirketlerini sıkı sıkıya izlemesi gerektiğini, hükümetlerin de bu şirketlerin devlet gücüne çok yaklaşmasına karşı tetikte olması gerektiğini savunuyor.

Ayrıca AI'ın serveti ve siyasi gücü daha da merkezileştireceğinden endişeleniyor. Az sayıda şirket zeka, servet ve bilgiyi elinde tutarken, sıradan vatandaşların ekonomi ve hükümet üzerindeki etkisi giderek zayıflıyor.

Bu tehlikelerin hepsini gördü. Açık ve yerinde yazdı. Güç merkezinde duran çok az insan, kendi konumunun ne kadar tehlikeli olduğunu bu kadar dürüstçe itiraf eder.

Tam da bu kadar iyi yazdığı için şu soruyu sormak zorundayız: Peki sonra?

Her çözüm önerisi sonunda aynı yöne dönüyor. Onun çözümünü sonuna kadar takip ettiğinizde, Anthropic her seferinde daha fazla güç kazanıyor. Model ne kadar tehlikeli olursa, Anthropic'in ön saflarda kalması o kadar gerekli; hükümet teknolojiyi ne kadar az anlarsa, Anthropic'in yargısına o kadar bağımlı; halk modelden ne kadar kolay etkilenirse, Anthropic'in modelin değerlerini yazması o kadar zorunlu; diğer ülkeler ne kadar güvenilmezse, ABD ve AI şirketlerinin çipleri ve hesaplama gücünü o kadar fazla elinde tutması gerekiyor.

Her hastalık için aynı reçeteyi yazdığını kabul ediyor: Anthropic.

Bu teknolojinin herkesin eline gelmeyecek kadar tehlikeli olduğuna içtenlikle inandığını düşünüyor. Ayrıca bu tehlikeyi çoğu insandan daha erken gördüğüne de inanıyor.

İçten insanlar, bazen kendilerini kandıran ilk kişilerdir. Özellikle de kendini kandırmanın getirisi bu kadar büyükken.

Bu teknolojinin herkesin eline gelmeyecek kadar tehlikeli olduğuna içtenlikle inanıyor gibi görünüyor. Ve bu tehlikeyi çoğu insandan daha erken gördüğüne de içtenlikle inanıyor.

Bu iki cümle bir araya geldiğinde, eksiksiz bir kendini yetkilendirme oluşturuyor. Kendisini insanlığın koruyucusu ilan etmesine asla gerek yok. Sadece yeterince güvenilir bulmadığı insanları sürekli elemesi yeterli: piyasa olmaz, halk olmaz, otoriter devletler olmaz, diğer şirketler de yeterince temkinli değil. Herkes elendiğinde, direksiyonu tutmaya en uygun kişi olarak geriye tam da Anthropic kalıyor.

Eleme yönteminin sonu her zaman kendisidir.

İnsanlığın geleceğine karar verme yetkisinin kimseye verilebileceğine inanmıyor.

Bu yüzden, kendisi karar vermeye karar verdi.

Son Özel Şirket

14 Ağustos 2026'da, bir podcast'ten tek bir cümle yayıldı.

"Anthropic'in içinde son derece kendinden eminler. Güvendiğim birçok kişi bana Dario'nun şunu söylediğini aktardı: Anthropic bir gün dünyadaki tek özel şirket olabilir."

Bunu söyleyen kişi, SpaceX'e yatırım yapmış bir hedge fon yöneticisi olan Gavin Baker'dı. O vizyonda yalnızca Anthropic'in ve ardından hükümetlerin olduğunu ekledi. Hepsi bu.

Bir gün içinde bu söz sosyal medyada yayıldı.

Eski Beyaz Saray Yapay Zeka ve Kripto Para Danışmanı, şu anki Başkanın Teknoloji Danışma Konseyi Eş Başkanı David Sacks şunları söyledi: "Bu çok kibirli. SBF'yi andıracak kadar küstahça."

Ertesi gün akşamüstü, Dario X'te iki uzun yazıyla yanıt verdi.

İlk yazı düzenlemelerle ilgiliydi. "Ya merkezileşme ya da dağıtım"ın sahte bir seçim olduğunu söyledi; gerçekten iyi bir sistem, gücü tam da merkezden uzaklaştırabilir:

「Resmi mahkeme sistemi bazen katı ve seçkinci görünebilir, ancak diğer seçeneğe — çete adaletine — kıyasla zayıfları daha iyi korur. Kurumlar en iyi ihtimalle gücü kişilere değil, fikirlere verebilir.»

İkinci yazı bilgi aktarımı üzerine. Halkın yapay zekâya yönelik olumsuz duygularının bir güven krizi olduğunu söylüyor. Ardından iki uzun yazının en ağır kısmını kaleme alıyor:

«Bence yapay zekâ şirketlerine, Anthropic dahil, yöneltilen en doğru eleştiri, dünyaya fayda sağlama yönündeki büyük sözlerimizi henüz tutmamış olmamızdır. Bu tamamen bizim suçumuz.»

«Gerçekten işe yarayacak şey, kanseri gerçekten tedavi etmektir.»

İki uzun yazıda, o söylentiye tek bir cümleyle bile doğrudan yanıt verilmiyor. Gerçek bir sorunla, başka bir gerçek sorundan kaçınıyor.

Kanseri gerçekten tedavi etmek istediğini söylüyor. Bununla, yapay zekâyı tüm tıp bilimini ilerletmek için kullanmayı, yeni ilaçların herhangi bir hastalıktan daha hızlı gelmesini kastediyor.

Bu, 2006'da ölen birine söylenen bir söz. O kişi bir ilacı uzun süre bekledi, ama beklediğini alamadı.

O günden sonra yavaşlığın bir suç olduğuna inandı. Yavaşlığın suç olduğuna inanan biri, hızı tek panzehir olarak görür. Panzehir iyi bir şeydir. Sadece herkesin, panzehirin yalnızca kendisi tarafından hazırlanabileceğine inanmasını istiyor.

1986'da İngiliz yazar Alan Moore, daha sonra filme uyarlanan Watchmen adlı bir çizgi roman yayımladı. Filmde Adrian Veidt adında, Firavun olarak bilinen, dünyanın en zeki insanı olduğu söylenen biri var.

Felaketin geleceğini herkesten önce gördü. Nükleer savaş, kıyamet, insanlığın kendini yok etmesi. Bunun için yarım ömür hazırlandı. Sonra anladı ki sadece uyarmak işe yaramıyor.

Bu yüzden felaketi kendi elleriyle tetikledi. Bir gecede birkaç şehir haritadan silindi.

İnsanlığın yıkımı kendi gözleriyle görmesi halinde iki süper gücün duracağını ve dünyanın sonsuza dek barışa kavuşacağını düşündü.

O bir katil ve aynı zamanda kendi kendini kurtarıcı ilan etmiş biri.

Hikâyenin sonunda her şey istediği gibi olur. Mavi, neredeyse her şeyi bilen Manhattan Doktoru'na sorar:

«Son mu? Adrian, hiçbir şey sona ermez. Hiçbir şey, asla sona ermez.»