Durdurulan Fable 5 ve durdurulamayan yapay zeka

Bu makaleyi okumak için 27 Dakika

Güçlü bir Anthropic bile, bu hızlanma çağında sürekli frene basmaktan bahseden nadir isimlerden biri olmasına rağmen, sonuçta önce yeterince hızlı koşabildiğini kanıtlamak zorunda kalıyor.

Kapak Görseli: 《AI BUBBLE》Beeple

Yazar: Sleepy

Şu anki yapay zeka şirketleri, ağızlarında en çok uyardıkları şey, aslında ellerinde var gücüyle inşa ettikleri şeydir.

Toplantılarda risklerden bahsederken herkesten daha samimi konuşurlar, teknolojinin çok hızlı ilerlediğini ve birilerinin buna bir düzen getirmesi gerektiğini söylerler. Toplantı biter, modeller her zamanki gibi yayınlanır, üstelik her biri bir öncekinden daha güçlü ve zaman çizelgeleri giderek sıkışır.

Aynı kişiler, aynı ağız; sabah uyarı yapar, öğleden sonra hızlanır. Rol yaptıklarını söylemek zor, ama o durmaksızın ilerleyen makine de gerçek; bir gün bile durmadı ve giderek hızlanıyor.

Anthropic'in en son yayınladığı Fable 5 modeli yalnızca üç gün yaşadı.

9 Haziran'da piyasaya sürüldü, 12 Haziran'da durduruldu. O öğleden sonra Anthropic, ABD hükümetinden bir telefon aldı ve kendilerine 90 dakika süre tanındı. Akşam saat 17:21'de resmi talimat geldi: Nerede olurlarsa olsunlar, tüm yabancı uyruklu kişiler bu modeli kullanamayacaktı; Anthropic'in kendi yabancı çalışanları bile. Gerekçe: ulusal güvenlik.

Ulusal güvenlik gibi bir kavramın bir modele atfedilmesi kulağa biraz ağır gelebilir. Ama bunun gerçekleşmesinin nedeni Fable'ın sıradan bir model olmamasıydı. Bu model, Anthropic'in uzun süredir yayınlamadığı Mythos'un "güvenli versiyonu"ydu; bir güvenlik katmanıyla insanların siber saldırı, bilimsel araştırma gibi ciddi sonuçlar doğurabilecek eylemlerde bulunmasını engelliyordu. Ancak Amazon, ABD hükümetine bir rapor sundu ve bazı kişilerin güvenlik duvarını aşarak doğrudan Fable üzerinden Mythos modelini kullanabildiğini belirtti. ABD hükümetinin endişelendiği nokta buydu ve kararlı bir şekilde müdahale etti.

Anthropic, muhtemelen dünyada yapay zeka risklerini en ciddiye alan şirket. Ancak ne yazık ki son iki yılda model yetenekleri o kadar hızlı gelişti ki, tüm sektör yalnızca tek bir yönü tanıyor: ileri.

Anthropic, rakiplerinden daha önce, bu şekilde devam edilirse teknolojinin kontrolden çıkma riski olabileceği konusunda uyarılarda bulundu ve hatta hükümetin tehlikeli modelleri durdurma yetkisine sahip olması gerektiğini söyledi.

Beklenmedik bir şekilde, ABD hükümeti harekete geçtiğinde durdurulan ilk model, kendi modeli oldu.

Amazon risk sinyali verdi, ABD hükümeti ülkeyi korumak istiyor, Anthropic ise güvenlik çalışmalarını yapması gerektiği gibi yürütüyor. Herkes üzerine düşeni yaptı ama bir araya gelince mutlu bir sonuç çıkmadı.

Bu, sonunda birinin sektöre fren çektiği gibi görünüyor, ama aslında öyle değil. Bir modelin piyasaya sürülmesinden üç gün sonra bir emirle durdurulması, tam da kimsenin kendi isteğiyle yavaşlamadığını, bu yüzden dışarıdan müdahale edildiğini gösteriyor. Eğer şirketler, güvenlik araştırmacıları, müşteriler ve ABD hükümeti arasında birlikte yavaşlamak için bir yöntem olsaydı, iş ulusal güvenlik adına tek taraflı bir durdurma noktasına gelmezdi. Üstelik bu durdurma sadece Anthropic’i etkiledi, diğerleri hâlâ koşuyor. Fable’ın bu üç günü, sektörün yavaşlamaya başladığının değil, kimsenin onu düzgün bir şekilde yavaşlatamadığının kanıtı.

Fren de bir rekabet avantajı olabilir

Fable 5, en başından beri bir uzlaşma ürünüydü.

Anthropic’in elindeki gerçekten keskin model Mythos’tu. Çok güçlü olduğu için kamuya açıklanmamıştı. Nisan 2026’da şirket, Project Glasswing aracılığıyla Mythos’un ön izleme sürümünü bir dizi güvenlik kuruluşuna verdi ve onlardan açıklar bulmalarını istedi.

Açık bulmak, doğası gereği iyiyle kötüyü ayırt etmesi zor bir iştir. Aynı yetenek, bir açığı kapatmak için mi yoksa o açıktan içeri sızmak için mi kullanılır, bu tamamen o yeteneğe sahip olan kişiye bağlıdır.

Ama Anthropic de sonuçta her geçen gün biraz daha hızlanan bu pistteydi. Haziran ayına gelindiğinde, bu tür yetenekleri yine de kamuya sundu. Fable, Mythos’un güvenli bir versiyonuydu; yüksek riskli talepler daha kısıtlı Opus 4.8’e yönlendiriliyor, piyasaya sürülmeden önce kırmızı takım testlerinden geçiriliyor ve trafik otuz gün saklanarak birinin sistemi kırmaya çalışıp çalışmadığı tespit ediliyordu. Aynı zamanda bir üründü; fiyatı vardı, müşteri değerlendirmeleri vardı, deneme süresi vardı; para kazanması ve yatırımcıların gözünde iyi görünmesi gerekiyordu.

Güvenliği bir rekabet avantajı haline getirmek, başlı başına çelişkili bir durum. Rekabet avantajı, başkalarından daha hızlı koşmak demek; güvenlik ise çok hızlı koşmamak demek. Anthropic bu ikisini aynı anda mümkün kılmak istedi, ama bunu nasıl başaracağını bugün bile tam olarak çözmüş olabilir mi, emin değilim.

Kurucu Dario Amodei, OpenAI’de araştırma başkan yardımcısıydı ve Anthropic’in kurucu üyelerinin bir kısmı da OpenAI’den geldi. Modellerin her nesilde güçlendikçe insanların ne kadar heyecanlandığını gördüler ve bu heyecanın altında neyin yattığını da biliyorlardı.

OpenAI'nin ardından yaşananlar bir referans noktası olarak alınabilir. Altman kovuldu, beş gün sonra geri döndü ve yönetim kurulunu yeniden yapılandırdı. Superalignment ekibi kurulduğunda dört yıl içinde güvenlik sorunlarını çözeceğini söyledi, ancak bir yıl bile geçmeden dağıldı.

Anthropic, bu fırtınanın ardından ortaya çıkan başka bir cevap oldu. Güçlü modelleri de biz inşa edeceğiz, dedi, ancak frenleri sisteme yazmalıyız. Sorumlu Genişleme Politikası 2026'ya kadar 3.0 sürümüne güncellendi ve modelleri güvenlik seviyelerine göre sınıflandırdı. Teknolojinin katlanarak hızla geliştiğini, kurallar koyan dünyanın henüz yetişemediğini ve bu nedenle hükümetin tehlikeli dağıtımları durdurma yetkisine sahip olması gerektiğini söylediler.

Bir yandan kendi modellerini inşa ederken, diğer yandan hükümetin modelleri durdurma yetkisine sahip olması gerektiğini aktif olarak savunmak. Bunun arkasında bir inanç olmalı; o büyük elin yetkisini dikkatli kullanacağına ve prosedürleri izleyeceğine güvenmelisiniz. Bu duruşa bir zamanlar biraz saygı duyuyordum. Ancak Fable'ın üç günü, bu inancın ne kadar güvenilmez olduğunu gösterdi.

Bu yılın başlarında Anthropic, Pentagon ile Claude'un askeri kullanımı konusunda bir tartışma yaşadı. ABD hükümet müşterileri için Claude Gov'u yaptı, ancak büyük ölçekli iç gözetimi ve denetimsiz ölümcül otonom silahları reddetti.

Onlara göre bu, sorumluluğun sınırıydı. Ulusal güvenlik sistemi açısından bakıldığında, sınırın kendisi bir sorundu, çünkü sınır, tamamen itaat etmeyeceğin anlamına geliyordu.

Anthropic'in güvenlik dediği şey, kontrolü kaybetmemekti. Ulusal güvenlik sisteminin güvenlik dediği şey ise her şeyi kontrol edebilmekti.

Frenin ne olduğu konusunda bile anlaşamazken, kim sorumluluğu üstlenebileceğini kanıtlamaktan bahsedebilir? Anthropic, kısa sürede bunu kanıtlayamayacağını fark etti, çünkü tek başına yapamazdı.

Duramaz ve durmaya cesaret edemez

Haziran başında Anthropic bir fikir ortaya attı: Öncü laboratuvarların, topluma ve politikalara yetişme zamanı bırakmak için koordineli bir şekilde yavaşlaması, hatta birlikte durması gerekebilir.

Koordinasyon.

Neden koordinasyon şart? Çünkü bir şirketin tek başına yavaşlaması dünyayı daha güvenli yapmaz. Anthropic durursa, OpenAI durmayabilir, Google durmayabilir, sermaye piyasaları asla durmaz.

Bu nedenle, tek taraflı bir kısıtlama bu durumda bir erdem sayılmaz. Önce duran hatırlanmaz, sadece yerine geçilir.

Anthropic'in sorunu hiçbir zaman sorumlu olup olmamak olmadı. Sorumlu olması gerektiğini çok iyi biliyordu. Asıl sorun, başkalarının sorumlu olup olmadığı belli değilken, bir kişinin ne kadar ileri gidebileceğiydi.

Geçmişteki endüstriyel kazalar ne kadar karmaşık olursa olsun, sonuçta nispeten net bir kaynağa ulaşmak mümkündü. Ancak ileri düzey yapay zeka böyle değil. Bir modelin yeteneği; işlem gücünden, akademik makalelerden, açık kaynak topluluğundan, yatırımcıların büyüme baskısından ve ülkelerin teknolojik üstünlük arzusundan gelir. Her bir parça, "Karar veren ben değildim" diyerek kendini aklayabilir. Ama bu parçalar bir araya geldiğinde, dünyayı bugünkü noktaya getirdi.

Sorumluluk parçalandı, ivme ise korunuyor.

Anthropic, bir yandan politika belgelerinde yapay zekanın çok hızlı ilerlediğini ve yönetişimin buna ayak uyduramadığını yazarken, diğer yandan yeni modeller yayınlıyor.

Anthropic'in ikiyüzlü olduğunu söylemek istemiyorum. Anthropic, artık idealizmle ayakta kalabilen küçük bir laboratuvar değil. OpenAI, Google ve xAI ile rekabet etmek, finansman ve halka arz beklentileriyle başa çıkmak zorunda. Silikon Vadisi, güvenliğe saygı duyduğunu söylese de, gerçekten para koyma zamanı geldiğinde bakılan şey hâlâ kimin modelinin daha güçlü olduğu.

Bu yüzden işi ikiye bölmek zorunda kalıyor. Kendi yapabileceklerini önce hayata geçiriyor. Tüm sektörün birlikte yapması gerekenleri ise ayrıca listeliyor ve başkalarını bekliyor.

Pragmatik ama çaresiz.

Fable işte bu çatlakta doğdu. Araba durdurulamıyorsa, o zaman arabaya daha karmaşık bir fren sistemi takılır. Çatlakta doğan bir şey, kaçınılmaz olarak iki tarafı da memnun etmez.

Ortada Durmak

Fable piyasaya sürüldükten sonra, ilk memnuniyetsizliği dile getiren ABD hükümeti değil, güvenlik alanında çalışanlar oldu.

IBM X-Force araştırmacısı Chompie, Fable'ın güvenlikle sadece uzaktan ilgili birçok talebi reddettiğini, bazen bir blog yazısını okumasını istemenin bile tetikleyici olabildiğini söyledi.

Güvenlik bariyerleri niyeti ayırt etmek ister, ancak modelin önünde yalnızca dil ve bağlam vardır. Elinizdeki aleti kapıyı onarmak için mi yoksa zorlamak için mi çıkardığınızı ayırt edemez, bu yüzden iki tür insanı da engeller.

İki gün sonra, bir rapor ABD hükümetinin odasına ulaştı. O andan itibaren, bu mesele artık Anthropic'in kendi güvenlik tasarımını değerlendirmesi olmaktan çıktı.

Anthropic, bir zaman farkını defalarca vurguluyor. Yayınlamadan önce, ABD hükümetini birkaç kez bilgilendirdi, ABD hükümeti itiraz etmedi, hatta yayın öncesi testlere katıldı; şirket dağıtım iznini almıştı. Üç gün sonra, aynı sistem birdenbire kaldırılması gerektiğini söyledi.

Anthropic, ABD hükümetinin hiçbir zaman somut ayrıntı vermediğini söylüyor. Kendisi gösterimi izledi ve bunun sadece birkaç bilinen, ciddi olmayan güvenlik açığı olduğunu, diğer açık modellerle de aynısının yapılabileceğini düşündü. Açıklama yapılana kadar, ABD hükümetinin sunduğu sadece sözlü ifadelerdi.

Bu modelden ne geliştiriciler ne de ABD hükümeti memnun. Anthropic ortada kalmış durumda, iki tarafa da yaranamıyor.

Fable olayının ardında, tam bir güvensizlik zincirinin işleyişi yatıyor. Her bir halka, bir önceki halkaya karşı önlem alıyor. Sonunda toplum, bu işin içinde gerçekten sorumluluk alabilecek birinin kalıp kalmadığına inanmakta zorlanıyor.

e/acc Bir İklimdir

İşin zor tarafı, herkesin kendini sorumlu hissetmesi ve bunu haklı çıkarması. Herkesin elinde, kendi açısından geçerli bir gerekçe var.

İşte korkutucu olan da bu. Herkes sadece kendi küçük parçasından sorumlu, ama toplamda kimse tüm olayın sorumluluğunu üstlenmiyor. Sorumluluk paramparça olmuş durumda. Şirket iç kontrolleri, model değerlendirmeleri, ihracat kontrolleri, müşteri talepleri, ulusal rekabet, yatırım getirisi... Her bir parça gerçeğin bir kısmını yansıtıyor, ama hiçbiri bütünü göstermiyor.

Tanım üzerinde bile anlaşma sağlanamadığında, herkesin üzerinde tartışmayacağı tek yön "hız" oluyor.

Effective accelerationism, kısaca e/acc, son yıllarda belirgin bir teknolojik iyimserlik akımı haline geldi. Teknolojiyi hızla ilerletmeyi, düzenlemeler, sosyal yapılar ve etik kaygılar umursamadan savunuyor; ilerlemenin büyük sorunları çözeceğine inanıyor.

Her şirket kendine e/acc demiyor, Anthropic hiç demez. Ama bir görüşün ortamı değiştirmesi için herkes tarafından kabul edilmesi gerekmez.

Yetenek yarışı, bitmek bilmeyen hesaplama gücü, finansman takvimleri, ülkeler arası rekabet, askeri ihtiyaçlar, geliştiricilerin daha güçlü araçlara olan açlığı... Tüm bunlar bir araya gelerek bir iklim oluşturuyor. Kimileri bu iklimi sevmiyor ama yine de herkes gibi bu iklimde yaşamak zorunda.

Anthropic gibi güçlü bir şirket bile, bu hızlanma çağında sürekli fren yapılması gerektiğini söyleyen birkaç sesten biri olsa da, sonuçta önce kendisinin yeterince hızlı koşabildiğini kanıtlamak zorunda kalıyor. Teknolojik hızlanma için kötü birine gerek yok; sadece her iyi insanın, ilk duran kişi olmayı kendine yedirememesi yeterli.

Fren Her Zaman Vardı

Fable olayı, freni teslim etmenin bedelidir. Kamu otoritesinin müdahalesini umuyorsunuz çünkü sektörün özdenetimi yetersiz. Ama kamu otoritesi her zaman beklediğiniz gibi işlemez. Ulusal güvenlik makinesinin en alışkın olduğu hareketler müzakere değil, yasaklama, lisanslama ve istisnalardır.

AI, artık sınırları net bir şekilde çizilebilen bir teknoloji değil. Bir öncü model, aynı anda ticaret, bilimsel araştırma, savunma ve altyapıya entegre olduğunda, onun nasıl kullanılmaması gerektiğine kim karar verebilir ki?

Herkes hızın çok fazla olduğunu biliyor. Ama hızın kendisi artık hayatta kalmanın bir koşulu haline geldi.

Yüz yıldan fazla bir süre önce de kimsenin durdurmaya cesaret edemediği bir hızlanma yaşanmıştı.

1 Ağustos 1914 akşamı saat beşte, Alman İmparatoru II. Wilhelm, ordunun tam seferberlik emrini verdi. Emir daha birkaç dakika önce gönderilmişti ki Londra’dan bir telgraf geldi: Almanya Fransa’ya saldırmazsa, İngiltere Fransa’yı savaşın dışında tutabilirdi. İmparator çok sevindi; en çok iki cephede savaşmaktan korkuyordu, şimdi tüm gücünü doğuda Rusya’ya karşı kullanabilecekti. Başkomutan von Moltke’ye dönüp, “O halde sadece doğuya ilerleyeceğiz,” dedi.

Von Moltke, “Bu mümkün değil,” dedi.

Gerekçesi şuydu: Milyonluk bir ordu nasıl hareket eder, hangi demiryolunu kullanır, saat kaçta hangi platformda olur – her şey plana göre kusursuzca ayarlanmıştı. Bu zaman çizelgesi tam bir yıl boyunca hazırlanmıştı ve hazırlandıktan sonra tek bir harf bile değiştirilemezdi.

Daha sonra birçok tarihçi bu hikâyeyi anlattı. Anlatanların çoğu bunu bir makine alegorisi olarak ele aldı: Modern savaş makinesi o kadar hassastı ki, onu çalıştıranlar bile durduramıyordu.

Ama daha sonra insanlar başka bir şey keşfetti. O zaman çizelgesi aslında değiştirilebilirdi. Demiryolu departmanı her yıl geçici rota ve saat değişiklikleri için tatbikat yapıyordu ve doğu cephesi planı da her zaman hazırdı. Trenler gerçekten yön değiştirebilirdi.

Yani fren her zaman vardı.

O gece gerçekten olan şey, frenin olmaması değil, frenin yanında duran kişinin frenin dokunulamaz olduğunda ısrar etmesiydi. Değiştirilip değiştirilemeyeceğini sormadı; değiştirilemeyeceğinden çok emindi.

Böylece trenler birbiri ardına batıya doğru ilerledi ve üç ülke arasında sınırlı kalabilecek bir çatışmayı, tüm Avrupa’yı içine çeken bir savaşa dönüştürdü. Kimse bu sonucu istemiyordu. Herkes o anda yapılması en gerekli ve kaçınılmaz olan şeyi yaptığını düşünüyordu.

Bu treni hatırlamamın sebebi, AI’nın hızlanmasının da aynı şekilde hareket eden bir tren olması. Onu kimse yaratmadı; hesaplama gücü, sermaye ve devletlerin hırsı, vagon vagon birbirine eklenerek kendi kendine ilerliyor. Trende herkes var, herkes elindeki en gerekli işi yapıyor, ama tren yine de ilerlemeye devam ediyor.

AI çağının beni rahatsız eden yanı bu. Tehlike görülmüyor değil, fren de gerçekten yok değil. Freni çekenler trende oturuyor, tehlikeyi bilenlerin ayağı hâlâ gazda.

Bu sektörün en çok uyardığı şey, genellikle kendisinin var gücüyle inşa ettiği şey oluyor. Fable, herkesin durup bir bakması gereken bir örnek olmalıydı. Ama ben bunları yazarken, birkaç yeni model daha yayınlandı ve hepsi kendisinin en güçlü olduğunu söylüyor.

Frene basmaya istekli olan tek bir kişi bile yok.