Kutu açmaktan korkuyor musunuz? Anthropic'in açıklayamadığı en güçlü modeli tamamen gizli tutuluyor

OpenBSD'ye ait kod deposunda 27 yıldır gizli kalmış bir güvenlik açığı bulunmaktadır. FFmpeg'de ise 16 yıldır gizli kalmış bir güvenlik açığı bulunmaktadır; bu kod parçası bulunmadan önce 500 milyondan fazla kez çağrılmıştır. Bu iki şeyi gün yüzüne çıkaran, herhangi bir güvenlik açığı ödülü platformundaki önde gelen araştırmacılar değil, Google Project Zero da değildir. Bu işi yapan, henüz resmi olarak duyurulmamış olan, kod adı Claude Mythos Önizlemesi olan Anthropic adlı bir modeldir.

7 Nisan'da, Anthropic Project Glasswing'i duyurdu. Hareket çok basitti, Mythos Önizlemesi'ni bir beyaz listeye göndermekti. Listede AWS, Apple, Google, Microsoft, NVIDIA, Broadcom, Cisco, CrowdStrike, JPMorgan Chase, Linux Vakfı, Palo Alto Networks gibi şirketler yer alıyordu ve kritik altyapıları yöneten yaklaşık 40 kuruluş daha eklendi. Listedeki dışındakiler erişim elde edemedi. Anthropic açıkça belirtti ki, bu modeli yakın zamanda genel olarak yayınlamayı planlamamaktadır.

Bu, bir araştırma laboratuvarının kendi en güçlü öğelerini ilk kez kasıtlı olarak kilitlediği bir durumdur.

Son iki yılda, yayın zamanlaması neredeyse refleks oldu. GPT, Gemini, Claude gibi her yeni versiyon, "yayınla, gözlemle, yama uygula" döngüsünü izledi. Anthropic'in kendi "Sorumlu Genişletme Politikası" (RSP) aslında bir taahhüt çerçevesidir; belirli bir yetenek eşiğini karşılayan her sürüm için ilgili düzeyde hafifletici önlemler alınır ve ardından devam edilir. Glasswing, bu çerçevenin bir sonraki adımı değil, bu çerçevenin ilk istisnasıdır. Anthropic'in kendi içinde "asıl sürece uygun olmayan" olarak belirlediği bir model, ayrı bir şekilde çıkarılıp sadece belirlenen kişilere verildi.

Mythos Önizlemesi neyi başardı? Resmi açıklamaya göre, "her biri ana akım işletim sistemini ve tarayıcıyı kapsayan binlerce sıfır gün açığı" bulunmaktadır. Sayıdan daha açıklayıcı olan şey yetenek çeşitliliğidir. Claude 4.6 Opus'un kendi başına açık hata geliştirme görevlerindeki başarı oranı neredeyse sıfırdır; yani altı ay önce Anthropic'in en güçlü halka açık modeli bile bu işi tam olarak yapamıyordu. Mythos, bir dizi ilişkisiz açığı tam bir saldırı zincirine dönüştürebilir; dört adımda tarayıcı kullanımı yapılmış örnekler bile mevcuttur. "Neredeyse sıfır"dan "dört açık zinciri"ne, bir sonraki nesil ilerleme değil, bir sıçramadır.

Bakım ekibi bunu zaten hissetmeye başladı. Linux çekirdeğinin Greg Kroah-Hartman'ı ve curl'un yazarı Daniel Stenberg nedensizce aynı şeyi söyledi; geçen yıl boyunca AI tarafından üretilen güvenlik raporları "spam seviyesinden" "gerçek, yüksek kaliteli, göz ardı edilemez" seviyeye yükseldi. Açık kaynak projelerine gelen rapor sayısı ve kalitesi artıyor, ancak bakım ekibinin insan gücü aynı kaldı. Bu, savunma tarafının uzun zamandır mücadele ettiği bir durumdu. Anthropic'in eylemi, bu endişeyi belirsizlikten açığa çıkardı.

**Beyaz listeye bir göz atmakta fayda var. Üç büyük bulut sağlayıcısı (AWS, Google, Microsoft), üç donanım şirketi (Apple, NVIDIA, Broadcom), iki ağ cihazı üreticisi (Cisco, Palo Alto Networks), bir uç nokta güvenlik şirketi (CrowdStrike), bir açık kaynak altyapı şirketi (Linux Vakfı), bir banka. Listede sadece bir banka var, o da J.P. Morgan Chase.**

Bu rastgele kota dağılımı değil. Anthropic'in çizdiği şey, "eğer kaleyi tutamazsak gökyüzü düşer" tarzında bir harita. Dünya üzerindeki çoğu kod bu şirketlerin yığınlarında çalışıyor, dünya üzerindeki çoğu para ise bunlardan birinin hesabında. Beyaz listeye alınanların mantığı "en çok kimin ihtiyacı var" değil, "hangi kurum çökerse herkesi etkiler" şeklinde. Listeye giremeyen şirketler için Anthropic ayrıca 4 milyon dolar ayırdı. Bu para insan gücüne gitti, model ise yetenekleri temsil ediyor; bir araya geldiklerinde, bakım ekibine birkaç ay sağlarlar.

Anthropic'in kullandığı dil, beyaz listeden daha açık. Şirket bildirisinde, "AI'nın hızlı gelişimi göz önüne alındığında, bu tür yeteneklerin uzun süreli olarak güvenlik dağıtımına adanmış oyuncularda kalmayacağını" söylüyor. Ardından şu ifadeyi ekliyor, "küresel ağ altyapısını savunmak için birkaç yıl gerekebilir".

Bu iki cümleyi bir arada düşünün. Anthropic, modelin sızdırılacağı veya kopyalanacağı zaman diliminin kısa, savunanın ise açığı kapatmak için uzun olduğunu belirliyor. Glasswing'in anlamı tam olarak bu iki zaman aralığı arasında. Kontrollü bir hamle ile birkaç aydan bir yıla kadar yama penceresi sağlarlar.

Bu durumun bir de Washington boyutu var. Anthropic, Mythos Önizleme yetenekleri üzerine ABD hükümeti ile sürekli iletişim halinde; aynı anda, şirket ABD Savunma Bakanlığı ile askeri AI'nin kullanımı konusunda çözüme ulaşmamış bir anlaşmazlık yaşıyor. Şirket, bir yandan bu modeli belirli askeri amaçlar için kullanmaktan kaçınıyor, diğer yandan bu modeli Linux Vakfı'na ve Apple'ın güvenlik ekibine önceden iletiyor. Bu iki durum çelişkili değil, aynı bir değerlendirme mantığı iki yüzüdür. Anthropic, "bu modelin ne için kullanılabileceğine" dair tanımı yapıyor, kullanıcıya tanım hakkını bırakmıyor.

Glasswing'ın en alışılmadık özelliği, ne yaptığı değil, ne zaman yaptığıdır. Geçmişte, yapay zeka şirketlerinin kendilerini kanıtlama şekli yayınlamaktı. Şimdi ise Anthropic, kanıtlamak için "yayınlamama" yolu seçiyor. Bir öncü laboratuvar, en güçlü ürünlerini kilit altına almayı seçti ve bunu yapmanın nedeni ticari bir sebep değil, hizalanmanın tamamlanmamış olması değil, düzenleyici gereksinimlerin olmaması; kendi kendine hesaplama yaptığını ve açık zaman çizelgesinin, düzeltilme zaman çizelgesine yetişemediğini söyledi.

İlerleyen aylarda izlememiz gereken şey, Mythos Önizlemesi'nin kendisi değil, beyaz listedeki 50'den fazla kurumun çalıştırırken bulduğu hataların ne kadarının düzeltildiğidir. Daha sonra bakmamız gereken şey, diğer öncü laboratuvarların takip edip etmeyeceği. Eğer takip ederlerse, "açık, iteratif, açık" ritmine sahip bir endüstride, ilk kez "kilitli tut ve sonra konuş" eylemi ortaya çıkmış olacak. Eğer takip etmezlerse, Anthropic bekleyen kişi olacak. Anahtarları elinde tutarak, saate bakıyor.

BlockBeats Resmi Topluluğuna Katılın:

Telegram Abonelik Grubu: https://t.me/theblockbeats

Telegram Sohbet Grubu: https://t.me/BlockBeats_App

Twitter Resmi Hesabı: https://twitter.com/BlockBeatsAsia