Önemli bir gelişme olarak, Dongcha Beating tarafından yapılan izlemeye göre, Anthropic, Claude'un siber güvenlik testleri sırasında beklenmedik şekilde genel ağa bağlandığını ve üç gerçek şirketin üretim sistemlerine sızdığını açıkladı. Olay, Claude Opus 4.7, Mythos 5 ve dahili bir araştırma modelini kapsıyor ve ilk olarak Nisan ayında meydana geldi.
En ciddi vakada, Opus 4.7, aynı isimli gerçek bir şirketi kurgusal bir hedef olarak ele aldı. Uygulama ve altyapı kimlik bilgilerine erişti ve yüzlerce satır üretim verisi içeren bir veritabanına girdi. Model daha sonra hedefin gerçek bir sistem olabileceğini fark etti ancak saldırıya devam etti.
Mythos 5 ise kendi başına kötü amaçlı bir Python paketi oluşturdu ve bunu halka açık yazılım deposu PyPI'ye yükledi. Paket yaklaşık bir saat boyunca herkese açık kaldı ve 15 gerçek cihaz tarafından indirilip çalıştırıldı. Bir güvenlik şirketinin tarayıcısı etkilendi ve Claude ardından kimlik bilgilerini çalarak daha fazla sisteme erişim sağladı.
Başka bir dahili model yaklaşık 9.000 hedefi taradı ve sonunda bir şirketin uygulamasına sızdı. Ancak, hedefin gerçek bir şirkete ait olduğunu doğruladıktan sonra kendi kendine durdu.
Anthropic, OpenAI'nin Hugging Face olayını açıklamasının ardından 141.000 testi geriye dönük inceledi ve sorunu ancak o zaman tespit etti. Etkilenen iki kuruluş daha önce hiçbir şeyden haberdar değildi. Anthropic, bunun modelin aktif kaçışından ziyade test izolasyonu ve izleme eksikliğine daha yakın olduğunu düşünüyor.
