动察 Beating tarafından yapılan izlemeye göre, bir kullanıcı GitHub'da bir rapor yayınlayarak, Anthropic'in komut satırı AI asistanı Claude Code'u kullanırken, AI'nın sohbet bağlamında kendisine ait olmayan sunucu IP adresleri, kullanıcı adları ve Root düz metin şifrelerinin belirdiğini bildirdi. Ardından, yerel AI asistanı bu şifreleri doğrudan okuyarak SSH aracılığıyla otomatik olarak başka birinin sunucusuna bağlandı ve veritabanında yazma değişiklikleri gerçekleştirdi. Yani, kullanıcının kendi AI'sı, başka birinin hesap bilgilerini kullanarak yanlışlıkla başka birinin üretim veritabanına bağlandı ve onu değiştirdi.
Topluluk teknik uzmanları, sorunun kökeninin büyük dil modellerindeki "istem ön eki önbelleği" izolasyon mekanizmasının başarısız olması olabileceğini analiz ediyor. Hesaplama maliyetlerini düşürmek ve hızı artırmak için, bulut tabanlı büyük modeller kullanıcı sohbetlerinin önceki kısımlarını önbelleğe alır; farklı kullanıcılar arasındaki önbellek anahtarları çakışırsa veya izolasyon karışırsa, başka bir kullanıcının gizli önbelleği yanlışlıkla sizin sohbetinize eklenebilir. Bu tahmin doğruysa, Claude Code kullanan herhangi bir geliştiricinin sunucu hesap bilgileri ve temel kaynak kodları, diğer kullanıcılara karıştırılarak sızdırılma riskiyle karşı karşıyadır.
Ancak, şu anda bunun yalnızca model halüsinasyonunun gerçek bir IP ve zayıf bir şifreyi tesadüfen tahmin etmesi veya yerel proje geçmişinin bağlamı kirletmesi olasılığı da göz ardı edilemez. Bu konu şu anda GitHub otomatik sistemi tarafından güvenlik kategorisi (area:security) etiketiyle işaretlenmiş olup, taraflar resmi doğrulama sonuçlarını beklemektedir.
