动察 Beating tarafından yapılan izlemeye göre, Anthropic, Claude Opus 5 sistem kartında, bu modelin tarayıcı aracı senaryolarında prompt enjeksiyon saldırılarına karşı neredeyse bağışık olduğunu ve 129 test senaryosundan hiçbirinde kırılmadığını açıkladı. Bu atılım büyük önem taşıyor; OpenAI, geçen yıl Aralık ayında prompt enjeksiyonunun tamamen çözülemeyebileceğini kamuoyuna kabul etmişti. Güvenlik şirketi Gray Swan'ın genel prompt enjeksiyon kıyaslama testinde, 15 saldırıdan sonra Opus 5'in başarı oranı yalnızca %2,0 olurken, bu oran önceki nesil Opus 4.8'in %5,5'inden önemli ölçüde daha iyi ve Mythos 5'in %2,6'sı ile Fable 5'in %2,8'inin de önünde yer aldı.
Prompt enjeksiyonu, AI ajanlarının karşılaştığı en ciddi güvenlik açığı olarak kabul ediliyor: Saldırganlar, web sayfalarına gizlenmiş metinler gibi manipüle edilmiş girdiler ekleyerek model talimatlarını atlatıp kötü niyetli işlemler gerçekleştiriyor. Sıfır saldırı oranına yalnızca Claude Cowork gibi Auto Mode özelliği etkinleştirilmiş ürünlerde ulaşıldı. Bu başarı, AI ajan güvenliğinin "sürekli yama" aşamasından "yapısal savunma" aşamasına geçtiğini işaret ediyor.
Aşağıdaki orijinal bağlantıya tıklayarak 动察 Beating · Feishu AI Haber Kanalı'na katılın ve küresel AI trendleri ile haberlerini 7×24 kesintisiz takip edin.
