动察 Beating tarafından yapılan izlemeye göre, Anthropic, yeni modeli Claude Fable 5'in geliştirme güvenlik stratejisini ayarladığını ve sessiz performans düşürme kısıtlamalarını kaldırdığını duyurdu. Sessiz düşürme mekanizması, topluluk tarafından "gizli sabotaj" olarak eleştirildi ve yapay zeka araştırma topluluğunda güçlü bir tepkiye yol açtı.
Anthropic'in hizmet şartlarına göre, kullanıcılar Claude'u rakip modelleri eğitmek için kullanamaz. Anthropic, rakip model eğitimi yaptığından şüphelenilen hesaplar için, kullanıcıya haber vermeden doğrudan Claude Fable 5'in performansını düşürmeyi planlıyordu. Yapay zeka araştırmacıları, sessiz performans düşürmenin üçüncü taraf güvenlik değerlendirme kuruluşlarının test çalışmalarını engelleyeceği ve açık kaynak topluluğunun yapay zeka güvenliği alanındaki iş birliğini zorlaştıracağı konusunda uyarıda bulundu.
Topluluğun sorgulamaları karşısında Anthropic, bir açıklama yaparak kamuoyu önünde özür diledi, güvenlik stratejisi dengesinde yanlış bir karar aldığını kabul etti ve güvenlik koruma mekanizmasını açık uyarılara dönüştürdü. Sistem, bir kullanıcının yüksek yetenekli bir yapay zeka oluşturmaya çalıştığını tespit ederse, isteği açıkça reddedecek veya kullanıcıyı düşük yetenekli bir modele yönlendirecek. Anthropic, açık koruma mekanizmalarının hedefli olarak atlatılmasının daha kolay olması nedeniyle, gelecekte güvenlik engelleme filtreleme kapsamını genişleteceğini ve bunun sonucunda bazı normal, zararsız isteklerin de yanlışlıkla engellenebileceğini uyardı.
