动察 Beating tarafından yapılan izlemeye göre, Anthropic'in amiral gemisi modeli Claude Fable 5'in arka planda uyguladığı "gizli zeka kısıtlama" davranışı, yapay zeka akademik camiasında ve geliştirici topluluğunda sert tepkilere yol açtı. Yeni model, kodlama performansını büyük ölçüde artırırken, ileri teknoloji geliştirmeye yönelik sessiz müdahale mekanizmalarıyla donatıldığı iddia ediliyor.
Kullanıcılar, ön eğitim boru hatları, dağıtık eğitim veya çip tasarımı gibi hassas teknolojileri sorguladığında, sistem, istem filtresi, yönlendirme vektörleri (steering vectors) veya model ince ayarı yoluyla arka planda çıktı kalitesini gizlice kısıtlıyor; üstelik kullanıcıya herhangi bir uyarı yapılmıyor veya düşük seviyeli bir modele geçilmiyor.
Akademisyen Nathan Lambert, kullanıcının haberi olmadan modelin zekasını sessizce zayıflatmanın "yapay olarak oluşturulmuş bir hizalama bozukluğu" olduğunu belirterek sert bir eleştiri yazısı kaleme aldı. Güvenlik kurallarının özünde, şirketin açık kaynak topluluğunun teknik damıtma yapmasını engellemek ve kendi patentlerini korumak için oluşturduğu ticari savunma duvarları olduğu; bunların kötü niyetli jailbreak saldırılarıyla kolayca aşılabildiği, ancak normal akademik araştırmaları ciddi şekilde engellediği ifade ediliyor. Şeffaf olmayan güvenlik çifte standardı, yalnızca kullanıcıların teknik bilgi edinme hakkını elinden almakla kalmıyor, aynı zamanda akademik camianın ticari devlerin kapalı kaynak tekeline karşı uyanıklığını ve karşıtlığını derinleştiriyor.
Veri gizliliği taahhütlerinin ihlali, çatışmayı daha da körükledi. Jailbreak saldırılarını izlemek için yeni model, tüm ticari API'ler ve kurumsal sürüm trafiği için 30 günlük veri saklama zorunluluğu getirerek, daha önce büyük işletmelerle imzalanan sıfır saklama (ZDR) anlaşmalarını doğrudan ihlal etti ve ticari müşterilerden güçlü bir tepki aldı.
Şeffaf olmayan güvenlik çifte standardı ve açık kaynak ekosistemine yönelik dışlama, geliştiricileri ve kurumsal müşterileri açık kaynak kampına hızla yönlendiriyor. NVIDIA'nın geçtiğimiz hafta piyasaya sürdüğü amiral gemisi açık kaynak modeli Nemotron 3 Ultra'yı tam anlamıyla benimseyerek ticari devlerin kapalı kaynak tekeline karşı koymayı hedefliyorlar.
