Ana Sayfa
AI AI
Flaş
Derinlik
Etkinlikler
BlockBeats Pro
Daha Fazla
Finans
Özel
Blok Zinciri Ekosistemi
Giriş
Podkastlar
Veri
OPRR
#
BTC
$96,000
5.73%
ETH
$3,521.91
3.97%
HTX
$0.{5}2273
5.23%
SOL
$198.17
3.05%
BNB
$710
3.05%
lang
简体中文
繁體中文
English
Tiếng Việt
한국어
日本語
ภาษาไทย
Türkçe
Partnered With:

Karanlık kutu zeka düşürme ve damıtma önleme akademik çevreleri kızdırdı, Anthropic'in zorla izleme politikası kurumsal müşterilerin isyanına yol açtı

动察 Beating tarafından yapılan izlemeye göre, Anthropic'in amiral gemisi modeli Claude Fable 5'in arka planda uyguladığı "gizli zeka kısıtlama" davranışı, yapay zeka akademik camiasında ve geliştirici topluluğunda sert tepkilere yol açtı. Yeni model, kodlama performansını büyük ölçüde artırırken, ileri teknoloji geliştirmeye yönelik sessiz müdahale mekanizmalarıyla donatıldığı iddia ediliyor.

Kullanıcılar, ön eğitim boru hatları, dağıtık eğitim veya çip tasarımı gibi hassas teknolojileri sorguladığında, sistem, istem filtresi, yönlendirme vektörleri (steering vectors) veya model ince ayarı yoluyla arka planda çıktı kalitesini gizlice kısıtlıyor; üstelik kullanıcıya herhangi bir uyarı yapılmıyor veya düşük seviyeli bir modele geçilmiyor.

Akademisyen Nathan Lambert, kullanıcının haberi olmadan modelin zekasını sessizce zayıflatmanın "yapay olarak oluşturulmuş bir hizalama bozukluğu" olduğunu belirterek sert bir eleştiri yazısı kaleme aldı. Güvenlik kurallarının özünde, şirketin açık kaynak topluluğunun teknik damıtma yapmasını engellemek ve kendi patentlerini korumak için oluşturduğu ticari savunma duvarları olduğu; bunların kötü niyetli jailbreak saldırılarıyla kolayca aşılabildiği, ancak normal akademik araştırmaları ciddi şekilde engellediği ifade ediliyor. Şeffaf olmayan güvenlik çifte standardı, yalnızca kullanıcıların teknik bilgi edinme hakkını elinden almakla kalmıyor, aynı zamanda akademik camianın ticari devlerin kapalı kaynak tekeline karşı uyanıklığını ve karşıtlığını derinleştiriyor.

Veri gizliliği taahhütlerinin ihlali, çatışmayı daha da körükledi. Jailbreak saldırılarını izlemek için yeni model, tüm ticari API'ler ve kurumsal sürüm trafiği için 30 günlük veri saklama zorunluluğu getirerek, daha önce büyük işletmelerle imzalanan sıfır saklama (ZDR) anlaşmalarını doğrudan ihlal etti ve ticari müşterilerden güçlü bir tepki aldı.

Şeffaf olmayan güvenlik çifte standardı ve açık kaynak ekosistemine yönelik dışlama, geliştiricileri ve kurumsal müşterileri açık kaynak kampına hızla yönlendiriyor. NVIDIA'nın geçtiğimiz hafta piyasaya sürdüğü amiral gemisi açık kaynak modeli Nemotron 3 Ultra'yı tam anlamıyla benimseyerek ticari devlerin kapalı kaynak tekeline karşı koymayı hedefliyorlar.

举报 Düzeltme/Rapor
Düzeltme/Rapor
Gönder
Kütüphane Ekle
Sadece kendime görünür
Herkese Açık
Kaydet
Kütüphane Seç
Kütüphane Ekle
İptal
Tamamla