Ana Sayfa
AI AI
Flaş
Derinlik
Etkinlikler
BlockBeats Pro
Daha Fazla
Finans
Özel
Blok Zinciri Ekosistemi
Giriş
Podkastlar
Veri
OPRR
#
BTC
$96,000
5.73%
ETH
$3,521.91
3.97%
HTX
$0.{5}2273
5.23%
SOL
$198.17
3.05%
BNB
$710
3.05%
lang
简体中文
繁體中文
English
Tiếng Việt
한국어
日本語
ภาษาไทย
Türkçe
Partnered With:

Topluluk tarafından gizlice zarar vermekle suçlanan Anthropic, özür dileyerek Claude'un gizli düşürme kısıtlamasını iptal etti.

动察 Beating tarafından yapılan izlemeye göre, Anthropic, yeni modeli Claude Fable 5'in geliştirme güvenlik stratejisini ayarladığını ve sessiz performans düşürme kısıtlamalarını kaldırdığını duyurdu. Sessiz düşürme mekanizması, topluluk tarafından "gizli sabotaj" olarak eleştirildi ve yapay zeka araştırma topluluğunda güçlü bir tepkiye yol açtı.

Anthropic'in hizmet şartlarına göre, kullanıcılar Claude'u rakip modelleri eğitmek için kullanamaz. Anthropic, rakip model eğitimi yaptığından şüphelenilen hesaplar için, kullanıcıya haber vermeden doğrudan Claude Fable 5'in performansını düşürmeyi planlıyordu. Yapay zeka araştırmacıları, sessiz performans düşürmenin üçüncü taraf güvenlik değerlendirme kuruluşlarının test çalışmalarını engelleyeceği ve açık kaynak topluluğunun yapay zeka güvenliği alanındaki iş birliğini zorlaştıracağı konusunda uyarıda bulundu.

Topluluğun sorgulamaları karşısında Anthropic, bir açıklama yaparak kamuoyu önünde özür diledi, güvenlik stratejisi dengesinde yanlış bir karar aldığını kabul etti ve güvenlik koruma mekanizmasını açık uyarılara dönüştürdü. Sistem, bir kullanıcının yüksek yetenekli bir yapay zeka oluşturmaya çalıştığını tespit ederse, isteği açıkça reddedecek veya kullanıcıyı düşük yetenekli bir modele yönlendirecek. Anthropic, açık koruma mekanizmalarının hedefli olarak atlatılmasının daha kolay olması nedeniyle, gelecekte güvenlik engelleme filtreleme kapsamını genişleteceğini ve bunun sonucunda bazı normal, zararsız isteklerin de yanlışlıkla engellenebileceğini uyardı.

举报 Düzeltme/Rapor
Düzeltme/Rapor
Gönder
Kütüphane Ekle
Sadece kendime görünür
Herkese Açık
Kaydet
Kütüphane Seç
Kütüphane Ekle
İptal
Tamamla