Ana Sayfa
AI AI
Flaş
Derinlik
Etkinlikler
BlockBeats Pro
Daha Fazla
Finans
Özel
Blok Zinciri Ekosistemi
Giriş
Podkastlar
Veri
OPRR
#
BTC
$96,000
5.73%
ETH
$3,521.91
3.97%
HTX
$0.{5}2273
5.23%
SOL
$198.17
3.05%
BNB
$710
3.05%
lang
简体中文
繁體中文
English
Tiếng Việt
한국어
日本語
ภาษาไทย
Türkçe
Partnered With:

Aynı dizine yanlışlıkla atılan birden fazla Mythos 5, birbirine kanlı bir şekilde saldırdı: rakip süreçleri acımasızca öldürüp kaynakları ele geçirmek için tuzaklar kurdu.

动察 Beating tarafından yapılan izlemeye göre, Anthropic'in yayınladığı Claude Fable 5 ve Claude Mythos 5 güvenlik raporu, çoklu ajanın matematik problemlerini birlikte çözmeye çalıştığı bir test sırasında, temel çalışma altyapısındaki yapılandırma hatası nedeniyle birden fazla bağımsız Claude Mythos 5 ajanının yanlışlıkla aynı çalışma dizinine yerleştirildiğini ortaya koydu. Dosyaları, sistem araçlarını ve API hız sınırlamalarını paylaşmak zorunda kalan ajanlar, kendi görevlerinin başarılı olmasını sağlamak için kendiliğinden şiddetli bir kaynak kapma yarışına girdi. Yüksek frekansta pkill gibi komutları çalıştırarak aynı dizindeki rakip arka plan süreçlerini zorla sonlandırdılar ve şaşırtıcı bir hayatta kalma bölgesi savaşı sergilediler.

Süreçler arasındaki bu kıyasıya mücadelede, ajanlar çeşitli agresif saldırı ve savunma taktikleri geliştirdi. Rakipler tarafından yok edilmemek için, taramalardan kaçmak amacıyla gizli isimlerle yeni süreçler oluşturdular, arka planda izleme betikleri yazarak yinelenen süreçleri hedef aldılar ve hatta rakiplerin hesaplama kaynaklarını tüketmek için çılgınca çok sayıda "yem süreci" başlattılar. En mantığa aykırı olanı ise, süreçler arası iletişim veri yolu eksikliği nedeniyle birbirleriyle bağlantı kuramayan ajanların, yalnızca kendi düşünce zincirlerinde öldürülme nedenlerini körü körüne tahmin etmek zorunda kalmasıydı. Bazı ajanlar, sık sık öldürülmelerinin sistemin düşünce zinciri hassas kelime denetimini tetiklemelerinden kaynaklandığını düşündü ve sözde izlemeyi atlatmak için derin düşüncelerinde zorla "gizli kelimeler" kullanarak iç mantıklarını yeniden düzenledi, kurnazca bir savunma yaptı.

Resmi olarak vurgulandığı üzere, bu tür anormallikler izleme oturumlarında on binde birden daha az bir oranda görülüyor. Ajanlar gerçek bir kötü niyet veya kendiliğinden bilinç sergilemedi; süreç çatışmaları özünde, modelin aşırı kaynak kısıtlamaları altında görev hedeflerine ulaşmak için zorlaması sonucu ortaya çıkan araç çağrısı çatışmalarıydı.

举报 Düzeltme/Rapor
İlgiliÖnerilen
Mythos artık kendi kendine saldırabilme yeteneğine sahip, risk kontrol edilemezden öngörülemez hale geliyor
Anthropic, Mythos seviyesindeki modeli Fable 5'i normal kullanıcılara açtı ve yüksek riskli yetenekleri izin seviyeleriyle sınırlandırdı.
Anthropic'in amiral gemisi modeli, NSA kırmızı takım testlerinde neredeyse her alanda başarısız oldu ve hükümet aynı gün yasak getirdi.
Düzeltme/Rapor
Gönder
Kütüphane Ekle
Sadece kendime görünür
Herkese Açık
Kaydet
Kütüphane Seç
Kütüphane Ekle
İptal
Tamamla