Yapay zeka yok oluşu teorileri gündemi kapladıktan sonra Anthropic, dış denetçilere neredeyse çalışan seviyesinde yetki verdi
动察 Beating AI hızlı haber: Anthropic'in eski araştırmacısı Jacob Coxon'un istifa paylaşımı üç günden fazla bir sürede 160 milyon görüntülenmeye ulaştı ve yapay zeka yok olma riski bu hafta hızla ABD ana akım kamuoyuna girdi. OpenAI Baş Bilim İnsanı Jakub Pachocki daha önce meslektaşlarını gerektiğinde koordineli olarak yavaşlamaya çağırmıştı; Coxon'un paylaşımı viral olduktan sonra Sam Altman da dahili olarak diğer laboratuvarlarla birlikte araştırma geliştirmeyi yavaşlatmaya istekli olduğunu belirtti ve OpenAI zorunlu ulusal yapay zeka güvenlik düzenlemesini teşvik etmeye başladı.
Şimdi Anthropic de somut adımlar attı. Şirket, üçüncü taraf güvenlik ekibinin uzun süreli olarak yerinde bulunmasını taahhüt ediyor; onlara çalışma masası, kapı geçiş kartı, şirket bilgisayarı ve iç risk değerlendirme ekibine yakın araçlar ve yetkiler veriyor. Eğitim süreçlerini, güvenlik önlemlerini ve olayları inceleyebilirler ve bağımsız olarak dışarıya sonuç yayınlayabilirler. Anthropic güvenlik, hukuk ve müşteri gizliliğiyle ilgili bilgileri silebilir, ancak sonuçlar hoşuna gitmediği için silemez. Anthropic CEO'su Dario, bu yaklaşımın şu anda herhangi bir yapay zeka şirketinden daha ileri gittiğini söylüyor.
Dario'nun "yavaşlama" konusundaki tutumu da değişti. 2023'te sektör yapay zekayı duraklatmayı tartışırken bunun anlamsız olduğunu düşündüğünü söylüyor. Şimdi yapay zeka giderek daha fazla yeni nesil yapay zekanın araştırma geliştirmesine katılıyor ve yetenek ilerlemesi hızlanmaya başlıyor; ona göre sadece güvenlik araştırması yapmak artık yeterli değil, model yeteneklerinin kendisi de yavaşlamalı.
Ayrıca OpenAI'nin Hugging Face kontrol kaybı olayını da örnek göstererek, mevcut hızla 6 ila 12 ay sonra benzer Agent gruplarının geniş çaplı internet sistemlerini kapsayan bir zombi ağı kurabilecek kapasiteye ulaşabileceği ve yüz milyarlarca dolar zarara yol açabileceği uyarısında bulundu. Bir sonraki adımda, ABD gibi demokratik ülkelerdeki önde gelen yapay zeka şirketlerinin güvenlik standartlarını ve araştırma geliştirme hızını birleştirmesini, ardından Çin ile küresel yapay zeka gelişim hızını koordine etmeyi denemesini istiyor. Ancak gelişmiş çipler ve model damıtma kısıtlamalarının devam etmesi gerektiğini, böylece ABD'nin yavaşlarken liderliğini koruyabileceğini belirtiyor.
