Bir yandan yüksek profilli fon toplama ve halka arz, diğer yandan yapay zeka geliştirmeyi durdurma önerisi: Anthropic sadece güvenlik PR'ı mı yapıyor?

动察 Beating tarafından yapılan izlemeye göre, Anthropic, "AI Kendini İnşa Ettiğinde" başlıklı raporunda, nükleer silah kontrolü anlaşması olan Orta Menzilli Nükleer Kuvvetler Anlaşması'nı (INF) referans alarak küresel çapta "doğrulanabilir koordineli durdurma mekanizması" kurulmasını öneriyor. Rapor, tek taraflı araştırma durdurmalarına açıkça karşı çıkıyor ve yalnızca küresel olarak doğrulanabilir bir ortamda öncü laboratuvarların eşzamanlı olarak durabileceğini vurguluyor.

Ancak koordineli durdurma teknik olarak tamamen imkansız. Nükleer silah kontrolü, füzelerin fırlatma silolarını uydularla izleyebilirken, GPU'lar küçük boyutlu, kolayca gizlenebilir ve dağıtık hesaplama yapabilir. Başkalarının gizlice eğitim yapıp yapmadığını denetlemenin tek yolu, dünyadaki tüm GPU çipleri, elektrik şebekeleri ve veri merkezleri üzerinde müdahaleci bir izleme uygulamaktır. Kapsamlı izleme yalnızca politik olarak uygulanabilir değil, aynı zamanda teknik olarak hesaplama gücü totaliterizmini savunmak anlamına gelir.

Teknik doğrulamanın uygulanamaz olduğu bir ortamda, koordineli durdurma önerisi daha çok bir "güvenlik sorumluluk reddi kartı" gibi görünüyor. Raporun yayınlanmasından hemen önce, Anthropic yaklaşık 1 trilyon dolar değerleme ile 65 milyar dolarlık bir fonlama turunu tamamladı ve halka arz başvurusunda bulundu. Anthropic, durdurma koşulunu gerçekleştirilmesi imkansız küresel doğrulamaya bağlayarak, kendi sınırsız eğitimine zemin hazırlarken, durdurulamama sorumluluğunu henüz kurulmamış düzenleyici mekanizmalara yüklüyor.