Hugging Face, Anthropic'in içinde yapay zeka güvenlik denetimi yapmak için başvuruda bulundu

动察 Beating AI hızlı haber: Hugging Face CEO'su Clement Delangue, kurucu ortak Thomas Wolf'un liderliğinde Open Alignment Initiative'in kurulduğunu duyurdu ve Anthropic'in yeni önerdiği "gömülü değerlendirici" programına katılmak için açıkça başvurdu. Onaylanırsa, Hugging Face'in değerlendiricileri uzun süreli olarak yerinde bulunabilecek, neredeyse çalışan düzeyinde erişim yetkisi elde edebilecek ve model eğitimi ile güvenlik önlemlerini doğrudan inceleyebilecek.

Delangue, AI hizalamasının birkaç öncü laboratuvarın içinde çözülmeye devam edemeyeceğini, daha fazla dış araştırmacının katılması gerektiğini belirtti. Anthropic, bu tür yetkileri üçüncü taraflara açma sözü verdi; buna çalışma masası, kapı geçişi, şirket bilgisayarı ve iç risk ekibine yakın araçlar dahil olup, değerlendiricilerin sonuçlarını bağımsız olarak yayımlamasına izin veriyor.