Anthropic'in onayladığı 'bağımsız üçüncü taraf' sorgulanıyor: kurucu çevre ile şirket arasındaki ilişkiler karmaşık bir ağ oluşturuyor

动察 Beating AI hızlı haber: Anthropic CEO'su Dario Amodei son zamanlarda, METR gibi üçüncü taraf değerlendirme kuruluşlarının öncü AI şirketlerinde uzun süreli olarak yer almasını, çalışan düzeyine yakın yetkilere sahip olmasını, güvenlik önlemlerini, olayları ve model eğitim sürecini denetlemesini savundu. Ancak New York Post'un araştırması, METR ile Anthropic'in bulunduğu AI güvenlik çevresinin ilişkisinin sıradan bir "dış denetim"den çok daha yakın olduğunu ortaya koydu.

METR başlangıçta ARC Evals adıyla, Paul Christiano'nun kurduğu Alignment Research Center bünyesinde filizlendi. Christiano yalnızca Amodei ile OpenAI'da birlikte çalışmakla kalmamış, New York Post'a göre ikisi aynı evi de paylaşmış; daha sonra Anthropic Long-Term Benefit Trust'ın ilk beş mütevelli üyesinden biri olmuş. METR'in mevcut teknik personeli Ajeya Cotra, Christiano'nun eşi ve daha önce Coefficient Giving'in AI güvenlik fonlarını yönetiyordu.

Daha doğrudan sorun METR'in kendisinden geliyor. Bu yıl Anthropic, OpenAI, Google ve Meta'yı değerlendirirken, o dönemde geçerli bir personel çıkar çatışması politikası yoktu ve resmi bir çekilme süreci de işletilmedi. METR, projeye doğrudan katılan çalışan ve işbirlikçiler arasında en az 6 kişinin AI şirketi çalışanlarıyla yakın kişisel ilişkileri olduğunu açıkladı.

Elbette bu, METR'in Anthropic tarafından kontrol edildiğini kanıtlamaz. METR, öncü AI şirketlerinden ve çalışanlarından fon kabul etmediğini, risk değerlendirmesi için ücret almadığını açıkça belirtiyor; ancak bu şirketler ücretsiz olarak çok sayıda model Token sağlıyor.