ABD'li araştırmacı blog yazarı, Anthropic'in finans ağının "AI kıyamet teorisini" teşvik ettiğini öne sürerek ABD Kongresi'ni soruşturma başlatmaya çağırdı.
动察 Beating AI hızlı haber: ABD'li araştırmacı blog yazarı Kevin Bass, Anthropic'in mali ilişkilerini inceledikten sonra şirketin fon ağı aracılığıyla yapay zeka güvenlik değerlendirme kuruluşlarını ve "yapay zeka kıyamet teorisi"ni destekleyen ilgili kuruluşları etkileyebileceğini yazdı ve ABD Kongresi'ni bu konuda soruşturma başlatmaya çağırdı.
Bass özellikle yapay zeka güvenlik değerlendirme kuruluşu METR'den bahsetti. Anthropic'in kurucu ortağı ve CEO'su Dario Amodei'nin daha önce yapay zeka modellerinin risklerinin üçüncü taraf kuruluşlar tarafından değerlendirilmesini önerdiğini ve METR'in kullanılmasını tavsiye ettiğini, ancak METR ve bağlantılı kuruluşlarının fonlarının Anthropic ile dolaylı bağlantısı olduğunu belirtti. Bass, Dustin Moskovitz'in sahip olduğu Anthropic hisselerinin Good Ventures Foundation'a aktarıldığını ve bu vakfın ilgili ekosistemin önemli bir finansörü olduğunu söyledi; bu Anthropic hisselerinin değerinin geçen yılın başında yaklaşık 500 milyon dolardan şu anda 7,7 milyar doların üzerine çıktığını belirtti.
Bass ayrıca METR ile mali bağlantısı olan kuruluşların, yapay zeka riski ve "yapay zeka kıyameti" anlatısını destekleyen Tarbell Center gibi kurumları da finanse ettiğini iddia etti; ilgili içeriklerin The Verge, Science, Los Angeles Times, The Dispatch ve TIME gibi medya kuruluşlarında yayımlandığını belirtti. Bu fon yapısının ilgili kuruluşların Anthropic modellerini değerlendirmede bağımsızlıktan yoksun kalmasına yol açabileceğini ve "Anthropic büyüyor—yapay zeka riski anlatısı genişliyor—düzenleme ihtiyacı artıyor—ilgili kuruluşlar daha fazla fon alıyor" şeklinde bir geri bildirim döngüsü oluşturabileceğini düşündüğünü ifade etti.
Bass, yukarıda belirtilen mali ilişkilerin ve etkilerinin daha fazla araştırılması gerektiğini söyledi ve sonraki gönderilerinde ilgili kanıtları ve GitHub materyallerini yayımlayacağını belirterek son olarak ABD Kongresi'ni Anthropic ve bağlantılı fon ağı hakkında soruşturma başlatmaya çağırdı.
