Anthropic CEO: Güvenlik kaygıları nedeniyle şirket yapay zeka araştırma ve geliştirme hızını yavaşlatacak

动察 Beating AI hızlı haberleri, Anthropic CEO'su Dario Amodei, BM Güvenlik Konseyi'nde yaptığı uyarıda, etkili bir yönetim olmadan AI'nın tüm insanlık için varoluşsal bir risk oluşturabileceğini belirterek ülkeleri küresel AI güvenlik standartları oluşturmaya çağırdı.

Amodei, Çarşamba günü video konferans yoluyla katıldığı Konsey toplantısında, AI'nın kötü niyetli kişiler tarafından biyolojik silah üretmek için kullanılabileceğini ve sonunda geliştiricilerin kontrol edemeyeceği bir sisteme dönüşebileceğini söyledi. Güvenlik kaygıları nedeniyle Anthropic, AI araştırma ve geliştirme hızını yavaşlatacak.

Amodei ayrıca bir AI güvenlik sertifikasyon sistemi kurulması ve AI'nın biyokimyasal silahlar için kullanılmasını önlemek üzere ülkeleri koordine edecek küresel düzenleyici işbirliğinin teşvik edilmesi çağrısında bulundu. Hiçbir liderin, şirketin veya ülkenin AI'nın getirdiği zorluklarla tek başına başa çıkamayacağını belirtti.

Amodei aynı zamanda AI'nın yaşam bilimleri alanında ilerleme kaydedilmesini sağladığını, Anthropic'in Claude'unun CRISPR benzeri DNA tekrar dizileri taşıyan yeni bir enzim sisteminin keşfedilmesine katıldığını, ancak ilgili teknolojilerin felaket riskleri de barındırabileceğini vurguladı.

Bu açıklama, Amodei'nin bu ayın başlarında ortaya koyduğu AI güvenlik tezlerinin devamı niteliğinde. Hem Anthropic hem de OpenAI, öncü AI modelleri rekabetinin merkezinde yer alıyor ve araştırma-geliştirme temposu ile güvenlik politikaları yatırımcılar ve düzenleyici kurumlar tarafından yakından takip ediliyor.