Altman ve Dario da yapay zekanın yavaşlaması çağrısı yapıyor, Trump'ın teknoloji danışmanı Sacks: Gerçekten korkuyorsanız kendiniz durdurun, tüm sektörü peşinize takmayın

动察 Beating AI hızlı haber: Anthropic CEO'su Dario Amodei, öncü yapay zekâ yeteneklerinin ilerlemesinin yavaşlatılması çağrısında bulunduğu uzun bir yazı yayımladı. Ona göre yapay zekâ, yeni nesil yapay zekâ araştırma-geliştirmesine giderek daha fazla katılıyor; buna son dönemdeki çok sayıda Agent kontrol kaybı olayı da eklenince güvenlik araştırmaları yetenek artışına yetişemiyor.

Dario üç aşamalı bir plan önerdi: önce üçüncü taraf değerlendiricilerin uzun vadeli olarak yapay zekâ şirketlerine girip çalışanlara yakın yetkilere sahip olması; ardından demokratik ülkelerdeki öncü laboratuvarların güvenlik standartlarını koordine etmesi ve gerektiğinde yetenek artışını birlikte yavaşlatması; son olarak uluslararası koordinasyonun ilerletilmesi. Anthropic ilk adımı öncelikli olarak uygulama sözü verdi.

Sam Altman ardından kamuoyu önünde destek verdi; OpenAI'ın da son birkaç haftadır "pace the frontier" konusunu tartıştığını ve OpenAI'ın da benzer uzun vadeli bağımsız değerlendiriciler getireceğini duyurdu.

Beyaz Saray'ın eski yapay zekâ ve kripto para sorumlusu, şu anki Başkanlık Bilim ve Teknoloji Danışma Kurulu eş başkanı David Sacks ise hemen karşılık verdi: "İçerideki modellerin gerçekten tehlikeli olduğunu düşünüyorsanız, kendiniz durdurun." Ona göre OpenAI ve Anthropic öncü yapay zekâya zaten hâkim; başka şirketleri işe karıştırmadan kendi başlarına yavaşlayabilirler.

Sacks'i en çok rahatsız eden şey, birkaç rakibin birlikte "herkes biraz yavaşlasın" diye anlaşması. Dario da bu tür bir koordinasyonun antitröst muafiyeti gerektirebileceğini kabul ediyor. Sacks'e göre hükümetin yeşil ışık yakması gerekiyorsa ve en büyük birkaç yapay zekâ şirketi oturup birlikte hız sınırı koyacaksa, bu tam da bir kartel gibi görünür.

Ayrıca METR'i ismen hedef aldı ve tüm sektör için bağımsız hakem rolüne uygun olup olmadığını sorguladı. METR uzun süredir Anthropic, OpenAI gibi şirketlere dış değerlendirme yapıyor; son dönemde Anthropic güvenlik araştırmacısı Joe Benton da istifa edip METR'e katıldı. Ancak METR, bu öncü yapay zekâ şirketlerinden fon kabul etmediğini, yalnızca model erişimi ve ücretsiz token aldığını açıkça belirtiyor.

Sacks ayrıca yavaşlamanın kendisinin de OpenAI ve Anthropic'in ticari çıkarına uyduğunu düşünüyor. Modeller ne kadar kolay kontrolden çıkarsa hukuki sorumluluk o kadar büyür; müşteriler de daha istikrarlı ve kontrol edilebilir yapay zekâ satın almaya daha isteklidir. Küresel olarak tek tip yavaşlamaya gelince, tüm ülkelerin katılmaya istekli olmasının mümkün olmadığını değerlendiriyor.