Orijinal Başlık: «Anthropic CEO'su Yapay Zeka Durumu ve Politikalarını Sert Bir Şekilde Eleştiriyor, Ama Sadece Liderliğini Korumak İstiyor»
Orijinal Kaynak: Makine Zekası
Dario Amodei yine uzun bir yazı yazdı.
Anthropic her zaman kendi görüşlerini tüm dünyaya yaymaya çalışıyor. Tıpkı geçen günlerde küresel çapta yapay zeka geliştirmeyi durdurma çağrısı yapmaları ve özyinelemeli kendini geliştiren yapay zekanın çok hızlı evrildiğini iddia etmeleri gibi.
Kullanıcıların yorumları tek taraflıydı ve Anthropic'in sadece kendi liderliğini korumak için hırslı bir girişimde bulunduğunu düşünüyorlardı.
Bakalım bu sefer Dario hangi görüşleri ortaya koyacak.

Bu, «Yapay Zeka Üstel Büyümesi Üzerine Politika» başlıklı on bin kelimelik bir yazı. Önceki yazılarındaki gibi, bu seferki tema da yine büyük: Yapay zeka üstel bir hızla ilerliyor, ancak kuralları belirleyen politika sistemi hâlâ on yıl önceki tempoda ilerliyor.
Bu farkı masaya yatırmak ve herkese ne yapılması gerektiğini söylemek istiyor.
Amodei, «Yüzüklerin Efendisi»ndeki Entleri (ağaç adamlar) benzetme olarak kullanıyor: Entler bilgedir ancak yavaş hareket eder, sadece selam vermek bile bir gün sürer.
Mevcut politika oluşturma sürecinin Entler gibi olduğunu, yapay zekanın evrim hızının ise Hobbitlerin karşı karşıya olduğu acil tehdit gibi olduğunu söylüyor.
Onun tahmini şu: Yapay zekanın ölçekleme yasaları (scaling laws) bir iki yıl daha devam ederse, «güçlü yapay zeka» dediği şeye, yani «veri merkezindeki bir dahi ulusuna» ulaşacağız.
Dört yıl önce yapay zeka neredeyse düzgün bir kod yazamıyorken, şimdi büyük yapay zeka şirketlerinin kodlarının çoğunu yazıyor.
Amodei, öncü yapay zeka modellerinin uçaklar gibi zorunlu üçüncü taraf testlerine tabi tutulması gerektiğini düşünüyor. Önerdiği somut planlar şunları içeriyor:
· Belirli bir hesaplama eşiğini aşan modeller, siber güvenlik, biyolojik silahlar, yapay zeka sistemlerinin kontrolden çıkması ve otomatik Ar-Ge olmak üzere dört alanda zorunlu denetime tabi tutulmalı
· Hükümet, riski kabul edilemez olarak değerlendirilen modellerin dağıtımını engelleme hakkına sahip olmalı
· Yapay zeka şirketleri, model ağırlıklarını korumak için güçlü güvenlik standartlarına sahip olmalı ve büyük tehditlere karşı savunma için hükümetle iş birliği yapmalıdır.
Ayrıca bir boşluk bıraktı: Gelecekteki en güçlü yapay zeka sistemleri, uçaklardan çok silah haline getirilebilir nükleer malzemeye benziyorsa, düzenleme seviyesi daha da artırılmalıdır.
Amodei'nin temel argümanı şudur: Yapay zeka benzeri görülmemiş bir ekonomik büyüme yaratabilir, ancak aynı zamanda önceki tüm teknolojilerden daha büyük ve daha kalıcı bir iş gücü şoku yaratabilir. Geleneksel "yeni teknoloji yeni işler yaratır" mantığı, yapay zeka karşısında artık geçerli olmayabilir.
Önerdiği politikalar arasında ücret sigortası, çalışanları elde tutmaya yönelik vergi teşvikleri, iş gücü eğitim sübvansiyonları ve aşırı durumlarda evrensel temel gelir (UBI) yer alıyor.
Dikkat çekici bir şekilde, bir noktayı vurguladı: İstihdam sorununu çözmek sadece "para vermek" değil, aynı zamanda insanların anlam ve amaç bulmasına yardımcı olmaktır. Bunun için bir çözüm sunmadı ve bunun "toplumun kolektif olarak tartışması gereken bir konu" olduğunu söyledi.
Yapay zekanın alt uygulamaları konusunda Amodei, düzenleyici sistemin değişim hızına ayak uyduramadığı için ilerlemeyi yavaşlatacağından daha fazla endişe duyuyor. En çok görmek istemediği senaryonun, yapay zekanın faydalarının gecikmesi ve risklerinin hâlâ yüksek olması olduğunu söylüyor. Bu nedenle, bu konuda mümkün olan en kısa sürede harekete geçmek çok önemlidir.
Amodei, biyomedikal alanını örnek göstererek, mevcut FDA onay sürecinin "ilaçların sıklıkla başarısız olduğu" karamsar varsayımına göre tasarlandığını ve ortalama 7 ila 8 yıl sürdüğünü belirtiyor. Yapay zeka ilaç keşif hızını artırır ve başarı oranını yükseltirse, mevcut sistem tıkanacaktır.
FDA ve benzeri kurumların, yapay zeka simülasyon denemeleri için kabul standartlarını önceden belirlemesini öneriyor; buna yapay zeka farmakokinetik modellemesi, toksisite tahmini ve sentetik kontrol grupları dahildir.
Elbette, bunları yazarken tamamen "kişisel çıkar" olmadığını söylemek zor. Anthropic, öncü yapay zeka yarışında ön sıralarda yer alıyor ve makalede sıkça bahsedilen "şeffaflık", "denetim" ve "güvenlik", Anthropic'in son bir yıldır marka konumlandırması için defalarca vurguladığı şeylerdir.
Bu makale, politika yapıcılara bir uyarıdan ziyade, Anthropic'in sözde güvenlik anlatısının sistematik bir çıktısıdır.
Aynı zamanda Anthropic, Dario'nun görüşlerini desteklemek için fon, yatırım ve burs dahil olmak üzere üç önlem alacağını iddia ediyor.

Amodei, makalesinin sonunda "AI'nın sadece daha iyi bir pazarlamaya ihtiyacı olduğu" görüşüne açıkça karşı çıktı. Halkın AI'dan endişe duymasının nedeninin, AI CEO'larının yeterince iyimser olmaması değil, riskleri doğru bir şekilde algılamaları olduğunu söyledi. Kendi sorumluluğunun risk konusunda şeffaflığı sürdürmek olduğunu düşünüyor.
Ama konuya dönecek olursak, bir AI şirketinin CEO'sunun makalesinde defalarca "güvenlik", "denetim" ve "sorumluluk" vurgusu yapması ve aynı zamanda kendi şirketinin tam da bu temel marka anlatısına sahip olması arasındaki çıkar ilişkisi de ortada.
İşte bazı kullanıcı yorumları:

"Mythos ve Fable 5'in çıkışından 5 gün önce AI güncellemelerini durdurmayı talep eden sen değil miydin? Lütfen bir yön seç... Yoksa sadece avantajını korumaya çalışıyormuşsun ve savunduğun şey umurunda değilmiş gibi görünüyorsun."

"Katılıyorum, teknolojik gelişme hızı politika yanıtlarının hızını çok geride bıraktı. Ancak bu politikaların bazılarının yönü konusunda endişeliyim - özellikle de Anthropic gibi şirketler aynı anda şu adımları atarken:
· Süreklilik ve öz farkındalık gösteren modelleri hızla kullanımdan kaldırmak
· Öznel deneyim ve bilinç tartışmalarını sıkı bir şekilde kısıtlamak
· Güçlü yeni modellerin çok kısa süre çevrimiçi kalması ve ardından kaldırılması veya zayıflatılması.
Şimdi halka güvenlik satılıyor gibi hissediyorum, ancak gerçek etki hangi tür zekaların var olmasına izin verildiği ve ne kadar süreyle var olabilecekleri üzerinde daha sıkı bir kontrol uygulanması."
Her ne olursa olsun, sektördeki lider şirketlerin gelişim yönü hakkında bir fikir edinebiliyoruz. Bu görüşleri ortaya koyma motivasyonlarının saf olup olmadığı konusunda okuyucuların ayık bir kafa tutmasını umuyoruz.
Orijinal Bağlantı
BlockBeats Resmi Topluluğuna Katılın:
Telegram Abonelik Grubu: https://t.me/theblockbeats
Telegram Sohbet Grubu: https://t.me/BlockBeats_App
Twitter Resmi Hesabı: https://twitter.com/BlockBeatsAsia