Orijinal başlık: "Huang Renxun sola, Amodei sağa"
Orijinal yazar: Su Yang, Tencent Teknoloji

Öncü yapay zekanın hızlanmaya devam mı edeceği yoksa frene mi basılacağı, Silikon Vadisi'nde günümüzün en tartışmalı konusu haline geldi.

Tartışma etrafında Silikon Vadisi devleri taraf seçmeye başladı; Amodei, Altman, Musk ve Hassabis "duraklama" cephesini oluşturdu. Huang Renxun ise kararlı bir "hızlanma" taraftarı olarak "yapay zeka kıyamet teorisi"nin bilimsel dayanaktan yoksun olduğunu eleştirdi; Yann LeCun ise Amodei'yi alay etmeye devam ederek şöyle dedi: "(Amodei) henüz OpenAI'dayken GPT-2'nin açık kaynak olarak yayınlanamayacak kadar tehlikeli olduğunu düşünüyordu, o zaman onunla dalga geçmiştim, şimdi herkes devam edebilir."

Buna karşılık Zuckerberg ve Nadella gibi isimler görece tarafsız bir tutum sergiledi.

Devlerin kendi taraflarını seçmesi, Silikon Vadisi'nin öncü modellerin duraklatılması konusunda bir fikir birliğine varamadığı anlamına geliyor; bu da her birinin yapay zeka endüstri zincirindeki ekolojik konum farklılığından kaynaklanıyor. Model düzeyinde lider olanlar farklı gerekçelerle duraklama çağrısı yapabilir, ancak yüz milyarlarca dolarlık hesaplama gücü siparişini elinde tutan Oracle, AWS ve besin zincirinin en tepesinde duran Nvidia gibi şirketlerin durmasını sağlamak olumlu bir yanıt alamaz.

Washington'da "duraklama" çağrısı yalnızca destek görmekle kalmadı, hatta bir dizi sorgulamayı da beraberinde getirdi.

"Bana biraz Truva atı gibi geliyor (It feels a little bit to me like a bit of a Trojan horse)." JD Vance bir röportajda böyle söyledi; bu söz aslında Washington'ın gerçek görüşünü yansıtıyor — Truva atını üreten şirketler kapının daha da daraltılmasını tekrar tekrar talep ettiğinde, bu kapının aslında hangi şirketlere uygun olduğunu sorgulamak gerekir.

01 Duraklama, uyarı ve bir istifa mektubu

Bu tartışmanın fitilini ateşleyen şey, Anthropic araştırmacısı Jacob Coxon'un istifası oldu.

Daha önce OpenAI ve Anthropic'te üç yıl boyunca ön eğitim araştırması yapmış ve en öncü modellerin eğitimine bizzat katılmıştı. X'teki uzun yazısında neredeyse hiç nezaket göstermedi: "Her iki şirket de sorumlu davranmadı. Doğrudan kendini geliştirebilen süper zekaya doğru koşuyorlar ve hayatlarımızı kumar masasına koyuyorlar."

Laboratuvar içindeki insanların yapay zekanın on yıl içinde tüm insanlığı yok edebileceğine gerçekten inandığını ve bunun kesinlikle bir halkla ilişkiler gösterisi olmadığını açıkça söyledi. Birçok meslektaşı şimdiden mevcut aşamayı tanımlamak için "kritik an" ve "son oyun" ifadelerini kullanmaya başlamıştı. Coxon yakında kendisine ait olacak hisse haklarından bile vazgeçti. Anthropic'te yalnızca dört ay kalmıştı; şirket kurallarına göre hisse hakları altı ayda kazanılıyordu.

Anthropic'in eski araştırmacısı Jacob Coxon

Hemen ardından, Anthropic'in hizalama biliminden sorumlu Evan Hubinger açıkça yanıt verdi: Jacob haklı, yapay zekanın tüm insanlığı öldürebileceğine gerçekten ciddi şekilde inanıyoruz. Şahsen ben, on yıl içinde bu olasılığın %10'dan fazla olduğunu düşünüyorum. Anthropic elinden geleni yapıyor, ancak süper zeka hizalaması için net bir planımız yok ve doğru yolda olmaktan çok uzağız.

Bu iki silah sesi, başlangıçta esas olarak laboratuvar içinde mayalanan endişeyi doğrudan kamuoyunun önüne taşıdı. Bu bağlamda, Anthropic'in kurucusu ve CEO'su Amodei hemen uzun bir makale yayınlayarak sistematik bir şekilde "öncü araştırmayı yavaşlatma" önerisini ortaya koydu. Artık sadece "daha fazla güvenliğe yatırım yapmak"tan bahsetmiyor, açıkça yetenek sıçramalarının hızını aktif olarak kontrol etmeyi ve güvenlik mekanizmalarına yetişmek için zaman tanımayı talep ediyordu.

Altman, Musk ve Hassabis kısa sürede kamuoyu önünde karşılık vererek "duraklama fraksiyonu"nu oluşturdular.

Jacob Coxon ve Amodei'nin "yavaşlama" tezleri ortaya çıkmadan önce, Joshua Bengio ve Geoffrey Hinton gibi "yapay zeka vaftiz babaları" sürekli olarak risklere dikkat çeken çağrılar yapıyorlardı.

Coxon'un istifasından bahsederken Bengio, öncü yapay zeka laboratuvarlarındaki bilim insanlarının genellikle en yeni modellerin yeteneklerini kamuoyundan daha erken görebildiklerini, bu nedenle risk değerlendirmelerinin ciddiye alınması gerektiğini belirtti.

Aynı zamanda Bengio, somut bir örnek vererek mevcut yapay zeka sistemlerinin zaten hackleme ve ikna yeteneklerine sahip olduğunu, insanlığın zararına kullanılmaları durumunda ciddi sonuçlar doğurabileceğini söyledi. Ayrıca, yapay zeka daha uzun zaman aralıklarında planlama yeteneği kazandıkça bu tür risklerin daha da genişleyebileceğinden endişe ediyor.

BBC tarafından yapay zekanın önümüzdeki on yıl içinde "tüm insanlığı öldürme" olasılığının %10'dan fazla olup olmadığı sorulduğunda Geoffrey Hinton da bu rakamın "mantıksız olmadığını" söyledi, ancak aynı zamanda kimsenin güvenilir bir tahminin nasıl yapılacağını gerçekten bilmediğini vurguladı, çünkü insanlık daha önce hiç "yakında bizden daha zeki olabilecek bir türün varlığı" ile karşılaşmamıştı.

Hinton'a göre yapay zeka gelecekte tehlikeli biyolojik virüsler, bilgisayar virüsleri tasarlamak ve büyük ölçekli siber saldırılar düzenlemek için kullanılabilir. Bu nedenle insanlığın risk kontrolden çıkmadan önce etkili kontrol yöntemleri bulması gerekiyor.

Silikon Vadisi'nin yeni "duraklama teorisi" savunucularından farklı olarak, "yapay zeka vaftiz babaları" doğrudan frene basmak yerine daha çok risklere dikkat çekilmesi ve risk kontrol mekanizmalarının oluşturulmasının araştırılması çağrısında bulunuyorlar. Ayrıca konum açısından, akademik alandaki görüş ve öneriler daha safken, öncü laboratuvarların önerileri yüzeyde "insanlık için" etiketi taşısa bile %100 ticari kaygılardan arınamıyor.

İşte tam da bu yüzden JD Vance, "duraklama teorisi"nin Truva atı gibi olduğunu söylüyor.

02 Görüş Ayrılıkları ve Taraf Tutma

"Hızlandırmacılar", "Yavaşlatmacılar" ve "Ortayolcular" kampları. Kaynak: The New York Times

15 Eylül'de, birçok teknoloji şirketi yöneticisi Salesforce Dreamforce etkinliğinde art arda konuştu ve bu tartışma daha doğrudan bir görüş çatışmasına dönüşmeye başladı.

O gün Amodei, Huang Renxun ve Altman yapay zeka güvenliğinden bahsettiler, ancak gelişim hızı, güvenlik sorumluluğu ve şirketlerin ne gibi adımlar atması gerektiği konusunda farklı yanıtlar verdiler.

Amodei, Salesforce CEO'su Marc Benioff ile aynı sahnede yer aldığında, yapay zeka şirketlerinin kendi eylemleriyle daha yüksek güvenlik standartları belirlemesi gerektiğini bir kez daha vurguladı. Ona göre, şirketlerin proaktif olarak daha sıkı güvenlik önlemleri alması, tüm sektörü ileriye taşımanın bir yolu olabilir.

Başka bir deyişle, Amodei'nin tutumu değişmeye başladı; tüm sektöre yavaşlama çağrısı yapmaktan, şirketlerin kendi güvenlik bariyerlerini kurmasına yöneldi.

Huang Renxun ise "ne yeni yasalara ne de yeni düzenlemelere ihtiyaç var" dedi. Ona göre hız ve güvenlik birbirinin alternatifi değil; şirketler model geliştirmeyi olabildiğince hızlı ilerletebilir; eğer kontrol kaybedilirse veya ürün güvenliği garanti edemezse, durup sorunu çözmelidirler.

Benioff'un tutumu ise daha açık ve özerkliği vurgulayan bir nitelikteydi. Şirketlerin yavaşlaması gerektiğini düşünüyorlarsa yavaşlamalı, hızlanması gerektiğini düşünüyorlarsa hızlanmalı ve aynı zamanda kendi kararlarının sorumluluğunu üstlenmelidirler.

OpenAI kurucusu ve CEO'su Altman, Dreamforce sahnesinde OpenAI'nin ve hatta tüm yapay zeka sektörünün, halka ciddi zarar vermeden güvenli bir şekilde gelişebileceğine dair çok güvendiğini belirtti. Aynı zamanda, dışarıdan kendi görüşlerinin tüm sektörün yapay zeka gelişim hızını yavaşlatmayı desteklediği şeklinde anlaşılmasından duyduğu hayal kırıklığını dile getirdi.

Başka bir deyişle, Altman da değişmeye başladı; anlatmak istediğinin sektörde yavaşlama çağrısı olmadığını, güvenlik ve izleme çalışmalarının yetenek artırımından önce gelmesi gerektiğini vurguladı.

Zuckerberg ise bir şirketin güvenlik eylemlerinin, diğer yapay zeka şirketlerinin de aynı anda yavaşlaması ön koşuluna dayandırılmasını savunmadı. Model güvenliğini test etmek için bağımsız değerlendirme kuruluşları ve dış danışmanlar getirmenin sektörün en iyi uygulaması olduğunu düşünüyor. Ayrıca Meta'nın daha önce, diğer şirketlerin yapay zeka gelişimini yavaşlatma konusunda önce uzlaşmasını beklemeden, Muse AI aracının geliştirmesini kendi inisiyatifiyle yavaşlattığını açıkladı.

Microsoft CEO'su Satya Nadella'nın tutumu bir bakıma Altman'la örtüşüyor; hem koruyucu önlemlerin eklenmesini hem de tam rekabeti teşvik ediyor.

「Öncelikle yapmamız gereken insanlığa hizmet etmek ve teknolojinin insan kontrolü altında olduğundan emin olmaktır. Aynı zamanda, yapay zeka teknolojisinin geniş çapta yayılması en kritik unsurdur; seçenekler ve rekabet olmalıdır. Güvenlik ciddiye alınmalı, ancak mistikleştirilerek değil, mühendislik ve şeffaf bir yaklaşımla ele alınmalıdır.」dedi Nadella 15 Eylül'de All-In Summit 2026 zirvesine katılırken.

Bu girişimcilerin yanı sıra, Washington'dan gelen sesler de sürece daha fazla dahil oldu.

Trump'ın doğrudan Jensen Huang'ı arayarak yapay zeka endüstrisinin gelişimini desteklediğini açıkça ifade etmesinin ardından, ABD Başkanlık Bilim ve Teknoloji Danışma Konseyi Eş Başkanı David Sacks, teknoloji şirketlerinin öncü yapay zeka alanında ilerlemeye devam edebileceğini belirterek, bazı şirketlerin 「yavaşlama」 önerilerinin arkasındaki motivasyonu sorguladı.

03 Kuralları kim koyacak?

Tartışmalar genişledikçe, ihtilaf yapay zeka riskinin kendisinden, öncü yapay zeka güvenlik standartlarının şirketler tarafından mı yoksa hükümet ve bağımsız kuruluşlar tarafından mı belirlenmesi gerektiğine doğru uzandı.

Bloomberg, konuya yakın kaynaklara dayanarak, Anthropic, Google ve OpenAI'ın daha önce bir yapay zeka endüstri standartları kuruluşu kurmayı tartıştığını bildirdi.

Temmuz ayında Hassabis bir makale yayımlayarak, ABD liderliğinde, çalışma modeli ABD Finans Sektörü Düzenleme Kurumu'na (FINRA) benzeyen bir yapay zeka standartları kuruluşu kurulmasını önerdi. Bu kuruluş, gelişmiş yapay zeka modelleri resmi olarak devreye alınmadan önce test ederek ilgili güvenlik standartlarını karşılayıp karşılamadıklarını değerlendirebilir.

Hassabis'in tasavvuruna göre, bu kuruluş tamamen hükümet tarafından yönetilmemeli, kamu-özel işbirliği modeli benimsenmelidir. Hükümet denetleyici rol üstlenirken, yapay zeka endüstrisi finansman sağlayacak, aynı zamanda bağımsız önde gelen teknoloji uzmanları ve açık kaynak topluluğu temsilcileri de katılım gösterecektir.

Hassabis, modeller gerçek dünyaya girmeden önce bağımsız bir güvenlik kontrolü eklemeye çalışıyor; bu, ABD hükümetinin Haziran başında açıkladığı düzenleme mantığıyla oldukça uyumlu: şirketler modellerini kamuya açıklamadan önce gönüllü olarak hükümete değerlendirme için sunabilir, yayın öncesi en fazla 30 günlük erişim penceresi sağlanabilir ve açıkça zorunlu onay süreci ile yayın izni uygulanmayacaktır.

Oldukça dramatik olan sonraki gelişme ise Fable 5 ve Mythos 5'in devreye alınmasıyla yaşandı; bu süreci takip etmediler, ancak son derece güçlü siber saldırı ve savunma yeteneklerine sahip oldukları tespit edildi ve sonunda ABD BIS tarafından ihracat kontrolü kapsamında kısa süreliğine devre dışı bırakıldılar.

Ancak buna rağmen, politikanın tutumu yalnızca güvenlik bariyerleri eklenmesini talep etmekle sınırlı kaldı; yavaşlama yönünde bir açıklama veya yönlendirme yapılmadı.

Hassabis ile benzer görüşlere sahip olan bir diğer isim de OpenAI'ın baş bilim insanı Jakub Pachocki'ydi. O da Eylül başında, güvenlik standartlarının paylaşılmasının ve AI'nın daha fazla geliştirilmesi etrafında uluslararası koordinasyonun şu anki öncelikli meseleler olması gerektiğini vurgulamıştı.

04 Kimse Gerçekten Frene Basmıyor

Şu ana kadar bu tartışma, öncü AI şirketlerinin gelişim hızını gerçekten değiştirmedi.

Anthropic, OpenAI, Google, xAI gibi şirketler model araştırma-geliştirme çalışmalarını sürdürmeye devam ediyor; hesaplama gücü, veri merkezleri ve AI altyapısı etrafındaki rekabet de bu tartışma nedeniyle durmadı. Sermaye piyasaları tarafında ise farklı gelişmeler yaşandı: Anthropic bu yılki halka arz hazırlıklarını sürdürürken, OpenAI halka arz planını 2027'ye erteledi.

Amodei'nin tüm sektörü durdurup Anthropic ile birlikte model yeteneklerinin sınırları aşmasına karşı güvenlik bariyerleri ekleme çözümleri aramaya çalışması, bir ölçüde "başkalarının sırtından cömertlik yapmak" olarak yorumlanabilir.

Amodei'ye "kusursuz bir melek gibi davranmak" etiketi yapıştırılmasının nedeni de budur.

Bu risk kontrolü konusunda, Jensen Huang'ın temsil ettiği görüş aslında mevcut duruma daha uygun: eğer şirketlerin endişeleri varsa veya bir sorun tespit ederlerse, çözümleri kendi başlarına araştırabilirler ve etkili olduğu kanıtlanan çözümleri sektörle paylaşabilirler.

100 kişilik bir ekibi ve 1000 kişilik bir ekibi birlikte durdurmak, hiçbir şekilde fikir birliği temeline sahip değil. Hatta Amodei'nin kendisi bile, eğer yalnızca kendisi durursa, OpenAI gibi rakipler tarafından geçilme ihtimalinin çok yüksek olduğunun farkında.

Daha da önemlisi, kurumsal yönetim düzeyindeki anlaşmazlık. Anthropic ve OpenAI birer Kamu Yararı Şirketi (Public Benefit Company) olup "insanlığın geleceği için kısa vadeli finansal çıkarlardan vazgeçme" söylemini kullanabilir ve yatırımcılara "bu konuda çok erken dönemde fikir birliğine vardığımızı" söyleyebilirler; ancak Google, Microsoft, Meta gibi halka açık şirketlerin yönetimleri, ikincil piyasa hissedarlarına karşı yasal sadakat yükümlülüğü taşır.

Farklı çıkarlara sahip bu iki tür şirketin bu noktada fikir birliğine varma olasılığı da pek yüksek değil.

Gözden kaçmış olabilecek bir detay daha var. "Durdurma tezi"nden önce, hem Anthropic hem de OpenAI en güçlü modellerini art arda yayınlamıştı: biri Fable 5.1, diğeri GPT-6 Astra.

Bu kadar çağrının ardından, diğerlerinin yeni modelleri hâlâ yayınlanacak mı?

Orijinal bağlantı

BlockBeats Resmi Topluluğuna Katılın:

Telegram Abonelik Grubu: https://t.me/theblockbeats

Telegram Sohbet Grubu: https://t.me/BlockBeats_App

Twitter Resmi Hesabı: https://twitter.com/BlockBeatsAsia