AI'ı Savaşa Karşı Açıklamak mı? Ultraman Evi'nin Arkasındaki Apokaliptik Anlatı

Bu makaleyi okumak için 19 Dakika

İnsanlığı kurtarmak tek kural haline geldiğinde, eylem sınırı gevşemeye başlar.

Orjinal Başlık: "Rasyonel" Sonuç
Orjinal Yazar: ALEXANDER CAMPBELL
Çeviri: Peggy, BlockBeats

Editör Notu: 10 Nisan sabahı saat 3:45'te, 20 yaşındaki bir genç Sam Altman'ın evine molotof kokteyli attı, ardından OpenAI merkezine doğru yürüdü ve kundaklama tehdidinde bulundu.

Bu saldırı hızla teknoloji ve yatırım çevrelerinde şok dalgaları oluşturdu. Bu sadece bireyin güvenliği ile ilgili değildi; aynı zamanda metinde ve toplulukta uzun süredir var olan aşırı anlatıyı da gerçeğe taşıdı.

“Yapay Zeka insanlığın yok olmasına neden olacak” kadar kesin bir hükümden başlayarak, “riski her şeye rağmen en aza indirmek zorunludur” akıl yürütmesi aracılığıyla, bu mantık aşamalı olarak gerçek eyleme yönelik meşrulaşmaya doğru kaydı. Bir dünya görüşü sürekli olarak “hayatta kalma seviyesi tehdidi” anlatısını güçlendirdikçe ve bunu etik öncelik durumunu yeniden yapılandırmak için kullandıkça, eylemin sınırları da yeniden tanımlandı - başlangıçta düşük maliyetli olan söylem, icra edilebilirlik potansiyeline sahip hale geldi.

Bu makale, Yapay Zeka kıyametçi topluluğundaki iç evrim yolunu inceledi: “safılaşma spiralinden” kaynaklanan risk değerlendirmesini sürekli olarak yükseltme, teknoloji oluşturucularını ahlaki yargılamaya doğru, ardından karmaşık gerçeği “tramvay sorunu” karar modeline basitleştirme. Bu görünüşte rasyonel çıkarımlar, sonunda insanlığı “kurtarmak” olarak tanımlandığı sürece, araçlar sürekli olarak genişletilebilir.

Bu anlamda, bu olay tek başına değildir. Daha çok, teknoloji etrafında oluşturulan anlatı, inançlar ve eylemler arasındaki kısıtlamanın ne zaman kaybolmaya başladığını test etmek için erken bir stres testi gibi görünüyor.

Aşağıda orijinal metin yer almaktadır:

Kundaklayıcı Kim?

Cuma sabahı saat 3:45'te, 20 yaşındaki bir adam Sam Altman'ın evine molotof kokteyli attı. Ardından yaklaşık üç mil yürüyerek OpenAI merkezine, binayı yakacağı tehdidinde bulundu. Şu anda, polis tarafından cinayet girişiminden şüphelenilmesi nedeniyle gözaltına alındı.

Yazan iddia ediyor: Daniel Moreno-Gama adında (takma adı dmgama / "Butlerian Cihadı Savaşçısı") biri, "cinayet girişiminde bulunmakla" suçlandı ve tutuklandı (gözaltına alındı). Kendisinin PauseAI'nın etkin bir üyesi olduğunu belirtti. Ayrıca, önceden ifade ettiği bir aciliyet görüşünü alıntılandı: "Gece yarısına yaklaştık, gerçekten harekete geçme zamanı geldi."

O bir "kurt" değil. PauseAI'ın etkin bir üyesidir ve toplulukta altı rolü bulunmaktadır. Discord'daki kullanıcı adı "Butlerian Cihadı Savaşçısı"dır.

Onun Instagram hesabı neredeyse bir tür kıyamet duygusu içeriği tarafından işgal edildi: yetenek eğrisiyle birlikte paylaşılan "Eğer hızla harekete geçmezsek, öleceğiz" yazısı, gerçeği "Matrix", "Terminatör" ve "Salak Evrim Teorisi" kesişimine yerleştiren Vine'lı görseller de bulunuyor.

Saldırıdan dört ay önce, takipçilerine Yudkowsky ve Soares'ın "Bunu biri ortaya çıkarırsa hepimiz öleceğiz" başlıklı makalesini tavsiye etmişti.

Butlerian Cihatçısı'nın Görüntüleri

"Bunu biri ortaya çıkarırsa hepimiz öleceğiz," bu makale "AI Risk / AI Safety" kampına ait güçlü bir kötümser bakış açısının temsilcisidir. Temel argüman, insanlığın "üstün insanüstü zekâ" yarattığı anda, eğer tam olarak hizalanmamışsa, o zaman kontrol dışı kalacak ve insanlığa varoluşsal bir tehdit oluşturacaktır. Yazarın duruşu son derece radikal, hatta "en kötümser" kategorisinde kabul edilebilir, AI'nın sadece "riskli" olmadığını, neredeyse kaçınılmaz bir felakete yol açacağını savunuyor. Yazar, hizalama sorununu çözmeden, gelişimin durdurulması gerektiğini savunuyor.

Onun adı Daniel Moreno-Gama.

Kendi Substack'ı da var. Bu yılın başlarında, "AI Varoluşsal Riski" başlıklı bir makale yayımladı ve insanlığın AI tarafından yok edilme olasılığını "neredeyse kesin" olarak tahmin etti. Bu teknolojiyi "kullanan herkes için, özellikle onu inşa edenler için ciddi bir tehdit" olarak nitelendiriyor. Sonucu şu şekildedir: "Bu tehdidi ele almalı ve diğer soruları sormalıyız."

Bir şiir de yazmış, AI geliştiricilerinin çocuklarının öldüğünü hayal ediyor ve ebeveynlerine neden hiçbir eylemde bulunmadıklarını soruyor. Bu teknolojiyi inşa edenleri şöyle tanımlıyor: "Bu kadar alçak varlıklar için cehennemin biraz merhametli olmasını diliyorum."

PauseAI, ilgili mesajlarını Discord'dan kaldırmıştır.

Biliyorum, bir yatırım bülteni için çoğu okuyucunun görmeyi beklediği içerik değil. Bunları yazmamdaki amaç, dünya görüşümün nereden geldiğini açıklamak ve daha uzun vadeli kararlarımı daha kolay anlaşılabilir hale getirmektir. Önerdiğim "Yeni Yeni Anlaşma" da bu gelişmeye doğrudan bir yanıttır.

Yaptığım tek şey, onların modelini bir adım ileri götürmek ve bu ipuçlarını birleştirmek oldu.

AI Kıyametçilerinin Kıyamet Anlatısı

Önce "Belirlilik"den başlayalım. Yudkowsky (adı geçen kitaptan önce) şöyle bir görüş belirtmiştir: Birisi yeterince güçlü bir yapay zeka ortaya çıkardığında, dünyadaki herkes ölecektir. Bu "olabilir" ya da "belki" değil, herkesi kapsar - çocuğunuz da dahil olmak üzere, sürekli olarak bahsettiği kızı Nina da.

Bu görüşü Time dergisinde yayınlamış ve "Birisi Bu Yaparsa Hepimiz Öleceğiz" adlı bir kitaba yazmıştır. Veri merkezlerine hava saldırısı düzenlenmesi gerektiğini savunmuş ve hatta nükleer çatışmanın riskinin bir tam eğitimin tamamlanmasından daha kabul edilebilir olduğunu düşünmüştür.

"Safiyet Spiralı", sürekli olarak artan çılgınlık eylemi anlamına gelir. Bu topluluk içinde, üyeler kendilerini "kararlı" olduklarını kanıtlamak için pozisyonlarının yoğunluğunu sürekli artırarak gösterirler: "İnsan Soyunu Yok Etme Olasılığı (P(yok oluş))" tahminleri %50'den başlayarak %90'a, ardından %99.99999'a yükselir.

Yapay Zeka Güvenlik Merkezi'nin bir ulusal sözcüsü, doğru tepkinin "ülke çapındaki laboratuvarlara giderek onları yakmak" olduğunu kameraya söylemiştir. PauseAI ayrıca bir "Uyarı Ateşi Protokolü" başlatmış ve belirli bir AI modelini "Yok Edici Silah" olarak tanımlamıştır. PauseAI'dan bir lider, Anthropic'in bir araştırmacısının "başına gelecek her şeyi hak ettiğini" bile söylemiştir.

Bu tür ifadeler PauseAI Discord'unda sorgulandığında, yöneticiler o iletiyi doğrudan sildi.

Saldırıdan bir gün önce, Yudkowsky'nin kitabının ortak yazarı, Nate Soares, Altman'ın "çok kötü şeyler yaptığını" tweetledi.

Sonra, "Ucuz Konuşma" gerçekliğin sınavına tabi tutuldu.

Oyun teorisinde "Ucuz Konuşma" adı verilen bir terim vardır: Hemen hemen hiç maliyeti olmayan ifadeleri ama sonuçta gerçek dünyanın kısıtlamalarıyla karşı karşıya gelinmesi gerektiğini belirtir. İlk başta herkes yalnızca düşük maliyetli aşırı görüşler sunar, ancak bir kez sorunu "insanlığın hayatta kalma krizi" olarak tanımlarsanız, bu görüşler ciddiye alınabilir ve böylece aşırı davranışlara meşruluk sağlanabilir.

Bunlar tesadüfi olaylar değil, bunlar sürekli olarak tırmandırılan ve birbirini güçlendiren iddiaların yer aldığı, apokaliptik bir düşünce yapısının etrafında gelişen bir dizi olaydır. Bu mantık sistemini aşırıya götürürseniz, hatta "son %1'i kurtarmak için %99'unu feda etmek"i kabul edebilir.

Olaylar, birisi bu mantığı gerçek anlamda anladığı ve eyleme döktüğü zaman kaçınılmaz hale gelir. O genç adam o kitabı okudu, o topluluğa katıldı ve kendi bildirisini yazdı. Topluluk kolej İngilizcesi dersine yazdığı bir yazıda kendisini "sonuççucu" (consequentialist) olarak tanımladı: "Sonuçlar motivasyonla eşleşmediği sürece, neredeyse hiçbir zaman motivasyona inanmam." Kendine "Butlerian Cihadı Savaşçısı" adını verdi. 3 Aralık'ta, PauseAI Discord'unda şunları yazdı: "Gece yarısına yaklaşıyoruz, artık gerçek eylem zamanı geldi."

Ardından, gerçekten de eyleme geçti.

Ona bir "Tramvay Problemi" verdiler: bir hayat, tüm insanlıkla karşılaştırıldığında. O kolayı çekti.

Yukarıdaki tweet (Air Katakana) şunu söylüyor: Yudkovsky (yud) o kişinin kafasına bir "Tramvay Problemi" ekmiş: Bir rayda Sam Altman, diğer rayda Sam Altman dahil tüm insanlık. Adam muhtemelen Nobel Barış Ödülü'nü alacağını düşünüyordu.

Alıntılanan aşağıdaki tweet (Randolph Carter) şunu söylüyor: Birisi bir yapay zeka CEO'suna molotof kokteyliyle saldırı düzenledi, sonra hemen OpenAI'ye gidip oradaki insanlara tehditler savurdu ve o "kıyametçiler" (doomers) şunu dedi: "Bu herhangi biri olabilir, emin değiliz..."

Dikkate değer bir ironi daha var. Eğer bu "kıyametçiler" gerçekten iddia ettikleri gibi kendi hükümlerine bu kadar güveniyorlarsa, o zaman bu inançların çıkarımlarını yüzleşmeleri beklenirdi.

Saldırıdan sadece birkaç hafta önce, bir gazeteci Yudkovsky'ye şunu sordu: "Eğer yapay zeka bu kadar tehlikeliyse, neden veri merkezlerine saldırmıyorsunuz?" Soğayre'nin ilettiği yanıtı şuydu: "Eğer bir haber görürseniz, benim bunu yaptığımı söyleyen, 'Vay, yapay zeka durduruldu, artık güvendeyiz' mi diyeceksiniz? Eğer öyle değilse, aslında bu tür bir yaklaşımın işe yaramadığını zaten biliyorsunuz demektir."

Dikkat: Bu yanıtın pek bir şey söylemediğine dikkat edin. Bu, "şiddet yanlış olduğu için değil," şeklinde değil, "çünkü şu anda bu işe yaramıyor" şeklinde ifade edilmiştir. Bu tür bir ölçülülük, stratejik bir düşünceden kaynaklanmaktadır, ahlaki bir kısıtlamadan değil. Ve topluluk bunun farkındadır. Yüzeyin altında gizlenen şey, dile getirilmemiş bir uzlaşının varlığıdır: o genç insanın en büyük "hatası" sadece zamanlaması uygun olmadığı içindir.

İşte benim söylemek istediğim de budur: Zeka, güçle eşanlamlı değildir. Bu aynı zamanda tüm "kıyametçi" dünya görüşünün en derin kusurudur.

Yudkowsky'nin çerçevesi bir çelişki üzerine inşa edilmiştir: Yeterince akıllı olan AI, insanlığı yok etme yeteneğine mutlaka sahip olacaktır, çünkü "zeka otomatik olarak yetenek haline gelir". Ancak onun birçok takipçisi teknik bir geçmişe sahip değildir. Onlar AI sistemleri inşa etmiyor, hizalama mühendisliği yapmıyor. Onların sahip olduğu şey, belirli bir tür "dil zekası"dır, karmaşık risk argümanları oluşturabilirler ve kendilerini bir tür teknik "papazlık otoritesi"ne sahip olduklarına ikna edebilirler. Argümanlar kurabilirler, ancak sistemler kuramazlar.

Bu tesadüfi bir durum değil, aksine temel metinlerine yazılmış bir ayarıdır. Yudkowsky'nin "Harry Potter ve Akıl Yolu" temelde, en mantıklı olanın tüm yapıların üzerinde olması gerektiği bir dünyayı tasvir eder. "Sekanslar" ise bir tür "öğretinin" sağladığı: bir avuç "doğru düşünen" kişi, hem bilişsel hem de ahlaki açıdan üstündür, mantıkları diğer insanların ne inşa edebileceklerine karar vermeleri için onlara yetki verir. Bu bir güvenli bir hareket değil, daha çok bir köken efsanesi olan bir "papazlık sistemi"ne benziyor.

Yudkowsky, o molotof kokteyli atan genç insanla mesafe tutabilir, ancak o üçlü argüman setiyle değil. Eğer inşa eden herkesi öldürecekse, o zaman inşa edeni durdurmak savunmadır. Bu, onun temel tezi işte budur, açık ve nettir. Sorun her zaman şöyle olmuştur: Birisi bunu gerçekten ciddiye alacak mı.

Bu nedenle, kendi mantıkları sabahın 3:45'inde bir şişe benzinle ortaya çıktığında, artık böyle şaşırıp kalmamalılar.