Akıllı insanların tuzağı: Vitalik neden bizim "aptalca kurallara" bağlı kalmamızı istiyor?

Orijinal yazar: ChainFeeds'in kurucu ortağı Zhixiong Pan

Vitalik'in birkaç hafta önce yayınladığı "Galaksi Beyin Direnci" başlıklı makalesi aslında oldukça muğlak ve anlaşılması güç, ayrıca iyi bir yorumunu da görmedim, bu yüzden bir deneyeyim.

Sonuçta "Vibe Coding" teriminin yaratıcısı Karpathy'nin de bu yazıyı okuyup notlar aldığını gördüm, demek ki bunda özel bir şey olmalı.

Öncelikle başlıkta geçen Galaxy Brain ve Resistance kelimelerinin ne anlama geldiğini açıklayalım. Başlığı anladığınızda, bu makalenin ne hakkında olduğuna dair genel bir fikriniz olacaktır.

1. Galaksi Beyni'nin Çince karşılığı "银河脑" (Yinhe Naozi)'dir, ancak aslında Samanyolu ve beyni birleştiren bir görüntüye benzeyen bir internet memesinden geliyor ve bunu daha önce kesinlikle görmüşsünüzdür.

Başlangıçta bu, birinin parlak fikrini, yani zekâsını övmek için kullanılan bir iltifattı. Ancak kullanımı yaygınlaştıkça, kabaca "aşırı düşünme, mantıkta aşırıya kaçma" anlamına gelen bir ironi biçimine dönüştü.

Vitalik, Galaxy Brain'in burada özellikle "yüksek zekâyı kullanarak zihinsel jimnastik yapma, mantıksız argümanları son derece mantıklı göstermeye zorlama" davranışından bahsettiğini belirtiyor. Örneğin:

- Açıkça para tasarrufu için işten çıkarmalar yapıyorlar ama bunu "topluma yüksek kalitede yetenek kazandırmak" olarak adlandırmakta ısrar ediyorlar.

- Yatırımcıları dolandırmak için açıkça değersiz kripto paralar çıkarıyorlar, ancak "merkezi olmayan yönetim yoluyla küresel ekonomiyi güçlendirdiklerini" iddia ediyorlar.

Her ikisi de "Galaksi Beyin" tarzı düşünce olarak değerlendirilebilir.

2. Peki Direnç ne anlama geliyor? Bu kavram kolayca karıştırılabilir. Halk arasında "yanıltılmaktan kaçınma yeteneği" veya "aldatılmaktan kaçınma yeteneği" ile karşılaştırılabilir.

Dolayısıyla Galaksi Beyin Direnci, Galaksi Beyin'e karşı Direnç olmalıdır, yani "galaktik bir beyne (saçmalığa) dönüşmeye (dönüşmeye) direnme yeteneği".

Ya da daha doğrusu, belirli bir düşünme/argümantasyon tarzının "istediğiniz sonucu kanıtlamak" için kötüye kullanılmasının ne kadar kolay veya zor olduğunu anlatır.

Dolayısıyla bu "direniş" belirli bir "teoriye" karşı yöneltilebilir, örneğin:

- Düşük direnç teorisi: Biraz araştırıldığında, "galaktik beyin"in son derece saçma mantığına evrilebilir.

- Yüksek direnç teorisi: Nasıl incelenirse incelensin aynı kalır ve absürt mantığa evrilmesi zordur.

Örneğin, Vitalik Buterin ideal toplumsal yasasının kırmızı bir çizgisi olması gerektiğini söylemişti: Bir davranış, yalnızca belirli bir kurbana nasıl zarar verdiği veya riske attığı açıkça açıklanabildiğinde yasaklanmalıdır. Bu standart, Galaxy Brain'e karşı oldukça dirençlidir çünkü "Ben kişisel olarak bundan hoşlanmıyorum" veya "kamu ahlakına aykırı" gibi sonsuzca esnetilebilir veya belirsiz gerekçeleri kabul etmez.

3. Vitalik yazısında çok sayıda örnek vermiş, hatta "uzun vadecilik" ve "zorunlulukçuluk" gibi sıkça duyduğumuz teorileri bile kullanmış.

"Uzun vadecilik", Galaxy Brain tarzı düşüncenin aşınmasına karşı koymak zordur, çünkü direnci son derece düşüktür; adeta bir "boş çek" gibidir. Bunun nedeni, "geleceğin" çok uzak ve çok belirsiz olmasıdır.

- Yüksek dayanıklılık iddiası: "Bu ağaç 10 yıl içinde 5 metreye kadar uzayacak." Bu iddia doğrulanabilir ve kolayca uydurulamaz.

- Düşük dirençli "uzun vadecilik": "Son derece ahlaksız bir şey yapmak üzere olsam da (örneğin bir grup insanı ortadan kaldırmak veya bir savaş başlatmak gibi), bunu insanlık için 500 yıl sonra ütopik bir yaşam uğruna yapıyorum. Hesaplamalarıma göre, gelecekteki toplam mutluluk miktarı sonsuz, bu yüzden şu anda yaptığımız fedakarlıklar önemsiz."

Görüyorsunuz, zaman dilimini yeterince uzatırsanız, herhangi bir anlık yanlışı haklı çıkarabilirsiniz. Vitalik'in dediği gibi, "Eğer argümanınız herhangi bir şeyi haklı çıkarabiliyorsa, o zaman argümanınız hiçbir şeyi kanıtlamaz."

Ancak Vitalik, "uzun vadenin önemli olduğunu" da kabul etti ve eleştirisini, "aşırı belirsiz ve doğrulanabilir olmayan uzun vadeli faydaların, şu anki açık zararı örtbas etmek için kullanıldığı" yönünde yaptı.

Bir diğer önemli sorun alanı ise "zorunlulukçuluk"tur.

Bu aynı zamanda Silikon Vadisi'nde ve teknoloji sektöründe en popüler kendini savunma tekniğidir.

Söylem şu şekilde: "Yapay zekanın insan işlerinin yerini alması kaçınılmaz bir tarihsel eğilimdir. Ben yapmasam bile, başkası yapacaktır. Dolayısıyla, şu anda yapay zekayı agresif bir şekilde geliştirmem para kazanmak için değil, tarihsel eğilimi takip etmek içindir."

Düşük direnç nerede yatıyor? Kişinin sorumluluk duygusunu tamamen ortadan kaldırır. "Kaçınılmaz" olduğu için, verdiğim zarardan sorumlu olmam gerekmez.

Bu da galaktik zihnin tipik bir örneğidir: "Para kazanmak istiyorum/İktidarda olmak istiyorum" gibi bencil bir arzuyu "Tarihi bir misyon yürütüyorum" şeklinde paketlemek.

4. Peki bu "akıllı insanların tuzakları" ile karşılaştığımızda ne yapmalıyız?

Vitalik'in çözümü şaşırtıcı derecede basit, hatta biraz "beceriksiz". İnsan ne kadar zekiyse, kendini dizginlemek ve zihinsel akrobasisini aşırıya kaçırmasını önlemek için kurallara o kadar dirençli olması gerektiğine inanıyor.

Öncelikle, temelde anaokulu düzeyinde bir ahlak kuralı olan "deontolojik etik"e uyun.

"Tüm insanlığın geleceği için" karmaşık matematik problemlerini bir kenara bırakıp, en katı ilkelere geri dönelim:

- Çalmayın

- Masum insanları öldürmeyin.

- Dolandırıcılık yapmayın

- Başkalarının özgürlüğüne saygı gösterin

Bu kurallar, müzakereye yer bırakmayan siyah ve beyaz oldukları için son derece dirençlidir. "Uzun vadecilik" gibi büyük prensipleri kullanarak kullanıcı fonlarını neden kötüye kullandığınızı açıklamaya çalıştığınızda, katı "çalmayın" kuralı yüzünüze tokat gibi çarpacaktır: çalmak çalmaktır, büyük bir finansal devrimden bahsetmeyin.

İkincisi, fiziksel konum da dahil olmak üzere doğru "pozisyonu" koruyun.

Atasözünde de söylendiği gibi, nerede oturduğunuz nerede düşündüğünüzü belirler. Tüm zamanınızı San Francisco Körfez Bölgesi'nin yankı odasında, yapay zeka hızlandırma çalışmaları yapan insanlarla çevrili olarak geçirirseniz, zihninizi berrak tutmak zorlaşır. Vitalik, fiziksel olarak dirençli bir öneri bile sundu: San Francisco Körfez Bölgesi'nde yaşamayın.

5. Özet

Vitalik'in yazısı aslında olağanüstü zeki elitlere bir uyarıdır: Yüksek IQ'nuz var diye temel ahlaki ilkeleri göz ardı edebileceğinizi düşünmeyin.

Her şeyi açıklıyormuş gibi görünen o "galaktik beyin" teorileri, çoğu zaman en tehlikeli ve her amaca uygun bahanelerdir. Tam tersine, görünüşte katı ve dogmatik olan bu "yüksek dirençli" kurallar, kendini kandırmaya karşı son savunma hattıdır.

Orijinal bağlantı

BlockBeats Resmi Topluluğuna Katılın:

Telegram Abonelik Grubu: https://t.me/theblockbeats

Telegram Sohbet Grubu: https://t.me/BlockBeats_App

Twitter Resmi Hesabı: https://twitter.com/BlockBeatsAsia