Dalio'nun diğer yüzü: testis kanseri geçirmiş, Musk'a hayran, yetişkin ölümlerinin kaybının bebeklerinkinden 3 kat daha fazla olduğunu düşünüyor

动察 Beating AI haber bülteni, Anthropic CEO'su Dario Amodei daha önce testis kanseri geçirmişti. 2014 yılında teşhis konulduktan sonra kemoterapi gördü ve sonunda tamamen iyileşti. Bu deneyim daha önce pek bilinmiyordu. 5 Kasım'da The New York Times, Dario'nun 20'den fazla arkadaşı, sınıf arkadaşı ve eski iş arkadaşıyla röportaj yaparak AI güvenliği temsilcisi figürünün diğer yüzünü ortaya koymaya çalıştı.

Dario'nun ölüm ve zamana olan ilgisi daha eskilere dayanıyor. 2006 yılında babası hepatit C nedeniyle hayatını kaybetti ve çoğu hastaya tedavi şansı tanıyan yeni ilaçları göremedi. Dario aslında fizik okuyordu, ancak daha sonra yavaş yavaş biyolojiye yöneldi ve yeni teknolojilerle tıbbi ilerlemeyi hızlandırmayı umdu. Arkadaşları, katı yüzme antrenmanlarına devam ettiğini, yaşlanma karşıtı takviyeler denediğini ve kalori alımını kısıtladığını, sık sık zamanın sınırlılığından bahsettiğini ve zamanın yenilenemeyen tek kaynak olduğunu düşündüğünü hatırlıyor.

Dario, 2007 gibi erken bir tarihte AI'nın insan zekasını aşacağı fikrine kendini kaptırmıştı. Bir arkadaşına teknolojik tekilliğin 2040'ta gelebileceğini ve insanların makinelerle bütünleşebileceğini bile öngörmüştü. Ancak aynı zamanda, AI doğru şekilde geliştirilmezse insanlığın sonunun gelebileceği konusunda uyardı.

O dönemde AI güvenliği düşünürü Eliezer Yudkowsky'den ve etkili fedakarlık hareketinden büyük ölçüde etkilenmişti ve Musk ile de yazışmıştı. İki kaynağa göre, Dario gençliğinde Musk'a hayrandı ve hatta onun şirketinde çalışmayı düşünmüştü, ancak sonunda bu gerçekleşmedi.

2010 yılında Dario, GiveWell adlı hayır kurumunun blogunda, yetişkinlerin bebeklerden daha zengin ve daha derin yaşam deneyimlerine sahip olduğunu, bu nedenle bir yetişkinin ölümünün yol açtığı kaybın bir bebeğin ölümünün 2 ila 3 katı olabileceğini yazdı.

O sırada iki hayır projesini karşılaştırıyordu: biri yetişkin tüberkülozuyla mücadeleye adanmıştı, diğeri Afrika'daki çocuklara aşı yapılmasına yardımcı oluyordu. Onun yaşam değeri yargısına göre, yetişkinleri kurtarmak daha avantajlıydı. Ancak sonunda 10.000 doların tamamını çocuk aşısı projesine bağışladı. İkincisinin güvenilir uygulama sürecine ve verimli hayır kurumlarını ödüllendirmenin getirebileceği uzun vadeli etkiye daha fazla önem verdi.

Daha fazla insana yardım etmek için araştırmayı bırakıp finansa geçmeyi bile düşündü. 2010 yılında bir e-postada, bağış için daha fazla para kazanmak amacıyla finans alanında çalışmayı düşündüğünü belirtti.

Rasyonel hesaplamaya inanma ve uygulama güvenilirliğine önem verme düşünce tarzı, AI hakkındaki görüşlerinde de kendini gösteriyor. Süper AI'nın insanlığı yok edebileceğine inanıyor ve bu nedenle güvenliğe gerçekten önem veren, güvenilir kişiler tarafından geliştirilmesi gerektiğini düşünüyor. AI güvenliğine olan bu güçlü inanç, OpenAI içinde yavaş yavaş teknolojiyi denetleme hakkının kimde olduğu ve çekirdek projelere kimin katılabileceği konusunda anlaşmazlıklara dönüştü.

2018'de OpenAI araştırmacısı Joshua Achiam, Dario'nun şirketin baş etik sorumlusu olmasına karşı çıktı. Amodei kardeşlerin gücünün aşırı merkezileşmesinden endişe ediyor, dışarıdan uzmanlar getirilmesini ve az sayıda kişinin yapay zeka etik denetimini tekeline almamasını savunuyordu. Konuya yakın kaynaklar, Dario'nun yüz yüze görüşmede sesini yükselterek bu pozisyon için kendisinden daha uygun kimsenin olmadığını ısrarla söylediğini hatırlıyor.

GPT projesi etrafında çatışma daha da şiddetlendi. Dario ve kız kardeşi Daniela ilgili araştırmayı yönlendirdikten sonra, OpenAI Başkanı Greg Brockman'ın katılımını engellemek için yoğun çaba harcadılar. Dario birçok kez Altman'a ültimatom verdi: Brockman projeden uzak tutulmazsa istifa edeceğini söyledi.

Altman sonunda geri adım atmayı reddetti. Aralık 2020'de Dario ve kız kardeşi birçok meslektaşıyla birlikte OpenAI'dan ayrıldı ve dört hafta sonra Anthropic'i kurdu. Bu ayrılık aynı zamanda araştırma sonuçlarının sahipliği, yönetim yetkisi ve uzun süredir biriken kişisel husumetlerle de karışıktı. Dario, Altman'ın kendi katkılarını küçümsediğini düşünüyor ve Brockman ile çalışamayacağını açıkça belirtmişti.

İronik olarak, 2016'da Trump ilk kez ABD başkanı seçildiğinde Dario, OpenAI iç mesajlarında ABD siyasetinin gidişatına ilişkin endişelerini dile getirmişti. Yatırımcı Peter Thiel'in Trump'ı desteklediği için ahlaki açıdan kınanması gerektiğini ve OpenAI'nin onun parasını almaya devam etmemesi gerektiğini savunuyordu. Ancak daha sonra Thiel'in kurduğu risk sermayesi kuruluşu Founders Fund, Anthropic'in yatırımcısı oldu.

Bugün Dario'nun yönettiği Anthropic daha sıkı yapay zeka güvenlik denetimini teşvik ediyor. Ayrıca Çin'e çip ihracatının kısıtlanması, düzenlemelerin güçlendirilmesi ve yapay zekanın kontrolden çıkmasına karşı uyarılarda bulunması nedeniyle Jensen Huang, Zuckerberg gibi teknoloji devleriyle açıkça görüş ayrılığına düştü. Destekçileri onun yapay zekayı sorumlu bir şekilde geliştirdiğini düşünürken, eleştirmenler az sayıda şirketin aşırı teknolojik güç elde etmesini sağlamaya çalıştığını savunuyor.

Dario'nun kendisi The New York Times'ın bu röportaj talebini reddetti.