Orijinal video başlığı: Anthropic CEO'su Dario Amodei'nin Zihninde Bir Yolculuk | The Circuit | Genişletilmiş Röportaj

Orijinal video kaynağı: Bloomberg Original
Çeviri: Web3 Sky City

Editörün notu: Anthropic CEO'su Dario şu anda oldukça zor bir konumda. Bir yandan dünyanın en iyi AI modeline sahipken, diğer yandan ABD hükümetinin bir yasağı nedeniyle küresel çapta hizmet dışı kaldı ve hatta ekip içindeki Amerikalı olmayanlar bile modeli kullanamıyor.

Bu durumun nasıl çözüleceği henüz bilinmiyor. Dario'nun çabalarına devam ettiği söyleniyor, herkes gelişmeleri takip edebilir. Ancak bu son Emily röportajından, tartışmalı AI kodlama devinin liderinin düşünce yapısına bir göz atabiliriz.

Günümüz Silikon Vadisi güç haritasında Anthropic, son derece özel ve gergin bir merkez konumunda. OpenAI'nin en güçlü rakibi olarak, değer farklılıkları nedeniyle "ayrılmayı" seçen bir grup üst düzey araştırmacı tarafından kuruldu.

CEO Dario, AI'nın üstel büyümesi hakkında konuşurken spot ışıkları altında nadir görülen, cerrah benzeri bir soğukkanlılık sergiliyor. Bu sadece bir teknoloji rekabeti değil, aynı zamanda güven, emniyet ve insan uygarlığının zihinsel bir patlamayla nasıl başa çıkacağına dair derin bir oyun.

Tam Metin Özeti

Bu son röportaj, Anthropic CEO'su Dario'nun AI'nın üstel büyümesiyle karşı karşıya kaldığında yaşadığı zihinsel yolculuğu derinlemesine inceliyor. OpenAI'den ayrılmanın perde arkası, şirketin iş modeli seçimleri ve AI'nın iş piyasası, siber güvenlik ve jeopolitik üzerindeki derin etkileri ele alınıyor.

CEO, Anthropic'in "uzun vadeli çıkar tröstü" gibi mekanizmalar kurarak gücü nasıl dengelediğini ve teknolojik liderlik peşinde koşarken "kırmızı çizgiler" belirleyerek ve yüksek riskli modellerin (Mythos gibi) piyasaya sürülmesini geciktirerek güvenlik değerlerini nasıl uyguladığını ayrıntılı olarak açıklıyor.

Not: Dario'nun söylemleri her zaman Doğu'nun büyük gücüne karşı pek dostane olmamıştır, okuyucular kendi takdirlerini kullanmalıdır.

Temel Görüşler

· AI sektörü, belirli bir noktada niceliksel birikimin niteliksel bir patlamaya yol açtığı "istikrarlı bir üstel büyüme" içindedir.

· Güven, yapay zeka sektöründe iş birliğinin temel taşıdır. Anthropic, güvenilir aktörlerin bir araya gelerek sektör standartları oluşturması gerektiğini savunuyor.

· Kurumsal iş modelleri, yapay zeka güvenlik değerleriyle daha uyumludur ve tüketici pazarında yaygın olan bağımlılık yapıcı ve düşük kaliteli içerik rekabetini önleyebilir.

· Yapay zekanın yol açtığı işsizlik riskine karşı toplumun öngörülü olması ve makroekonomik politikalar geliştirmesi, aynı zamanda "aynı kaynaklarla daha fazlasını yapma" yönünde pozitif toplamlı bir oyun arayışına girmesi gerekiyor.

· Askeri uygulamalarda "insanın döngüde olması" ilkesine sıkı sıkıya bağlı kalınmalı ve kitlesel gözetim ile tam otonom silahlar konusundaki kırmızı çizgiler korunmalıdır.

Tam röportaj aşağıdadır:

Üstel Büyümenin Baskısı ve Deneyimi

Emily Chang: Ne kadar uyuyorsunuz?

Dario Amodei: Hiçbir zaman uyku kalitem çok iyi olan biri olmadım. Diyebilirim ki, olağanüstü stresli anlarda rahatlama ve uykuya dalma sanatını öğreniyorum.

Emily Chang: Her şey çok hızlı gelişiyor. Bunun içinde olmak nasıl bir his?

Dario Amodei: Bu üstel bir his. Şöyle düşünün: Bir uzay gemisiyle göreceli hızda Dünya'dan uzaklaşarak hızlanıyorsunuz. Özel görelilik kuramına göre, bir gece uyuyup uyandığınızda Dünya'da iki gün geçmiş oluyor. Bu yüzden bir gün içinde iki günlük işi halletmek zorunda kalıyorsunuz.

Sonra tekrar uyuyorsunuz ve hızlanmaya devam ettiğiniz için Dünya'da üç gün geçmiş oluyor. Ertesi gün, dört gün geçiyor. İşte hissettiren şey tam olarak bu.

Emily Chang: Uyandığınızda neyle karşılaşacağınız konusunda sık sık endişeleniyor musunuz?

Dario Amodei: Ele almamız gereken yeterince net ve acil sorun var; bunları çözerken aynı zamanda nasıl hazırlıklı olabileceğimizi de düşünüyorum. Ancak paranoyak olmanın veya uyandığımda neyle karşılaşacağımdan korkmanın bir faydası yok. Tarihte bu tür yüksek baskı durumlarıyla başa çıkmış insanları inceledim. Mantıklı tepki vermeyi öğrenmeli ve farklı tehlikeleri aynı kefeye koymamalısınız.

Bu "Endişelenmiyorum" ile "Aman Tanrım, bugün panik yapmalıyız" arasında gidip gelme hali, bence karar verme olgunlaşmamışlığının bir işareti. Gerçekten olgun bir karar ise bunu görmezden gelemezsiniz, biz de hafife alamayız.

Aslında bu giderek daha riskli hale geliyor, ancak bir cerrahın ameliyatı ele alışı gibi rasyonel davranmalıyız. Ya da bir subayın askeri operasyonu yönetmesi gibi, yahut birçok insanı etkileyen kararlar alan herkesin bu kararları rasyonel bir şekilde vermesi gibi. Riskleri anlamalılar, ancak aynı zamanda temel bir sakinliği korumalıdırlar.

Bu yüzden dün oğlum Claude hesabımı kullanıp kullanamayacağını sordu, kesinlikle hayır dedim, token'larıma ihtiyacım var. Tüketici pazarında da bu uygulamaları giderek daha fazla görüyoruz; aslında daha çok kurumsal bir şirket olmayı umuyorduk, ancak bu alana fazla enerji harcamasak bile tüketici işi hızla büyümeye başladı.

Emily Chang: Şu anda AI evreninin merkezindesiniz, bu nasıl bir his?

Dario Amodei: İlginç bir şekilde, tüm kariyerim boyunca, özellikle de Anthropic'e katıldığımdan beri yaşadığım şey istikrarlı bir üstel büyüme oldu.

Bu istikrarlı üstel büyüme deneyimi şudur: hiçbir şey olmaz, hiçbir şey olmaz, hiçbir şey olmaz, küçük bir şey olur ve sonra aniden çılgınca patlak verir. İşte bu dünyanın deneyimi. Aynı zamanda şirketin diğer şirketlere ve dünyaya kıyasla büyüklüğünün deneyimidir.

Bu yüzden bu grafiğe uzun süre baktım ve dedim ki, büyük olasılıkla yaklaşık bu zamanda en yüksek gelirli ve en yüksek değerlemeye sahip AI şirketi olacağız. Gerçekten de öyle oldu, gerçekleşti. Oldu. Yani bir anlamda şaşırmadım, çünkü grafikteki eğri çok düzgündü.

Ama elbette, başka bir açıdan bakıldığında, bir şey gerçekten olduğunda daha fazla, daha zengin detay ve renk görürsünüz. Ve bu kesinlikle şaşırtıcı.

Her zaman genellikle odaklandığımız sorunları aklımızda tutuyoruz: İyi modelleri nasıl eğitebiliriz? Bunları iyi ürünlere nasıl uygulayabiliriz? Her şeyin güvenli olduğundan nasıl emin olabiliriz? İnsanlara yardım ederken, bu teknoloji etrafındaki toplumsal riskleri nasıl yönetebiliriz? Bunların hepsi aynı sorunlar, sadece daha büyük bir mikroskop altında inceleniyor.

Büyüme Geçmişi ve Silikon Vadisi Ruhu

Emily Chang：San Francisco'da büyürken nasıl bir çocuktun? Babanın bir deri işçisi olduğunu, annenin ise kütüphanede çalıştığını biliyorum, bu durum seni nasıl etkiledi?

Dario Amodei：O zamanlar internet devrimi tam etrafımda oluyordu ama ben buna hiç ilgi duymuyordum. Sadece matematik çalışmak ve karalamalar yapmak gibi şeylerle ilgileniyordum. Evreni keşfetmeye çok meraklıydım. Bilim kurguya çok ilgiliydim. Genel olarak, içinde bulunduğum ortam buydu. Sanırım sadece dünyaya karşı güçlü bir merakım vardı.

Emily Chang：Teknoloji merkezi olarak bilinen bir yerde büyüdün. Şimdi ise burası AI'ın merkezi. Bu yer, bu şehir, dünya görüşünü şekillendiren herhangi bir faktör var mıydı?

Dario Amodei：Evet. Bence sürüye uymama, bireyciliğe değer verme ve "biraz çılgın olmanın sorun olmadığı" yönündeki yaygın ruh hali mevcut. Sanırım bunun büyük bir kısmı beni bilinçaltında etkilemiş olabilir.

Avrupa'nın bazı ülkelerine veya bu ülkenin diğer bölgelerine gittiğinde, farklı düşünme biçimlerinin bastırıldığı, tuhaf karşılandığı ya da çılgın fikirlere sahip olmanın hoş karşılanmadığı hikayelerini duyarsın.

Aslında Silikon Vadisi hakkında birçok eleştirim var ama bence iyi bir yanı şu: tüm uzmanlar sana karşı çıksa bile bunun önemi yok. Tutarlı bir vizyonun ve tutarlı bir dünya görüşün varsa, peşinden gitmelisin, asıl önemli olan bu. Belki hiç işe yaramaz.

Ama eğer işe yararsa, uzun kuyruklu bir etkiye sahip olur; bazı alanlarda derinlemesine kazı yapabilir ve sonunda orada büyük bir altın madeni keşfedebilirsin. Bence bu ruh hali çok önemli.

Emily Chang：Sen, Daniela, kız kardeşin ve onun kocası Holden Karnovsky, 2016 yılında aynı evi paylaşıyordunuz. O zamanlar ne hakkında tartışıyordunuz?

Dario Amodei: Sanırım o zamanlar Open Philanthropy projesi yeni başlıyordu ve Holden projenin sorumlusuydu. O zamanlar biyolog bir bilim insanıydım. Bu yüzden onlara gelişmekte olan ülkelerdeki sağlık veya biyoloji araştırmalarıyla ilgili konularda yardımcı oluyordum. Yani, bu konular hakkında bir nevi tavsiyelerde bulunuyordum. Örneğin, hangi alanlar umut vadediyordu? Hangi alanlar o kadar umut verici değildi?

OpenAI’den Ayrılmanın Temel Anlaşmazlığı

Emily Chang: OpenAI’den ayrılma kararın Silikon Vadisi’nde efsane haline geldi. Gerçekte ne oldu? Anlatıları bir kenara bırakırsak, temel sorun neydi? Hangi konularda anlaşmazlık yaşadınız?

Dario Amodei: Dinle, söyleyeceğim, çok basit ve net bir şekilde ifade edeceğim. Güçlü teknolojiler inşa ederken birçok zorlukla karşılaşırsınız, Anthropic de her gün bunları yaşıyor. Verdiğimiz kararların doğru mu yanlış mı olduğunu asla bilemeyiz.

Bu nedenle, güvenlik konularında birçok meşru tartışma var. Onlarla elbette bazı anlaşmazlıklarımız oldu, ancak şunu bilin ki, sadece bu, ayrılmak için yeterli bir sebep değildi. Buradaki insanlarla da anlaşmazlıklarım oldu. Buradaki insanların kendi aralarında da anlaşmazlıklar var.

Ama birine güvenemediğinizi hissettiğinizde, değerlerinin söyledikleri gibi olmadığını hissettiğinizde, dürüst olmadıklarını hissettiğinizde, iddia ettikleri nedenlerle hareket etmediklerini hissettiğinizde, rahatsız edici davranış kalıpları veya samimiyetsizlik gördüğünüzde, bu şirkette çalışmaya devam etmeyi ve şirkete güvenmeyi zorlaştırır. Sonuçta, biriyle ortak bir vizyonunuz yoksa ve artık ona güvenmiyorsanız, neden tartışmaya devam edesiniz ki?

Çözüm, kendi yollarınıza gitmektir; siz kendi işinizi yaparsınız, onlar da kendi işlerini. Bunu tamamen kabulleniyorum: biz kendi yöntemimizle ilerliyoruz, onlar da kendi yöntemleriyle. Bakalım piyasada kim kazanacak, kamuoyu mahkemesinde kim galip gelecek. Bence bu gerçekler, sözlerden daha güçlüdür ve kimin neden ayrıldığına dair herhangi bir dramatik spekülasyondan daha ikna edicidir.

Bilmelisiniz ki, bu teknolojiyi nasıl dağıtacağımıza dair bir örnek sunuyoruz ve bunun sorumlu bir yol olduğuna inanıyoruz. Eğer itirazları varsa, argümanlarını sunmalılar. Bence bu konuda fazla söze gerek yok.

Sektör İş Birliği ve Güvenin Yeniden İnşası

Emily Chang: Hindistan'daki AI zirvesinde bir an vardı, siz ve Sam Altman sahnede el sıkışmayı reddetmiştiniz. O sırada ne oldu?

Dario Amodei: O anki durum şuydu, o zirve son derece kötü organize edilmişti. Hepimiz son anda sahneye çıktık ve sıralama düzenimizi son anda değiştirdiler. Ardından bir fotoğrafımızı çektiler ve hepimize el ele tutuşmamızı emrettiler. Eğer bu tür zirvelere katıldıysanız – Hindistan hakkında kötü bir şey söylemek istemem – ama devlet başkanlarının katıldığı bu tür uluslararası zirveler genellikle çok kaotik bir şekilde organize edilir.

Emily Chang: Ama diğer herkes el ele tutuştu. Hadi ama.

Dario Amodei: Dinle, sana ne diyeceğimi bilmiyorum, tamam mı? O an Narendra Modi yukarıdaydı ve aniden herkese el ele tutuşmalarını söyledi.

Emily Chang: Peki, peki.

Dış ses: Görüyorsunuz, Sam ve Elon birbirlerine dava açıyor. Anlaşılan Sam'den hoşlanmıyorsunuz.

Emily Chang: Dünyanın en önemli teknolojisinin geliştiricileri sahnede el ele tutuşamıyorsa, hayatta kalma riski konularında iş birliği yapacağınıza nasıl güvenebiliriz?

Dario Amodei: İşte size söylemek istediğim şey bu. Bu teknolojiyi inşa eden kişiler arasında, yetenek ve güvenilirlik açısından büyük farklılıklar var. Bence bu, farklı insanların kimsenin birbirine güvenmediğini düşünmesine yol açıyor, ancak bunun doğru olduğuna inanmıyorum.

Claude modellerinin rakibi olan Gemini modellerini inşa eden Demis Hassabis'i tanıyorum. Onu 15 yıldır tanıyorum. Daha önce birçok konuda birlikte çalıştık. Google'dan bilgi işlem kaynağı satın alıyoruz. Sık sık güvenlik konularında fikir alışverişinde bulunuyoruz.

Yani benim görüşüm şu: öncelikle, bazı katılımcılar diğerlerinden daha güvenilirdir. Ayrıca, Anthropic dışında da güvendiğim katılımcılar olduğunu düşünüyorum ve onların güvenilir olduğuna inanıyorum. Bence olması gereken şey, güvenilir katılımcıların bir araya gelerek güvenilmez katılımcılarla başa çıkmasıdır. Bu sayede katılımcılar aynı standartları benimsemek zorunda kalır.

Zengin deneyimlerim sayesinde, bazı insanların kendiliğinden doğru olanı yapmayacağını öğrendim. Ancak sektördeki çoğunluk doğru olanı yapıyorsa, o zaman sektördeki diğerlerinin de bu akıma uymaktan başka seçeneği kalmaz. Bu, başkalarını motive ettiğiniz olumlu bir versiyon gibidir.

Tıpkı Demis ve benim birbirimizi motive etmemiz gibi. O AlphaFold üzerinde çalışıyor. Biz de biyoloji alanında bir şeyler yapmaya çalışıyoruz, açıklanabilirlik üzerinde çalışıyoruz. Onlar da açıklanabilirlik araştırmalarına başladı. Bu bir rekabet bile değil.

Sadece her şirket havalı bir şeyler yapıyor. Diğer şirketler de bunun havalı olduğunu düşünüyor. Biz de denemek ve içinde yeni bir şeyler yapıp yapamayacağımızı görmek istiyoruz. Bu, üst düzey rekabette "havuç" tarafıdır. Ardından "sopa" tarafı veya örtülü "sopa" gelir: bu insanların doğru olanı yaptığını fark edersiniz. Diğerleri doğru olanı yapmazsa, bu çok kötü görünür.

Bu tür davranışları sık sık görüyoruz: İsteksizce doğru olanı yaparlar, ancak farklı bir şey yapıyormuş gibi davranmaya çalışırlar ve bizim kötü ya da şeytani bir niyetimiz olduğunu ima ederler; bu öngörülebilir bir durumdur. Ancak bence sektörü birleştirmenin ve sektör iş birliğini teşvik etmenin yolu budur.

İş Modeli: Kurumsal Düzey ve Değerlerle Uyum

Emily Chang: Daha önce, diğerleri eğlenceli, göz alıcı tüketici uygulamalarına odaklanmıştı. Siz ise kodlama ve kurumsal alana yatırım yaptınız; Claude Code büyük bir başarı elde etti, Claude Co-work de öyle. Bu bahsi neden yaptınız? Bu, değerlere dayalı bir karar mıydı, yoksa ticari bir karar mıydı?

Dario Amodei: Anthropic'i kurduğumuzda, en temel şey, yani her zaman önemli olan şey, içimizdeki arzuydu. Bu işi doğru şekilde yapmak istiyorduk. Ancak kendinize sormanız gerekiyor: Bu modellerin son derece pahalı oluşturulma sürecini finanse etmek için şirketin uygun bir iş modeline sahip olması gerekiyor. Peki, iş modeli değerlerin gerçekleşmesini engelleyecek mi?

Bu sorun her zaman var. Ancak diğer şirketlerde çalışırken ve onları gözlemlerken öğrendiğim bir şey şu: Seçtiğiniz iş modeli, değerlerinizle temelden çatışıyorsa, zor durumda kalırsınız. Ya değerlerinizden ödün verirsiniz ya da zamanın gerisinde kalırsınız.

Sonunda bir çıkmaza girersiniz; bunu aşmanın yolları olsa da, yine de oldukça zor bir durumdur. Değerlerinizle uyumlu bir iş modeli seçmek çok daha iyidir.

Bu yüzden bunu düşündüğümüzde, şöyle gördük: Sosyal medya ve tüketici dünyasını gördük, gerçekten de etkileşimi, hatta bağımlılığı teşvik ediyor gibi görünüyor. AI video modellerinden gördüğümüz o düşük kaliteli içeriğin ardındaki mantık, dikkatinizi maksimize etmektir, çünkü bunun arkasında reklam gelirleriyle yönlendirilen bir teşvik mekanizması var.

Ancak kurumsal alana baktığımızda, amacımız bu modellerin insanlara faydalı olması. AI ile yapılabilecek tüm olumlu şeyleri düşündüğümde, insanlara sık sık olumsuz yönleri hatırlatıyorum, ancak temelde olumlu tarafın olumsuz tarafı aşacağına inanıyoruz. Bu olumlu uygulamaların çoğu temelde kurumsal uygulamalar kategorisine giriyor.

AI'yi geçmişte tedavi edilemeyen hastalıkları iyileştirmek için kullanmak istiyoruz; bu, biyoteknoloji şirketleri, ilaç firmaları ve akademik araştırma kurumlarıyla iş birliği gerektiriyor. Bunların hepsi kurumsal. AI'yi enerjiyi daha ucuz ve daha verimli hale getirmek için kullanmak istiyoruz. Bunların hepsi kurumsal uygulamalar.

AI'yi eğitime yardımcı olmak için kullanmak istiyoruz. Bunun çoğu kurumsal düzeyde. AI'yi sağlık ve gelişmekte olan ülkelerdeki sorunları çözmek için kullanmak istiyoruz. Bunlar kar amacı gütmeyen kuruluşlar olsa da, özünde kurumsal kategoriye giriyorlar. Ekonomik büyümeyi teşvik etmek istiyoruz. Bu da temelde kurumsal düzeyde bir şey.

Ayrıca bence başka bir faktör daha var: Kurumsal şirketler güven ve uzun vadeli ilişkilere çok değer verir; tüketici uygulamaları bazen bir hile hissi verirken, kurumsal düzeyde önemli olan bir ortaklık kurmaktır: Yıllarca bir şirketle çalışırsınız, sözünüzü tutarsınız, onlar da sözünü tutar ve size temelden güvenirler.

Bu nedenle, bu, bu modelleri olumlu ve güvenli bir şekilde dağıtma hedefimizle oldukça uyumludur. Dolayısıyla, değerlerimizle bu kadar uyumlu bir iş modeline sahip olmanın bizim için avantajlı olduğunu düşünüyorum.

Bu, bazen çatışmalar olmadığı veya zor seçimler yapmamız gerekmediği anlamına gelmiyor, ancak bu tür seçimlerin sayısının diğer durumlara göre çok daha az olduğunu düşünüyorum.

Rekabet Hendekleri ve "SaaS Kıyameti"

Emily Chang: Geliştiriciler bir öğleden sonra Claude'dan GPT veya Gemini'ye geçebilir. Bu sektörde gerçekten uzun vadeli bir liderlik pozisyonunu korumak mümkün mü? Ve sizce ciddi bir rakibin sizin inşa ettiğiniz şeyi kopyalaması ne kadar sürer?

Dario Amodei: En önemli şey model kalitesidir. Örneğin, şu anda model kalitesinde çok ilerideyiz. Belli bir atalet olsa da, buna asla güvenmem, hiçbir zaman güvenmedim ya da Anthropic olarak "ürün bağlılığı yüksek, kullanıcılar geçiş yapmaz" fikrine hiçbir zaman güvenmedik.

Bence yine de daha iyi bir modele sahip olmak istiyorsunuz. Daha iyi bir ürüne sahip olmak istiyorsunuz. Ve görüyoruz ki büyüme oranlarında hiçbir dönüş yok, eğer bir değişiklik varsa, bu röportajı kaydettiğimiz sırada en azından yükseliyorlardı. Bu yüzden, bence en önemli şey bu.

Emily Chang: Claude Co-Work'ün piyasaya sürülmesinden kısa bir süre sonra, 285 milyar dolarlık piyasa değeri bir gecede buharlaştı ve yatırımcılar buna SaaS Kıyameti (SaaSpocalypse) adını verdi. Yapay zeka bu hızla gelişmeye devam ederse, geleneksel yazılımın ne kadarı ve ne kadar hızlı bir şekilde yerini alacak?

Dario Amodei: Bu, önceden tahmin etmesi çok zor olan türden bir soru; eğer mükemmel bir şekilde önceden tahmin edebilseydiniz, insanlar bunu çoktan yapardı, piyasalarda büyük servetler kazanır ve her zaman haklı olurlardı.

Yani, ne olacağını kimse tam olarak bilmiyor, ancak birkaç noktaya değineceğim; tüm bu geleneksel yazılım şirketlerinin bazı hendekleri var. Bence olacak olan şu: bu hendeklerden bazıları yok olacak, ancak diğerleri kalacak. Hızlı bir şekilde yazılım yazma yeteneği, kesinlikle bunun yok olacağını düşünüyorum. Eğer hendeğiniz "kimsenin yazamayacağı bu karmaşık yazılımı biz yazıyoruz" ise, size iyi şanslar. Bunu savunamayacaksınız.

Ancak bence insanların müşteri ilişkileri var. İnsanlar sektörün nasıl işlediğine dair uzmanlığa sahip. İnsanlar benzersiz alan bilgisine sahip. Bu yüzden tüm bu insanlara tavsiyem açıkçası, rehavete kapılmayın. Bunu görmezden gelmeyin. Tüm hendeklerinizi listeleyin ve bazılarının yok olacağını, diğerlerinin ise sınırlayıcı faktörler oldukları için nispeten daha önemli hale geleceğini çok net bir şekilde görün. Ve ayrıca yeni hendekler de ortaya çıkabilir.

Bence, mevcut hendeklerine güvenip yenilerini kullanmayı becerebilenler çok iyi iş çıkaracak. Kendini beğenmiş olanlar ise, geçmişte işe yarayan yöntemlerin gelecekte de her zaman işe yarayacağını sanarak kendilerini kandırıyorlar. Onlar için işler pek iyi gitmeyecek. İşte vereceğim tavsiye bu.

Ayrıca, sonuç olarak, sanırım – tabii bu SaaS'ı nasıl tanımladığınıza ve neyin SaaS sayılmadığına bağlı – ama tahminimce yazılım sektörü küçülmek yerine büyüyecek, ancak bu süreçte bazı büyük kaybedenler de olacak.

Emily Chang: Bunu açıklar mısınız?

Dario Amodei: Sadece şunu düşünüyorum: Pasta giderek büyüyor. Yani, yapay zekâ sayesinde bu pasta daha da büyüyor. Mevcut köklü şirketler göreceli olarak küçülebilir. Bazılarının değeri düşebilir. Doğru şekilde uyum sağlayamazlarsa, bazıları iflas bile edebilir.

Ama bence büyüme hızı çok yüksek olduğunda bunu sıkça görürsünüz. Yapay zekânın potansiyeli 10 kat artarsa, mevcut köklü sektörlerin 1,5 kat büyümesi çok kolaydır; sadece tüm pastanın büyüme hızına yetişemezler. Yani bence bu gerçekleşebilir.

Bu, büyük kaybedenler görmeyeceğiz anlamına gelmiyor. Bence uyum sağlamayan, başını kuma gömen, gelecekteki trendleri göremeyen ve kendi hendeklerini tanıyamayanlar çok zor bir durumla karşı karşıya kalacak.

İşlem Gücü, Finansman ve Ortaklıklar

Emily Chang: En büyük destekçileriniz Amazon, Google, Microsoft ve NVIDIA gibi şirketler. Bu şirketlerin kendi gündemleri var. Hem ortak hem de rakipler. Paranızla bağlantılı büyük ticari kilometre taşlarınız var. Asıl söz kimde?

Dario Amodei: Gerçek düşüncelerimizi açıkça ifade ettiğimiz birçok durum oldu. Her zaman Çin'e çip ihracatına kısıtlama getirilmesini açıkça savundum. Bunu söylüyorum çünkü Çin'in yapay zekâ yeteneklerinde öne geçmesinin ABD ve küresel süreç için çok kötü olacağını düşünüyorum. Ayrıca, bazı çip üreticileri bu görüşe katılmıyor. Ama bu benim fikrimi söylememi engellemedi.

Daha fazla iş birliği anlaşması imzalamış olsak bile, şimdi hâlâ bunu vurguluyorum. Bildikleri şey, onlarla her zaman iş birliği içinde olduğumuzdur. Her zaman iyi ortaklar olduk. Birlikte çalışılabiliriz. Eminim bu sözleri söylememizi istemiyorlar, ancak bunlar gerçekten inandığım şeyler.

Ne yapacaksın? Sonunda yine de anlaşacaklar. Bu anlaşmalardan elde ettikleri kazanç, bizimkiyle aynı seviyede. Bak, hepimiz yetişkiniz. Bir konuda iş birliği yapabilir, başka bir konuda ise aynı fikirde olmayabiliriz.

Emily Chang: Bloomberg’e göre, değerlemeniz OpenAI’den bile daha yüksek. Beş yıllık bir girişimden bahsediyoruz, değeri neredeyse bir trilyon dolara yakın. Bunu nasıl anlıyorsunuz? Bu rakamla ilgili olarak ve hesaplama kaynaklarında daha disiplinli ve daha hızlı bir kârlılık yoluna sahipken neden bu kadar paraya ihtiyacınız var?

Dario Amodei: Hesaplama kaynaklarının ölçeklenmesi çok hızlı, bu yüzden işin temelleri iyi görünüyor, ancak bir yıl sonra hesaplama kaynağı ölçeğiniz şu ankinin 3 veya 4 katına çıkabilir—kesin bir rakam vermeyeceğim, ancak bu tür hesaplama kaynaklarının büyümesi çok hızlı.

Gelir artışının bu ölçeklere ulaşacağına ve hatta aşacağına inanmak için tamamen mantıklı sebepler var. Ve fon toplamak, bu belirsizlik aralığına karşı bir tampon görevi görüyor.

Yani, bu tamamen rasyonel bir yaklaşım. Bunun iş üzerindeki hisse seyreltmesi çok küçük, mantıksal olarak bu ikisi tamamen farklı şeyler. Aslında, bunun tersiyle uyumlu, bu işin temellerinde bir sorun olduğu anlamına gelmiyor.

Emily Chang: Sunucuların aşırı yüklendiği, güvenilirlik sorunları olduğu ve token’ların tükendiğine dair şikayetler var. Diğer şirketlerin altyapı inşasında her şeyi riske attığını söylediniz. Gerçekten ihtiyacınız olan şeye sahip misiniz, yoksa yetişmeye mi çalışıyorsunuz?

Dario Amodei: Hesaplama gücüyle ilgili olarak, sözde pazarlama hesaplama gücü var, bu yüzden görüşüm şu ki, bir süre sonra, hatta birkaç aydan daha uzun bir sürede, büyük miktarda hesaplama gücü elde edebiliriz. Burada belirtmek gerekir ki, herhangi bir makul standartla, satın aldığımız hesaplama gücünün çok az olduğunu düşünmüyorum.

Yani, başlangıçta hash gücünün her yıl 10 kat artmasını planlamıştık.

Yılda 10 kat artış beklediğimiz şeydi. Ancak şu anda gördüğümüz durum bu değil. 2026'nın ilk çeyreğinde, üç aylık gelir artışımız 3 katı aştı, bu sadece bir çeyreğin verisi, yıllık büyüme değil; çeyrek içinde 3 kat büyüme, elbette 3'ün 4. kuvveti, yıllık büyümenin 80 kat olacağı anlamına geliyor.

Yıllık 80 katlık bir büyüme beklemiyorduk. Yıllık 80 kat büyümeyi hedefleyerek planlama yapmak mantıksız olurdu, çünkü bu, sonunda sadece 10 kat büyüme elde ederseniz, aslında 8 kat eksik kalmış olursunuz. Bu yüzden yerel olarak aşırı bir hash gücü patlaması aşamasındayız. Bu durum devam etmeyecek.

Eğer bu durum devam ederse, yıl sonunda dünyadaki hiçbir şirketin ulaşamayacağı bir gelir rakamına sahip olursunuz. Bunun olacağını düşünmüyorum. Sadece, gerçekten sürdürülemez.

Ancak bu tür kısa dönemler yaşayabilirsiniz ve o zaman şaşırırsınız, "Aman Tanrım, bu daha önce hayal ettiğimiz herhangi bir büyüme hızından çok daha hızlı" dersiniz. Ama bilmiyorum, Google ile yapılan hash gücü anlaşmasını ve Amazon ile yapılan hash gücü anlaşmasını gördünüz. Yapabileceğimiz ve yapacağımız daha çok şey var.

Örneğin, piyasa likit. Hash gücünü çok verimli bir şekilde kullanabilirseniz ve talep varsa, ihtiyacınız olan hash gücünü elde edebilirsiniz. Sadece bir iki ay sürebilir.

Zirve Yarışında Liderlik ve Şirket Kültürü

Emily Chang: En büyük rakibinizi geçmek nasıl bir his?

Dario Amodei: Bakın, önümüzde hâlâ birçok zorlu mücadele var. "Zirveye doğru yarış" diye bir felsefemiz var, yani diğer şirketleri de bizimle birlikte hareket etmeye teşvik etmek. Bunu başardığımızı düşünüyorum. Bazen bunu kabul etmiyorlar.

Bazen bize saldırırken aynı anda bizi taklit ediyorlar, ancak bu teşvik etme çok değerli.

Bu nedenle, ister ticari açıdan ister model düzeyinde olsun, sektör lideri bir şirket olmanın değeri, rekabet uğruna rakipleri yenmek değildir. Anlamı, tüm ekosistemi birlikte geliştirme yeteneğine sahip olmaktır ve gelecekte bu konuda daha fazlasını yapmayı umuyoruz.

Emily Chang： Ama şunu söylemek gerekirse, zafer kazanmak gerçekten iyi hissettiriyor.

Dario Amodei： Bakın, biz her zaman başarılı olmaya çalışıyoruz, değil mi? Sürekli çabalıyoruz, burada başarısız olmak istemiyoruz. Ben bu teknolojinin gelişimini durdurup inşa etmememiz gerektiğini düşünen biri değilim. Özgür girişim sisteminin içinde varız ve bunda hiçbir sorun yok. Sadece modellerin getirdiği riskleri azaltmalıyız, bu yüzden her zaman ikisi arasında bir denge bulmak gerekiyor.

Emily Chang： Peki, Anthropic'in tarihinin büyük bir kısmında dezavantajlı konumdaydınız. Sanırım hiçbir şeyiniz yokken ahlaki yüksek zemini işgal etmek daha kolay oluyor. Bu ölçekte, ilkeleri korumak ne kadar zor?

Dario Amodei： Şunu söylemek isterim ki, bunun neden böyle olduğu üzerine çok düşünüyorum.

Şirket büyüdükçe, her ölçek aşamasında tetikte oluyorum. Şirketin her gelişim aşamasında yeni zorluklar ortaya çıkıyor. Şirket, ister ticari hırsı ister temel değerleri olsun, yeni bir şekilde özünü kaybedebilir.

İkisinden de endişe duyuyorum çünkü bunların sinerjik olduğunu düşünüyorum.

Aslında, bu kadar mükemmel modeller inşa edebilmemizin, değerlerimizi etkili bir şekilde uygulamamızın anahtarı olduğunu düşünüyorum. Şirket büyüyüp güçlendikçe birçok tuzak var. Pek çok yanlış gitme olasılığı var, bu benim, kurucu ortakların veya şirket liderlerinin değerlerinin değişmesinden değil, şirketin yapısının çok hızlı değişmesinden kaynaklanıyor.

Bu yüzden zamanımın yarısını şirketle Anthropic'in kültürü ve bu kültürün nasıl işlediği hakkında konuşarak geçiriyorum. Bu kadar hızlı büyüdüğünüzde, büyük teknoloji şirketlerinden çok sayıda insanı işe alıyorsunuz.

Onlara Anthropic'in nasıl işlediğini söylemezseniz, sadece bildikleri tek yöntemi, yani eski şirketlerinin işleyiş şeklini tekrarlarlar.

Bu nedenle, bu sürekli bir mücadele ve aynı zamanda sürekli bir meydan okumadır.

Bu, tıpkı Daniela ve benim için belki de en önemli önceliğin bunu nasıl koruyacağımızı bulmak olması gibi. Çünkü uzun vadede asıl özümüzün bu olduğunun farkındayız.

Ar-Ge Verimliliği ve Bilimsel İlerleme

Emily Chang: Ürün yineleme hızınız inanılmaz. Ürünleri bu kadar çok ve hızlı bir şekilde piyasaya sürmeniz gerçekten akıl almaz. Bunu nasıl başarıyorsunuz?

Dario Amodei: İki noktaya değinmek istiyorum. Birincisi, biz birleşik bir şirketiz. Birleşik bir kurum kültürümüz var. Bence ölçek büyüdükçe son derece yüksek bir verimliliği korumayı başardık. Herkes hâlâ aynı hedefe odaklanmış durumda, bu da kültürel ve organizasyonel bir birlikteliği yansıtıyor. Bunun en önemli faktör olduğunu düşünüyorum.

İkinci büyük faktöre gelince, bunun Claude'un kendisi olduğunu söyleyebilirim. Şu anda Claude'u yardım almak için kullanıyoruz. Onu modellerimizi geliştirmek, model verimliliğini artırmak ve ürünleri hızlı bir şekilde geliştirmek için kullanıyoruz. Bunun için çeşitli yeni uygulama yöntemleri geliştirmeniz gerekiyor. Bu konuda henüz yeni olmamıza rağmen, zaten belirgin bir hızlanma sağladı ve bu hızlanma giderek daha güvenilir hale geliyor. İşte bu iki faktörü işaret ederdim.

Emily Chang: Bana AI'nın yaptığı en çılgınca şeyi söyleyebilir misin?

Dario Amodei: Bence gördüğüm en çılgınca şeyler çoğunlukla biyoloji ve tıp alanında oldu. Daniela'nın durumu da dahil olmak üzere, Claude'un birçok üst düzey doktor tarafından gözden kaçırılan tıbbi sorunları teşhis ettiği birçok örnek gördüm. Biyoloji alanında, bu modeller ilaç tasarımı, hesaplamalı kimya gibi görevlerde inanılmaz bir performans göstermeye başladı. Eski bir biyolog olarak, bu sonuçlara bakarken bunun gerçekten ne kadar zor olduğunu düşünmeden edemiyorum.

Bilirsiniz, bu görevleri tamamlamak için yoğun bir uzmanlık eğitimi gerekiyor. Ve Claude bu konuda giderek daha iyi hale geliyor. Bu, bence büyük kazançlar elde edeceğimiz bir alan. Bu olumlu tarafı, son derece büyük faydalar elde edeceğiz. Hayat daha iyi olacak. İnsan deneyiminin kalitesi daha iyi olacak.

Emily Chang：Bir asırlık bilimsel ilerleme.

Dario Amodei：Bir asırlık bilimsel ilerleme ve insan deneyimi açısından bir asırlık ilerleme. Örneğin, 1900 yılına geri dönelim. 1900'de karşılaştığımız tüm sorunları, insanların erken ölümüne neden olan tüm sebepleri, katlanmak zorunda oldukları tüm acıları ve bugün artık yüzleşmek zorunda olmadığımız tüm maddi yoklukları düşünelim.

Şimdi bir sonraki yüzyılı hayal edin. İçtenlikle inanıyorum ki, eğer şu anki zorlukların üstesinden gelebilirsek – ki başarabileceğimize inanıyorum – bu yüzyıl bilim ve tıp alanında muazzam bir ilerleme getirecek. Giderek daha iyimser oluyorum. Şu ankinden çok daha iyi bir dünyaya sahip olacağız.

Yazma, Düşünme ve Yapay Zeka Desteği

Emily Chang：Yazmayı ne kadar sevdiğini biliyorum. Makaleler yazmanla tanınıyorsun. Claude'u yazma sürecinde kullanıyor musun?

Dario Amodei：Evet, kullanıyorum. Henüz Claude'un yazdığı metni doğrudan alacak noktaya gelmedim çünkü kendime özgü bir tarzım var ve bu konuda seçiciyim. Ancak temel olarak Claude'u beyin fırtınası yapmak, konuları düzenlemek veya referans alabileceğim içerikler sağlamak için kullanıyorum.

Yani yardımcı bir rol oynuyor. Claude'un benden daha iyi yazılar üretebileceği noktaya ne kadar uzak olduğumuzu bilmiyorum. Henüz o aşamaya gelmedik, ancak o günün mutlaka geleceğine inanıyorum.

Emily Chang：Ben de yazmayı seviyorum ve yazmanın düşüncelerini netleştirmene yardımcı olduğunu düşünüyorum. Bu süreç yoğun bir eleştirel düşünce gerektiriyor. Eğer Claude'un bizim için yazmasına izin verirsek, bu yeteneğimizi kaybeder miyiz?

Dario Amodei：Bu konuda biraz endişeliyim, aslında kendi yazılarımı yazmaya devam etmemin yarı nedeni bu. Dış kitle için bu gerçekten geçerli. Birçok insan makalelerimi okusa da, yazmak aynı zamanda kendi düşüncelerimi netleştirmek, bir sonraki adımda ne yapmam gerektiğini bilmek ve başkalarıyla ortak bir referans noktası oluşturmak içindir.

Bence hâlâ yapay zekâyı bu faydaları koruyacak şekilde nasıl kullanabileceğimizi araştırıyoruz. Sanırım şu anda yaptığım şey tam olarak bu; örneğin araştırma yapmak için Claude'u kullanıyorum. Ayrıca kendi düşüncelerimi düzenlememe yardımcı olması için de Claude'u kullanıyorum.

Bence eğer onu baştan sona kullanırsak, mesela yapay zeka riskleri hakkında bir makale yazdırırsak, öncelikle benim kişisel görüşlerimi yazamaz, ikinci olarak da yazmanın getirdiği faydaları gerçekten kaybederim. Modellerin performansı arttıkça, gelecekte muhtemelen onları yazarken daha doğrudan kullanabileceğimiz ve aynı zamanda bu faydaları koruyabileceğimiz bir yol olacak, ancak bu hassas bir süreç olacak. Durum tek bir şekilde ortaya çıkmayacak; önümüzdeki dönemde adım adım keşfetmek zorundayız.

Bence çok anormal bir kombinasyonla karşılaşabiliriz: yüksek GSYİH büyümesiyle birlikte yüksek işsizlik veya en azından eksik istihdam, ya da çok sayıda düşük ücretli iş ve ciddi eşitsizlik.

İşsizlik Riski, Verimlilik ve Makro Politika

Emily Chang: İşsizlik konusunda her zaman çok açık sözlü oldunuz. Yapay zeka önümüzdeki 1 ila 5 yıl içinde giriş seviyesi beyaz yakalı işlerin yarısını ortadan kaldırabilir. Bu geçen yılın söylemiydi. Yapay zeka inanılmaz bir hızla gelişiyor. Şimdi hâlâ %50 mi? Yoksa oran daha mı yüksek?

Dario Amodei: Her zaman söyledim, orijinal video kliplere geri dönerseniz, her zaman o üç saniyelik kısmın bağlamından koparılarak alındığını görürsünüz, ancak aslında gerçek ifadem her zaman şu oldu: Gelecekte ne olacağını bilmiyorum, ancak bu, durumun potansiyel olarak bir büyüklük mertebesinde şiddetli bir sarsıntı yaratabileceğini gösteriyor.

Ayrıca, alınabilecek önlemlerden de bahsediyordum; token vergisinden ve işletmelerle işe alım düzenlemeleri için iş birliği yapmaktan söz etmiştim. Yeniden eğitim programlarına biraz şüpheyle yaklaşıyorum, ancak bunu kesinlikle makroekonomik politika değerlendirmelerine dahil etmeliyiz.

En başından beri her zaman çözümlerden bahsediyordum, ancak insan psikolojisinde kıyametin yaklaştığına dair o üç saniyelik kısmı kırpma eğilimi var gibi görünüyor. Bu nedenle, iletmek istediğim mesaj kesinlikle kıyamet değil. Söylemek istediğim şu: Bu, öngörmemiz ve endişelenmemiz gereken bir şey ve gerçekten olumlu bir tutumla ele almamız gerekiyor. Tam olarak emin değilim, ancak yine de oldukça endişeliyim. Endişe seviyem hâlâ aynı seviyede.

Şu anda yapay zekanın insanların üretkenliğini artırdığını görüyoruz, ancak bu genellikle olağan erken büyüme aşamasıdır. Sanayi Devrimi dönemine bakacak olursanız, bunu *Teknolojinin Ergenliği* kitabımda yazmıştım. İşin %90'ını otomatikleştiriyorsunuz ve bu harika.

Geriye kalan %10'luk işte insanların üretkenliği 10 kat artıyor çünkü 10 kat kaldıraç etkisi elde ediyorlar. Ama sonunda bu oran %100'e yaklaşacak. O zaman beraberinde gelen sorun, onlara yapacak başka işler bulmanız gerektiğidir.

Uzun vadeli gelişim konusunda henüz emin değilim. Bu konuda gerçekten belirsizlik hissediyorum. Ancak farklı uyum türleri olduğuna inanıyorum. Örneğin, Anthropic içindeki yazılım mühendislerinden bahsediyorum. Şu anda bu dönüşümü yaşıyoruz; yapay zeka tüm veya neredeyse tüm kodları yazıyor olsa da, yapay zeka gerçekten yazılım mühendislerini daha verimli hale getiriyor.

Ama yine de insanların verimliliğini artırıyor. Ancak bazı insanlar için bunun verimliliği artırmadığına dair işaretler görmeye başladık; bu durumda işi doğrudan yapay zekaya yaptırmak daha iyi sonuç verebilir.

Yani sorunun bir yönü bu. Diğer yönü ise hangi alanlarda talebi artırmamız gerektiği? Buna sınır ötesi dağıtım mühendisleri veya uygulama yapay zeka çözüm mimarları diyoruz; bu kişilerin işi hem teknik geliştirme hem de müşteri iletişimini kapsıyor. Şu anda bu tür yeteneklere olan talep çok büyük çünkü müşteri tabanı geniş ve hızlı bir genişleme dönemindeyiz.

Peki bu, saf yazılım mühendisliği yapan herkes için uygun mu? Bu mükemmel bir eşleşme değil. Birebir bir karşılık değil. Bu, gelecekte büyük bir yıkım olacağını, ancak her şeyin buna göre ayarlanacağını fark etmenizi sağlıyor. Hangi taraf kazanacak? Bilmiyorum.

Ama uyarı yapmak zorunda olmamızın nedeni, tam olarak bu şekilde tepki vermemizdir. İster insan düzeyinde ister küresel makroekonomik düzeyde politikalarımızı buna göre belirliyoruz. İyi düşünülmüş görüşler sunmak istiyoruz. İnsanların gerçekten gerçekleştirilemez veya yerine getirilemez olduğunu düşüneceği vaatlerde bulunmak istemiyoruz. Yeterince kanıtlanmamış ifadeler kullanmak istemiyoruz. Bu sorunlar üzerinde dikkatlice düşünmek ve uygulanabilir çözüm yolları aramak istiyoruz.

Emily Chang: Satış, finans gibi alanlarda potansiyel iş kayıplarını gösteren bu grafiği sundunuz; hangi işler yok olacak, kimler yer değiştirecek ve hangi yeni işler yaratılacak?

Dario Amodei：Aslında kimse kesin olarak emin olamaz çünkü ekonomi tahmin edilemezdir, bu da borsa ile aynıdır; bunlar merkeziyetsiz süreçlerdir ve insanların gelecekte hâlâ yapabileceği işlerin ne olduğunu önceden gerçekten bilemezsiniz.

Ama şunu söyleyebilirim ki, genel anlamda, giriş seviyesi beyaz yakalı işlerin olduğu her alan—ister bankacılık, ister finans veya başka bir sektör olsun—AI öncelikle insanların iş verimliliğini artırma konusunda büyük bir potansiyele sahiptir, ancak daha sonra AI, bir işi tamamen insan gücü olmadan yapma yeteneğine sahip olacaktır.

Ardından şunu düşünmeliyiz: İnsanlar gerçekte ne yapabilir? Bence bunu önceden planlamamız gerekiyor. Kurumsal müşterilerimizle konuşurken bunu zaten yapıyoruz. Karşılaştıkları seçenekleri görüyoruz. Karşılaştıkları seçenek şu: Maliyetten mi tasarruf etmeliyim?

Bu genellikle çalışan sayısını azaltmak anlamına gelir, yani temelde daha az kaynakla aynı şeyi yapmak; yoksa toplam kaynak miktarını değiştirmeden daha fazla şey mi yapmalıyız? Fırsat buldukça, onları aynı kaynaklarla daha fazla şey yapmaya yönlendirmeye çalışıyoruz, çünkü bu temelde aynı sayıda veya daha fazla insanı işe almak, sadece yeni işler yapmak için onları kullanmak ve böylece pozitif toplamlı bir oyunu teşvik etmek anlamına gelir.

Şu anda avantajlı olduğumuz nokta, pastanın büyük ölçüde genişleyecek olmasıdır. Pastanın bu kadar büyümesi nedeniyle, insanların girebileceği yeni alanların ortaya çıkması muhtemeldir; sorun sadece bu fırsatları yeterince hızlı bulup bulamayacağımızdır. Bu yıkımın ölçeği çok büyük olacak ve insanları uyardığım nokta da bu, ancak bu eşleşme sorununu çözmeliyiz.

Emily Chang：Lütfen benim için bir senaryo canlandırın, örneğin beş yıl sonra uyandığınızda bu ülke nasıl bir yer olur? Bu insanlar ne yapıyor olur? Çünkü işsizlik oranı o seviyeye ulaşırsa, bu bir devrimin başlangıcının habercisi değil midir?

Dario Amodei：İşte tam olarak bunu önlemek istiyoruz, kesinlikle bu durumun yaşanmasını engellemeliyiz.

Bence birkaç giriş noktası var. Bunların hiçbiri garanti değil, emin olamayız, ancak yine de fiziksel dünya var; örneğin fiziksel dünyada var olan şeyler, robot devrimi de yaşanıyor, ancak bu, AI alanında olanlardan çok daha yavaş ilerliyor. İnsanlar her zaman veri merkezleri inşa etmekten bahseder, ancak her türlü bilgiyi işlemek çok daha kolay hale geldiğinde, sınırlayıcı faktör fiziksel dünyadaki şeyler olabilir.

Bu nedenle, fiziksel dünyada daha fazla insanın üretim yapması, inşa etmesi ve üretmesi gerekiyor.

İnsan merkezli her şeyin büyük bir olay olacağını düşünüyorum. Yapay zekanın doktorların gözden kaçırdığı sorunları keşfettiğine dair pek çok hikaye duydum ve bu beni mutlu ediyor. Ancak insanlar, özellikle önemli konularla ilgilenirken, yine de diğer insanlarla iletişim kurmak istiyor. Belki yapay zeka daha iyi müşteri hizmeti sunabilir, ancak yine de insanlar – ya da en azından bir kısmı – insanlarla konuşmayı tercih ediyor.

Bu nedenle insan ilişkilerine dayalı bu tür işlerin önemli hale geleceğini düşünüyorum. Ayrıca insanların yapay zekayı yönlendirmek için çaba göstereceğine inanıyorum; bir dereceye kadar, bu birinin değerlerine ve niyetlerine uygun olmak zorunda. Bu yüzden bu alanda bir tür rol olacağını düşünüyorum, ancak bu rolün zayıf mı yoksa derin mi olacağını bilmiyorum. Bunu söylemek zor.

"Kıyamet Pazarlaması" Suçlamalarına Yanıt

Emily Chang: Şu ana kadar pek çok karşıt görüş ortaya çıktı. İnsanları uyarmaya çalıştığınızı söylediğinizi biliyorum, ancak Jensen Huang, görev ile iş kavramlarını karıştırdığınızı söyledi. Diğerleri ise bunun daha çok Anthropic lehine bir "kıyamet pazarlaması" olduğunu belirtti. Bu yüzden bu konuyu netleştirmek ve kesin bir şekilde karşı çıkmak istiyorum.

Dario Amodei: İşsizlik riskiyle ilgili genel durum hakkında bazı düşüncelerim var. Yani, bu fikirleri henüz tam olarak olgunlaştırmadık çünkü doğru olduklarından emin olmak istiyorum. Ancak Anthropic birçok öneri sundu. Daha önce ekonomik hibeler oluşturduk. Ekonomik endekslerimiz var. Bu risklerle başa çıkmak için vergiler ve makroekonomik politikalar yoluyla olası yolları tartışıyorum. Yeni işlerin ne olacağına dair.

Teknolojinin emekleme döneminde, görev ile iş arasındaki farkı, bunun neden geçmişten farklı olduğunu ve özel hayırseverlikten hükümet eylemine kadar yapabileceğimiz 6 şeyi sıraladığım yaklaşık 5 sayfalık bir bölüm sundum. Sorunları ve çözümleri tartıştım.

Ancak sosyal medyadan nefret ediyorum, bir kategori olarak nefret ediyorum. İnsanlar sadece bir yıl öncesine ait üç saniyelik kısa bir klibi alıyor, makaleyi gerçekten okumuyor ya da sosyal medyanın özelliklerini kullanıyor – oysa ben makalede bu riskleri çok titizlikle ele almıştım.

Bunun sadece ucuz bir pazarlama olduğunu düşünmek, kendisi de ucuz bir pazarlamadır. Bu tembelliktir. Ciddi entelektüel çalışmalarla etkileşime geçememektir. Bence bu da sorunun bir parçası. Yine söylüyorum, bunun Silicon Valley'in kronik hastalığının bir parçası olduğunu düşünüyorum. Bu üç saniyelik sosyal medya dünyasına sıkışıp kalmış durumda.

Bu yüzden insanlar sadece bu içeriklere tepki veriyor ya da sadece bunlara tepki vermeleri gerektiğini düşünüyor. Yine söylüyorum, bunun çok tehlikeli olduğunu düşünüyorum ve olgun bir diyalog kuramıyoruz.

Bunun yerine, insanlar tembelce bu üç saniyelik kliplere bakıyor. Sonra da diyorlar ki, Ah, Dario o zaman böyle demişti. Bu çok aptalca. Bu hiç ciddi değil. Ne zaman biri böyle bir şey söylese, o kişi hakkındaki görüşüm düşer.

Ulusal Güvenlik ve Askeri Yapay Zeka Kırmızı Çizgileri

Anlatıcı: Dünyanın önde gelen yapay zeka şirketlerinden biri, askeri operasyonlar da dahil olmak üzere ABD ulusal güvenliğinin birçok yönüne derinlemesine entegre olmuş durumda. Anthropic ile Pentagon arasında yapay zekanın askeri güvenlik önlemleri konusundaki gerilim artıyor.

Emily Chang: Uzun süredir savaş karşıtı bir duruşunuz var, bu Caltech günlerinize kadar uzanıyor. Ancak, ABD gizli ağlarında faaliyet göstermek üzere Savunma Bakanlığı ile sözleşme imzalayan ilk yapay zeka şirketlerinden birisiniz. Savaş yürütmek için kullanılmak üzere. Bunu açıklayın.

Dario Amodei: Şunu söyleyeyim, dünya sürekli değişiyor. Bu teknolojiye bakış açımı söyleyeyim, endişeliyim çünkü saldırgan, yükselen bir otoriter blokla karşı karşıyayız ve kendimizi savunmamız gerekiyor.

Bu her zaman inandığım ve hala inandığım bir görüş ve bu nedenle, iki hükümet döneminde de, her politikayı onaylamasam da, genel olarak bunu desteklememizin nedeni budur.

İşte bu yüzden onlarla iş birliği yapıyoruz. Bunu kesinlikle para için yapmıyoruz. Hukuki mücadeleleri bir kenara bıraksak bile, hükümet ağlarında konuşlanmak çok zahmetli, çok az kazanç sağlıyor ve büyük çaba gerektiriyor. Yani bunu bir görev bilinciyle yapıyoruz. Ancak aynı şekilde, bu işe kaygı duyduğumuz için girdiğimize göre, teknolojinin kullanımına da sınırlamalar getirilmesi gerekiyor.

[Teknolojinin gelişim aşamalarından bahsederken şu görüşü ortaya atmıştım: Bu teknolojiyi her alanda kullanmalıyız, ancak kendi değerlerimizi zedeleyen yöntemler hariç. Kitlesel gözetim ve tam otonom silahlar gibi kırmızı çizgiler olarak belirlediğimiz şeyler, bence değerlerimizi zedeleyen unsurlardır.

Bu yöntemlere başvurulursa, kazanmak bile anlamsız hale gelir. İşte benim gördüğüm denge noktası ve savunduğumuz pozisyon budur. Bu aynı zamanda neden Savaş Dairesi ile iş birliği yapan ilk şirketlerden biri olduğumuzu, başkaları belirli eylemleri yapmaya istekliyken bizim ise bazı şeyleri yapıp bazılarını yapmadığımızı da açıklıyor.

Bence bir duruş seçip ona sadık kalmalısınız. Şirketlerin pozisyonlarını sürekli değiştirmesi – önce hükümetle çalışmayacağını söyleyip sonra birden hükümetin tüm taleplerini kabul etmesi – bence anlaşılır değil. İlkelerinizi seçmeli ve onlara bağlı kalmalısınız.

Emily Chang: 2024'ten beri Palantir ile çalışıyorsunuz.

Dario Amodei: Doğru.

Emily Chang: Teknolojileri ICE ve Gazze'deki polis birimleri tarafından kullanılıyor. Claude başka şekillerde gözetim için kullanılıyor mu?

Dario Amodei: Ne Palantir aracılığıyla ne de başka bir kanalla ICE ile çalışıyoruz. CBP ile de çalışmıyoruz. Gazze'de operasyonumuz olduğunu sanmıyorum. İş birliğimizi onayladığımız alanlarla sınırlamak konusunda çok dikkatliyiz.

Emily Chang: Yani kırmızı çizgilerinizi belirlediniz, başkan federal hükümetle çalışmanızı yasakladı, Pentagon sizi tedarik zinciri riski olarak işaretledi ve OpenAI sizin reddettiğiniz sözleşmeleri imzaladı. Bu mücadeleyi kazanmak aslında nasıl bir şey?

Dario Amodei: Özel bir şirketin bu mücadeleyi kazanabileceğini düşünmüyorum. Bu bir mücadele değil. Anthropic kazanmaya çalışmıyor, kazanma veya kaybetme üzerine düşünmüyor. Bu daha çok hükümetin AI'ı nasıl doğru kullanması gerektiğiyle ilgili bir tartışma. AI yeni bir teknoloji. Hangi alanlarda güvenilir, hangi alanlarda güvenilmez olduğunu henüz bilmiyoruz. Hangi alanlarda değerlerimizi güçlendirdiğini veya zayıflattığını henüz bilmiyoruz.

Bu nedenle, bence önemli şeylerden biri, iyi olduğunu düşündüğümüz kullanım senaryoları için – açıkçası çoğu kullanım senaryosu iyidir – ve endişe duyduğumuz kullanım senaryoları için emsal oluşturmaktır. Dediğim gibi, sözleşmelerin sonuçta sınırlı bir etkisi olduğunu gördük, tıpkı başkalarının sizin aynı sınırlarına saygı göstermeyen bir sözleşme imzalayabileceğini gördüğümüz gibi.

Ancak bunun yaptığı şey, bu konu hakkında farkındalığı artırmak oldu. Şu anda Kongre'de ciddi bir iki partili iş birliği var, endişe duyduğumuz bazı şeyleri yasaklamaya ve koruma önlemleri getirmeye çalışıyorlar. Tekrar söylüyorum, bunu bir kavga olarak görmek istemiyorum, ancak bir bakıma bu, ülkemizin bu teknolojinin nasıl uygun şekilde kullanılacağı konusunda daha dikkatli düşünmesini sağlama konusunda etkili oldu.

Değerler ve Askeri Etik

Emily Chang: Anthropic'in yöneticisi ideolojik bir deli ve tek karar verme yetkisine sahip olmamalı. Benim önemsediğim daha geniş AI sorunları. İdeolojik bir deli veya bir grup solcu deli olarak anılmaktan rahatsız olur musunuz?

Dario Amodei: Bana bundan çok daha kötü şeyler söylendi. İnsanlar bana veya Anthropic'e istedikleri gibi hitap edebilir. Gerçekten önemli olan iki şey var: Bir şirket olarak başarılı olmamız ve değerlerimize bağlı kalmamız. Aslında, bazı açılardan hayatım çok kolay, çünkü sadece bu iki şeyi takip ettiğinizde, bu gerçekten basit, değil mi? Yani, her zaman nerede durduğunuzu bilirsiniz.

Emily Chang: Bir ABD'li yetkili, LLM yardımıyla ABD ordusunun günlük hedef sayısını 1.000'den 5.000'e çıkardığını söyledi. Bu, Claude'un daha hızlı bir şekilde daha fazla insanı öldürmeye yardımcı olabileceği anlamına geliyor. Bu konuda rahat mısınız?

Dario Amodei: Bence burada iki şey var, ilki ABD'nin askeri verimliliğini artırma yeteneği. Ben bu yeteneği destekliyorum. Daha güçlü bir yeteneğe sahip olmanın savaşı tetiklemediğini, aksine savaşı caydırdığını düşünüyorum. Temelde bana, bu ülkeye güvenip güvenmediğimi ve bu ülkenin dünya sahnesinde daha az etkili bir aktör yerine daha güçlü bir aktör olmasını isteyip istemediğimi soruyorsunuz. İstiyorum. Ben bir vatanseverim.

Ayrıca ayrı bir soru var: ABD hükümetinin uyguladığı bazı politikaları destekleyip desteklemediğimdir.

Hükümetin yaptıklarına gelince, açıkçası bazılarını destekliyor, bazılarını desteklemiyorum. Bu benim kararım değil. Eğer bir teknoloji sunuyorsak ve Savunma Bakanlığı (DOD) bunu gündeme getiriyorsa ve biz de aslında onlarla aynı fikirdeysek, bir teknoloji sunuyorsak, hangi askeri operasyonu yapıp yapamayacağınıza karar verme yetkimiz yoktur.

Şimdi, kişisel olarak bir askeri operasyonu haklı bulurken, bir diğerini kötü bir fikir olarak görebilirim, ancak bu teknolojinin rolünü reddetmeyiz.

Politika belirleme yetkisini askeri karar alıcılara bırakmalısınız. Yapabileceğiniz şey, bazı üst düzey sınırlar çizmektir; bizim için bu, değerlerimize ve ülkemizin değerlerine uymayan kullanım senaryolarını engellemek ve değerlerimizi yücelttiğine inandığımız kullanım senaryolarını teşvik etmektir. Düşünce tarzımız budur.

Emily Chang: Bloomberg, ABD ordusunun İran savaşında Claude'u, Palantir tarafından üretilen Maven Smart System platformu aracılığıyla yapay zeka destekli hedef tespiti için kullandığını bildirdi. Haberlere göre, Şubat ayında ABD'nin bir füzesi İran'daki bir kız okulunu vurdu ve çoğu çocuk olmak üzere 150'den fazla kişi hayatını kaybetti. Claude bu saldırıda bir rol oynadı mı?

Dario Amodei: Biz, bakın, bu modellerin tam olarak nasıl kullanıldığını bilmiyoruz. Açıkçası, savaşta meydana gelen bu tür hatalar gerçekten çok korkunç ve bu gerçekten çok üzücü bir durum.

Eğer bu, desteklemediğimiz kullanım senaryolarına karşı durmanın neden önemli olduğunu açıklamıyorsa, şirketin geleceğini riske atma pahasına bile olsa bu modellerin kullanım şekillerini sınırlamaya hazırız. Ve bahsettiğiniz kullanım senaryosu, kırmızı çizgilerimizi bile ihlal etmiyor.

Gelecekte, bazıları gerçekten kırmızı çizgilerimizi ihlal eden, 100 kat daha fazla kullanım senaryosu olmasından endişe ediyoruz. Şimdi, yine söylüyorum, genel olarak bu modellerin uygun şekilde kullanıldığını düşünüyorum. Net etkinin olumlu olduğuna inanıyorum.

Ancak askeri karar alıcılar, en iyi dönemlerde bile son derece ciddi hatalar yapabilir ve şu anda en iyi dönemde olup olmadığımızı bilmiyorum.

Örneğin, birkaç konuyu tartışabiliriz. Bu sorunlara yol açma olasılığı daha yüksek olan model kullanım şekillerini önlemek için kırmızı çizgilerin nasıl belirleneceğini ele alabiliriz. Eğer baştan izin verseydik, tamamen serbest bıraksaydık, şu anda neredeyse tüm diğer şirketlerin yaptığı gibi tam otomatik silahlara boyun eğseydik, burada görüldüğü gibi Claude yardımcı olurdu, ama nihai kararı insan verirdi.

Yani nihai kararı Claude değil, insan verdi. Bir düşünün; eğer bir dünyada – Claude değil, çünkü biz buna izin vermedik, ama başkalarının yapay zeka modelleri – yapay zeka modeli doğrudan karar alıyor ve insan hiç sorgulamıyorsa. İşte biz bunu savunuyoruz.

İşte tam olarak karşı çıktığımız şey bu. Söylemek istediğim, burada başka bir konu daha var. Tekrar ediyorum, satın almanın bunu başarmanın doğru yolu olduğunu düşünmüyorum. Ancak şunun garanti altına alınması gerekiyor – bu sadece bir teknoloji tedarikçisi olarak benim değil, aynı zamanda Amerikan halkının da endişesi – yani ABD'li askeri karar alıcıların bu hataları yapmaması.

Güvenilir bir şekilde çalıştıklarından ve harekete geçerken akıllıca seçimler yaptıklarından emin olmak.

Yine, bir vatandaş ve teknoloji tedarikçisi olarak bu benim de endişem. Örneğin, hükümet teknolojiyi kullanırken Microsoft Excel'i yoğun şekilde kullanıyoruz. Excel'i bir askeri operasyon için kullanabileceğini ama bir başkası için kullanamayacağını söylersen, bu gerçekte mümkün değil. Umarım bu, bu konuyu nasıl ele aldığımızı anlamana yardımcı olur.

Emily Chang: Bu okulun bir web sitesi vardı, Google aramasında bulabilirdiniz. Claude bunu fark etmemeli miydi? Ya da yapay zeka veya kullandıkları herhangi bir teknoloji bunu fark etmemeli miydi? Bu, savaşta teknolojiyi kestirme yol olarak kullanma konusunda daha endişe verici bir soruyu gündeme getirmiyor mu?

Dario Amodei: Dinleyin, dinleyin, söylemek istediğim şu: Emin değilim, gerçekten emin değilim. Bu, benim sahip olmadığım gizli bilgilere dayanıyor olabilir. Ancak belirlediğimiz ilke, burada uygulandığını düşündüğüm ilke şu: Nihai kararı insan verir. Claude'un veya başka bir yapay zekanın ne rol oynadığını bilmiyorum, ama bu, bu ilkenin neden bu kadar önemli olduğunu açıklamıyorsa, neyin açıkladığını bilmiyorum.

Emily Chang: Yapay zeka savaşları, Üçüncü Dünya Savaşı'nı önleme olasılığı mı daha yüksek, yoksa savaşı tetikleme olasılığı mı daha yüksek?

Dario Amodei: Genel olarak, savaşı önleme olasılığının daha yüksek olduğunu düşünüyorum. Ancak kullanım şekline herhangi bir kısıtlama getirmezsek, o zaman savaşı tetikleme olasılığının daha yüksek olduğunu düşünüyorum. Dr. Strangelove filmini izlemişsinizdir; filmin önermesi, bir tür kıyamet cihazına sahip olmanız ve bu cihazın nükleer bir saldırıya uğradığını düşündüğü anda otomatik olarak nükleer silahlarla karşılık vermesidir.

Bunun neresi yanlış gidebilir ki? Ayrıca, ölümcül, tamamen otonom silahlar gibi konuları da düşünüyorum. Çatışmaların, tarafların birbirini kısıtlaması ve fırsat kollaması şeklinde gerçekleştiğini düşünüyorum. Yanlış anlaşılmalar yaşanır. Bu teknoloji üzerinde uygun bir denetim olmazsa, bu tür olayların meydana gelme olasılığının arttığını düşünüyorum.

Şimdi, yapay zekanın uygun şekilde kullanılabileceğini, hatta savaşla sınırlı kalmayıp sadece istihbarat toplama alanını düşünün. Bir düşünün, rakibin her hareketini bildiğimizde, onlar bir tür işgal veya askeri operasyon yapmayı düşünmeden önce iki kez düşüneceklerdir. Bu nedenle, üstün istihbarat yeteneklerinin gerçekten çatışmaları önleyebileceğini düşünüyorum. Üstün yanıt verme yetenekleri çatışmaları caydırabilir. Bu şeylere her zaman inanmışımdır.

Mythos: Öncü Modellerin Güvenlik Oyunu

Emily Chang: Anthropics neredeyse her hafta manşetlere çıkıyor. Tabii ki, şu anda en çok dikkat çeken Mythos.

Dış ses: Bu, şu anki en yeni ve en güçlü Anthropic modeli; siber saldırı zincirinin tüm aşamalarını otonom bir şekilde yürütebiliyor.

Emily Chang: Mythos'un yeteneklerinin çok güçlü olduğunu ve halka açıklanmaması gerektiğini söylemiştiniz. Onunla ilgili sizi en çok şaşırtan şey neydi?

Dario Amodei: Sanırım beni en çok şaşırtan şey, modelin güvenlik açıklarını bulma yeteneğinin sürekli olarak artmasıydı; daha da önemlisi, bu açıkları istismar programlarına dönüştürebilmesiydi. Oysa insanlar genellikle sadece güvenlik açıklarından bahseder. İnsanlar genellikle güvenlik açıklarını istismar programlarına dönüştürme sürecinden bahsetmezler ve model bu konuda oldukça başarılıydı.

Bu yüzden, beni şaşırtan şey, bu büyük sıçramaya tanık olmamızdı. Bu, özellikle geniş bir sıçramaydı. Ve hiçbir yönlendirme olmadan, bu teknolojiyi ilk sağladığımız şirketlerden bazıları bunun bir süper silah olduğunu söyledi. Kullanabilmek için silah ruhsatına sahip olmak gerekir.

Lütfen bunu yayınlamayın. Bu kısıtlama talebi, tam da bu teknolojiyi sağladığımız şirketlerden geldi; onlar o kadar çok kritik güvenlik açığı ve bu kritik güvenlik açıklarının etrafındaki kullanılabilirliği keşfettiler ki, temelde bunu yayınlamamamızı istediler.

Açık olmak gerekirse, sosyal medya alanında bilgiler her zaman çarpıtıldığı için amacımız bunu sonsuza kadar rafa kaldırmak değil. Bu teknolojiyi aşamalı olarak açmaya çalışıyoruz. Giderek daha geniş kitlelere. Sonuç olarak, Mythos'un halka sunulması gerektiğini düşünüyoruz, ancak güçlü siber güvenlik önlemleriyle donatılmış olarak.

Şu anki endişelerden biri, Opus 4.7 ile mevcut siber güvenlik önlemlerini yayınlamış olmamız; bu iyi bir siber güvenlik modeli olsa da çok daha zayıf ve bu önlemler jailbreak yapılabiliyor. Bunu yeterli bir savunma olarak gören diğer bazı şirketler için biraz endişeliyiz, çünkü bu bazen işe yarasa da, bu sınıflandırıcıların jailbreak yapılabileceğini veya atlatılabileceğini biliyoruz.

Kendi testlerimize ve diğer şirketlerin aldığı savunma önlemlerine ilişkin değerlendirmemize göre, açıkçası bu savunmalar şu anda yeterince güçlü değil. İşte tam da şu anda beklediğimiz şey, savunma yeteneklerinin gerçekten güven duyacağımız bir seviyeye gelmesi.

Emily Chang: O zamanlar buna karşı çok fazla direnç vardı. Araştırmacılar, bu süreci daha ucuz açık kaynak modelleri kullanarak yeniden oluşturabildiklerini söylediler. Bazıları OpenAI'ın zaten bu yeteneklere sahip olduğunu söyledi. Peki, bunun büyük bir PR gösterisi olduğunu düşünenlere nasıl yanıt veriyorsunuz?

Dario Amodei: Açık kaynak modellerle yeniden oluşturulabileceği iddiası tamamen yanlış. Sistemin temel fikri, Mythos'un tüm kod tabanını inceleyip sorunları bulabilmesidir. Birisi Twitter'da, Mythos'un bulduğu o tek kod satırına odaklanan bir açık kaynak modeli kullanırsanız, aynı sorunu bulabileceğini söyledi. Bu, bu bir ipucu değil, bu o sorun değil, yani bu, bu hiç aynı şey değil.

Bunun nihai testi şu: Şirketlere gidiyoruz, açık kaynak kod depolarını inceliyoruz ve Firefox'ta 271 yeni güvenlik açığı buluyoruz. Henüz açıkları kapatılmamış veya ifşa edilmemiş özel şirketlerde binlerce güvenlik açığı tespit ettik.

Yani, önceki modellerde hiç kimse bu 271 güvenlik açığını bulamadı. "Mythos'un bulduğu tam kod satırını buldum, samanlıkta iğneyi bulduğumu biliyorum ve diğer her şey artık bu iğneyi alabilir" durumunun aksine, pratikte işe yarayan iş akışı bambaşka bir şey.

Ancak bunun sadece bir pazarlama taktiği olduğunu söyleyenlere şunu söylemek isterim: Bu modeli yayınlamadığımız için ticari olarak büyük kayıplara uğradık. Bu model, Anthropic içindeki araştırmaları ve sonraki modellerin üretimini büyük ölçüde hızlandırdı; eğer yayınlasaydık, dış dünyaya da aynı hızlanmayı sağlayacaktı. Bu, bize ticari olarak büyük zarar verdi.

Emily Chang: Eğer bu savunmacılara yardımcı oluyorsa, o zaman saldırganlara da yardımcı olacaktır. Hâlâ herhangi bir şeyi savunabilir miyiz?

Dario Amodei: Şunu söylemek istiyorum: Mythos'u saldırganlara sunmadan önce savunmacılara sunmamızın nedeni, tüm güvenlik açıklarını kapatmaktı. Bilmiyorum, modeller geliştikçe daha fazla güvenlik açığı keşfedilebilir, ancak sonuçta güvenlik açıklarının sayısı sınırlıdır. Sınırlıdırlar, tıpkı bir yüzeyde sadece belirli sayıda delik olması gibi.

Tüm güvenlik açıklarını kapatırsanız, yüzey saldırıya karşı son derece zor hale gelir; aynı zamanda, kodun kendisi de güçlü modeller tarafından yazıldığı için, içinde kusur bulmak veya ona sızmak zorlaşır. Bu nedenle diğer taraftan bakıldığında, 6 ay veya 1 yıl sonra geçmişe kıyasla daha güvenli bir internet ekosistemine sahip olabileceğimize inanıyorum. Bu hedefe ulaşmak için çalışıyoruz ve yeni siber savunmacılara mythos'u açmak için elimizden gelenin en iyisini yapıyoruz.

Hükümetle sürekli iletişim halindeyiz. Tavsiyelerine büyük saygı duyuyoruz. Casusluk karşıtı riskler nedeniyle açılımımızı yavaşlatıyorlar. Bu risk. Bunun akıllıca olduğunu düşünüyorum. Buradaki tüm ciddi insanların, gerçek bir ödünleşim olduğunu anladığını düşünüyorum.

Twitter'da ve diğer yapay zeka şirketlerinden bu konuda çok sayıda sert eleştiri görüyoruz. Söylediklerine bakın, sonra da söyledikleriyle yaptıkları arasındaki tutarsızlığa. Bunlar ciddi insanlar değil. Burada karşı karşıya olduğumuz ciddi ödünleşimleri ciddiye almıyorlar.

Bakın, her gün müşteriler beni arayıp "Mythos'u kullanmak istiyorum" diyor. Ülkeler de beni arayıp "Mythos'u kullanmak istiyoruz" diyor. Ama ABD hükümeti ve güvenlik ekibim bana, "Hayır, bir dakika, burada riskler var" diyor. Hangisinin haklı olduğunu söylemiyorum.

Bence gerçek ikisinin arasında bir yerde. Her iki tarafın da makul argümanları var. Her iki tarafın da makul argümanları var. Ama burada gerçek zorluklar var ve bunları bir toplum olarak birlikte ele almamız gerekiyor, bir şeyleri ucuz pazarlama olarak reddetmek ya da diğer bazı şirketlerin yaptığı gibi, pazarlama müdürlerini kullanarak ters konumlanmaya çalışmak yerine.

Tüm bunlar inanılmaz bir ciddiyet ve olgunluk eksikliğini gösteriyor. Bu anı birlikte karşılamalıyız.

Güç Dengesi ve Hükümet Düzenlemesi

Emily Chang: Kendinizi rahat hissetmediğiniz bazı ödünleşimler yapmak zorunda kaldınız mı?

Dario Amodei: Anthropic'in tüm tarihi bir ödünleşim süreci oldu, Anthropic'in tüm tarihi. İdeal bir dünyada, ilk sohbet robotunuzu piyasaya sürmeden önce, yanlış gidebilecek her şeyi araştırmak için yıllar harcamayı tercih ederdiniz. Şimdi, gerçekten erteledik.

Claude'un ilk çıkışını gerçekten erteledik, ama sadece birkaç ay. Yani her şeyin bir ödünleşim olduğunu söylüyorum, spektrumun uç noktalarında olmak tamamen çılgınca, bu yüzden her şey bir ödünleşimdir.

Söylemek istediğim şu ki, şu anda tanımladığım ticari liderlik konumunda olduğumuz için, aslında Daniela ve ben, ihtiyatlı davranma konusunda daha fazla ilerleme kaydetmek için elimizden geleni yapıyoruz. Mythos'un çıkışının amacı da bu; eğer sektör lideri değilseniz bunu yapmak zordur. Bu yüzden buna benzer daha fazla şey göreceğinizi düşünüyorum.

Emily Chang: Bir görüş var: Hükümet neden sizi devralmıyor? Neden bu kadar güçlü bir teknolojiyi özel bir şirketin kontrol etmesine izin veriyorlar?

Dario Amodei: Bu gerçekten çok ciddi bir soru olduğunu düşünüyorum ve bu endişeleri paylaşıyorum. Hükümetin bizi doğrudan devralması gerektiğini düşünmüyorum, ama şöyle ifade edebilirim. Şu anki durumu gözden geçirip tanımlamak gerekirse, tarihte gördüğümüz her önceki güçlü teknoloji ya hükümet tarafından inşa edildi ya da hükümetten kaynaklandı.

Örneğin nükleer silahlar, açıkça başlangıçta hükümet tarafından inşa edildi ve sonrasında da büyük ölçüde hükümet öncülüğünde yapıldı. Ancak internet, GPS, cep telefonları gibi teknolojilerde bile tüm araştırma ve geliştirme çalışmaları laboratuvarlarda, federal laboratuvarlarda ve üniversitelerde tamamlandı.

Yapay Zeka, özel sektörde inşa edilen ilk teknolojidir; hükümet bu süreçte önemli bir rol oynamamış ve sahaya nispeten geç girmiştir. Bunun aslında tehlikeli ve istikrarsız bir durum olduğunu düşünüyorum. Bu, benim tercih edeceğim bir durum değil. Bunun bir alternatifi de yok; teknolojinin kendisi zaten inşa edilebilir durumda. Rakiplerimiz inşaata devam ediyor, bunun ekonomik bir değeri var ve sonuçta bir şekilde inşa edilecek. Sorun, özel sektörün bunu yapması değil, hükümetin bu sürece dahil olmamasıdır.

Bence güç dengesini düşünmemiz gerekiyor, bu yüzden Yapay Zeka şirketlerinin gücü üzerinde bir denge kurulması gerektiğini düşünüyorum. Bunun için bir mekanizmamız var: Uzun Vadeli Fayda Vakfı (Long-term Benefit Trust). Bu yapı, özünde yönetim kurulu üyelerinin çoğunluğunu atama ve görevden alma yetkisine sahip. Mantığını sonuna kadar götürürsek, aslında beni işten çıkarma yetkisine de sahip.

Şimdi bazı unsurları devreye sokuyoruz – henüz tüm unsurlar olmasa da – kamu yönetimine benzer bazı öğeleri ekliyoruz; yani birine karşı sorumlu olmalısınız, sadece şirketin hissedarlarına değil. Bu çok önemli, şirkete ne olursa olsun bu yapı varlığını sürdürecek. Yapay Zeka alanında diğer şirketleri de benzer yapıları benimsemeye teşvik ediyoruz.

Hükümet tarafında ise denge ve denetlemeye ihtiyacımız olduğunu düşünüyorum. Kongre, kırmızı çizgiler belirlemeye yönelik bazı çabalar duyurdu. Bu nedenle yasama ve yargı organlarının rol oynaması gerektiğine gerçekten inanıyorum, çünkü bu teknolojiyle ilgili olarak hem şirketlerin elinde olmasından hem de hükümetin elinde olmasından endişe duyuyorum.

Ardından, işletmelerin hükümete karşı bir denge oluşturması, hükümetin de işletmeleri düzenlemesi gerekiyor. Bu teknoloji üzerinde temel bir düzenlemeye ihtiyacımız var. Bence yayın öncesi testleri, yani zorunlu yayın öncesi testleri ve modellerin test edilip denetlenmesini uygulamaya başlamalıyız.

Benim için çok ironik olan şey, Silikon Vadisi teknoloji camiasında bir grup insanın başlangıçta, bu teknoloji etrafında şeffaflık sağlamanın veya hatta ihracat kontrolleri uygulamanın, bu teknolojiyi yaratma potansiyelimizi tamamen yok edeceği ve yeniliği boğacağı görüşünde olmasıydı. Ancak, her zaman tahmin ettiğim ilk gerçek tehlikeyi gördüklerinde durum değişti. Birdenbire sözde kamulaştırmadan, hükümetin bunu doğrudan devralması gerektiğinden bahsetmeye başladılar.

Hadi ama millet. Tutumunuz bir uçtan diğerine savruluyor; en aşırı düzenleme karşıtlığından – yani 'bize bir kez daha bakmaya kalkarsanız sektörü mahvedersiniz' tavrından – tamamen komünist bir yaklaşıma, yani 'hükümet her şeyi ele geçirmeli' anlayışına geçtiniz. Daha rasyonel ve ılımlı bir yönteme ihtiyacımız var.

İşte biz tam da bunu savunuyoruz, çünkü bu teknolojinin içerdiği gücü derinlemesine anlıyoruz. Panik yapmıyoruz. Bunu inkar da etmiyoruz. Düzgün bir üstel büyüme görüyoruz ve buna uygun şekilde karşılık veriyoruz.

Peki, Beyaz Saray ziyaretin nasıl geçti? Her zaman iş birliği yapabileceğimiz herkesle çalışmaya çalışıyoruz. Hükümet düzeyinde, basit bir yöntemimiz olduğunu söyledim. İlkelerimiz var. Bu ilkelere bağlı kalıyoruz ve karşı taraftaki insanların mantıklı olmasını umuyoruz. Açıkçası, hükümet mythos'u gerçekten ciddiye alıyor.

Mesela, Secretary Bessent ve Chief of Sotomay ile iyi görüşmeler yaptık. Ayrıca Genel Sekreter Susie Wiles ile de, bence buradaki riskin özünü gerçekten anlıyorlar. Sanırım Mythos, bu risklerin tam olarak nerede olduğunu daha somut bir şekilde algılamalarına yardımcı oluyor.

Yani, her hükümette olduğu gibi, bazı departmanlarla çok iyi anlaşıyoruz ve onlar da bunu anlıyor. Tabii ki, bazı departmanlarla anlaşmak daha zor. Bunun normal olduğunu düşünüyorum. Bu durum her hükümette yaşanır ve biz sadece elimizden gelenin en iyisini yaparak başa çıkmaya çalışıyoruz.

Zeka Primi, Jeopolitik ve Gelecek Vizyonu

Emily Chang: Kariyerinin başlarında, büyük bir Çin teknoloji şirketi olan Baidu'da, Silikon Vadisi ofisinde çalıştın ve Çin hakkında her zaman net bir görüşe sahip oldun. Çin güçlü açık kaynak modeller çıkarıyor ve ABD'deki şirketler bunların üzerinde ücretsiz olarak geliştirme yapıyor. Bu bir tehdit mi?

Dario Amodei: Bu teknolojide gördüğümüz bir şey, model zekasının priminin gerçekten yüksek olması. İnsanların daha düşük zekalı modelleri tercih ettiğini çok nadiren görüyoruz. Açıkçası, şu anda zaten gelişen bir ekosistem var. Ön uç modellere ihtiyaç duyduğumuz sorunlardan çok daha basit olan birçok zorluk ve problem mevcut.

Ancak şunu vurgulamak gerekir ki bu üstel bir büyümedir. Yani bu ön safta olmayan modeller, 2023 ve 2024'te gördüğümüz kadarıyla önemli bir ekonomik değere sahip olabilir, ancak unutmayın ki yılda 10 kat büyüyoruz.

Bu nedenle şunu görüyoruz: Ön safta olan şeyler, ön saftan uzak olanlardan her zaman çok daha güçlüdür. Bence bu, eski dönemde ürün geliştirmeye alışkın olanlar için henüz tam olarak anlaşılmış değil. Daha önce hiç şirket yönetmemiş, önceki ürün dönemini düşünmemiş ve özellikle sosyal medya çağından tiksinen biri olarak konuşuyorum.

Kendimi o dünyanın dışında bir yabancı gibi hissediyorum. Ve insanların sezgilerinin yanlış olduğunu düşünüyorum. Ürünlerle ilgili çeşitli deneyim kurallarına sahipler. Bence yılda 10 kat büyüyen üstel büyüme modeli bunu gerçekten kırıyor. Zeka son derece kritik bir faktör ve ağırlığı her şeyin üzerinde. Bu yüzden defalarca görüyoruz ki değer genellikle ön safta yer alıyor.

Şimdi, bazı gecikmeli modellerle ilgili endişem, getirdikleri risk; yani karşı karşıya olduğumuz Mythos seviyesindeki siber saldırı yeteneği. 12 ay sonra çok daha güçlü ağ yeteneklerine sahip olacağız, ancak Mythos seviyesindeki siber saldırı yeteneği o zamana kadar herkesin indirmesine sunulmuş olabilir. Umarım o zamana kadar her şeyi yamamış oluruz. Bunu durdurmanın bir yolu olduğunu sanmıyorum, ancak bunun ciddi bir sorun olduğunu düşünüyorum.

Emily Chang: Baidu'da gördükleriniz ve duyduklarınız Çin hakkındaki görüşlerinizi şekillendirdi mi?

Dario Amodei: Hayır, gerçekten hayır.

Orada bir yıl çalıştım. Sanırım daha çok ses tanıma ve benzeri konularda bir şeyler öğrendim. Belki beni endişelendiren tek şey, ses tanıma verilerini elde etme yöntemimizin bir kısmıydı; Çin'de mahremiyet umursanmıyor, bu yüzden tüm bu ses tanıma verilerine sahibiz.

Ancak bunun dışında, buradaki endişem jeopolitik boyutla ilgili. Çin'de olup bitenler arasında beni en çok endişelendiren, ABD'de gördüğümüz şey; yani eleştirel seslerin bastırılması, hatta ABD'de bile, örneğin Hong Kong konusunda yaşananlar, ABD'nin gerçekliğine müdahale edebilme durumu.

Ticari ağlar ve eleştirinin bastırılması; bu otoriter bir devlet. Ve yüksek teknolojili bir otoriter devlet. Bunu AI ile birleştiğinde gördüğünüzde, burada gerçekten bir distopya elde ediyorsunuz, tıpkı 1984 gibi veya daha kötüsü.

Benim odak noktam bunu engellemeye çalışmak. Bunu durdurma şansımız olduğunu düşünüyorum.

Bence yapay zekayı özgürlüğü destekleyen bir teknoloji haline getirme fırsatımız var, insanları daha özgür kılan ve herkes için eşit adalet vaadini gerçekleştirebilen bir teknoloji; aksi takdirde tam tersi de olabilir. Geleceğin nereye gideceği, yapay zeka şirketlerinin eylemlerine, hükümetlerin eylemlerine ve hepimizin eylemlerine bağlı. Bu nedenle, bu konuda sorumluluğumuz olduğunu düşünüyorum.

Kendini Geliştirme ve Medeniyetin Devamlılığı

Emily Chang: Sizin alanınızdaki insanlar sık sık şu andan bahsediyor: Yapay zekanın kendini geliştirecek kadar güçlü hale geldiği, ardından geliştirilmiş versiyonunun kendini tekrar geliştirmeye devam ettiği bir döngü. Bazı araştırmacılarınız bu anın yaklaştığını düşünüyor. Bu an bize ne kadar uzak?

Dario Amodei: Bunun belirli bir zaman noktası olduğunu düşünmüyorum. Bunun sürekli bir süreç olduğunu düşünüyorum. Bazı yönlerden bunu zaten gördük; yapay zeka, bir sonraki nesil yapay zeka için mimariler önerebiliyor. Yaklaşık bir yıl önce, toplam faktör verimliliğinin yapay zeka sayesinde %10 ila %15 arttığını gözlemledik. Şimdi bu oran belki %20 veya %30'a yükselmiş olabilir. Hatta bu oran ikiye katlanıyor olabilir.

Her şey gibi, üstel bir eğrinin üzerindeyiz ve yapay zekanın aniden kendi kendine evrimleşeceği, kontrolden çıkacağı veya güvensiz hale geleceği belirli bir an yok.

Yaşadığımız şey, sürekli hızlanan bir üstel büyüme. Ve üstel eğrinin her noktasında şunu değerlendirmeliyiz: Şimdi yavaşlama zamanı mı? Bu teknolojiye daha fazla kontrol uygulama zamanı mı? Gelecekte giderek daha fazla kontrole ihtiyaç duyulacağını düşünüyorum. Ancak tüm bunları çözmenin anahtarının bu pürüzsüz üstel eğri olduğunu düşünüyorum.

Tekrar söylüyorum, bir zamanlar yapay zeka düzenlemesine tamamen karşı çıkan, ardından bir olay görüp onu kamulaştırmayı savunanlar bize bir ders verdi. Bir zamanlar yapay zekanın gücünü hafife alan, sonra yapay zekanın kendi kendine evrimleştiğini, kontrolden çıkmak üzere olduğunu haykırarak tamamen durdurulmasını talep edenler de bize bir ders verdi.

Bu aşırı tepkiler arasında gidip gelmek, bu teknolojiyle başa çıkmak için son derece yararsızdır.

Doğru yaklaşım, akıllıca yaklaşım, sakin kalmak ve paniğe kapılmamaktır. Alacağımız önlemler, teknolojinin gücü istikrarlı bir şekilde arttıkça buna paralel olarak gelişecektir. Eğer birinin bu tür çılgınca salınımlı tepkiler verdiğini görürseniz, bu onların hazırlıksız yakalandıkları ve ciddi olmadıkları anlamına gelir.

Emily Chang: Anladığım kadarıyla en sevdiğiniz kitaplardan biri "The Making of the Atomic Bomb".

Dario Amodei: Doğru.

Emily Chang: Kendinizle Oppenheimer arasında benzerlikler görüyor musunuz?

Dario Amodei: En çok özdeşleştiğim kişi Leo Szilard; o, bir tür zincirleme reaksiyon olabileceği fikrini ilk ortaya atan kişiydi.

Dinleyin, görüşüm şu: Bu sorunu, sıra dışı kişiliklerle ya da her şeyin merkezinde olmaya çalışan figürlerle çözemeyiz. Burada bir güç dengesi gerekiyor. Bu alanda kendi çıkarları olan birçok güçlü aktör var. Herkesin iyi bir sonuca ulaşmasının tek yolu, her yerde temel bir denge ve denetim mekanizması oluşturmaktır.

Bu yüzden bir bakıma, Oppenheimer'ı aslında neyin olmaması gerektiğine dair bir uyarı örneği olarak görüyorum.

Emily Chang: Bir zamanlar medeniyetin çökme olasılığının %10 ila %25 arasında olduğunu söylemiştiniz. Bu küçümsenecek bir oran değil. Bu sonuca Anthropic'in inşa ettiği bir şeyin yol açtığı bir senaryo var mı?

Dario Amodei: Umarım olmaz. Görüşüm, aldığımız aksiyonların bu olasılığı artırmak yerine azalttığı yönünde. Bu olasılık, teknolojinin kendisinin çok basit mantığından kaynaklanıyor: Dünyada birçok ülke var, ekonomilerde birçok şirket var; eğer boşluklar doldurulmazsa yeni şirketler ortaya çıkar. İşte içinde bulunduğumuz ikilem bu.

Bu olasılığı azaltmak için aktif olarak çaba gösteriyoruz. Bence azaltma yönündeki katkımız, artırma yönündekinden çok daha fazla.

Ancak bu teknolojinin doğasında öngörülemezlik var. Bu yüzden ürünleri piyasaya sürmeden önce yoğun bir şekilde inşa ediyor ve test ediyoruz. Ayrıca şu anda piyasaya sürülen modellerin, en azından siber güvenlik alanı dışında, tehlikeli olmadığını düşünüyorum. Ardından yinelemeli olarak ilerleyip bundan ders çıkarmaya çalışıyoruz. Dolayısıyla sayısız savunma mekanizmamız var; şirket içindeki işlerin yarısı, riskleri mümkün olduğunca azaltmaya odaklanmış durumda.

Ancak risk asla sıfıra indirilemez.

Demek istediğim, piyasada birçok havayolu şirketi olduğunu ve sizin daha güvenli bir havayolu kurmaya karar verdiğinizi varsayalım. Havayolunuz diğer tüm havayollarından 10 kat daha güvenli olabilir. Ama biri gelip size "Uçağınızın asla düşmeyeceğini garanti edebilir misiniz?" diye sorarsa, bunu nasıl garanti edebilirsiniz ki? Bunu başarmanız mümkün mü?

Emily Chang: Ama uçağın düşme olasılığı %25 olsaydı, o uçağa asla binmezdiniz.

Dario Amodei: Kesinlikle öyle. %25 oranı çok yüksek. Bu olasılığı çok, çok düşük bir seviyeye indirmek için çalışıyoruz. Hedefimiz bu.

Güven İnşa Etmek: Eylemlerle Farklı Olduğunu Kanıtlamak

Emily Chang: Son derece güçlü bir şey inşa ediyorsunuz ve bundan büyük kazançlar elde etmeyi umuyorsunuz. Size neden güvenmeliyiz?

Dario Amodei: Bence herhangi bir şirket yeni kurulduğunda, özellikle de tüm Silicon Valley'in bir varlık olarak sergilediği davranışları göz önünde bulundurursak, insanların böyle düşünmesi çok doğal. Geçtiğimiz birkaç yıla baktığımda, güvensizlik açısından bakıldığında – eğer benim hakkımda veya Anthropic hakkında hiçbir şey bilmiyorsanız – bu oldukça rasyonel bir tutum.

Bence Silicon Valley dünyanın güvenini fazlasıyla kaybetti ve bu güveni yeniden kazanmalıyız.

Vermek istediğimiz mesaj, gerçekten farklı olduğumuz. Ve bu güven, somut eylemlerimizle kazanılmalı. Katılabilir veya karşı çıkabilirsiniz, ancak biz her zaman değerlerimize bağlı kaldık. Mitolojik hikayelerle ilgili olarak, bu son derece güçlü modeli piyasaya sürmemek bizi ticari olarak gerçekten sınırladı.

Bundan önce de birçok küçük ayrıntı vardı; Çin konusunda sözümüzün arkasında durduk. Modele erişimi kestik. Bunu yapmak zorunda değildik. Kimse bizden bunu istemedi. Bilirsiniz, o dönemde yüz milyonlarca doların toplam gelirimizin oldukça büyük bir kısmını oluşturduğu bir dönemde, bu bize yüz milyonlarca dolara mal oldu.

Örneğin Claude II'nin gecikmeli lansmanı gibi, bu konuda uzun bir geçmişimiz var.

Mükemmel değiliz. Hatalar yapıyoruz. Ancak herkesi genel tarihimize bakmaya davet ediyorum, bu tarihi bir araya getirdiğimizde, bizimle ilgili en tutarlı varsayım ne olurdu? İnsanlar kendi kararlarını vermek zorunda.

Ama bence sürekli olan bir varsayım şu: Gerçekten çabalıyoruz. Doğru olanı yapmak için çabalıyoruz.

Mükemmel değiliz. Organizasyonlar her zaman işlev bozuklukları yaşar. Bunları düzeltmeye ve daha iyi çalıştırmaya çalışıyoruz. Süreçte birçok hata, birçok yanlış giden şey oluyor. Ama temelde, doğru olanı nasıl yapacağımıza dair samimi ve ciddi bir vizyonumuz var ve bu vizyonu uygulamaya çalışıyoruz.

Emily Chang: O halde, üstel büyümenin diğer ucunda görüşürüz.

Dario Amodei: Evet, umarım öyle.

Emily Chang: Evet, umarım öyle.

Dario Amodei: CEO'luk işiyle ilgili beni şaşırtan ve daha önce bilmediğim bir şey var, o da sık sık makyaj yapmanız gerektiği. Bu tamamen beklenmedik bir şeydi.

Emily Chang: Sadece biraz fondöten.

Orijinal bağlantı

BlockBeats Resmi Topluluğuna Katılın:

Telegram Abonelik Grubu: https://t.me/theblockbeats

Telegram Sohbet Grubu: https://t.me/BlockBeats_App

Twitter Resmi Hesabı: https://twitter.com/BlockBeatsAsia