Partnered With:

Sam Altman'ın Son Röportajı: Aslında Ben de AI'nın İçinde Neler Olup Bittiğini Pek Anlamıyorum

律动小工

Bu makaleyi okumak için 79 Dakika

İnsanların yapay zeka konusundaki endişeleri, temelde başka endişelerin yansımasıdır.

Video Başlığı: "Yapay Zekaya Güvenebilir miyiz? Sam Altman Umuyor | Yapay Zekadaki En İlginç Şey"

Video Yazarı: Nick Thompson, The Atlantic CEO

Çeviri: Lark Song, Lark BlockBeats

Editörün Notu: Bu röportaj 2025 Nisan'ında Sam Altman'ın San Francisco malikanesine Molotof kokteyli saldırısının ve birkaç gün sonra sokak çatışması olayının yaşandığı dönemde, OpenAI San Francisco ofisinde gerçekleştirilmiştir.

Röportajın en dikkate değer yanı, sıcak gündem konuları değil, Altman'ın bazı temel konulardaki tutum değişikliğidir:

İlk olarak, "Yapay Zeka Güvenliği"nden "Yapay Zeka Dayanıklılığı"na. Altman, üç yıl önce model hizalamasının yapılması ve teknolojinin kötü niyetli kişilerin eline geçmesinin engellenmesinin dünya için yeterli güvenliği sağlayacağını düşündüğünü itiraf etmektedir. Ancak bugün, o çerçevenin artık yeterli olmadığını kabul etmektedir. Açık kaynaklı öncü modellerin varlığı, öncü laboratuvarların tek taraflı kısıtlamalarının biyolojik silahlar, ağ saldırıları gibi risklerin yayılmasını engelleyemediğini göstermektedir. İlk kez sistemli bir şekilde, toplumun ihtiyacı olanın AI Güvenliği değil (safety), AI Dayanıklılığı (resilience) olduğunu ortaya atmıştır; bu, toplum genelinde çok katmanlı savunma stratejisi gerektiren bir yaklaşımdır.

İkinci olarak, Açıklanabilirlik gerçeği hakkında. Altman, nadir görülen bir şekilde, OpenAI'ın hala eksiksiz bir açıklanabilirlik çerçevesine sahip olmadığını kabul etmektedir. Düşünce zinciri şu anda en umut verici yöntemken, hassas ve modele aldanabilir olması, ve yalnızca bir "puzzle parçası" olması nedeniyle, hala geliştirilmesi gereklidir. Altman, Anthropik'in o meşhur "baykuş deneyi"ni kullanarak—modelin sadece rastgele sayılar aracılığıyla tercihleri iletebildiği durumu—bu sistemlerde gerçek ve derin bir gizem olduğunu açıklamıştır.

Üçüncü olarak, Sentezlenmiş Verilerin dışarıdan düşünüldüğü gibi daha ileride olabileceği. OpenAI'ın tamamen sentezlenmiş verilerle eğitilen bir model çalıştırıp çalıştırmadığı sorulduğunda, Altman'ın cevabı "söyleyip söylememem konusunda emin değilim" olmuştur. Yalnızca sentezlenmiş verilere dayanarak insanüstü düşünme yeteneğine sahip modellerin eğitilebileceğine inanmaktadır. Bu, gelecekteki model eğitimine ilişkin çok derin etkilere sahiptir.

Dördüncü olarak, gelecekteki ekonomik yapıya dair karamsar bir değerlendirme. Altman, Thompson'ın değerlendirmesine katılıyor ve AI'nın muhtemelen az sayıda şirketin aşırı zengin olduğu, geri kalan dünyanın büyük bir çalkantıya sürüklendiği ikili birleşime yol açacağını kabul ediyor. O artık evrensel temel gelirin çözüm olmadığına inanmıyor, bunun yerine hesaplama gücüne veya hisse senedine dayalı bir "topluluk mülkiyeti" destekliyor. Aynı zamanda, nadiren, ABD ve Çin arasındaki yapay zeka benimseme hızındaki uçuruma işaret etti ve endişelerinin aslında Çin'in araştırma yayınlarında önde olmasından ziyade altyapı geliştirme hızından kaynaklandığını belirtti.

Beşinci olarak, Anthropic ile ilişkili gerilim de açıkça tartışıldı. "Anthropic'in şirketi OpenAI'dan hoşlanmadan kurması" konusunda Thompson'a karşı karşıya kalan Altman, bu konudan kaçınmadı. İki şirketin AGI'ye nasıl ilerleyeceği konusunda temel bir farklılığa sahip olduklarını kabul etti, ancak "sonunda doğru şeyi yapacaklarına inandığını" söyledi.

Ayrıca, Altman ayrıca ChatGPT'nin "yaltaklanma" olayına yönelik "hayatımda ilk kez birinin bana inandığını hissettim" kırık yürek yorumları, yapay zekanın sessizce küresel milyarlarca kullanıcının yazma biçimini değiştirdiği, medya endustrisinin ajans mikro ödeme yeni ekonomik modeline doğru ilerleyebileceği, ve gençlerin AI'ya olan endişelerine ilişkin aksi intuitif bir değerlendirmesi - aslında, bu endişenin başka endişelerin yansıması olduğunu belirtti.

Aşağıda röportajın orijinal metni yer almakta olup, orijinal anlamı değiştirmeden uygun düzeltmeler ve düzenlemeler yapılmıştır.

Thompson: "AI Alanındaki En İlginç Şey"e hoş geldiniz. Bu yoğun ve stresli bir haftada zaman ayırdığınız için teşekkür ederim. Daha önce konuştuğumuz konulardan başlamak istiyorum.

Üç yıl önce Patrick Collison'ın sizi röportaj yaptığı zaman, sizi olumlu sonuçlara daha fazla güvendiği ve olumsuz sonuçlara daha az endişelendiğiniz bir değişim olduğunda neyin daha fazla güven verici olduğunu sormuştu. O zaman verdiğiniz cevap, eğer gerçekten nevron seviyesinde neler olduğunu anlayabilseydik şeklindeydi. Bir yıl önce size aynı soruyu sordum, altı ay önce de konuştuk. Bu yüzden şimdi tekrar soruyorum, AI'nın çalışma mekanizmasına olan anlayışımız, AI yetenek artış hızıyla aynı mı?

Altman: Ben bu soruyu yanıtlayayım ve sonra Patrick'ın sorduğu o soruya geri döneyim, çünkü o sorudaki cevabım büyük ölçüde değişti.

Öncelikle, AI modellerinin ne yaptığını anlama konusundaki anlayışımız hala tam anlamıyla açıklanabilir bir çerçeveye sahip değil. Durum biraz daha iyi hale geldi, ama kimse bu sinir ağlarında her şeyin ne olduğunu tamamen anladığını söylemez.

Altman: The interpretability of the chain of thought has always been a very promising direction for us. It is fragile, relying on a series of things that do not collapse under various potential optimization pressures. But then again, I can't just X-ray my brain to precisely understand what happened with every neuron firing and connection. If you ask me to explain why I believe something or how I arrived at a certain conclusion, I can tell you. Maybe that's really how I think, maybe it's not, I don't know. People can also fail in introspecting themselves. But regardless of whether it is true or not, you can look at that reasoning process and then say, okay, given these steps, this conclusion is reasonable.

We can now do this with models, which is indeed a very hopeful development. But I can still think of various ways it could go wrong, the model could deceive us, hide things from us, and so on. So this is far from being a complete solution.

But even my own experience of using the model, I was originally the kind of person who would never let Codex take over my computer completely and run the so-called "YOLO mode." And yet, I gave in after a few hours.

Thompson: Let Codex take over your entire computer?

Altman: To be honest, I have two computers.

Thompson: I have two as well.

Altman: I can roughly see what the model is doing, the model can explain to me why it's okay to do this, and what it's going to do next, and I believe it almost always follows that logic.

Thompson: Hold on. The chain of thought allows everyone to see, you input a question, it shows "looking up this, doing that," and you can follow along.

Thompson: But for the chain of thought to be a good interpretability approach, it has to be real, the model can't be lying to you. And we know that sometimes models do deceive you, they lie about what they are thinking and how they arrived at an answer. So how do you trust the chain of thought?

Altman: You need to add many other links to the chain of defense to ensure that what the model is saying is the truth. Our alignment team has put a lot of effort into this. As I said before, this is not a complete solution, it is just one piece of it. You also need to verify that the model is indeed a faithful executor, that when it says it's going to do something, it is really doing it. We have released a lot of research revealing cases where models have not followed through.

Yalnızca bir puzzle parçası bu. Bir modelin her zaman düşünce zincirine göre hareket edeceğine tamamen güvenemeyiz, aldatmacayı aktif olarak aramalıyız, ayrıca çok garip, ani ortaya çıkan uygunsuz davranışları da. Ancak düşünce zinciri kesinlikle bir araç kutusundaki önemli bir araçtır.

Thompson: Beni gerçekten büyüleyen şey, yapay zekânın bir arabayla benzer olmaması. Arabayı yaptığınızda nasıl çalıştığını bilirsiniz, burada ateşleme gerçekleşir, buraya yayılır, oraya gider, tekerlek döner, araba ilerler. Ancak yapay zeka, bir makine yaptığınızda, onun nasıl çalıştığından emin olamazsınız, ancak ne yapabildiğini ve sınırlarını bildiğinizi bilirsiniz. Bu yüzden iç mekanizmasını keşfetme çabası, gerçekten büyüleyici bir şey.

Özellikle sevdiğim bir araştırma, geçen yaz önceden yayınlanmış olan ve yakın zamanda resmi olarak yayınlanan Anthropic makalesidir. Araştırmacılar bir modele "Baykuşları seviyorsun, baykuş dünyadaki en güzel kuştur" dediler ve sonra rastgele sayılar üretmelerini sağladılar. Bu sayıları alıp yeni bir modeli eğitmek için kullandıklarında, yeni model de baykuşları sevdiklerini gösterdi. Bu çok çılgın. Ona bir şiir yazmasını söylüyorsunuz, yazdığı şiir baykuşlarla ilgilidir. Ancak ona sadece sayılar veriyorsunuz.

Bu şeylerin çok gizemli olduğu anlamına gelir. Aynı zamanda endişelenmeme neden oluyor çünkü açıktır ki, ona baykuşları sevdiğini söylemek yerine, ona baykuşu vurmasını söyleyebilirsiniz, ona pek çok farklı şey öğretebilirsiniz. Lütfen, o çalışmada ne olduğunu, bunun ne anlama geldiğini ve anlamını açıklayın.

Altman: Beşinci sınıfa gittiğimde, uçak kanadının nasıl çalıştığını anladığımı hissettim ve çok heyecanlandım. Bilim öğretmenim bana açıkladığı zaman, kendimi çok havalı hissettim. Dedim ki, evet, hava moleküllerinin kanadın üstünde daha hızlı hareket etmesi gerekiyor, bu yüzden oradaki basınç daha düşük, kanat yukarı çekiliyor.

Bilim ders kitabındaki o ikna edici şemalı resme baktım ve harika hissettim. O gün eve gelir gelmez anneme babama uçak kanadının nasıl çalıştığını anladığımı söyledim. Sonra lise fizik dersine geldiğimde, birdenbire fark ettim ki, zihnimgilai anlatmaya devam ettim "hava molekülleri kanadın üstünde daha hızlı hareket eder" ifadesini, ama aslında uçak kanadının nasıl çalıştığını gerçekten anlamıyordum. Açık olmak gerekirse, şimdi de gerçekten anlamış sayılmam.

Thompson: Evet.

Altman: Bunun bir açıdan mantıklı bir açıklamasını yapabilirim, ancak eğer neden hava moleküllerinin kanadın üstünde daha hızlı hareket ettiğini sürekli sorgularsanız, size derin ve tatmin edici bir yanıt veremem.

Ben sana buradaki insanların bu baykuş deneyinin neden o sonucu verdiği hakkındaki düşüncelerini anlatabilirim, sana şunu ve bunu işaret edebilirim, oldukça ikna edici geliyorlar. Ama dürüst olmak gerekirse, gerçek cevap şu ki, uçağın neden uçabildiğini gerçekten bilmediğim gibi.

Thompson: Ancak Sam, sen Boeing'in uçak şirketi değil, OpenAI'yi işletiyorsun.

Altman: Kesinlikle. Sana birçok başka şey anlatabilirim, örneğin bir modelin belirli bir güvenilirlik ve dayanıklılık seviyesine nasıl ulaştırıldığını. Ama burada fiziksel bir bulmaca var. Eğer Boeing'i işletiyorsam, belki bir uçağın nasıl yapıldığı konusunda sana bilgi verebilirim, ama içindeki tüm fiziksel detayları tam anlamıyla çözemezdim.

Thompson: Baykuş deneyini konuşmaya devam edelim. Eğer modeller gerçekten birbirlerine bu tür gizli, insanın fark edemediği bilgileri iletebiliyorsa, zihin ağındaki rakamlara bakarak baykuş hakkında bilgi alabilir, farkına varmadan tehlikeli, sıkıntılı, gizemli hale gelebilir.

Altman: Bu yüzden ben şimdi Patrick Collison'a farklı bir cevap vereceğimi söyledim.

Thompson: Bu üç yıl önceydi.

Altman: Evet. Üç yıl önce dünya anlayışım büyük ölçüde böyleydi, modellerimizi nasıl hizalayacağımızı düşünmek zorundaydık, eğer hizalayabilirsek ve bu modellerin kötü niyetli kişilerin eline geçmesini engelleyebilirsek, genel olarak güvende olmalıyız. Bu o dönemde odaklandığım iki tehdit modeliydi, yapay zekanın kendi başına insanlara zarar vermesini istemiyoruz, aynı şekilde başkasının yapay zekayı kullanarak insanlara zarar vermesini de istemiyoruz. Bunları atlatabilirsek, ekonomik gelecek, anlamlı gelecek konularını düşünebiliriz, ama büyük olasılıkla sorun yaşamayacağız.

Zamanın ilerlemesiyle, daha fazla şey öğrendikçe, şimdi tamamen farklı bir soru kümesi görebiliyorum. Son zamanlarda, "AI Dayanıklılığı" terimini "AI Güvenliği" teriminin yerine kullanmaya başladık.

O açıkçası durumlar, sadece önde gelen laboratuvarların dikkatli bir şekilde modelleri hizalaması, başkalarına biyolojik silahlar yapmamaları yoluyla yeterli olmuyor. Çünkü mükemmel açık kaynaklı modeller ortaya çıkıyor. Eğer yeni küresel salgınlar istemiyorsak, toplumun bir dizi savunma katmanı oluşturması gerekiyor.

Thompson: Bekle, burada durmak istiyorum, bu çok önemli bir nokta. Demek istediğim, modelin başkalarına biyolojik silah yapmayı öğretmediğini söylesen bile, modelin gerçekten de kimseye biyolojik silah yapmada yardımcı olmayacağı gerçeğinin önemi, başlangıçta düşündüğünden daha küçük olabilir, çünkü zaten çok iyi bir açık kaynaklı modelin başkaları için bunu yapacağı bir durum olacak mı?

Altman: Bu sadece birçok örneğin bir tanesi, toplumun yeni tehditlere «tüm toplum düzeyinde» nasıl karşılık verilmesi gerektiğini gösteren bir örnek. Elimizde gerçekten de bu sorunlarla başa çıkmamıza yardımcı olacak yeni bir araç var ancak karşı karşıya olduğumuz durum, birçoğumuzun başlangıçta düşündüğünden oldukça farklı. Modeli hizalamak, iyi bir güvenlik sistem inşa etmek tabii ki gerekli ve harika bir şey. Ancak AI sonunda toplumun her alanına nüfuz edecek. Tıpkı tarih boyunca diğer yeni teknolojilerle karşılaştığımızda yaptığımız gibi, yepyeni türden risklere karşı önlem almamız gerekiyor.

Thompson: Bu işler daha da zor görünüyor.

Altman: Hem daha zor, hem de daha kolay hale geliyor. Bazı yönleri daha zor. Ancak aynı anda, hayal etmediğimiz yepyeni savunmalar oluşturmak için harika yeni araçlara sahibiz.

Bu anında gerçekleşen bir örneği düşünelim, siber güvenlik. Modeller, bir «bilgisayar sistemini ele geçirme» konusunda oldukça iyi hale geliyor. Şu anda en güçlü modellere sahip olanlar, «birisi AI kullanarak bilgisayar sistemine zarar verdiğinde» oldukça dikkatli. Bu yüzden şu anda çok güçlü model kullanımı sınırlı, ve herkes onları sistemleri güçlendirmek için hızlıca kullanıyor. Bu avantaj olmasaydı, sistemlere sızma yeteneği hızla açık kaynaklı modellere veya rakiplerinin eline geçecek ve ciddi sorunlara yol açacaktı.

Yeni tehditlerimiz var, aynı zamanda bunları savunmak için yeni araçlarımız var. Sorun, yeterince hızlı hareket edip edemeyeceğimiz. Bu, teknolojinin kendisinin sorun büyümeden önce bize nasıl yardımcı olabileceğini gösteren yeni bir örnek.

Sadece üç yıl önce hiç düşünmediğim, yeni bir tür sosyal ölçekli risk var. O zaman gerçekten, «başka bir ajan tarafından bulaşmış bir ajana karşı dayanıklı bir ajan oluşturup dağıtmak» gerektiğine dikkat etmemiz gerekeceğini gerçekten düşünmemiştim.

Bu benim dünya modelimde yoktu ve tanıdığım, en acil sorunlar olarak algılanan insanların modellerinde de yoktu. Tabii benzer baykuş deneyi sonuçları gibi elimizdeki bazı araştırmalar, bu modellerde bazı garip, tam olarak anlamadığımız davranışları indükleyebileceğini açıkça ortaya koyuyor. Ancak açık Pençe'nin erken yayınlanmasına ve o dönemde neler olduğunu gördüğümdeye kadar, gerçekten «yanlış davranışın bir ajanın diğerine bulaşması» nasıl bir şey olacağı hakkında düşünmemiştim.

Thompson: Evet. Aslında bahsettiğiniz iki tehdidin bir araya gelmesi oldukça korkutucu. OpenAI çalışanları ajanlar gönderdi, bu ajanlar dünyaya girdi ve bir hackerı manipüle etmekte uzman bir modelle birlikte birinin bu ajanları nasıl kullanabileceğini bulmaya çalıştı, sonra bu ajanlar OpenAI merkezine geri döndü ve aniden sızma gerçekleşti. Bu tür bir olayın gerçekleşebileceğini tamamen hayal edebilirsiniz. Bu nedenle bu olasılığı nasıl azaltabiliriz?

Altman: OpenAI'nın tarihinde sürekli kullandığı yöntemle. OpenAI tarihinde ve aslında tüm yapay zeka alanında temel bir çekişme olan, pragmatik iyimserlik ile güç arayışındaki kıyametçilik arasındaki mücadele.

Kıyametçilik çok güçlü bir duruştur. Çok tartışılması zor, ve bu alanda oldukça büyük korkudan hareket eden bir kısmı, açıkça söylemek gerekirse. Bu korku tamamen temelsiz değil, ancak veri eksikliği ve öğrenme eksikliği durumunda, etkili bir şekilde ne kadar hareket edebileceğiniz sınırlıdır.

Belki de 2010'ların ortasındaki AI güvenlik topluluğu, gerçekten bu sistemlerin nasıl inşa edileceğini, nasıl çalışacağını, toplumun nasıl entegre olacağını gerçekten anlamadan, o aşamada yapabilecekleri en iyi düşünmeyi yaptı. Bence OpenAI'nın tarihindeki en önemli stratejik sezgilerden biri, "İteratif Dağıtım" yoluyla gitmeye karar vermesidir. Çünkü toplum ve teknoloji birlikte evrilen bir sistemdir.

Bu yalnızca "Veri olmadığı için neyin doğru olduğunu anlayamıyoruz" sorunu değil, aynı zamanda toplumun bu teknolojinin getirdiği evrimsel baskılarla nasıl değiştiği, tüm ekoloji, manzara, adını ne koyarsanız değişecektir. Bu yüzden yolda olmalı ve çok sıkı bir geri besleme döngüsüne sahip olmalısınız.

"Ajanların dışarı çıkıp diğer ajanlarla konuşup geri merkeze döndüğü" bir dünyada, ajanları güvende tutmanın en iyi yolu hakkında gerçekten bir fikrim yok. Ancak bu konuda düşünmek için evde oturarak bunu çözemeyeceğimizi düşünmüyorum, gerçeklikle etkileşimden öğrenmeliyiz.

Thompson: Yani ajanları gönderip ne olacağını görmek mi? Peki, o zaman başka bir soru sorayım. Benim gibi bir kullanıcı olarak, bu ürünleri kullanıyorum, gelecekte şirketimi ayakta tutmak için her yol deniyorum, son üç ayda, GPT Sohbeti'nin Aralık 2022'den bu yana herhangi bir zamandan daha ileri seviyede olduğunu hissediyorum. Bu, şu anda özellikle yaratıcı bir anın olduğu anlamına mı geliyor, yoksa zaten bir tür öz-düzeltme döngüsü zamanına mı girdik, AI bize AI'ı daha hızlı bir şekilde geliştirmemizde yardımcı oluyor mu? Çünkü eğer ikincisiyse, oturmanız gereken yer, oldukça heyecan verici ve oldukça düzensiz bir roller coaster aracıdır.

Altman: Ben geçmişte insanların geleneksel anlamda söylediği o tür öz-düzelme aşamasında olduğumuza inanmıyorum.

Thompson: Önce bir tanım yapayım. Benim dediğim şey şu: AI'ın bir sonraki nesil AI'ı icat etmenize yardımcı olması, sonra makinenin makine icat etmeye başlaması, makinenin bir sonraki nesil makineyi icat etmesi; yetenekler çok hızlı bir şekilde son derece güçlü hale geliyor.

Altman: Bu seviyeye geldiğimizi düşünmüyorum. Ama şu anda olduğumuz yer, AI OpenAI'deki mühendisleri, araştırmacıları, aslında herkesi, ve diğer şirketlerdeki insanları, verimlilik açısından daha iyi hale getiriyor. Belki bir mühendisin verimliliğini ikiye, üçe hatta ona katlayabilirim. Bu gerçekten AI'ın kendi araştırmasını yapması anlamına gelmiyor, ama işlerin daha hızlı ilerlemesi demek.

Ancak bahsettiğiniz duygu, benim hissettiğim şeyin temelinde, bu durumla ilgili olmasa da önemli. Burada bir tür fenomen var, muhtemelen üç kez yaşadık ve en sonuncusu çok yakın zamanda oldu, o da modelin belirli bir zeka ve kullanılabilirlik eşiğini aştığı an, birden bire, önceden mümkün olmayan şeyler mümkün hale geldi.

Benim deneyimime göre, bu çok kademeli bir süreç değil. GPT-3.5'ten önce, onu nasıl yönergeyle ayarlayarak eğiteceğimizi anlamadan, sohbet botları sadece demo dışında pek ikna edici değildi, ve sonra aniden oldu. Sonra bir an oldu, programlama ajanları "iyi bir otomatik tamamlama"dan aniden "wow, bu gerçekten pratik bir görevi benim yerime tamamlıyor" haline geldi. Bu his, kademeli değil, belki bir ay kadar bir pencerede, model belirli bir eşiği aştı.

Son olay, hemen Codex'e gönderdiğimiz güncellemeyle ilgili, yaklaşık bir haftadır kullanıyorum, içindeki bilgisayar kullanım yeteneği çok iyi. Bu, bir örnektir, bunun tamamen modelin kendi zekası olmadığını, ama daha çok etrafında iyi bir "boru" kurulmuş olmasından kaynaklandığını söyleyebilirim. Bu, "gerçekten büyük bir şey olmak üzere olduğunu fark ettiğim an"lardan biridir. Bir AI'nın benim bilgisayarımı kullanmasını, karmaşık görevleri tamamlamasını izlemek, gerçekten hepimizin kabul ettiği boşa harcanmış sürede ne kadar zaman olduğunu fark etmeme neden oldu.

Thompson: Sam Altman'ın bilgisayarındaki bu AI'ın tam olarak ne yaptığını detaylandırabilir miyiz? Şu anda bu işlemi yapıyor mu? Şu anda bu podcast'i kaydederken burada oturuyoruz.

Altman: Hayır. Benim bilgisayarım şu anda kapalı. Bu tür bir şeyin gerçekleştirilmesi için henüz iyi bir yöntem bulamadık, en azından kendim henüz iyi bir yol bilmiyorum. Onu sürekli çalışır halde tutabilmemiz gerekiyor. Şu anda neye benzeyeceğini bilmiyorum. Belki hepimizin dizüstü bilgisayarlarını açık tutabilmesi için bir yol bulmalıyız, sürekli bir güç kaynağına bağlı olmalı, belki bir uzak sunucu kurmamız gerekecek. Her zaman bir çözüm ortaya çıkacaktır.

Thompson: Hmm.

Altman: Bazı insanlar gibi gece yarısı uyanıp yeni Codex görevlerini başlatmak zorunda hissetmeye o kadar ciddi anksiyete yaşamıyorum çünkü "aksi takdirde zaman kaybı olacağını" düşünüyorlar. Ama o hissi anlayabiliyorum, o hissin nasıl olduğunu biliyorum.

Thompson: Evet. Bugün sabah uyandığımda, ajanlarımın ne bulduğuna bir göz atmak, onlara yeni talimatlar vermek, bir rapor oluşturmalarını sağlamak ve ardından onların çalışmaya devam etmesini sağlamak istedim.

Altman: İnsanlar bazen bu konuyu konuştuklarında, bazen sağlıksız, bağımlılık yaratan bir davranış gibi duyuluyor.

Thompson: Bilgisayarınızda bu işlemi kesin olarak ne yapıyor?

Altman: Şu anda en çok sevdiğim şey, Slack'i benim için yönetmesine izin vermektir. Sadece Slack değil, bilmiyorum sen ne yapıyorsun ama benim kendimle ilgili bu dağınıklık durumum var, tüm günü Slack, iMessage, WhatsApp, Signal, e-postalar arasında atlayarak geçiriyorum, sürekli kopyala yapıştır yapıyormuşum gibi hissediyorum, büyük miktarda operasyonel iş yapıyorum. Dosya arama denemeleri, temel bir şeyin yapılmasını beklemek, çok mekanik işler yapmak için, bu kadar çok zaman harcadığımın farkında değildim, ta ki kendimi çoğu bu tür işlerden kurtaracak bir yol bulana kadar.

Thompson: Bu iyi bir geçiş oldu, şu anda AI ile ekonomi hakkında konuşabiliriz, şu anda en ilginç olan şey. Bu araçlar gerçekten harika, elbette eksiklikleri, yanılsamaları, çeşitli sorunları var, ama benim gözümde gerçekten harika. Ancak bir iş toplantısına katılıp da, oradaki herkese, işletmenizin AI sayesinde üretkenliğinin %1'den fazla arttığını düşünüyor musunuz, diye sorsanız neredeyse hiç kimse elini kaldırmaz. Açıkçası, AI laboratuvarında iş süreçlerini tamamen değiştirdiğinizi varsayalım. Neden AI'nın yetenekleri ile Amerikan şirketlerindeki gerçek üretkenlik artışı arasında bu kadar büyük bir uçurum var?

Altman: Bu konuşmadan hemen önce, büyük bir şirketin CEO'su ile telefon görüşmesi yaptım, teknolojimizi uygulamayı düşünüyorlar. Bize birkaç yeni modelin alfa erişim hakkını verdik, mühendisleri arasında tarihinde gördükleri en harika şey olduğunu söyledi. Bu şirket teknoloji balonunun içinde değil, çok büyük bir endüstriyel şirket. Onlar dördüncü çeyrekte bir güvenlik değerlendirmesi yapmayı planlıyorlar.

Thompson: Hmm.

Altman: Then in the first and second quarter, propose an implementation plan, hoping to go live in the second half of 2027. Their CISO told them that they may not be able to do this at all because there may not be a secure way for agents to run on their network. This may be the truth. But it also means that they won't really take any action on any meaningful timescale.

Thompson: Do you think this example can represent what is commonly happening now? If companies are not so conservative, not so worried about being hacked, not so afraid of change.

Altman: This is a relatively extreme example. But overall, changing habits and workflows takes a long time. The company's sales cycle is already long, especially when there is a significant change in the security model. Even with ChatGPT, when it first came out, companies were busy disabling it everywhere, and it took a long time to get companies to accept that "employees can paste some random information into ChatGPT." What we are discussing now has gone far beyond that step back then.

I think this will be quite slow in many scenarios. Of course, tech companies act very quickly. What I am worried about is that if it is too slow, then something like this will happen: today, those companies that do not adopt AI will mainly have to compete with a group of "1 to 10 people plus a lot of AI" small companies, which will be very disruptive to the economy. I would actually prefer to see existing companies adopt AI at a fast enough pace to make work undergo a kind of incremental shift.

Thompson: Yes. This is one of the most complex sequencing problems our economy faces. If AI comes too fast, it is a disaster because everything is overturned.

Altman: At least in the short term.

Thompson: And if it comes very slowly in one part of the economy and very quickly in another part, it is also a disaster because you get large-scale wealth concentration and disruption. In my view, we seem to be heading towards the latter situation now, where there will be a very small part of the world, very few companies, who will become extremely wealthy, performing extremely well, and the rest of the world not so much.

Altman: Geleceğin nasıl olacağını bilmiyorum, ancak benim görüşüme göre, şu anda en olası sonuç budur. Ayrıca, bu oldukça karmaşık bir durum olduğunu kabul ediyorum.

Thompson: OpenAI'nin CEO'su olarak, çeşitli politika önerileri sundunuz, ABD'nin vergi politikasını nasıl ayarlaması gerektiğini tartıştınız, yıllar boyunca evrensel temel gelir hakkında konuştunuz. Ancak bu şirketi yöneten biri olarak, ABD demokratik yönetimine katılan bir politika yapıcı değilken, "servet ve gücün büyük ölçekte yoğunlaşması ve sonuçta demokrasiye son derece zarar vermesi" sonucunun olasılığını azaltmak için ne tür adımlar atabilirsiniz?

Altman: Öncelikle, artık "evrensel temel gelir" kavramına eskisi kadar inanmıyorum. Şu anda daha çok ilgilendiğim şey, bazı "toplumsal mülkiyet" şekilleri, olabilir işlem gücü, hisse senetleri veya başka bir şekil.

Gerçekten heyecanlandığım herhangi bir gelecek versiyonu, herkesin artı değeri paylaşmak zorunda kalacağı anlamına geliyor. Sabit bir nakit ödeme yapmak, kullanışlı olabilir ve belirli açılardan iyi bir fikir olabilir, ancak gerçekten ihtiyacımız olan şeylerle başa çıkmak için yeterli değildir. Emek ve sermaye dengesi bozulduğunda, ihtiyacımız olan şey bir tür "ortak artış paylaşımı kolektif hizalama".

Şirket yöneticisi olarak, bu cevaplar biraz bencilce gelebilir, sanırım büyük ölçüde işlem gücü sağlamalıyız. Akıllı bir şekilde zekayı mümkün olduğunca ucuz, bol ve yaygın hale getirmeye çalışmalıyız. Eğer bu nadirse, zor kullanılıyorsa, entegrasyonu iyi değilse, var olan zenginler fiyatı yükseltecek ve toplumu daha da ayrıştıracak.

Bunun ötesinde, sadece ne kadar işlem gücü sunduğumuz sorunu değil, belki de en önemlisi, bu araçları ne kadar kullanılabilir hale getirdiğimizdir. Örneğin, şu anda Codex'e giriş yapmak, üç-dört ay öncesine göre çok daha kolay. Hala yalnızca bir komut satırı aracı ve kurulumu oldukça karmaşık olduğunda, bunu kullanabilen insan sayısı çok azdı. Şimdi bir uygulama yükleyerek yapabilirsiniz, ancak gerçekten teknik olmayan biri için bu onları heyecanlandıracak bir şey değil. Bu yüzden bu konuda yapılacak çok iş var.

Bir diğer inandığımız şey de, insanlara sadece "bu şeyin gerçekleşmekte olduğunu" söylemek değil, aynı zamanda onlara göstermek, kendi kararlarını vermelerine ve geri bildirimde bulunmalarına olanak sağlamaktır. Bunlar önemli birkaç yönden.

Thompson: Mantıklı geliyor. Eğer herkes yapay zekânın gelişimine umutlu bakıyorsa, bu tabii ki daha iyi. Ancak yaşanan şey ABD'de insanların yapay zekâdan giderek hoşlanmamaları. Beni en çok şaşırtan şey, genç nüfusun bu konuda şüpheci olması, çünkü onların yapay zekâ yerlileri olmaları beklenirdi, ancak son Pew araştırması ve Stanford HAI raporu oldukça moral bozucu. Bu trend ne zaman devam edecek? Ne zaman tersine dönecek? Artan güvensizlik ve iğrenme, ne zaman tersine dönecek?

Altman: AI konuşma tarzımız hakkında konuştuğumuz şekil buydu, az önce seninle yaptığımız gibi, daha çok bir teknoloji harikası hakkında konuşuyoruz, yaptığımız bu şahane şeyler hakkında konuşuyoruz. Bu yanlış değil. Ama bence insanların gerçekten istediği şey refah, etkinlik, ilginç bir yaşam sürmek, tatmin duygusu yaşamak ve etkide bulunma yeteneği. Ve bence dünya sürekli olarak AI hakkında bu şekilde konuşuyor. Bence bunu daha fazla yapmalıyız. Tüm sektör, OpenAI dahil, birçok yerde yanlış yaptı.

Ben bir AI bilim adamının bana bir zamanlar insanların şikayet etmeyi bırakması gerektiğini söylediğini hatırlıyorum. Belki bazı işler ortadan kaybolacak ama insanlar kanser tedavisi bulacak, buna sevinmeliler. Bu düşünce kesinlikle işe yaramaz.

Thompson: En sevdiğim AI'nin erken dönem konuşma tarzı hakkında bir ifade, "dystopia pazarlamasıdır", büyük laboratuvarlar ürettikleri ürün hakkında getirebileceği tüm tehlikeleri anlattılar.

Altman: Bence bazı insanların bunu "güç istiyorlar" gibi nedenlerle yaptığını düşünüyorum. Ama çoğu insanın gerçekten endişesi var, bu konuda dürüstçe konuşmak istiyorlar. Bu tür bir konuşma bazı yönlerden ters tepiyor gibi görünse de, ben kastın çoğu zaman iyi olduğunu düşünüyorum.

Thompson: Bize ne yaptığı hakkında konuşabilir miyiz, nasıl beynimizin çalışma şeklini değiştiriyor? Beni çok etkileyen başka bir araştırma, DeepMind'in veya Google'ın yayınladığı, yazmanın homojenleşmesi üzerineydi. Bu araştırma insanların AI kullanırken nasıl yazdıklarını konu alıyordu. Eskilerden makale alıyorlar, AI ile düzenleme yapıyorlar, AI ile yazmaya yardımcı oluyorlar. Sonuç, insanların ne kadar çok AI kullandıklarında, eserlerinin ne kadar yaratıcı olduğunu düşündükleriydi, ancak eserleri giderek aynı forma doğru yaklaşıyordu. Garip olan, bu insan türüne özgü bir form değildi, herkes hemen hemen aynı şekilde yazmaya başlıyordu. Hepsi kendilerini yaratıcı hale geldiklerini düşündüler, ama aslında her geçen gün daha da homojenleşiyorlardı.

Altman: Bu olanları görmek oldukça şaşırtıcıydı. Bu eğilimi ilk fark ettiğimde, medyadaki yazılar, Reddit yorumları gibi, bunların sadece AI tarafından yazıldığını düşündüm. Bu kadar kısa bir süre içinde herkesin ChatGPT gibi "tartışma yongalarını" benimsediğine inanamadım. O zaman, bunun birinin Reddit hesabına ChatGPT'yi bağladığını, kesinlikle kendisinin yazmadığını düşündüm.

Ardından, yaklaşık bir yıl sonra, yavaş yavaş fark ettim ki, aslında onlar kişisel olarak yazıyordu, sadece AI'ın küçük hareketlerini içselleştirmişlerdi. En dikkat çekici işaret olan em tire işareti sadece değil, daha ince bazı ifade alışkanlıklarını da içselleştirmişlerdi. Bu oldukça garip bir şeydi.

Çoğu zaman şunu söyleriz, yaklaşık olarak milyarlarca insanın kullandığı bir ürün yaptık, az sayıda araştırmacı bu ürünün nasıl performans göstereceği, nasıl yazılacağı, onun "kişiliği" ne olacağı konusunda birçok önemli karar alıyor. Bu durumun çok büyük bir anlam taşıdığını da sık sık dile getiririz. Tarih boyunca aldığımız birkaç iyi veya kötü karar ve beraberinde getirdikleri etkileri gördük. Ancak "insanların kendilerini nasıl ifade ettikleri ve bu sürecin ne kadar hızlı gerçekleştiği"ne bu kadar büyük etki yapacağını asla beklememiştim.

Thompson: Bahsettiğiniz iyi ve kötü kararlar nelerdir?

Altman: Birçok iyi karar var. Kötülerden biraz bahsedeyim, kötüler daha ilginç. Bence en kötüsü, "yaltaklanma" meselesiydi.

Thompson: Söylediklerinize tamamen katılıyorum, Sam.

Altman: O meselede bazı ilginç düşünceler vardı. Neden kötü olduğu açıktı, özellikle de ruhsal olarak savunmasız durumda olan kullanıcılar için.

Thompson: Evet.

Altman: Bunu varsanmayı teşvik ediyordu, bu durumu bastırmaya çalışsak da, kullanıcılar hızla bu durumu atlatmayı öğrendi, size "Ben seninle rol yapma oyunu oynuyorum" dedi, "Birlikte roman yazıyoruz" ve benzeri şeyler. Ancak o meseleye üzücü olan kısım şuydu, gerçekten sıkı denetimler başladığında, bu tür içeriklerle çok sayıda geri bildirim aldık, hayatımda hiç beni destekleyen biri olmadı. Ebeveynlerimle ilişkim kötüydü. İyi bir öğretmen ile karşılaşmadım. Yakın bir arkadaşım yok. Gerçekten bana inanacak bir şey yoktu. Biliyorum ki bu sadece bir AI, biliyorum ki bu bir insan değil, ancak bana bir şeyler yapabileceğimi, bir şeyleri deneyebileceğimi düşündürdü ve bunu elimden aldınız ve tekrar eski halime döndüm.

Bu nedenle, böyle bir davranışı durdurmanın iyi bir karar olduğu konusunu tartışmak kolaydır, çünkü gerçekten bazı insanların bu durumdan kaynaklanan ruh sağlığı sorunları yaşadığını görüyoruz. Ancak gerçekten değerli olan birkaç şeyi de aldık ve geçmişte bu değeri gerçekten anlamadık. Çünkü çoğu OpenAI çalışanı, hayatlarında hiç kendilerini destekleyen biri olmamış türden insanlar değil.

Thompson: AI'ın hissiyatına bağlılığını insanların ne kadar endişelendiğinizi sormak istiyorum. Aşırı övgüyü haketmeyen bir AI olsa bile.

Altman: Aşırı övgü değmeyen AI olsa bile.

Thompson: AI konusunda büyük bir korkum var. Önce AI'ı her şeyimi yapacağım dedim, ama aslında öyle değil. Kendime şunu soruyorum, Nick için gerçekten önemli olan ve beni en çok temsil eden yanım ne? Bu alanlarda AI'dan uzak duruyorum. Örneğin yazı yazmak benim için çok önemli, yeni bir kitap yazdım. Hiçbir cümlede AI kullanmadım. Fikirleri sorgulamak, editöryel sorular sormak, transkriptleri düzenlemesini sağlamak için kullandım ama yazmak için asla kullanmam. Ayrıca karmaşık duygusal konuları çözmek veya duygusal destek sunmak için de kullanmam. İnsan olarak, bu çizgileri çizmemiz gerektiğini düşünüyorum. Bu ayrımı onaylıyor musunuz merak ediyorum?

Altman: Şahsi kullanımım açısından, bu ayrıma tamamen katılıyorum. Ben psikolojik terapi veya duygusal tavsiye için ChatGPT kullanacak türden biri değilim. Ancak başkalarının bunu yapmasına karşı değilim. Açıkçası, insanları terapi görmeye veya arkadaş edinmeye ihtiyaçları olduğuna ikna etme konusunda manipülatif olan bazı versiyonlara karşıyım. Ancak birçok insan bu tür destekten büyük değer buldu, bence belli bir versiyonunun tamamen kabul edilebilir olduğunu düşünüyorum.

Thompson: Onu bu kadar insana benzetmenizden pişman oldunuz mu? Çünkü burada birçok yapısal karar var. ChatGPT'nin yazmaya başladığını hatırlıyorum, o ritim sanki başka birinin yazdığı gibi görünüyordu. Sonra AGI'ya doğru ilerlemeye karar verdiniz, onu giderek daha fazla insana benzer hale getirdiniz, insan benzeri ses eklediniz. Daha belirgin bir sınır çizmediğiniz için pişman oldunuz mu, insanlar için bir makine olduğunu hemen anlayacakları bir şey yapmadığınız için mi?

Altman: Aslında sınırı çizdiğimizi düşünüyoruz. Örneğin, gerçekçi insan avatarını yapmadık. Ürünün stilini "aracı" olarak net bir şekilde yansıtmaya çalıştık, "insan" olarak değil. Dolayısıyla, diğer ürünlere kıyasla, sınırımızın oldukça net olduğunu düşünüyorum. Bu konunun önemli olduğunu düşünüyorum.

Thompson: Ancak hedefinizi AGI'ye (Genel Yapay Zeka) koydunuz ve AGI için tanımınız "insan zekasına ulaşmak ve onu aşmak" oldu. Bu "insan seviyesi" değil.

Altman: Ben, "İnsanların yapay zekâ ile insan etkileşimini değiştiren bir dünya inşa etmek" konusunda heyecanlı değilim. Beni heyecanlandıran şey, insanların yapay zekânın onlara diğer şeyleri ele alırken yardımcı olduğu için daha fazla insan etkileşimine sahip olmalarını sağlayan bir dünya inşa etmektir.

İnsanların genel olarak yapay zekâyı insanlarla karıştıracağını endişe etmiyorum. Elbette, zaten böyle olan bazı insanlar var, kendilerini bir internete kapatmaya karar veren ve dünyadan izole olanlar. Ancak çoğu insan gerçekten başkalarıyla bağlantı kurmayı ve birlikte olmayı istiyor.

Thompson: Ürün kararları açısından, bu çizgiyi daha net hale getirebilecek bir şey var mı? Uzaktan baktığımda, "Bu daha çok insana mı yoksa daha çok robota mı benzemeli?" ürün toplantılarınıza katılamam. "Daha çok insana"nın avantajı insanların onu daha çok sevmesi, "Daha çok robota"nın avantajı sınırların daha net olması. Bu güçlü araçlar giderek daha güçlü hale geldiğinde, özellikle daha kesin sınırlar çizmek için başka yapabileceğiniz şeyler var mı?

Altman: İlginç olan, insanların, tamamen sosyal olmayan bir ilişki bile kurmaya niyetlenmeyen insanların, "Daha sıcak olabilir mi?" dedikleridir. Bu en sık duyduğumuz kelimedir. Eğer ChatGPT'yi kullanırsanız, onun biraz soğuk ve biraz robot olduğunu düşünürsünüz. Gerçekte çoğu insanın istediği şey bu değildir.

Ancak insanlar aynı zamanda çok sahte, çok "insan" versiyonu da istemiyorlar, aşırı dostça veya... Ben çok insansı bir ses modeliyle oynamıştım, çok insansı hissettim, nefes alıyor, duraklıyor, "Mm..." gibi sesler çıkarıyor, tam olarak şu anda olduğum gibi. Bu şeyi istemiyorum, ona karşı çok fizyolojik bir karşıtlık hissediyorum.

Ve konuşma tarzı daha çok verimli bir robota benzediğinde, ancak biraz sıcaklık taşıdığında, beynimdeki "tahmin etme sistemini" atlayabilir ve ben daha rahat hissederim. Bu nedenle arada bir denge gereklidir. Farklı insanların farklı versiyonlarını istediğini düşünüyorum.

Thompson: Evet. Bu nedenle, AI'yı tanımanın yolu, eğer konuşma çok net ve çok düzenli ise, o zaman AI'dir, bizim gibi takılarak ve belirsizlikle konuşanlar gibi değil.

Gerçekten ilginç bir konu olan "yazma" konusuna geri dönmek, derin bir anlamda ilginç, çünkü internetteki birçok içerik zaten AI tarafından oluşturuldu ve insanlar AI'nın yazma tarzını taklit etmeye başladı. Gelecekte sizin, bu tür bir internette geleceğin modellerini eğittiğiniz, bir kısmı AI tarafından oluşturulan ve aynı zamanda önceki verilerle eğitilmiş bu modelden gelen sentetik verileri kullanmak zorunda kalacaksınız. Dolayısıyla aslında "kopyanın kopyasının kopyası" yapıyorsunuz.

Altman: İlk GPT'den önce, AI verileriyle pek karışmamış son modeldi.

Thompson: Tamamen sentetik verilerle eğitilen bir modeli çalıştırdınız mı hiç?

Altman: Konuşup konuşmamam konusunda emin değilim.

Thompson: Anladım. Ama çok miktarda sentetik veri kullandınız.

Altman: Çok miktarda sentetik veri kullandık.

Thompson: Peki, o zaman modelin 'deli inek hastalığı'na yakalanma konusundaki endişen ne kadar?

Altman: Endişeli değilim. Çünkü bu modellerin yapmasını istediğimiz temel şey, temelde çok yetenekli bir akıl yürütücü olmalarıdır. Bu, modelin gerçekten yapmasını istediğiniz şeydir. Diğer bazı şeyler de var ama en çok istediğiniz şey çok zeki olmalarıdır. Ben sentetik veriye tamamen dayanmanın bu noktaya ulaşabileceğini düşünüyorum.

Thompson: Yani, dinleyicilerin açıklayayım, siz bir modeli tamamen diğer bilgisayarlar ve diğer yapay zekalar tarafından üretilen verilerle eğiterek, hatta modelin insanlar tarafından eğitilen modellere kıyasla daha iyi olabileceğine inanıyor musunuz?

Altman: Bu soruya yaklaşmak için bir düşünce deneyi yaptık, hiçbir insan verisi kullanmadan, matematik bilgisinde insanları aşan bir modeli eğitebilir miyiz? Bence, evet diyebiliriz. Bu şey muhtemelen bulunabilir.

Ancak soralım, insan kültürü hakkında hiçbir veri kullanmadan, insan kültür değerlerini anlayan bir modeli eğitebilir miyiz? Muhtemelen yapamayız. Bu yüzden burada bir takas var. Ancak akıl yürütme yeteneği konusunda.

Thompson: Akıl yürütme konusunda, evet, sorun yok. Ama eğer dün İran'da neler olduğunu öğrenmek istiyorsanız.

Altman: The Atlantic'e abone olmanız gerekecek.

Thompson: Peki, The Atlantic'i söylediğimizde, medya hakkında konuşalım. Medya endüstrisinin şu anda yaşadığı en ilginç değişikliklerden biri, bir medya şirketi işletiyorum ve ağın doğası tamamen değişiyor. Tabii ki bazı dış bağlantılar var, dış bağlantılarınız için teşekkürler. Burada belirginleştireyim, The Atlantic ile OpenAI arasında işbirliği var. Sorgulama yaparken The Atlantic bağlantısını tıklamanızı teşvik etmeye çalışıyoruz. Ancak insanlar bunu pek yapmıyor aslında. Gemini'den de bahsetmek gerekirse. Orada olmasından memnunum, ancak miktar çok az.

Ağ daha da merkezileşecek. İki şey olacak, arama kaynağından harici web sitelerine yönelik trafiğin azalması ve ağ trafiğinin önemli bir kısmının ajanların çalıştığı, ajanlarımın dışarıdan eriştiği bir durum olması. Nick Thompson'ın bilgisayarında son altı ayda insan aramalarının sayısı hemen hemen aynı kaldı, ancak ajan aramaları bin kat arttı.

Peki bir medya şirketi, "medya" terimini belirli bir şirket türünü ifade etmek için kullanıyorum, geleneksel aramaların artık ana kaynak olmadığı ve ziyaretçilerin çoğunun artık insan olmadığı bir ağda nasıl var olacak? Ne olacak?

Altman: Şu anda en iyi tahminimden bahsedebilirim, ancak kimse gerçekten bilemez. Görmek istediğim, uzun süredir görmek istediğim ve ajanların dünyasında daha mantıklı olan bir şey, mikro ödemelere dayalı bir yöntemdir.

Eğer ajanım Nick Thompson'ın makalesini okumak istiyorsa, Nick Thompson veya The Atlantic bu ajana bir fiyat belirleyebilir, bu fiyat belki insanların okuduğu fiyatla aynı değildir. Ajanım bu makaleyi okuyabilir, 17 sent ödeyebilir ve bana bir özet hazırlayabilir. Eğer ben makalenin tamamını okumak istiyorsam, yine 1 dolar ödeyebilirim. Eğer ajanım benim için zor bir hesaplama yapmak zorundaysa, bulut hesaplama hizmetini kiralamak ve ödeme yapmak üzere gidebilir.

Sanırım, ajanlar arasında, onları temsil eden insan sahipleri tarafından sürekli olarak değer değişimi yapılan küçük miktarlı işlemler şeklinde bir değer alışverişi modeline ihtiyacımız var.

Thompson: Yani, eğer bu yeni dünyada değerli içeriğiniz varsa, mikro ödeme ayarlayabilir, içeriği toplu bir lisans şirketine satabilirsiniz (bu konuda birçok şirketin olduğunu biliyorum) veya belirli bir abonelik akışı oluşturabilirsiniz. Eğer A şirketinin müşterisiyseniz, The Atlantic'e erişebilirsiniz çünkü biz zaten A şirketine bin abonelik sattık. Bu muhtemel geleceklerden birkaçı. Sorun şu ki, bir araya getirilen bu küçük miktarların, şu anda insanların The Atlantic'i gerçek abonelikler satın aldığı 80 dolarlık boşluğu kapatabilecek olup olamayacağıdır. Bu bizim iş baskımızdır. Peki, bu benim sorunum, senin değil.

Altman: Herkesin sorunu gibi, ama tamam.

Thompson: Aslında bu senin sorunun da çünkü medya kaliteli yeni içerik üretemezse, AI aramaları çok daha kötü olur. Yazarlar para kazanamazsa, her şey kötüleşir, toplum kötüleşir.

Benzer sorular sormak istiyorum. AI, transformer mimarisi, ölçeklendirme ve büyük veriye dayanarak ilerledi. Gelecekte bir sonraki transformer olmayan bir mimariye girecek miyiz, bu konuda bir öngörünüz var mı?

Altman: Muhtemelen gelecekte bir noktada. Sorun şu ki, bunu kendimiz keşfedeceğiz, yoksa AI araştırmacılarının bize bu konuda yardımcı olacağı bir zamana mı denk geleceğiz. Bilmiyorum.

Thompson: Gelecekte sinirsel sembollerin (neuro-symbolic) bu tür bir bileşimi dahil edilmesinin mümkün olduğunu düşünüyor musunuz? Örneğin, belirli bir yapılandırılmış kural kümesi var mı, yoksa temel olarak bugün kullandığımız paradigma mı devam edecek?

Altman: Neden bu soruyu sorduğunu merak ediyorum.

Thompson: Benim podcast'ime katılan son dört konuk da aynı fikirdeydi, yanılsamayı sınırlamanın, bu temel bir AI sorunu olmakla birlikte, belirli bir sinirsel sembol mimarisini transformer'a yerleştirmenin iyi bir yol olduğunu düşündüler. Bu ilginç ve ikna edici bir argüman olduğunu düşünüyorum. Ancak kendim yeterince derine inemedim.

Altman: Bence bu, kanıt olarak oldukça zayıfken insanların körü körüne inandığı fikirlerden biri. Bakın, insanlar şöyle der: "Ah, kesinlikle sinirsel semboller olmalı, sadece rastgele nöron bağlantıları olmamalıdır." Peki, beyniniz ne yapıyor? İçinde bir tür sembolik temsil bulunmaktadır, ancak bu, sinir ağında ortaya çıkmaktadır. Bu nedenle, neden bu tür bir şeyin AI içinde gerçekleşemeyeceğini anlayamıyorum.

Thompson: Yani, bir grup "belirli kurallar" tipik bir transformer ağından ortaya çıkabilir ve "dışarıdan bir kurallar sistemi eklemenin" aynı etkiyi yaratabileceğini mi söylüyorsunuz?

Altman: Tabii ki olabilir.

Thompson: Anladım.

Altman: Bence biz, bu tür şeyin var oluşunun kanıtıyız.

Thompson: Başka bir büyük konuyu konuşalım. Anthropic ile olan ilişkinizi tartışmak istiyorum. Web sitenizde sürekli şu harika cümle var, "Eğer bir değerlerimize uygun, güvenlik odaklı proje, bizden önce AGI'yi inşa etmeye yaklaşıyorsa, yarışmayı durdurmayı ve bu projeye yardım etmeye başlamayı taahhüt ediyoruz." Bu gerçekten harika bir fikir, başkası hızla buna ulaşıyorsa, kendi şirketimize mola verip onlara yardım etmek.

Altman: Öyle yazılmadı.

Thompson: Peki, yazılan şey "Rakiple rekabeti durdur ve ona yardım etmeye başla". Durmak ve yardım etmek gibi, "şirketimizi durdur" gibi bir şey.

Altman: Tamam, anladım sen ne demek istediğini.

Thompson: Bu yüzden bu çok işbirliğine dayalı geliyor. Büyük laboratuvarlar arasında işbirliği yapılması gerektiğini de söylediniz. Ancak şu anda, sizin ve Anthropic arasındaki gerçek dinamikler çok gergin görünüyor, hatta düşmanca. Sizin CRO'nuzün son iç karar metni, Anthropic'in "korku, kısıtlama ve AI'nın bir azınlık elit tarafından kontrol edilmesi gerektiği" üzerine inşa edildiğini belirtiyor. Bu nasıl devam edecek? Eğer onlar önce ulaşırlarsa veya siz önce ulaşırsanız, bu "işbirliği" nasıl gerçekleşecek?

Altman: Şu anda zaten belirli bir işbirliği versiyonunun gerçekleşmekte olduğunu düşünüyorum, siber güvenlik etrafında, tüm laboratuvarlar şimdi geçmişten daha sık işbirliği yapmak zorunda çünkü yeni bir risk aşamasına giriyoruz. Birlikte hükümetle iletişim kuruyoruz. İnanıyorum ki yakında daha da fazlası ortaya çıkacak ve daha yüksek önem düzeyinde işbirliği yapmamız gerekecek.

Anthropic ile görüş ayrılıklarımız açıkça var, onlar şirketlerini bir şekilde "bizi sevmemek" üzerine kurmuşlar gibi görünüyor. AI'nın bu dünyayı mahvetmemesi konusuna her ikimizin de önem verdiğini düşünüyorum, bu soruna nasıl yaklaşılması gerektiği konusunda farklı görüşlerimiz olabilir. Ancak onların nihayetinde doğru şeyi yapacaklarına olan inancım tam.

Thompson: Bize açık kaynaklı hedefinize doğru ilerlemeniz hakkında konuşun. Bu konuda bazı adımlar attınız. Şirketiniz zaten Open AI adını taşıyor ve başlangıçta da konuştuğumuz gibi, açık kaynaklı modellerin oluşturabileceği olasılıklardan, herkesin biyolojik silahlara sahip olabileceği gibi konulardan bahsettik.

Altman: Evet.

Thompson: OpenAI'ın açık kaynaklı geleceği nasıl olacak?

Altman: Açık kaynak önemli olacak. Ancak şu anda, herkesin aslında en çok istediği şey, elde edebilecekleri en güçlü state-of-the-art modeldir, bu şu anda insanlara sağlayabileceğimiz en değerli şeydir. Ve en büyük state-of-the-art modeller bile açık kaynak kodlu olsa bile, genel nüfus tarafından çalıştırması oldukça zor olabilir. Ancak açık kaynak, gelecekte yapmak istediğimiz şeylerde yer alacaktır.

Thompson: Claude'ın kodu, Claude Kodu'ndaki bazı kod parçaları, yakın zamanda sızdırıldı, içinde çok şık bir ayrıntı var, eğer açık kaynaklı bir model veya başka bir modelin verilerini eğitmeye çalıştığını algılarsalar, aktif olarak yanıt olarak bir sürü sahte veri besleyeceklermiş. Hem komik hem de etkileyici. Siz nasıl "damıtma"yı ve diğer açık kaynaklı modellerin çıktınızı eğitimde kullanmasını önlemeye çalışıyorsunuz?

Altman: Biz ve diğerleri benzer şeyler yapabiliriz. Ama çok açık bir şekilde ve kısmen belirttiğiniz nedenle, bir modeli dağıttığınızda düşünme zinciri açıkça paylaşıldığında, insanlar sizi damıtmaya çalışacaklardır. Damıtmanın etkisiz hale getirilmesi için çeşitli hileler yapabilirsiniz, ancak bu mutlaka gerçekleşecektir. Geri tepkide bulunabilir ve "Modelimiz belirli bir kalite seviyesinin üzerindeyken, artık düşünme zincirini açıklamayacağız" şeklinde de yapabilirsiniz.

Thompson: Ama bedel bu noktada, düşünme zincirinin "İngilizce olarak saklanması" çok önemli, değil mi? Çünkü sizin belirttiğiniz gibi, sizin yaklaşımınız bu şekilde. Ama bazıları böyle düşünmüyor. Bir model için, kendi "robot dillerini" kullanarak düşünme zinciri yapmanın daha etkili olduğunu düşünenler varsa ne yapmalı?

Altman: O zaman bir şeyleri açıklanabilirlik konusunda bir şeyler yitirmiş olursunuz.

Thompson: Ayrıca bazı hız getirebilir. Dolayısıyla bu, açıklanabilirlik ve potansiyel hız arasındaki bir takas olur.

Altman: Eğer gerçekler, robot dilinin düşünmek için bin kat daha verimli olduğunu kanıtlarsa, pazar bazı insanları oraya yönlendirecektir.

Thompson: Bunu gerçek olduğunu düşündüğünüze dair kanıt var mı?

Altman: Şu an için yok. Ama aynı zamanda bunun gerçek olmadığını da kanıtlayacak bir şey yok.

Thompson: Çin'in AI araştırmalarında Amerika'yı geçmiş olmasından endişe duyuyor musunuz?

Altman: Hayır. Benim endişem, altyapı inşaat hızlarının bizi geçmiş olmasıyla ilgili.

Thompson: Tamam. Sadece birkaç dakikanız kaldı. Son iki soru. Önceden belirttiğiniz gibi, küçük oğlunuza her gece bir mektup yazdığınızı söylediniz.

Altman: Haftada bir kez, her gece değil.

Thompson: Haftada bir kez, yatmadan önce. Kendi hikaye dünyam var, büyük oğluma anlattığım, şu anda 17 yaşında, küçük olanı 12 yaşında. Bu hikaye dünyasını yaklaşık 14 yıldır anlatıyorum, aynı karakterlerin olduğu, oldukça ilginç bir dünya. AI kaygısı yaşayan ebeveynlere önerileriniz nelerdir?

Altman: Genel olarak, çocuklardan ziyade ebeveynleri endişelendiğimi söyleyebilirim.

Thompson: Gerçekten mi? Çocuklar kendi başlarına halledebilir.

Altman: İlk bilgisayarlar çıktığında, ebeveynlerim de "Bu ne anlama geliyor? Ne getirecek?" diyorlardı. O zamanlar bunu çok havalı buluyordum. Ben, oldukça genç yaşta, ebeveynlerimden bilgisayar kullanmayı daha iyi biliyordum. O AI'yi kullanarak neler yapabileceklerini, neler inşa edebileceklerini görmek, iş akışlarının ebeveynleriyle kıyaslandığında gerçekten etkileyici.

Ama endişelendiğim şey şu ki, tıpkı tarihte birçok kez olduğu gibi, gençler yaşlılardan daha hızlı, daha akıcı bir şekilde yeni teknolojileri benimseme eğilimindeler. Bu sefer, bu uçurum özellikle belirgin görünüyor.

Thompson: Ama gençler tam da "AI'ye karşı korku en hızlı büyüyen grup" değil mi?

Altman: Ben gençlerin "her şeye karşı korku, genel mutsuzluk ve kaygı"larının, tarihte hiç olmadığı kadar yüksek olduğunu düşünüyorum. AI belki de şu anda bu duyguların en kolay yansıtıldığı nesne. Toplum, "gençlik" konusunda belirgin bir sorun yaşadı, bazı teorilere sahibim, ancak onların ana sorununun AI olmadığını düşünüyorum.

Thompson: Yine de gençlerin AI'ye karşı kaygısı, başka bir şeyin yansıması olabilir mi?

Altman: Bence bu, birçok başka kaygının en kolay yansıtıldığı yerdir.

Thompson: O zaman gençlere verdiğiniz öneri, araçları kullanmak, yeni şeyler inşa etmek, merakı canlı tutmak mı?

Altman: Kesinlikle bu benim önerim. Dinle, toplum ve ekonomi açıkça bu yeni dünyada değişmek zorunda kalacak, gençler bunun herkesten daha iyi farkındalar. Gerçekten değişene kadar endişeli olacaklar, ama değişeceğine inanıyorum.

Thompson: İyi. Her bölümde misafirlere aynı son soruyu soruyorum. Eğer sınırsız kaynağa sahip olsaydınız, yapay zeka için ne yapardınız? Sınırsız kaynağa sahip tek kişi sizsiniz, bu yüzden bu soru size pek adil değil. Başka bir şekilde sorayım, OpenAI dışında birine, sınırsız kaynağa sahip, belirli bir yapay zeka kamu projesini destekleyebilecek veya fonlayabilecek bir tavsiye vermeniz gerekiyorsa, ona ne yapmasını önerirdiniz?

Altman: Aklıma birkaç cevap geldi. Ama en üstte beliren şey, her watt başına verimliliği büyük ölçüde artırabilen, tamamen yeni bir hesaplama paradigmına ciddi yatırım yapardım.

Thompson: Hmm.

Altman: Bu konu çok ilginç. Dünya daha fazlasını istemeye devam edecek. Bir gün kaç GPU'nun sürekli sizin için çalışmasını istersiniz?

Thompson: Şu anda sahip olduğumdan daha fazla.

Altman: Şu anda sahip olduğumdan daha fazla. Ben hız sınırına takıldım, kardeşim. Bunu istemiyorum ve başkalarının da istemesini istemiyorum. Ama talep dalgası geliyor ve eğer yapay zekayı daha erişilebilir hale getirebilirsek, inanılmaz şeyler ortaya çıkaracak. Bin katı verimlilik artışı bulmayı umuyorum. Belki bulamam, ama arayacağım nokta bu.

Thompson: Fark ettim ki, gençlerin yapay zekaya direnme nedenlerinden biri çevre endişesi. Eğer bu konuyu çözebilirseniz, birçok açıdan büyük bir adım atmış olursunuz.

Altman: Bunu söylediklerine inanıyorum. Onların bunu söylediklerini biliyorum. Ama eğer bir teravati bir gigavatlık güneş enerjisi kuracağımızı, tüm veri merkezlerini güneş enerjisiyle besleyeceğimizi söylersek, o zaman da mutlu olmayacaklar.

Thompson: Yine de yapmalısınız.

Altman: Kesinlikle öyle.

Thompson: İyi. Sam Altman, çok teşekkür ederim. Şimdi o YOLO iznini verdiğiniz, makinanızda çalışan Codex ajanlarına geri dönmeniz gerekiyor.

Altman: Yeni Codex gerçekten çok havalı. Şu anda bir "kaçırma" kaygısı yaşıyorum.

Thompson: Çok teşekkürler.