Partnered With:

DeepMind Kurucuyla Röportaj: AGI Mimarisi, Ajan Durumu ve Bilimsel İlerlemenin Gelecek On Yılı

Bu makaleyi okumak için 53 Dakika

「Sürekli Öğrenme, Uzun Vadeli Düşünme, Belleğin Bazı Yönleri hala çözülmemiş durumda, AGI'nın tamamını halletmesi gerekiyor.」

Orijinal Video Başlığı: Demis Hassabis: Ajanlar, AGI ve Sonraki Büyük Bilimsel İlerleme

Orijinal Video Kaynağı: Y Combinator
Orijinal Metin Çevirisi: DeepTech TechFlow

Editörün Önsözü

Google DeepMind CEO'su, Nobel Kimya Ödülü sahibi Demis Hassabis, Y Combinator'a konuk oldu ve AGI'ye giden yolda hangi önemli ilerlemelerin olduğunu, girişimcilere öncü kalmanın ipuçları hakkında tavsiyeler verdi ve gelecek büyük bilimsel atılımın nerede olabileceğini tartıştı.

Derin teknoloji girişimcileri için en kullanışlı değerlendirme, bugün 10 yıllık bir derin teknoloji projesine başlarsanız, AGI'nin ortaya çıkışını planınıza dahil etmeniz gerektiğidir. Ayrıca Demis Hassabis, Isomorphic Labs'in (DeepMind'den ayrılan bir yapay zeka ilaç şirketi) yakında büyük bir duyuru yapacağını da açıkladı.

Öne Çıkan Alıntılar

AGI Yol Haritası ve Zaman Çizelgesi

· "Mevcut bu teknoloji bileşenlerinin neredeyse kesinlikle AGI'nin nihai mimarisinin bir parçası haline geleceğini söyleyebiliriz."

· "Sürekli öğrenme, uzun vadeli akıl yürütme, bazı hafıza sorunlarının hala çözülmediğini, AGI'nin hepsinin üstesinden gelmesi gerektiğini belirtmek gerekir."

· "Eğer AGI zaman çizelgeniz benimki gibi yaklaşık 2030 ise ve bugün derin teknoloji bir proje başlatırsanız, o zaman AGI'ın yolun yarısında belireceğini düşünmelisiniz."

Hafıza ve Bağlam Penceresi

· "Bağlam penceresi, genel olarak çalışma belleğine eşdeğerdir. İnsan çalışma belleği ortalaması yalnızca yedi numaradır, ancak milyonlarca hatta milyarlarca belirtecin bağlam penceresine sahibiz. Ancak sorun, her şeyi, önemsiz ve yanlış bilgileri dahil etmemizdir, şu anda bu yaklaşım oldukça kabasal."

· "Gerçek zamanlı bir video akışını işlemek ve tüm belirteçleri içine yerleştirmek isterseniz, bir milyon belirteç sadece yaklaşık 20 dakikaya yetecektir."

Akıl Yürütme'nin Kusuru

· "Gemini ile satranç oynamayı severim. Bazı durumlarda bu seçimin kötü olduğunu fark eder, ancak daha iyisini bulamaz ve sonunda aynı kötü hamleyi yapar. Ancak kesin bir akıl yürütme sisteminden böyle bir durum beklenmez."

·「IMO Altın Seviye sorularını çözebilen birisi, farklı bir şekilde sorulduğunda ilkokul matematik hataları yapabiliyor. Kendi düşünme sürecinin içgörüsünde, hala eksik bir şey olduğu gibi görünüyor.」

Agent ve Yaratıcılık

·「AGI'ya ulaşmak için, sorunları kendiniz çözebilen bir sisteme sahip olmanız gerekiyor. Agent, bu yoldur, bence henüz yolun başındayız.」

·「Henüz kimse vibe coding kullanarak App Store sıralamasında üst sıralara çıkan bir 3A oyunu yapmadı. Şu ana kadar harcanan çaba dikkate alındığında, bu mümkün olmalı, ama henüz gerçekleşmedi. Araç veya süreçte hala eksik bir şey olduğunu gösterir.」

Özütlenme ve Küçük Model

·「Bizim varsayımımız, önde gelen bir Pro modelinin piyasaya çıkışından altı ay ila bir yıl sonra, yeteneklerinin çok küçük bir modele sıkıştırılabileceğidir, bu model kenar cihazlarda çalıştırılabilir. Şu anda teorik olarak bilgi yoğunluğu limitine henüz ulaşılmamıştır.」

Bilimsel Keşif ve "Einstein Testi"

·「Buna bazen ‘Einstein Testi’ diyorum, yani 1901'deki bilgiyle bir sistemi eğitebiliyor musunuz, sonra onu Einstein'ın 1905'te yaptığı o bulguları, özellikle de özel görelilik teorisini bağımsız bir şekilde çıkartabiliyor mu. Bir kez bunu başarabilirse, bu sistemler gerçekten yeni bir şey icat etmekten çok uzak olmayacaklar.」

·「Bir Milenyum Ödülü problemi çözmek gerçekten harika bir şey. Ancak bundan daha zoru, yeni bir Milenyum Ödülü problem kümesi oluşturabilmek ve bu soruların, en iyi matematikçiler tarafından aynı derecede derin ve ömür boyu araştırılmaya değer olduğunu düşündüğü bir grup soru olup olmadığıdır.」

Derin Teknoloji Girişimcilik Önerileri

·「Zor problemleri takip etmek ve basit problemleri takip etmek aslında aynı şeydir, sadece zorluğun farklı bir şekilde olduğu. Hayat çok kısa, enerjinizi gerçekten kimse yapmıyorsa yaptığınız şeylere odaklanmaktan daha iyi harcayın.」

AGI Başarı Yolu

Gary Tan: AGI'yi düşündüğünüz süre neredeyse herkesten daha uzun. Mevcut paradigmayı göz önünde bulundurarak, şu anda ne kadar AGI'nın nihai mimarisine sahip olduğumuzu düşünüyorsunuz? Şu anda temel eksiklik nedir?

Demis Hassabis: Büyük ölçekli ön eğitim, RLHF, düşünce zinciri vb., eminim ki bunların AGI'nın nihai mimarisinin bir parçası olacağını. Bu teknolojiler bugüne kadar birçok şeyi kanıtladı. İki yıl sonra bunun bir çıkmaz sokak olduğunu düşünmem, bu benim için mantıklı değil. Ancak mevcut şeylerin ötesinde, belki bir veya iki eksik nokta var. Sürekli öğrenme (continual learning), uzun vadeli akıl yürütme (long-term reasoning), belleğin bazı yönleri, hala çözülmemiş sorunlar var.

AGI'nın tamamlanması gerekiyor. Mevcut teknolojiye belki birkaç evrimsel yenilik eklenerek bu seviyeye genişletilebilir, ancak belki de aşılmak için hala bir veya iki büyük anahtar nokta olabilir. Bence bunlar bir veya iki adeti geçmeyecek. Bu tür çözülmemiş bir anahtar noktanın olup olmadığına ilişkin kişisel değerlendirmem, olasılığın yaklaşık %50 olduğu yönünde. Bu nedenle Google DeepMind'de, her iki yöntem de ilerletiliyor.

Gary Tan: Bir sürü Ajan sistemle uğraşıyorum, beni en çok şaşırtan şey, temelde aynı ağırlık setinin sürekli döngü içinde olmasıdır. Bu nedenle sürekli öğrenme konsepti üzerinde çalışmak özellikle ilginç, çünkü şu anda genellikle geçici olarak bantla kapatılmış durumdayız, örneğin bu "gece rüya döngüsü" gibi şeyler.

Demis Hassabis: Evet, o rüya döngüleri gerçekten harika. Geçmişte, senaryo belleğinin bütünleşmesi konusunda bu konuyu düşündük. Doktora çalışmam, hipokampüsün nasıl yeni bilgileri mevcut bilgi sistemine zarif bir şekilde entegre ettiğini araştırdı. Beyin bu konuda harika iş çıkarıyor.

Bu süreci uykuda tamamlıyor, özellikle hızlı göz hareketi uykusundayken, önemli deneyimleri tekrarlayarak öğrenmeyi sağlıyor. En eski Atari programımız DQN (2013 yılında DeepMind tarafından yayınlanan derin Q ağı, Atari oyunlarında insan seviyesine ulaşmak için derin güçlendirme öğrenimi kullanan ilk sistem) Atari oyunlarını hakim olabiliyordu, bu anahtar bir yöntem deneyim tekrarı (experience replay) idi.

Bu, nörobilimden öğrendiğimiz bir şeydi, başarılı yolculukları tekrar tekrar oynatmak. Bu 2013 yılında gerçekleşti, AI alanında çok eski bir zamandı, ancak o zaman çok kritikti.

Söylediğiniz konuda hemfikirim, şu anda gerçekten bir araya getirme bandı kullanıyoruz. Tüm şeyleri bağlam penceresine sıkıştırmak. Bu pek doğru hissettirmiyor. Yapay zeka olmasına rağmen, teorik olarak milyonlarca, milyonlarca düzeyde bağlam penceresine sahip olabilirsiniz ve bellek mükemmel olabilir, ancak arama ve geri alım maliyeti hala var. Şu anda gerçekten karar verme anında, gerçekten ilgili bilgileri bulmak kolay değil, hatta her şeyi kaydedebilirseniz bile. Bu nedenle, bellek alanında hala büyük yenilik fırsatları olduğunu düşünüyorum.

Gary Tan: Dürüst olmak gerekirse, milyon token'lık bir bağlam penceresi benim beklediğimden çok daha büyük, birçok şey yapılabilir.

Demis Hassabis: Çoğu senaryo için yeterince büyük. Ancak düşünün, bağlam penceresi genellikle çalışma belleğine eşittir. İnsan çalışma belleği ortalama yedi sayıdadır, biz milyonlarca hatta milyonlarca token'lık bağlam penceresine sahibiz. Sorun, her şeyi içeri atmamız, gereksiz ve yanlış bilgileri dahil etmemiz ve şu anda bu yöntemin oldukça vahşi olmasıdır. Ve şu anda gerçek zamanlı video akışını işlemek istiyorsanız, saflığa ulaşacak şekilde tüm token'ları kaydederken, yüzbin token aslında yaklaşık 20 dakika yeterli olacaktır. Ancak sistemizin bir veya iki ay içindeki yaşam durumunuzu anlamasını istiyorsanız, o zaman hala yetersiz.

Gary Tan: DeepMind, geçmişte derinlemesine takviyeli öğrenme ve arama konusuna büyük önem verdi. Bu felsefe, şu anda Gemini'yi inşa ederken ne kadar derinlemesine gömüldü? Takviyeli öğrenme hala altı mıda kalıyor?

Demis Hassabis: Muhtemelen gerçekten altında kalıyor. Bu konuya olan ilgi dalgalanmalara sahip. Biz DeepMind'in kurulduğu günden beri Ajan sistemleriyle uğraşıyoruz. Tüm Atari ve AlphaGo üzerindeki çalışmalar, temelde takviyeli öğrenme Ajanı'na dahildir, amaçları kendi kendine başarıyla tamamlayabilen, kararlar verebilen ve planlar yapabilen bir sistem. Tabii ki, o zaman oyun alanını seçtik çünkü karmaşıklık kontrol edilebilir ve daha sonra Alphago gibi daha karmaşık oyunlar yapıp adım adım daha karmaşık oyunlar yaptık, örneğin Alphastar'dan sonra tüm oynanabilir oyunları yaptık.

Sonraki soru şu ki, bu modelleri dünya modeli veya dil modeli genelleştirebilir miyiz, yalnızca oyun modeli değil mi? Geçtiğimiz yıllarda bunun üzerinde çalıştık. Bugünün önde gelen tüm modellerinin düşünme şekli ve düşünceler arası çıkarım, temel olarak Alphago'nun yıllar önce başlattığı şeyin geri dönüşüdür.

Geçmişte yaptığımız birçok çalışmanın bugünle çok alakası olduğunu düşünüyorum, o eski fikirleri yeniden ele alıyoruz, daha geniş kapsamlı, daha evrensel bir şekilde yapmak için daha büyük ölçekte, örneğin Monte Carlo ağaç araması dahil çeşitli takviyeli öğrenme yöntemleri. Alphago ve Alphazero'nun o zamanlar düşünce yapısı ve bugünün temel modelleri arasındaki çok büyük ilişkili olduğunu düşünüyorum, ilerleyen yıllarda büyük gelişmelerin büyük bir kısmının bundan kaynaklanacağını düşünüyorum.

Distil and Small Models

Gary Tan: Şimdi daha akıllı olmak için daha büyük modellere ihtiyacımız var gibi görünüyor, ancak eş zamanlı olarak distilasyon teknolojisi de gelişiyor, küçük modeller oldukça hızlı hale gelebiliyor. Flash modeliniz oldukça güçlü, temelde önde gelen modelin %95'ine ulaşabiliyor, ancak fiyatı sadece onda biri. Doğru mu?

Demis Hassabis: Bence bu bizim temel avantajlarımızdan biri. Çıkış kapasitesini elde etmek için önce en büyük modeli oluşturmanız gerekir. En büyük avantajlarımızdan biri, bu yetenekleri hızlı bir şekilde damıtarak ve her seferinde daha küçük modellere sıkıştırarak olabilmesidir. Bu distilasyon yöntemi bizim icat ettiğimiz bir şeydi, hala dünya çapında en iyileriz. Ayrıca bunu yapmak için güçlü bir işletme motivasyonumuz var. Muhtemelen küresel anlamda en büyük yapay zeka uygulama platformuyuz.

AI Overviews ve AI Mode'ye sahip olmamız ve birlikte Gemini'yi, şu anda Google'ın tüm ürünlerine, harita, YouTube vb. entegre etmekte olmamız gerektiğini düşünüyorum, bu milyarlarca kullanıcıyı ve onlarca milyar kullanıcının ürününü içeriyor. Bunların son derece hızlı, verimli, düşük maliyetli ve düşük gecikmeye sahip olması gerekiyor. Bu, Flash ve daha küçük Flash-Lite modellerini son derece verimli yapma gücü veriyor, umarım bu sonunda her türlü kullanıcı işini iyi hizmet edebilecek.

Gary Tan: Merak ediyorum, bu küçük modeller gerçekten ne kadar akıllı olabilir. Sıkıştırma bir sınırı var mı? 50B veya 400B model bugünün en büyük önde gelen modelleri kadar akıllı olabilir mi?

Demis Hassabis: Bilgi teorisi açısından bir sınırı zorladığımızı pek düşünmüyorum, en azından şu anda kimse bunun var olduğunu bilmiyor. Belki bir gün bilgi yoğunluğunun bir tavana ulaşacağı bir durumla karşılaşabiliriz, ancak şu anda varsayımımız, bir önde gelen Pro modelinin piyasaya sürülmesinden sonra, yaklaşık altı ay ila bir yıl içinde, yeteneklerinin çok küçük ve neredeyse kenar cihazlarda çalıştırılabilir modellere sıkıştırılabileceğidir.

Bunu Gemma modelinde de görebilirsiniz, bizim Gemma 4 modelimiz benzer hacim altında çok güçlü performans sergiliyor. Bu, yoğun bir sıkıştırma teknikleri ve küçük model verimlilik optimizasyon tekniklerinden faydalanılarak yapıldı. Bu yüzden gerçekten bir sınırın varlığını göremiyorum, o sınırın çok uzakta olduğunu düşünüyorum.

Gary Tan: Şu anda oldukça garip bir durum var, yani bir mühendisin yapabileceği iş miktarı, yaklaşık altı ay önceki işin 500 ila 1000 katına eşit. Bu odadaki bazı insanlar, 2000'lerdeki bir Google mühendisinin işinin 1000 katını yapmakta. Steve Yegge bunu anlattı.

Demis Hassabis: Çok heyecanlı olduğumu düşünüyorum. Küçük modellerin birçok kullanım alanı var. Birincisi, düşük maliyetli olması ve hızlı olması da aynı derecede fayda sağlayacaktır. Kod yazarken veya diğer görevlerde, daha hızlı bir şekilde iterasyon yapabilirsiniz, özellikle sistemle işbirliği yaptığınızda. Hızlı sistemler, en son teknoloji olmasa da, örneğin sadece önde gelen %90 ila %95'i olan sistemler tamamen yeterli olabilir ve kazançlı olan şey bu hızda iterasyon ile yedeklenen şey, (%10'dan) fazlasıyla geri dönebilir.

Bir diğer büyük yön, bu modelleri kenar cihazlarda çalıştırmak; sadece verimlilik için değil, aynı zamanda gizlilik ve güvenlik için de. Çok özel bilgileri işleyen cihazları ve robotları düşünün, ev robotunuz için, yerelde yüksek verimli ve güçlü bir model çalıştırmak istersiniz, görevi yalnızca belirli senaryolarda bulut tabanlı büyük modeline devretmek. Ses ve video akışı yerelde işlenir, veriler yerelde kalır, bu noktanın çok iyi bir son durum olacağını düşünebiliyorum.

Hafıza ve Akıl Yürütme

Gary Tan: Bağlam ve hafızaya geri dönelim. Modeller şu anda durumsuzdur, sürekli öğrenme yeteneği olduğunda, geliştirici deneyimi nasıl olacak? Bu tür bir modeli nasıl yönlendirirsiniz?

Demis Hassabis: Bu soru çok ilginç. Sürekli öğrenme eksikliği, mevcut Ajan'ın tam bir görevi tamamlamasını engelleyen temel bir engeldir. Şu anki Ajan'lar görevin belirli bölümleri için yararlı olabilir, onları bir araya getirip çok güzel şeyler yapabilirsiniz, ancak henüz bulunduğunuz özel ortama iyi adapte olamazlar. Bu, henüz gerçekten "ateş eder etmez unutmak" için hazır olmamalarının nedenidir, belirli sahnenizi öğrenmeleri gerekmektedir. Tam anlamıyla evrensel zeka seviyesine ulaşmak için bu sorunun çözülmesi gerekmektedir.

Gary Tan: Akıl yürütme açısından hangi noktaya geldik? Şu anda modelin düşünce süreci çok güçlü, ancak bazı zeki lisans öğrencilerin yapmayacağı hatalarda hala hata yapabiliyor. Belirli olarak ne gibi değişiklikler gerekiyor? Akıl yürütme sürecinde hangi ilerlemeleri bekliyorsunuz?

Demis Hassabis: Düşünce paradigmasında hala büyük bir yenilik alanı var. Yaptığımız şey hala oldukça ham ve oldukça zorlayıcı. Müdahaleler yaparak düşünce sürecini izleme gibi birçok iyileştirme alanı olabilir. Çoğu zaman, hem kendi sistemimiz hem de rakip sistemler, bir şekilde aşırı düşünme eğiliminde olabilirler ve bir döngüye sıkışabilirler.

Ara sıra Gemini'nin satranç oyununu gözlemlemeyi severim. Tüm önde gelen temel modeller aslında satranç konusunda oldukça kötüdür, bu çok ilginç.

Düşünce izlerini görmek çok değerlidir, çünkü satranç tamamen anlaşılmış bir alan olduğundan, bir hammadde yapısı hızlıca yanlış bir hamle yapılıp yapılmadığını ve akıl yürütmenin etkili olup olmadığını anlayabilirim. Gördüğümüz durum şudur ki, bazen bir hamle düşünür, bu hamlenin kötü olduğunu fark eder, ancak daha iyisini bulamaz ve sonunda aynı kötü hamleyi yapar. Kesin bir akıl yürütme sistemi bu tür bir durumla karşılaşmamalıdır.

Bu büyük farklılık hala mevcut, ancak bunu düzeltmek belki de sadece bir veya iki ayar gerektirir. Bu yüzden sıklıkla "dişli zeka" adını verdiğimiz şeyi görürsünüz, bir yandan IMO altın seviyesindeki soruları çözebilir, diğer yandan soruyu değiştirirseniz ilkokul matematik hataları yapabilir. Kendi düşünce sürecine içsel bir bakış açısına sahip olmada, hala eksik bir şeyler olduğu gibi görünmektedir.

Ajan'ın Gerçek Yeteneği

Gary Tan: Ajan büyük bir konu. Bazıları bunun halkla ilişkiler olduğunu söylüyor. Ben kişisel olarak sadece başlangıç olduğunu düşünüyorum. DeepMind'ın iç araştırması, Ajan'ın yeteneklerine ilişkin gerçekçi bir değerlendirme nedir, dışarıdaki tanıtımdan ne kadar farklı?

Demis Hassabis: Söylediklerine katılıyorum, henüz sadece başlangıçtayız. Genel Zeka Seviyesine ulaşmak için, sorunları çözebilen bir sistem yaratmanız gereklidir. Bu bizim için her zaman açıktı. Ajan, o yoldur ve bence henüz yeni başladık.

Hepimiz, Ajans'ın işbirliğini nasıl geliştireceğini keşfetmeye çalışıyoruz, kişisel deneylerimizde birçok keşif yaptık ve burada bulunan birçok insanın da yaptığını düşünüyorum. Ajans'ı iş akışına nasıl entegre ederiz, sadece süs olmaktan öteye geçirerek, gerçekten temel şeyler yapar hale getiririz. Şu anda hala deneme aşamasındayız. Muhtemelen en son iki üç aydır gerçekten değerli senaryolar bulmaya başladık. Teknoloji yaklaşık olarak o seviyeye gelmiştir, artık eğlence amaçlı gösteri niteliğinde değil, zamanınıza ve verimliliğinize gerçek değer katan bir noktadadır.

Çoğu zaman onlarca Ajansı başlatıp onlarca saat çalıştıran insanları görüyorum, ancak çıktının bu çaba ile aynı düzeyde olup olmadığından emin değilim.

Birinin vibe coding kullanarak zirvedeki bir 3A oyunu yarattığını görmedik. Kendim de yazdım, burada bulunan birçok insan da güzel küçük denemeler yaptı. Şu anda yarım saatte bir《Theme Park》 prototipi yapabiliyorum, 17 yaşındayken altı ayımı almıştı.

Bir yaz boyunca bunun üzerine gitmenin gerçekten inanılmaz şeyler yapmanızı sağlayabileceğini hissediyorum. Ama hala bir zanaat ve insan ruhu, zevk gerektirir, bu öğeleri inşa ettiğiniz herhangi bir ürüne dahil ettiğinizden emin olmalısınız. Aslında şu anda herhangi bir çocuğun milyonlarca sattığı patlama ürün yapmadığını görmedik, mevcut araçlar ve yatırım ile bu mümkün olmalıydı. Yani eksik olan nedir, süreçle ilgili olabilir, araçlarla ilgili olabilir. Gelecekte 6 ila 12 ay içinde bu tür başarıları göreceğimi tahmin ediyorum.

Gary Tan: Bunun ne kadarı tam otomatik olacak? Bence hemen her şey tam otomatik olmayacak. Daha olası olan yol, buradakilerin önce 1000 kat daha verimli hale gelmesi, sonra biri bu araçları kullanarak çok satan bir uygulama, çok satan bir oyun yapması, daha sonra diğer adımların otomatikleştirilmesi.

Demis Hassabis: Evet, bunu önce görmelisiniz.

Gary Tan: Ayrıca bir kısmı, gerçekten bazı insanların bunu yaptığını ama Ajans'ın ne kadar yardım ettiğini açıklamak istemedikleri.

Demis Hassabis: Olabilir. Ama yaratıcılık konusunu konuşalım. Sık sık AlphaGo'nun örneğini veririm, herkes ikinci oyunda 37. hamleyi bilir. Benim için, her zaman o anın gelmesini bekledim, o an geldiğinde AlphaFold gibi bilimsel projeleri başlattım. Güney Kore'ye dönüşümüzden bir gün sonra AlphaFold'u yapmaya başladık, bu on yıl önceydi. Bu seferki Güney Kore ziyaretim AlphaGo'nun onuncu yıl dönümünü kutluyorum.

Ancak sadece 37. Hamle'yi yapmak yeterli değildir. Bu harika ve faydalıdır. Ancak bu sistem go oyununu icat edebilir mi? Eğer ona yüksek seviyeli bir açıklama verirseniz, mesela "Kuralları beş dakikada öğrenebileceğiniz, ancak ömür boyu ustalaşamayacağınız bir oyun, estetik açıdan çok zariftir, bir öğleden sonra oynayabileceğiniz bir oyun", ve sistem size go oyununu geri getirirse. Bugünün sistemleri bunu yapamaz. Sorun ne peki?

Gary Tan: Salonda bulunan kişilerden belki kimse bunu başarabilir.

Demis Hassabis: Eğer biri bunu başarırsa, o zaman cevap, sistemde eksik bir şey olmadığını; onun kullanım biçiminde sorun olduğunu gösterir. Bu belki de doğru cevaptır. Belki de bugünün sistemleri bu yeteneğe sahiptir, ancak yeterince dahice bir yaratıcıya ihtiyaç duyarlar, projeye ruhunu verecek türden birini, aynı zamanda bu kişi araçla son derece uyumlu olmalı, neredeyse araçla bütünleşmelidir. Eğer bu araçlara günün her saati dalarak derin yaratıcılığa sahipseniz, belki de hayal gücünün ötesinde şeyler başarabilirsiniz.

Açık Kaynak ve Çok Modelli Model

Gary Tan: Açık kaynak konusuna geçelim. Son zamanlarda, Gemma'nın piyasaya sürülmesiyle çok güçlü modeller yerel olarak çalıştırılabiliyor. Bu konuda ne düşünüyorsunuz? Yapay Zeka, kullanıcıların kontrolünde olan bir şey haline mi gelecek, bulut üzerinde kalmayan başlıca bir şey olacak mı? Bu, bu modelleri kullanarak ürünler oluşturan kimleri etkileyecek?

Demis Hassabis: Biz açık kaynak ve açık bilim konusunda kararlı destekçileriz. Bahsettiğiniz AlphaFold'u tamamen ücretsiz ve açık kaynak olarak yayınladık. Bilimsel çalışmalarımız halen en iyi dergilerde yayımlanıyor. Gemma tarafında, eşit hacimde dünya çapında lider modeller yaratmak istiyoruz. Şu ana kadar Gemma'nın indirilme sayısı yaklaşık 40 milyona ulaştı ve henüz iki buçuk hafta geçti.

Ben ayrıca açık kaynak alanında Batı teknoloji yığını varlığının önemli olduğunu düşünüyorum. Çin'in açık kaynak modelleri çok kaliteli, şu anda açık kaynak alanda önde, ancak biz Gemma'nın aynı hacimde çok rekabetçi olduğunu düşünüyoruz.

Şu anda bir kaynak sorunu da var, kimse iki tam boyutlu önde gelen modeli çalıştıracak fazladan güce sahip değil. Bu nedenle şu anda aldığımız karar şu şekilde: Kenar modeli Android, gözlük, robot vb. için kullanılmalı, en iyisi açık model haline getirmek, çünkü bir kez cihaza dağıtıldığında, onlar zaten açık hale gelirler, doğrudan tamamen açık hale getirmekten daha iyidir. Biz açık stratejiyi nano seviyesinde birleştirdik, bu stratejik olarak da doğru görünüyor.

Gary Tan: Sahneye çıkmadan önce size yaptığım AI işletim sistemi demo gösteriminden bahsettim, doğrudan sesli olarak Gemini ile etkileşime geçebiliyorum, bir şeyleri size gösterirken oldukça gerildim, ancak işe yaradı. Gemini, başlangıçtan itibaren çoklu modal yapıya sahiptir. Birçok model kullandım, doğrudan sesli model etkileşimi ve araç çağrı yeteneğinin derinliği ve bağlam anlayışıyla, şu anda Gemini ile rekabet edebilecek herhangi bir model yok.

Demis Hassabis: Evet. Gemini serisinin henüz tam anlaşılmamış bir avantajı, çoklu modaya göre baştan beri inşa edilmiş olmasıdır. Bu, metin yalnızca yapmaktan daha zor bir başlangıç aşaması sağlar, ancak uzun vadede bundan faydalanacağımıza inanıyoruz ve şimdi zaten bunun meyvelerini almaya başladık.

Örneğin, dünya modelleme konusunda, Gemini üzerine Genie'yi (DeepMind tarafından geliştirilen üretken etkileşim ortam modeli) inşa ettik. Robotik alanında da aynı durum geçerlidir, Gemini Robotics çoklu moda dayalı temel model üzerine inşa edilecek, çoklu modadaki üstünlüğümüz rekabet avantajına dönüşecektir. Waymo'da (Alphabet'e bağlı otonom araç şirketi) da giderek daha fazla Gemini kullanıyoruz.

Gerçek dünyaya girişinizi takip eden dijital bir asistan hayal edin, muhtemelen telefonunuzda veya gözlüğünüzde, çevrenizdeki fiziksel dünyayı ve ortamı anlaması gerekecek. Sistemimiz bu konuda son derece güçlüdür. Bu yönde yatırım yapmaya devam edeceğiz ve bu tür sorunlarla ilgili liderliğimizin büyük olduğunu düşünüyorum.

Gary Tan: Çıkarım maliyeti hızla azalıyor. Temelde çıkarım bedava olduğunda, ne mümkün hale geliyor? Sizin takımınızın optimizasyon yönü buna göre değişecek mi?

Demis Hassabis: Çıkarımın gerçekten ücretsiz olacağından emin değilim, Jevons Paradoksu orada duruyor. Bence sonunda herkes elde edilebilecek gücü tamamen kullanacak.

Milyonlarca ajanın oluşturduğu bir grup işbirliği yapabilir hayal edebilirsiniz, veya bir grup ajan aynı anda çeşitli yönlere düşünüp bütünleştirici bir şekilde hareket edebilir. Bu yöntemlerin hepsini deniyoruz, bunların hepsi mevcut çıkarım kaynaklarını tüketebilir.

Enerji açısından, kontrollü nükleer füzyon, oda sıcaklığında süper iletkenlik, en iyi pil gibi sorunları çözersek, malzeme bilimi aracılığıyla bunu başarabileceğimizi düşünüyorum, enerji maliyeti sıfıra yaklaşabilir. Ancak çip fiziksel imalatı gibi adımlarda hala bazı engeller var, en azından önümüzdeki on yıllar boyunca. Bu nedenle, çıkarım ucunda hala kotalar olacak, hala verimli bir şekilde kullanılması gerekecek.

Sonraki Bilimsel Atılım

Gary Tan: Neyse ki, küçük modeller giderek daha akıllı hale geliyor. Burada birçok biyoloji ve biyoteknoloji alanının kurucusu var. AlphaFold 3, proteinleri aştı ve daha geniş bir biyolojik molekül yelpazesine genişledi. Hücresel sistemlerin tam modellemesine ne kadar yakınız? Bu tamamen farklı bir zorluk seviyesi mi?

Demis Hassabis: İzomorfik Labs'in ilerlemesi harika. AlphaFold sadece ilaç keşfi sürecinde bir adımdır, yakında yanıksel biyokimya araştırması, doğru özelliklere sahip bileşikler tasarımı gibi yan uğraşlarımızla büyük bir duyuru yapacağız.

En nihai hedefimiz tamamen sanal bir hücre oluşturmak, üzerinde müdahale edebileceğiniz, deney sonuçlarına oldukça yakın çıktı üretebilen ve pratik uygulamalara sahip bir tam işlevli hücre simülatörü yaratmaktır. Bu simülatör sayesinde büyük miktarda sentetik veri üretebilir, diğer modelleri eğitmek için kullanabilir ve bunları gerçek hücre davranışını tahmin etmeleri için eğitebilirsiniz.

Sanal bir hücreye yaklaşık on yıl olduğunu tahmin ediyorum. DeepMind'in bilimsel kısmı olarak, sanal hücre çekirdeğiyle başlayarak bu yönde ilerliyoruz, çünkü çekirdek nispeten özerktir. Bu tür sorunlarda önemli olan, uygun karmaşıklıkta bir dilimi kesip kesemeyeceğinizdir, yeterince kendini içeren bir dilim olup olmadığıdır, giriş ve çıkışını makul bir şekilde yaklaşıklayabilirsiniz ve ardından bu alt sistem üzerinde odaklanabilirsiniz. Çekirdek bu açıdan oldukça uygun görünüyor.

Bir diğer sorun, verinin yetersiz olması. Elektron mikroskop ve diğer görüntüleme teknikleriyle çalışan birinci sınıf bilim adamlarıyla konuştum. Canlı hücreleri öldürmeden görüntü alabilseydiniz, bu devrim niteliğinde olurdu. Çünkü o zaman bunu bir görme problemine dönüştürebilirsiniz, görme sorunlarını nasıl çözeceğimizi biliyoruz.

Ancak bildiğim kadarıyla, şu anda nanometre çözünürlükte canlı dinamik hücreleri görüntüleyebilen ve onları bozmayan bir teknoloji yok. Şu anda o çözünürlükte statik bir görüntüyü almak bile çok ince detay veriyor, bu heyecan verici, ama doğrudan bir görme problemine dönüştürmek için yeterli değil.

Yani iki yol var, biri donanım odaklı, veri odaklı bir yaklaşım; diğeri ise bu dinamik sistemleri simüle etmek için daha iyi öğrenilebilir simülatörler oluşturmaktır.

Gary Tan: Sadece biyolojiye odaklanmıyorsunuz. Malzeme bilimi, ilaç keşfi, iklim modelleme, matematik, eğer sıralamamız gerekiyorsa, gelecek beş yılda hangi bilim alanı en köklü değişime uğrayacak?

Demis Hassabis: Her alan heyecan verici, bu yüzden bu her zaman en büyük tutkum olmuştur, bu aynı zamanda 30 yılı aşkın süredir AI ile uğraşmamın nedenidir. AI'nın bilime, bilimsel anlayışa, bilimsel keşfe, tıbba ve evrenin anlayışına katkıda bulunacak nihai araç olacağını her zaman düşündüm.

İlk başta misyonumuzu iki adımda ifade etme şeklimiz vardı. İlk adım, zekayı çözmek, yani AGI'ı inşa etmek; ikinci adım, bunu diğer tüm sorunları çözmek için kullanmaktı. Ancak daha sonra ifade biçimini değiştirmek zorunda kaldık, çünkü biri gelip "gerçekten tüm sorunları mı çözdüğünüzü söylüyorsunuz" diye soruyordu.

Bu gerçekten bizim kastettiğimiz şey. Artık herkes bunun ne anlama geldiğini anlamaya başladı. Daha spesifik olarak, "kök düğüm sorunu" dediğim ve aşıldığında tamamen yeni keşif dallarını açacak alanları çözmeyi kastettiğim bilim alanlarından bahsediyorum. AlphaFold, yapmak istediğimiz şeyin prototipi.

Dünya çapında üç milyondan fazla araştırmacı, neredeyse her biyolog şu anda AlphaFold'u kullanıyor. Bazı ilaç şirketi yöneticisi dostlarımdan duyduğuma göre, gelecekte keşfedilen neredeyse her ilaç, ilaç keşif sürecinin bir noktasında AlphaFold'u kullanacak. Buna gurur duyuyoruz, bu da AI'nın üretebileceğimiz etkiyi umduğumuz türde olduğu.

Benim aklıma AI'nın yardım edemeyeceği bilimsel veya mühendislik alanı gelmiyor. Bahsettiğiniz o alanlar, bence neredeyse "AlphaFold 1 anı"nda, sonuçlar umut verici olsa da, henüz o alanın büyük zorluğunu gerçekten aşamamış durumda. İlerleyen iki yıl boyunca, malzeme biliminden matematiğe kadar, tüm bu alanlarda konuşabileceğimiz birçok ilerleme göreceğiz.

Gary Tan: Prometheusvari bir his veriyor, insanlığa tamamen yeni bir yetenek veriyor.

Demis Hassabis: Kesinlikle. Elbette, Prometheus hikayesinin öğretisi gibi, bu yeteneğin nasıl kullanıldığına, nerede kullanıldığına ve aynı aracın kötüye kullanım riskine nasıl dikkat edilmesi gerektiğine dikkat etmeliyiz.

Başarı Deneyimi

Gary Tan: Burada AI'ı bilime uygulamaya çalışan birçok insan var. Sizin görüşünüze göre, gerçekten sınırı zorlayan girişimler ile sadece temel modeli alıp API'ye bir katman ekleyen ve sonra kendini "Bilim için AI" olarak adlandıran girişimler arasındaki fark nedir?

Demis Hassabis: Eğer bugün sizin yerinizde olsaydım, Y Combinator'da projelere baktığımda, nasıl bir tutum sergilerdim diye düşünüyorum. Bir şey, AI teknolojisinin nereye gittiğini tahmin etmeniz gerektiği, bu zor bir şey. Ama gerçekten AI'nın yönünü, başka bir derin teknoloji alanıyla kesiştirmek, büyük fırsatlar sunuyor gibi geliyor bana. Bu kesişim noktası, malzeme, tıp veya diğer gerçekten zorlu bilim alanları olsun, özellikle atomik dünyayı içerenler, yakın gelecekte bir kırpıntıdan geçmeyecek. Bu alanlar, bir sonraki temel model güncellemesinden ezilmeyecek. Ancak savunma odaklı bir yöntem arıyorsanız, bunu öneririm.

Ben her zaman derin teknolojiyi tercih ettim. Gerçekten kalıcı ve değerli olan şey kolay elde edilmez. Derin teknoloji her zaman beni cezbetmiştir. 2010 yılında başladığımızda yapay zeka derin teknolojiydi — yatırımcılar bana "bu şeyin işe yaramayacağını zaten biliyoruz" dedi, akademik çevre de bunun 90'ların denendiği ve başarısız olduğu bir niche alan olduğunu düşündü.

Ama eğer kendi fikrinize inanıyorsanız — neden bu sefer farklı, geçmişinizdeki benzersiz kombinasyon nedir — ideal olarak hem makine öğrenimi hem de uygulama alanında uzmanlaşmışsınız veya böyle bir kurucu takımı oluşturabiliyorsunuz — o zaman burada yaratabileceğiniz büyük etki ve değer vardır.

Gary Tan: Bu bilgi çok önemli. Bir şey başarıya ulaştığında herkes için doğal görünür, ancak başarılı olmadan önce herkes size karşı çıkar.

Demis Hassabis: Tabii ki, bu yüzden yapmanız gereken gerçekten tutku duyduğunuz şeyi yapmaktır. Benim için, ne olursa olsun yapay zeka yapacağım. Çok küçükken bunun düşünebileceğim en etkili şey olduğuna karar verdim. Gerçek de bunu kanıtladı, ancak olmayabilir, belki de 50 yıl erkeniz.

Ayrıca bu düşünebileceğim en ilginç şey. Bugün bile bir garajda oturup, yapay zeka ortaya çıkmamış olsa bile, devam etmeye çalışırım. Belki akademik dünyaya geri dönerim, ama devam etmenin bir yolunu bulurum.

Gary Tan: AlphaFold, peşinden gittiğiniz bir alanı ve ardından doğru tahminde bulunduğunuz bir örnek. Bir bilim alanının AlphaFold tarzı bir atılım yapmasını sağlayan nedir? Belirli bir amaç fonksiyonu gibi bir kural var mı?

Demis Hassabis: Bunu yazacak bir zaman bulmalıyım gerçekten. AlphaGo ve AlphaFold gibi tüm Alpha projelerinden öğrendiğim şey, mevcut teknolojimizin şu durumlarda en iyi sonucu verdiğidir.

İlk olarak, problem büyük bir kombinasyon arama alanına sahiptir, ne kadar büyük olursa o kadar iyidir, hiçbir brute force veya özel algoritma tarafından çözülemeyen kadar büyük. Go'nun oyun alanı ve proteinlerin yapı alanı evrendeki atom sayısının çok ötesindedir. İkinci olarak, amaç fonksiyonunu net bir şekilde tanımlayabilirsiniz, örneğin proteinin serbest enerjisini en aza indirme veya Go'da kazanma gibi, böylece sistem gradyan çıkışı yapabilir. Üçüncüsü, yeterli veriye sahip olun veya sentetik verilerin bol miktarda üretilmesini sağlayan bir simülatörünüz olsun.

Bu üç koşul karşılanıyorsa, o zaman şu andaki yöntemlerle oldukça ileriye gidebilir, ihtiyacınız olan o iğneyi samanlıkta bulabilirsiniz. İlaç keşfi de aynı bir mantıkla çalışır: bu hastalığı tedavi edebilecek bir bileşik varsa ve yan etkisi yoksa, fizik kurallarının buna izin verdiğini varsayarsak, tek sorun onu nasıl verimli ve uygulanabilir bir şekilde bulacağımızdır. Bence AlphaFold, bu tür sistemlerin geniş arama alanlarında bu tarz bir iğneyi bulabilme yeteneğine sahip olduğunu ilk kez kanıtladı.

Gary Tan: Bir seviye yükselmek istiyorum. Bu yöntemlerle insanlığın AlphaFold'u yarattığını konuşuyoruz, ancak bir meta seviyesi daha var, insanlar AI'yı kullanarak olası hipotez uzayını keşfettiler. AI sistemlerinin gerçek bilimsel akıl yürütme yapabilme yetisine ne kadar yakınız (sadece veri üzerinde desen eşleştirmek değil)?

Demis Hassabis: Bence çok yakınız. Bu tür genel sistemler üzerinde çalışıyoruz. AI co-scientist adında bir sistemimiz var, ayrıca AlphaEvolve gibi algoritmalar da var, Gemini temeline kıyasla daha ileri şeyler yapabiliyor. Tüm öncü laboratuvarlar bu yönde keşifler yapıyor.

Ancak şu ana kadar, ben kişisel olarak, bu tür sistemlerin gerçekten büyük bir bilimsel keşif yaptığını görmedim. Yakında olacağını düşünüyorum. Belki önce bahsettiğimiz yaratıcılıkla ilgili olacak, gerçekten bilinen sınırların ötesine geçiyor olacak. Bu seviyeye gelindiğinde, bu artık desen eşleştirmesi olmayacak çünkü eşleştirilecek bir desen olmayacak. Ayrıca tamamen dışadönük de değil, daha ziyade bir tür benzetimsel akıl yürütme (analogical reasoning) olacak, bu tür sistemlerin henüz bu yetiye sahip olmadığını düşünüyorum ya da onları doğru şekilde kullanmadığımızı düşünüyorum.

Bilim alanında sıklıkla söylediğim bir kriter, gerçekten ilginç bir hipotez ortaya koyabiliyor mu, sadece birini doğrulamıyor mu? Çünkü sadece bir hipotezi doğrulamak bile çok büyük bir olay olabilir, örneğin Riemann hipotezini kanıtlamak veya bir bin yıl ödüllü sorunu çözmek gibi, belki de bu adımları atabilme konusunda sadece birkaç yıl kaldı.

Bunun daha da zor olanı, yeni bir dizi bin yıl ödüllü soru öne sürebilmek ve en iyi matematikçilerin aynı derecede derin ve bir ömür boyu sürecek bir araştırmaya değer bulmalarını sağlayabilmek. Bence bu bir sonraki seviyede daha da zor, şu anda bunu nasıl yapacağımızı bilmiyoruz. Ancak bu sihir değil diye düşünüyorum, bu sistemlerin nihayetinde bunu başarabileceğine inanıyorum, belki bir veya iki şey daha eksik.

Test etmek için kullanabileceğimiz bir yol, bazen onu "Einstein testi" olarak adlandırıyorum, yani 1901'deki bilgiyle bir sistem eğitebiliyor musunuz, ardından Einstein'ın 1905'te yaptığı o bulguları bağımsız olarak çıkarabiliyor mu, örneğin özgül görelilik ve diğer o yılki makaleleri. Bence bu testi gerçekten yapmalı, tekrar tekrar denemeli ve ne zaman başarılı olabileceğimizi görmeliyiz. Bir kez başarıldığında, bu sistemler gerçekten yeni bir şeyler icat etmeye çok yaklaşmış olacaklar.

İş Kurma Tavsiyesi

Gary Tan: Son soru. Burada bulunan birçok kişi derin teknik geçmişe sahip ve sizin gibi ölçekte işler yapmayı düşünüyorlar, siz küresel olarak en büyük yapay zeka araştırma kuruluşlarından birisiniz. AGI araştırmasının en önünden geldiniz, şu anda bildiğiniz ancak 25 yaşındayken bilmenizi umduğunuz bir şey var mı?

Demis Hassabis: Aslında bazı kısımlarını zaten konuştuk. Zor soruların peşinden gitmenin ve basit soruların peşinden gitmenin aslında zorluk olarak çok farklı olmadığını fark edeceksiniz, sadece zor olanın şekli farklı. Farklı şeylerin farklı zorlukları vardır. Ama hayat çok kısa, enerji sınırlıdır, bu yüzden yapmadığınız takdirde gerçekten kimse yapmayacak türden bir şeye enerjinizi harcamak daha iyi olabilir. Bu standartı kullanarak seçim yapın.

Bir diğer nokta, önümüzdeki yıllarda disiplinlerarası kombinasyonların daha yaygın hale geleceğini düşünüyorum, yapay zeka disiplinlerarasını daha da kolaylaştıracak.

Son olarak, AGI sürecinize bağlı olarak değişecektir. Benim AGI zaman çizelgem 2030 civarında. Bugün derin teknoloji bir proje başlatırsanız, genellikle on yıllık bir yolculuğu ifade eder. Bu durumda, AGI'nın ortasında belireceği gerçeğini planınıza dahil etmelisiniz. Bu ne anlama geliyor? Kesinlikle kötü bir şey olmak zorunda değil, ancak bunu düşünmeniz gereken bir faktördür. Projeleriniz AGI'dan faydalanabilir mi? AGI sistemi projenizle nasıl etkileşime girecek?

AlphaFold ve genel yapay zeka sistemleri arasındaki ilişkiye geri dönersek, öngörebildiğim bir senaryo şu şekildedir: Gemini, Claude veya benzeri genel sistemler gibi genel sistemler, AlphaFold gibi özel sistemleri bir araç olarak çağırır. Her şeyi devasa tek bir