Video Başlığı: Jensen Huang: - Nvidia'nın hendek koruyucu hendeği devam edecek mi?
Video Yazarı: Dwarkesh Patel
Çeviri: Peggy, BlockBeats

Editörün Notu: Dış dünya hala "Nvidia'nın hendek koruyucu hendek koruyucu kaynağından mı kaynaklanıyor?" tartışmalarını yaparken, bu konuşma, gerçekten çoğaltılması zor olanın çipin kendisi değil, "Elektronik'i Jetona dönüştürme" yeteneğinin tüm sistem gücü olduğunu düşünüyor - yani hesaplama mimarisi, yazılım ekosistemi ve geliştirici ekosistemi arasındaki işbirliği.

Bu makale, Dwarkesh Patel'in Jensen Huang (黄仁勋) ile yaptığı görüşmeden derlenmiştir. Dwarkesh Patel, günümüzde Silikon Vadisi'nin en dikkat çeken teknoloji podcast sunucularından biridir, Dwarkesh Podcast adlı YouTube kanalını yönetmektedir ve derinlemesine araştırma türü röportajlarla tanınmıştır, uzun yıllardır yapay zeka araştırmacıları ve teknoloji endüstrisinin önde gelen kişileriyle konuşmaktadır.

Sağda Dwarkesh Patel, solda Jensen Huang

Bu çerçevede, bu görüşme üç düzeyden anlaşılabilir.

Birincisi, Teknoloji ve Endüstri Yapısının Değişimi.
Nvidia'nın avantajı yalnızca donanım performansından ibaret değildir, aynı zamanda CUDA'nın taşıdığı geliştirici ekosistemi ve hesaplama yığını etrafında oluşan yol bağımlılığında yatmaktadır. Bu ekosistemde, hesaplama gücü artık tek değişken olmadığı gibi, algoritma, sistem mühendisliği, ağ ve enerji verimliliği AI'nın ilerleme hızını birlikte belirlemektedir. Bu durum aynı zamanda önemli bir değerlendirmeyi de ortaya çıkarmaktadır: Yazılım AI tarafından basitçe "ticarileştirilmeye"cek. Aksine, Agent'ın yaygınlaşmasıyla birlikte, araç çağrıları katlanarak artacak, yazılımın değeri daha da büyüyecektir.

İkincisi, İşletme Sınırları ve Strateji Seçimi.
Sürekli genişleyen bir AI endüstri zinciriyle karşı karşıya kalan Nvidia, "her şeyi yapmak, ancak her şeyi yapmamak" seçimini yapmıştır. Şirket, bulut bilişime girmez ve aşırı dikey bütünleşme gerçekleştirmez. Bunun yerine, yatırım yapar ve ekosistemi desteklerek genel pazarı büyütür. Bu kısıtlılık, hem kilit kontrolü korumasını sağlar hem de ekosistemin yerine geçen bir kurum haline gelmekten kaçınarak daha fazla katılımcıyı teknoloji ekosistemine dahil eder.

Üçüncüsü, Teknoloji Yayılımı ve Endüstriyel Yapıdaki Farklar.
Görüşmedeki en gergin kısım, belirli bir sonuçta değil, "risk" kavramının nasıl anlaşılacağıyla ilgilidir. Bir bakış açısı, hesaplama gücünün getirdiği ilk-mover avantajını vurgularken, diğeri teknoloji yayılım sürecinde ekosistemin ve standartların uzun vadeli sahipliğine daha fazla odaklanmaktadır. Kısa vadeli yetenek farklılıklarına kıyasla, belki de daha da önemli olan soru şudur: Gelecekteki AI modelleri ve geliştiriciler, hangi teknoloji ekosistemi üzerinde çalışacaklar?

Diğer bir deyişle, bu rekabetin son aşaması, yalnızca "daha güçlü bir modeli kim daha önce oluşturacak" değil, aynı zamanda "modelin işletildiği altyapıyı kimin tanımladığı"dır.

Bu anlamda, NVIDIA'nın rolü artık yalnızca bir çip şirketi değil, AI çağında "altta yatan işletim sistemi sağlayıcısı"dır — her ne kadar hesaplama gücü nasıl yayılsa da, değer yaratma yolunun hala kendi etrafında dönmesini sağlamaya çalışmaktadır.

Aşağıdaki metin içeriği asıl metindir (okunabilirlik anlamında orijinal içerik düzenlenmiştir):

Çok Uzun; Okunmadı

· NVIDIA'nın hendek savunması "çipe" değil, "elektrondan Token'a tam yığın sistem yeteneği"ndedir. Esas olan donanım performansı değil, hesaplamayı değere dönüştürme tam yığın yeteneği (mimari + yazılım + ekosistem).

· CUDA'nın temel üstünlüğü, bir araç değil, küresel olarak en büyük AI geliştirici ekosistemidir. Geliştiriciler, çerçeve ve modeller, hepsi aynı teknoloji yığınına bağlıdır ve değiştirilmesi zor bir yolu bağımlılık haline getirir.

· AI rekabetinin anahtarı yalnızca hesaplama gücü değil, "hesaplama yığını × algoritma × sistem mühendisliği" kombinasyonudur. Mimari, ağ, enerji verimliliği, yazılım işbirliğinin getirdiği artış, yalnızca üretim ilerlemesinden çok daha fazladır.

· Hesaplama gücü engeli kısa vadeli bir sorundur, arzın talep sinyali tarafından 2-3 yıl içinde tamamlanacağı beklenmektedir. Gerçek uzun vadeli kısıtlama çip değil, enerji ve altyapıdır.

· AI yazılımı ürünleştirilmeyecektir, aksine Agent patlaması tarafından araç kullanımında üssel bir artış getirilecektir. Gelecekte yazılım ucuzlamayacak, ancak yazılım çağrı sayıları patlayacak.

· Bulut yapmamak NVIDIA'nın temel stratejisidir: "gereken her şeyi yapmak" ancak tüm değer zincirini yutmamak. Yatırım ve ekosistem desteği aracılığıyla dikey bütünleme yerine, genel pazarı genişletmek.

· Gerçek stratejik risk, rakibin hesaplama gücünü elde etmesi değil, küresel AI ekosisteminin artık Amerikan teknoloji yığınına dayanmıyor olmasıdır. Model ve geliştiricinin taşınması durumunda, uzun vadeli teknik standartlar ve endüstri liderliği değişecektir.

Röportaj İçeriği

NVIDIA Hendek Savunması Nerede: Tedarik Zinciri mi, yoksa "Elektrondan Token'a" Kontrolü mü?

Dwarkesh Patel (Sunucu):

Gördük ki, birçok yazılım şirketinin değerlemesinde düşüşler yaşandı, çünkü herkes AI'ın yazılımı standart bir ürüne dönüştüreceğini bekliyordu. Biraz safça anlaşılabilir bir başka olasılık şudur: Bak gör, tasarım dosyası (GDS2) TSMC'ye veriliyor, TSMC mantıksal bir çip yapımından, yonga üretimine, anahtar devre oluşturmaya sorumlu, ardından SK Hynix, Micron, Samsung tarafından üretilen HBM ile paketleniyor ve nihayetinde ODM'e monte edilecek bir makine çerçevesi haline getiriliyor.

Not: HBM (Yüksek Bant Genişliği Belleği) yüksek performanslı hesaplama ve yapay zeka için tasarlanmış gelişmiş bir bellek teknolojisidir; ODM (Orijinal Tasarım Üreticisi) ürünleri sadece üretmekle kalmayıp aynı zamanda tasarlayan bir dış kaynak kullanımı firmasıdır.

Bu nedenle, bu açıdan bakıldığında, NVIDIA aslında yazılım yapıyor ve üretim başkası tarafından gerçekleştiriliyor. Eğer yazılım ürünleştirilirse, o zaman NVIDIA da ürünleştirilir.

Jensen Huang (NVIDIA CEO):
Ancak temelde, bir süreç olmalı, elektroniği bir belirtece dönüştürmeli. Elektronikten belirtece, ve bu belirtecin zamanla daha da değerli hale gelmesini sağlamalısınız, bu dönüşümü tamamen ürünleştirmenin oldukça zor olduğunu düşünüyorum.

Elektronikten belirtece dönüşüm, zaten son derece olağanüstü bir süreçtir. Bir belirteci daha değerli hale getirmek, bir molekülü diğerinden daha değerli hale getirmek gibi, bir belirteci diğerinden daha değerli hale getirmektir.

Bu süreçte, bir belirtecin değerine sahip olması için büyük miktarda sanat, mühendislik, bilim ve icat içerir.

Açıkça görüyoruz ki, tüm bunların gerçekte nasıl gerçekleştiğini anlık olarak gözlemliyoruz. Bu nedenle bu dönüşüm süreci, üretim süreci ve içerdiği tüm sinyaller aslında tam olarak anlaşılmış değil, bu yolculuk henüz bitmedi. Bu nedenle böyle bir durumun meydana geleceğine inanmıyorum.

Ta ki onu daha etkin hale getirene kadar. Aslında, bir önceki şekilde sorunu tanımladığınızı söylemek, benim NVIDIA hakkındaki bir zihin modelimdir: Giriş elektroniktir, çıkış belirteçtir, ikisinin arasındaki şey NVIDIA'dır.

Yapmamız gereken, "gereksiz şeyleri yaparken mümkün olduğunca az gereksiz şeyler yapmak" ve bu dönüşümü gerçekleştirmek ve ona olağanüstü bir yetenek kazandırmak için çalışmaktır.

Bahsettiğim "mümkün olduğunca az yapmak", yapmamız gerekmeyen her şeyi başkalarıyla iş birliği yaparak ekosistemimize dahil etmek anlamına gelir. Eğer bugün NVIDIA'ya bakarsanız, yukarı akış ve aşağı akış tedarik zincirinde belki de en büyük ölçekli iş birliği ekosistemlerinden birine sahibiz. Bilgisayar üreticilerinden, uygulama geliştiricilere ve model geliştiricilere kadar—AI'ı bir "beş katmanlı pasta" gibi görebilirsiniz. Ve bu beş katmanın her birinde bir ekosistem stratejimiz var.

İlgili Linkler: "Jensen Huang'un NVIDIA Hakkındaki Son Makalesi: AI'ın "Beş Katmanlı Pasta""

Yaptığımız şeyi en aza indirmeye çalışıyoruz, ancak yapmamız gereken kısım aslında son derece zor. Ve o kısmın ticarileştirileceğini düşünmüyorum.

Aslında, kurumsal yazılım şirketlerinin temelde "araç üretimi" yaptığını da düşünmüyorum. Ancak gerçek şu ki, bugün çoğu yazılım şirketi gerçekten araç sağlayıcıdır.
Tabii ki istisnalar da var, bazıları iş akışı sistemlerinin kodlamasını ve sağlamlaştırmasını yapıyor, ancak birçok şirket temelde araç şirketidir.

Örneğin Excel bir araçtır, PowerPoint bir araçtır, Cadence araç üretir, Synopsys da bir araç üretir.

Jensen Huang:
Gördüğüm trend ise pek çok insanın görüşünün aksine. Benim gördüğüm, ajan sayısının üstel olarak artacağı ve araç kullanıcılarının sayısının da üstel olarak artacağıdır.

Çeşitli araçların çağrı örnekleri sayısı da muhtemelen büyük ölçüde artacaktır. Örneğin Synopsys Design Compiler'ın kullanım örneği, büyük olasılıkla önemli ölçüde artacaktır.
Birçok ajan yer kaplayıcı, yerleşim aracı, tasarım kuralı kontrol aracı gibi araçları kullanacaktır.

Bugün, mühendis sayısına bağlıyız; fakat yarın, bu mühendisler büyük miktarda ajan tarafından desteklenecek, tasarım alanını keşfetmek için daha önce görülmemiş yollarla ilerleyeceğiz. Bugün bu araçları kullandığınızda, bu değişiklik çok açık bir şekilde ortaya çıkacaktır.

Altyapı sağlayıcıları, bu araçların kullanımıyla patlayıcı büyümeyi sağlayacaktır. Bu durum henüz gerçekleşmedi çünkü mevcut ajanlar henüz araçları kullanmada yeterince yetenekli değil.

Yani, ya bu şirketler kendileri ajan oluşturacak, ya da ajanlar kendileri yeterince güçlenip bu araçları kullanabilecek duruma gelecek. Sonuç olarak, nihai olarak ikisinin kombinasyonu olacağını düşünüyorum.

Dwarkesh Patel:
En son açıklamanızda hatırladığım kadarıyla, sınır bileşeni, bellek, kapsülleme gibi alanlarda yaklaşık 100 milyar dolarlık bir satın alma taahhüdünüz var. Ancak SemiAnalysis raporuna göre, bu rakamın 250 milyar dolara çıkabileceği söyleniyor.

Bir yorum, Nvidia'nın kalesinin, gelecek birkaç yıl boyunca bu nadir bulunan bileşenlerin tedarikini kilitlemiş olmasıdır. Başka bir deyişle, başkaları belki bir hızlandırıcı yapabilir, ancak yeterli belleği alabilirler mi? Yeterli mantık yongasını alabilirler mi?

Bu, Nvidia'nın birkaç yıl boyunca temel avantajı mı?

Jensen Huang:
Bunu yapabileceğimiz ancak başkalarının yapmasının çok zor olduğu bir şeydir. Yukarı akışta büyük taahhütlerde bulunabilme nedenimiz, bir kısmı açık olan bahsettiğiniz bu satın alma taahhütleri; diğer bir kısmı ise gizli olan kısımdır.

Örneğin, yukarı akıştaki birçok yatırım aslında tedarik zinciri ortağımız tarafından yapıldı, çünkü onların CEO'suna şunu söylerim: Sana sektörün ne kadar büyük olacağını anlatayım, neden böyle olacağını açıklayayım, seninle birlikte senaryo oluşturalım, gördüğüm şeyi sana anlatayım.

Bu tür bir süreçle - bilgi iletimi, vizyonu canlandırma, fikir birliği oluşturma - yukarı akıştaki farklı sektörlerin CEO'larıyla aynı hizada oluyorum, böylece onlar bu yatırımları yapmaya istekli hale geliyorlar.

O zaman neden bana yatırım yapmaya istekli oluyorlar, başka birine değil? Çünkü biliyorlar ki, üretim kapasitelerini benim satın alabileceğim ve benim aşağı akışımla bunu sindirebileceğim güce sahibim. NVIDIA'nın aşağı akış talebi ve tedarik zinciri ölçeği bu kadar büyük olduğundan, onlar yukarı akışta yatırım yapmaya istekli oluyorlar.

GTC'ye bak; konferansın ölçeği birçok insanı etkiliyor. Temelde, bu, endüstrinin bir araya geldiği bir 360 derece AI evrenidir. İnsanlar bir araya geliyor çünkü birbirlerini görmeye ihtiyaçları var. Onları bir araya getiriyorum, böylece yukarı akış aşağı akışı, aşağı akış yukarı akışı görebiliyor ve aynı zamanda herkes AI'ın ilerlemesini görebiliyor.

Daha da önemlisi, AI doğmuş şirketler ve girişimlere ulaşabiliyorlar, gerçekleşen yenilikleri görebiliyorlar ve bu nedenle benim yaptığım değerlendirmeleri kendi gözleriyle doğrulayabiliyorlar.

Yani, tedarik zincirimiz ve ekosistem ortaklarımıza önümüzdeki fırsatları doğrudan veya dolaylı olarak açıkladım. Birçok insan, benim açılış konuşmamın ürün duyurularıyla dolu geleneksel bir etkinlik gibi olmadığını, bir kısmının „ders verme“ gibi geldiğini söyleyebilir. Oysa aslında tam da amacım buydu.

Ürün ne olacağını, neden olacağını, ne zaman olacağını, ne kadar büyük olacağını anlamalarını sağlamam gerekiyor. Ve onlar da bu sorunları benim gibi sistemli bir şekilde çözebilmeliler.

Yani bahsettiğiniz „savunma seti“ gerçekten var. Eğer bu pazar önümüzdeki yıllarda trilyon dolarlık bir ölçeğe ulaşırsa, onu destekleyecek bir tedarik zinciri oluşturabileceğimizi biliyoruz. Nakit akışı gibi, tedarik zinciri de akıcı ve dönüşümlüdür. Bir mimari işletmenin dönüşümlü hızı yeterli değilse, kimse onun için tedarik zinciri oluşturmaz. Bu ölçeği sürdürebilmemizin nedeni, aşağı akış talebinin son derece güçlü olması ve herkesin bunu görebilmesidir.

İşte bu nokta, bize şu anda bu işleri yapacak ölçekte olmamızı sağlıyor.

Dwarkesh Patel
Aslında biraz daha derinlemesine anlamak istiyorum, yukarı akış bu hıza yetişebilecek mi? Geçmiş yıllarda geliriniz neredeyse her yıl ikiye katlandı, dünya çapında sağladığınız hesaplama gücü ölçeği üç katına çıktı.

Jensen Huang：
Ve bu boyutta devam ediyor.

Dwarkesh Patel
Evettinize katılıyorum. Yani, mantık çiplerine baktığınızda, örneğin, siz Tayvanlı TSMC'nin N3 işlemi müşterilerinden birisiniz, ayrıca N2'de de önde gelen müşterilerden birisisiniz.
Bazı analizlere göre, bu yıl yapay zeka muhtemelen N3 üretim kapasitesinin %60'ını oluşturacak, gelecek yıl bu oranın %86'ya ulaşabileceği dahi söyleniyor.

Not: N3, TSMC'nin 3 nanometrelik (3nm) işlem düğümüne işaret eder, Tayvanlı TSMC'nin mevcut en gelişmiş yonga üretim teknolojilerinden biri olarak anlaşılabilir.

Bu kadar büyük bir paya sahipken, nasıl katlanarak büyümeye devam edebiliyorsunuz? Ve yılda nasıl iki katına çıkabiliyorsunuz? Bir noktada, yapay zeka hesaplama gücünün büyümesinin, yukarıda sınırlar olması nedeniyle yavaşlaması gerektiğimiz bir aşamaya girdik mi? Bu sınırlamaları atlatmanın bir yolu var mı? Her yıl nasıl iki katı aşkın sayıda yongaları tesise dönüştürebiliriz?

Jensen Huang:
Bazı anlarda, anlık talep gerçekten tüm endüstri arzını aşabilir, hem yukarıda hem de aşağıda. Ve bazı durumlarda, hatta tesisatçı sayısı tarafından kısıtlanabiliriz - bu gerçekten yaşanmış bir durumdur.

Dwarkesh Patel:
O zaman gelecek yıl GTC'ye tesisatçıları davet etmeliyiz.

Jensen Huang:
Evet, aslında bu iyi bir durum. Bir pazarda olmayı istersiniz: Anlık talep, tüm endüstri toplam arzından fazladır. Tersi tabii ki pek iyi değil.

Eğer iki taraf arasında ciddi bir uçurum varsa, belirli bir aşama, belirli bir bileşen açıkça bir engel haline geldiğinde, tüm endüstri onu çözmek için bir araya gelir. Mesela, şu anda CoWoS hakkında pek konuşmadığımızı fark ettim. Nedeni, geçtiğimiz iki yılda büyük ölçekli yatırım ve genişleme yaptık ve bu katlanarak arttı.

Şimdi genel olarak, durumun oldukça iyi olduğunu düşünüyorum. TSMC de artık, CoWoS'un mantık çipi ve bellek talebi artışını takip etmesi gerektiğinin farkında. Bu nedenle CoWoS'u genişletiyorlar, aynı zamanda gelecekteki gelişmiş paketleme teknolojilerini, ve aynı hızla mantık çipleriyle genişletiyorlar.

Bu çok önemli çünkü CoWoS ve HBM bellek, eskiden daha çok "özel yetenekler" gibiydi, ancak artık öyle değil. Şimdi herkes, bunların ana akım hesaplama teknolojisinin bir parçası olduğunun farkında.

Aynı zamanda, artık daha geniş bir tedarik zincirini etkileme kapasitemiz var. Geçmişte, Yapay Zeka Devrimi henüz başlamışken, anlattığımız bu değerlendirmeler aslında beş yıl önce yapılmıştı.

Bazı insanlar o zaman inandı ve yatırım yaptı, örneğin Micron'un Sanjay ekibi. O toplantıyı hala hatırlıyorum, o zaman geleceğin ne olacağını, neden olacağını ve bugünkü bu sonuçların tahminlerini çok net bir şekilde anlattım. O zaman onlar büyük ölçekli yatırım yapmayı seçtiler, biz de onlarla iş birliği yaptık. LPDDR, HBM vb. birçok yönde yatırım yaptılar ve bu onlar için açıkça büyük getiri sağladı. Bazı şirketler ise daha sonra takip etti, ama şimdi herkes bu aşamada.

Dolayısıyla, her teknoloji nesli, her tekno-ek seviye büyük ilgi görecektir diye düşünüyorum. Ve şu anda, bu tür engelleri yıllar öncesinden "önceden" tahmin ediyoruz. Örneğin Lumentum, Coherent ve tüm silikon fotonik ekosistemi ile olan iş birliğimiz. Geçtiğimiz yıllarda, aslında tüm ekolojiyi ve tedarik zincirini yeniden şekillendirdik.

Silikon fotonik alanında, TSMC etrafında kapsamlı bir tedarik zinciri oluşturduk, onlarla teknoloji geliştirmek için iş birliği yaptık, birçok yeni teknolojiyi icat ettik ve bu patentleri tedarik zincirine lisansladık, ekosistemi açık tuttuk. Yeni teknolojiler, iş akışları, çift taraflı algılama dahil olmak üzere yeni test cihazları (çift taraflı algılama dahil) icat ederek, ilgili şirketlere yatırım yaparak, üretimlerini artırmalarına yardımcı olarak tedarik zincirine hazırlık yaptık.

Bu yüzden görebileceğiniz gibi, bu ekolojiyi etkin bir şekilde şekillendiriyoruz, tedarik zincirinin gelecekteki ölçeğe destek olmasını sağlıyoruz.

Dwarkesh Patel:
Dinlediğime göre bazı engeller diğerlerine göre daha kolay çözülebilir. Örneğin, CoWoS'u genişletmek şu an için diğerlerinden daha zor gibi görünüyor

Jensen Huang:
Ben aslında en zor örneği verdim.

Dwarkesh Patel:
Hangisi?

Jensen Huang:
Tesisatçı. Evet, gerçekten öyle. Şimdi bahsettiğim şey en zor olanıydı - tesisatçı ve elektrikçi. Bu nedenle, bu tür "kıyametçi" bazı insanların söylemlerinden biraz endişeliyim, sürekli olarak işlerin kaybolacağı, pozisyonların değiştirileceği konuşmaları yaparlar. Eğer bu yüzden insanlara yazılım mühendisi olmamalarını tavsiye edersek, o zaman gelecekte gerçekten yazılım mühendisi eksikliği yaşanır.

Benzer tahminler, on yıl önce de var oldu. O zamanlar bazı insanlar "ne yaparsanız yapın, radyoloji uzmanı olmayın" dediler. Hala o videoları çevrimiçi bulabilirsiniz, radyoloji uzmanlarının ilk işsiz kalacakları meslek olacağını ve dünyanın artık radyoloji uzmanlarına ihtiyaç duymayacağını söylediler. Ancak gerçek şu ki, şimdi radyoloji uzmanı eksikliği yaşıyoruz.

Dwarkesh Patel:
Tamam, o zaman bir önceki soruya geri dönelim: Bazı aşamalar genişletilebilir, bazıları değil. Yani, mantıksal yonga kapasitesi nasıl iki katına çıkarılabilir? Sonuçta, gerçek engel burada, hem bellek hem de mantık sınırlayıcı unsurlardır. Peki ya EUV lithography makinesi? Sen nasıl yılda iki katına çıkarırsın?

Jensen Huang：
Bunlar başarılması imkansız şeyler değil. Gerçekten de, hızlı bir şekilde üretimi genişletmek kolay değil, ancak bu tür şeyleri iki veya üç yıl içinde başarmak aslında zor değil. Anahtar, net bir talep sinyaline sahip olmaktır. Bir kez bir tane üretebildiğinizde, on tane de üretebilirsiniz; on tane üretebildiğinizde, bir milyon tane de üretebilirsiniz. Yani bu şeyler aslında temelde çok zor değil.

Dwarkesh Patel：
O zaman bu tür bir kararı tedarik zincirine ne kadar derin ileteceksiniz? Örneğin ASML gibi bir şirkete gidecek misiniz ve şöyle diyecek misin: Gelecek üç yıla baktığınızda, NVIDIA'nın gelirini 20 trilyon dolara çıkarmak için daha fazla EUV litografi makinesine ihtiyacımız var mı?

Jensen Huang：
Bazılarını doğrudan yaparım, bazılarını dolaylı olarak desteklerim. Eğer TSMC'yi ikna edebilirsem, o zaman ASML de doğal olarak ikna olur. Bu yüzden kritik darboğaz noktalarını belirlememiz gerekir. Ancak TSMC'nin bu trende inandığı sürece, birkaç yıl sonra yeterli EUV ekipmanınız olacaktır.

Demek istediğim, hiçbir darboğazın iki veya üç yıldan uzun süreceği yok, hiçbiri.

Aynı zamanda hesaplama verimliliğimizi de arttırıyoruz. Hopper'dan Blackwell'e, yaklaşık olarak 10 kat, 20 kat hatta bazı durumlarda 30 ila 50 kat artış sağladık. Ayrıca sürekli olarak yeni algoritmalar geliştiriyoruz. CUDA yeterince esnek olduğundan, üretimi genişletirken verimliliği artırmak için çeşitli yeni yöntemler geliştirebiliyoruz.

Yaptığımız bu şeyler beni asla endişelendirmiyor. Beni gerçekten endişelendiren şey, aşağı akışımızın dışındaki faktörler, mesela enerji politikaları. Enerjiniz olmadan genişleyemezsiniz; enerjiniz olmadan bir endüstri inşa edemezsiniz; enerjiniz olmadan tamamen yeni bir imalat endüstrisi oluşturamazsınız.

Şu anda Amerika'nın yeniden sanayileşmesini desteklemek istiyoruz, yonga üretimini, bilgisayar üretimini geri getirmek istiyoruz, aynı anda elektrikli araba, robot gibi yeni endüstriler inşa etmek istiyoruz. Bir yapay zeka fabrikası kurarken, bunların hepsi enerji olmadan yapamayacağımız şeylerdir ve enerjiyle ilgili altyapıların inşa süreci çok uzundur. Buna karşılık, yonga kapasitesini artırmak iki üç yıllık bir sorundur; CoWoS kapasitesini artırmak da iki üç yıllık bir sorundur.

Dwarkesh Patel：
Çok ilginç. Benim röportaj yaptığım bazı konukların verdiği kararların tam tersi olduğunu hissediyorum. Sadece bu konuda, gerçekten yeterli teknik bilgiye sahip değilim.

Jensen Huang：
Ama güzel olan şu ki, şu anda uzmana karşı konuşuyorsun.

Google'ın TPU'su NVIDIA'nın konumunu sarsar mı?

Dwarkesh Patel：
Evet, doğru. Biraz rekabetçinizden bahsetmek istiyorum. TPU'ya baktığımızda, şu anda küresel ilk üç büyük modelden ikisi —Claude ve Gemini— TPU ile eğitilmiş. Bu, Nvidia için ne anlama geliyor?

Not: TPU (Tensor Processing Unit, Tensor İşlem Birimi), Google'ın özellikle derin öğrenme olmak üzere yapay zeka için tasarladığı özel bir yonga türüdür.

Jensen Huang:
Yaptığımız tamamen farklı bir şey. Nvidia'nın inşa ettiği şey, "hızlandırılmış hesaplama"nın (accelerated computing) kendisi, Tensor İşlem Birimi (TPU) değil.

Hızlandırılmış hesaplama çeşitli görevler için kullanılabilir, moleküler dinamikler, kuantum chromodinamikleri gibi, veri işleme, veri çerçeveleri, yapılandırılmış veri, yapılandırılmamış veri için, akışkanlar dinamiği, parçacık fiziği, elbette yapay zeka da dahil. Dolayısıyla, hızlandırılmış hesaplamanın uygulama alanı çok daha geniştir.

Şu anda herkesin tartışması yapay zeka üzerinde yoğunlaşıyor, yapay zeka gerçekten çok önemli, etkisi de büyük, ancak "hesaplama"nın kapsamı yapay zekadan çok daha geniştir. Nvidia'nın yaptığı şey, hesaplamayı genel amaçlı hesaplamadan yeniden hızlandırılmış hesaplamaya dönüştürmektir. Pazar kapsamımız, TPU veya diğer özel hızlandırıcılardan çok daha geniştir.

Pozisyonumuza baktığınızda, çeşitli uygulamaları hızlandırabilen tek şirketiz. Geniş bir ekosisteme sahibiz, çeşitli çerçeveler ve algoritmalar Nvidia platformunda çalışabilir. Ayrıca, bilgisayar sistemimiz "başkaları tarafından işletilecek şekilde" tasarlanmıştır. Herhangi bir işletmeci, sistemimizi kullanarak satın alabilir.

Çoğu özel sistem, başkaları tarafından kullanılmak üzere değil, temelde kendi kendine işletmeniz gerekir, çünkü başlangıçta yeterince esnek olmayacak şekilde tasarlanmamışlardır. İşte bu yüzden herkesin işletebileceği bir sistemimiz olduğundan, Google, Amazon, Azure, OCI dahil olmak üzere tüm ana platformlara girdik.

Zorlamaya yönelik işletmeler için sistem kiralama ya da kendiniz kullanım için sistem işletiyorsanız, kapsamlı bir çeşitli endüstriye yayılan müşteri ekosistemine sahip olmanız gerekiyor. Kendiniz kullanım için bir sistem işletmeyi tercih ederseniz, elbette size yardımcı olabiliriz. Mesela, Elon'un xAI'si.

Herhangi bir sektörden, herhangi bir şirket işletmecisinin sistemimizi kullanabilmesini sağlayabildiğimiz için, Lilly gibi bir şirket için süper bilgisayar inşa etmek için kullanabilir, bilimsel araştırma ve ilaç keşfi için kullanabiliriz. Onlara kendi süper bilgisayarlarını işletmelerine yardımcı olabilir ve bunu ilaç geliştirme ve biyobilim alanındaki çeşitli uygulamalarda hızlandırabiliriz ve bu alanlardan biri de bizim hızlandırabileceğimiz alanlardır.

Bu nedenle, geniş bir uygulama yelpazesini kapsayabiliriz, ancak TPU bunu başaramaz. NVIDIA'nın geliştirdiği CUDA da kendisi oldukça başarılı bir tensor işleme platformu olarak hizmet verebilir, ancak bu platform bununla sınırlı değildir, veri işleme, hesaplama, yapay zeka vb. gibi tüm yaşam döngüsünü kapsar. Bu nedenle pazar fırsatımız çok daha büyük ve kapsamımız daha geniştir. Ayrıca şu anda neredeyse tüm uygulama türlerini küresel olarak desteklediğimizden, NVIDIA sistemlerini dünyanın her yerine dağıtabilir ve mutlaka kullanacak müşterilerin olduğundan emin olabilirsiniz.

Bu nedenle, temelde bu tamamen farklı bir şeydir.

Dwarkesh Patel:
Bu soru biraz uzun olacak.

Şu anda elde ettiğiniz gelir büyük bir başarı, ve bu gelirler çoğunlukla ilaç veya kuantum hesaplama kaynaklı değil. Her çeyrekte 600 milyar dolar kazanmıyorsunuz, AI teknolojisi eşi benzeri görülmemiş bir hızda ilerleyen ve benzersiz bir teknoloji olduğu için kazanıyorsunuz.

O zaman soru şu: Sadece AI'ı düşünürsek, en uygun çözüm nedir? Ben alt seviyede değilim, ancak bazı AI araştırmacısı arkadaşlarım ile konuştum; onlar şöyle diyecektir: TPU kullandığımda, bu büyük bir dizi, matris çarpımı için çok uygundur; GPU ise daha esnek olup, geniş dalgalı işlem ve düzensiz bellek erişimi için uygundur.

Ancak AI'ı düşünüyorsanız, temelde tekrarlanan, çok tahmin edilebilir bir matris çarpımı mı değil midir? Yani, warp planlaması, iş parçacığı geçişi, bellek bankası vb. gibi çip alanını işgal eden bu tür özelliklere gerek duymazsınız. Bu nedenle, TPU, mevcut güç talebi ve gelir artışında, ana uygulama senaryoları için son derece optimize edilmiştir.

Bu görüşe nasıl bakıyorsunuz?

Jensen Huang:
Matris çarpımı gerçekten AI'ın önemli bir parçasıdır, ancak AI'ın tamamı değildir.

Eğer yeni bir dikkat mekanizması ortaya koymak istiyorsanız veya hesaplamayı farklı bir şekilde yapmak istiyorsanız; eğer yeni bir mimari tasarlamak istiyorsanız, örneğin hibrit SSM; difüzyonu ve otomatik özyinelemeyi birleştiren bir model oluşturmak isterseniz — ihtiyacınız olan şey, genel amaçlı programlanabilir bir mimari olacaktır ve biz aklınıza gelebilecek her şeyi çalıştırabiliriz.

Bu bizim avantajımızdır, yeni algoritmaların icadını çok daha kolay hale getirir. Bu programlanabilir bir sistem olduğu için ve sürekli olarak yeni algoritmalar icat etmek, AI'ın neden bu kadar hızlı ilerleyebildiğinin nedenidir.

TPU ve diğer tüm donanımlar gibi, Moore Yasası'nın etkisindedir. Moore Yasası'nın yaklaşık olarak her yıl%25 artış getirdiğini biliyoruz. Bu nedenle, 10 kat, 100 kat gibi artışları gerçekleştirmek istiyorsanız, tek yol her yıl algoritmayı ve hesaplama yöntemini temelden değiştirmektir.

Bu, NVIDIA'nın temel avantajıdır.

Blackwell'ın Hopper'a kıyasla büyük ölçüde gelişme kaydetmesini sağlayan şey budur - İlk duyurduğumda 35 kat daha iyi olduğunu söylemiştim - İlk kez Blackwell'ın Hopper'a göre enerji verimliliğini 35 kat artıracağını duyurduğumda, kimse inanmadı.

Sonradan Dylan bir makale yazdı ve aslında benim çok da iddialı olmadığımı, gerçek gelişmenin daha da yaklaşık 50 kat olduğunu söyledi, ve bu tür bir gelişmenin sadece Moores Yasası ile mümkün olmadığını belirtti. Bu sorunu çözmek için kullandığımız yöntem, yeni model yapılarını, MoE gibi, tanıtmaktı ve hesaplamayı paralelleştirmek, çözmek, dağıtılmış işlemeye geçmek ve tüm hesaplama sisteminin genişletilmesini sağlamaktı. Bu alt seviyelere inip, yeni hesaplama çekirdekleri geliştirmek için CUDA kullanma becerisi olmadan, bunları yapmak oldukça zordur.

Not: Dylan Patel, yarı iletken ve yapay zeka altyapısı alanında tanınmış bir analist olup, araştırma kuruluşu SemiAnalysis'in kurucusudur.

Yaptığımız şeyin avantajı şudur: Mimarinin programlanabilirliği ve NVIDIA'nın son derece işbirlikçi bir şirket olarak olması. Hatta bir kısmını NVLink gibi bağlantı mimarisine veya Spectrum-X gibi ağ katmanına boşaltabiliriz. Yani, işlemci, sistem, bağlantı, yazılım kitaplığı, algoritma gibi seviyelerde aynı anda değişiklik yapabiliriz. Tüm bunlar aynı anda gerçekleştirilir. Eğer tüm bunları desteklemek için CUDA olmasaydı, nereden başlayacağımı bile bilmiyorum.

Dwarkesh Patel:

Bu aynı zamanda NVIDIA'nın müşteri yapısı hakkında bir soruyu da beraberinde getiriyor: Gelirinizin %60'ı bu beş büyük hiper ölçekli bulut sağlayıcısından geliyorsa, başka bir dönemde ve farklı türde müşterilerle karşı karşıya kaldığınızda, örneğin deney yapan profesörlere, onlar CUDA'ya çok bağımlı olacaklardır. Diğer bir hızlandırıcıyı kullanamazlar, yalnızca PyTorch + CUDA kullanabilirler ve her şeyin optimize edilmiş olması gereklidir.

Ancak, eğer bu büyük hiper ölçekli bulut sağlayıcılar ise, kendilerinin çekirdek oluşturacak yetenekleri vardır. Aslında, yapmaları gereklidir, son %5 performansı sıkmak için. Anthropic, Google çoğu zaman özel hızlandırıcılar veya TPU ile eğitim yaparlar. Hatta OpenAI dahi GPU kullandığında Triton'u kullanır, şöyle derler: Kendi çekirdeğimiz gerekiyor. Bu yüzden doğrudan CUDA C++ yazacaklar ve cuBLAS, NCCL gibi kitaplıkları kullanmayacaklar, kendi yazılım yığınlarını oluşturacaklar, hatta başka hızlandırıcılara derleyebilecekler.

Yukarıdaki çoğu müşteriniz için gerçekten, gerçekten CUDA'nın yerine kullanılabiliyorlar. Peki CUDA gerçekten AI'nın önünde bulunan bir teknoloji olarak kalma konusunda ne kadar önemli?

Jensen Huang:
İlk olarak, CUDA çok kapsamlı bir ekosistemdir. Herhangi bir bilgisayarda geliştirmeye başlamak istiyorsanız, CUDA ile başlamak oldukça mantıklı bir seçimdir. Çünkü bu ekosistem oldukça kapsamlıdır ve tüm ana akım çerçeveleri destekleriz.

Eğer özel kernel yazmanız gerekiyorsa, örneğin Triton gibi, Triton'un arka planında NVIDIA teknolojilerine büyük katkıda bulunduk, ve çeşitli çerçevelerin daha iyi hale gelmesine memnuniyetle yardımcı oluyoruz. Şu anda Triton, vLLM, SG Lang gibi birçok çerçeve bulunmaktadır.

Son eğitim (post-training) ve reinforcement learning'in gelişmesiyle, bu alan hızla genişlemektedir. Örneğin, Vairal, NeMo RL gibi ve bir dizi yeni çerçeve mevcuttur. Bir mimari üzerinde geliştirme yapacaksanız, CUDA ile başlamanız en mantıklısıdır, çünkü ekosisteminin olgun olduğunu biliyorsunuzdur. Sorunlar ortaya çıktığında, muhtemelen sizin kodunuzda bir sorun vardır, ve alt seviyedeki o yığın kodda değil.

Unutmayın, bu sistemlerin arkasındaki kod miktarı oldukça büyüktür. Bir sistemde bir sorun olduğunda, sorunun sizde mi yoksa hesaplama platformunda mı olduğunu bilmek istersiniz.

Elbette, sorunun sizde ve hesaplama platformunda olmadığını umursamazsınız. Tabii ki, kendimiz de birçok hata yapabiliriz, ancak sistemimiz oldukça olgunlaşmıştır, en azından güvenilir bir temel üzerinde devam edebilirsiniz.

İkinci olarak, kurulu tabanın boyutu. Bir geliştiriciyseniz, ne yaptığınıza bakılmaksızın, en önemli şeylerden biri "kurulu taban"dır. Yazılımınızın mümkün olduğunca çok makinede çalışmasını istersiniz. Yazılımınızı kendiniz için değil, kümeniz veya hatta sektörünüz için yazıyorsunuz, çünkü bir çerçeve geliştiricisisiniz.

NVIDIA'nın CUDA ekosistemi, özünde en önemli varlığımızdır. Şu anda dünya genelinde milyonlarca GPU bulunmaktadır. Tüm bulut sağlayıcılar, V100'den A100'e, H100'den H200'e, L serisinden P serisine farklı özelliklerdeki tüm GPU'ları desteklemektedir.

Ayrıca, bunlar çeşitli biçimlerde bulunmaktadır. Bir robot şirketiyseniz, CUDA'nın doğrudan robot bedeninde çalışmasını istersiniz. Temelde her yerdeyiz.

Bu, bir yazılım veya model geliştirdikten sonra her yerde kullanabileceğiniz anlamına gelir. Dolayısıyla, kurulu tabanın kendisinin değeri son derece büyüktür.

Son olarak, dağıtım lokasyonunun esnekliği. Tüm bulut platformlarında mevcut olmamız, bizi benzersiz kılıyor. Bir AI şirketi veya geliştirici olarak, nihai olarak hangi bulut sağlayıcıyla çalışacağınızdan emin değilsiniz ve sistemizin nerede çalışacağından da emin değilsiniz. Ancak biz her yerde çalışabiliriz, yerel dağıtımı da içeren şekilde.

Dolayısıyla, ekosistemin zenginliği, kurulum tabanının ölçeği ve dağıtım lokasyonunun esnekliği, bu üçünün bir araya gelmesi gerçekten çok değerlidir.

Dwarkesh Patel:
Bu mantıklı. Ancak benim merak ettiğim, bu avantajların asıl müşterileriniz açısından gerçekten bu kadar önemli olup olmadığı. Bu avantajlardan pek çok kişi faydalanacaktır, ancak yazılım yığını oluşturabilenler --yani gelirinizin büyük bir kısmını sağlayan müşteriler-- özellikle güçlü bir şekilde "doğrulanabilir geri besleme döngüsü" olan bir yapay zeka dünyasında, özellikle güçlendirme öğrenme senaryosunda, dikkat veya MLP gibi çekirdek optimizasyonları gibi, aslında çok kolay doğrulanan bir geri besleme döngüsüdür.

O zaman bu devasa ölçekli bulut sağlayıcıları, bu çekirdekleri kendileri yazabilirler mi? Elbette, maliyet etkinliği açısından hala Nvidia'yı tercih edebilirler. Ancak soru şu ki, bu sonunda basit bir karşılaştırmaya mı dönüşecek: Kim daha iyi özellikler sunabilir? Örneğin, birim maliyet açısından kim daha yüksek hesaplama gücü (FLOPs) ve daha yüksek bellek bant genişliği sunabilir? Çünkü Nvidia'nın geçmişte donanım ve yazılım açısından çok yüksek kar marjına sahip olmasının temel nedenlerinden biri büyük ölçüde CUDA ekosistemi tarafından korunmasıdır.

Peki soru şu, eğer çoğu müşteri yazılım yığını oluşturabilirse ve CUDA'ya bağımlı olmadan bunu yapabilirse, bu kar marjı devam edebilecek mi?

Jensen Huang:
Bu AI laboratuvarlarına yaptığımız mühendislik katkısı inanılmaz bir düzeyde, onlarla birlikte çalışıyoruz ve tüm teknoloji yığınlarını optimize etmelerine yardımcı oluyoruz. Sebebi ise, kimsenin bizim mimarimizi bizim kadar iyi bilmesidir. Ve bu mimariler, CPU'lar gibi genel amaçlı değildir.

CPU biraz "ev aracı" na benzer, onu bir cruise control otomobil olarak düşünebilirsiniz, çok hızlı sürmez, ancak herkes iyi şekilde sürüş yapabilir, cruise control'ü vardır, her şey basittir. Ancak Nvidia'nın GPU hızlandırıcısı daha çok bir F1 yarış arabasına benzer. Herkesin onu 100 mil/saat hıza çıkarabileceğini hayal edebilirim, ancak onu gerçek limitine taşımak oldukça uzmanlık gerektirir.

Ve bu kernel'leri oluşturmak için büyük miktarda AI kullanıyoruz. Uzun bir süre boyunca, hala vazgeçilmez olduğumuzdan eminim. Uzmanlığımız, bu AI laboratuvarı ortaklarının, performanslarını kolayca iki katına çıkarabilmelerine yardımcı olabilir. Çoğu zaman, teknoloji yığınlarını veya belirli bir kernel'ı optimize ettikten sonra, modelleri 3 kat, 2 kat hızlandırabilir veya %50 hızlandırabilir. Bu oldukça büyük bir artıştır, özellikle sahip oldukları büyük Hopper ve Blackwell kümeslerini düşündüğünüzde.

Eğer performansı ikiye katlarsanız, gelirin doğrudan ikiye katlanacağı anlamına gelir. Bu doğrudan gelirle ilişkilidir. NVIDIA'nın hesaplama yığını, küresel düzeyde TCO (Toplam Sahip Olma Maliyeti) açısından en iyisidir, hiçbir rakibi yok. Hangi platformun performans/TCO oranında bize üstün olduğunu kanıtlayabilecek hiçbir şirket yok. Hiçbiri yok. Ayrıca, bu kıyaslamalar açıkça mevcuttur.

Dylan'ın dediği doğru. Inference Max açıktır, herkes kullanabilir. Ancak hiçbir TPU ekibi, çıkarttıkları çıkarım maliyeti avantajlarını göstermek için bunu kullanmak istemez. Bu zor bir durum, hiç kimse ortaya çıkmak istemez.

MLPerf de aynı şekildedir. Onların iddia ettiği %40 avantajı göstermelerini memnuniyetle karşılarım. TPU'nun maliyet açısından üstünlüğünü kanıtlamalarını gerçekten görmek isterim. Benim açımdan, bu mantıklı gelmiyor, temel prensiplerle çelişiyor. Tamamen çelişkili.

Bu yüzden başarımızın temel nedeninin, TCO'muzun son derece mükemmel olması olduğunu düşünüyorum.

Bir diğer konu, %60'ın üzerindeki müşterimizin ilk beş büyük şirketten geldiğini belirttiniz, ancak bu işin çoğu aslında dış müşterilere yöneliktir. Örneğin, AWS'de, NVIDIA'nın çoğu hesaplama gücü dış müşterilere sunulmaktadır, AWS'nin kendi kullanımı için değil. Azure'da, müşterilerimizin çoğu da dış müşterilerdir; aynı şekilde OCI'de de durum böyledir. Onlar bizi seçme nedenleri, kapsama alanımızın çok geniş olmasından kaynaklanmaktadır.

Dünya çapında en kaliteli müşterileri sağlayabiliyoruz ve bu müşteriler zaten NVIDIA platformuna dayanmaktadır. Ve bu şirketlerin NVIDIA üzerinde yükselmesinin nedeni, kapsama alanımızın ve esnekliğimizin son derece güçlü olmasıdır.

Bu yüzden benim düşünceme göre, bu uçurtmanın işe yaradığı nokta şudur: kurulum tabanı, mimarinin programlanabilirliği, ekosistemin sürekli birikimi. Üstüne üstlük şu anda dünya genelinde binlerce AI şirketi var. Eğer bu şirketlerden biriyse, hangi mimariyi seçerdiniz? En yaygın olanı, kurulum tabanı en geniş olanı, en zengin ekosisteme sahip olanı seçerdiniz. İşte uçurtmanın mantığı budur.

Yani bu nedenlerden dolayı:

· İlk olarak, birim maliyet performansımız son derece yüksektir, bu nedenle token maliyeti en düşüktür;

· İkinci olarak, birim güç tüketimi performansımız dünya genelinde en iyisidir; Eğer bir iş ortağı 1GW'lik bir veri merkezi kurarsa, en fazla token yani en fazla geliri üretmelidir. Ve bizim mimarimiz, birim güç tüketimi altında en fazla token üretebilir.

· Üçüncü olarak, eğer amacınız hash gücü kiralamaksa, dünya genelinde en fazla müşteriye sahibiz.

Bu, bu uçuşun neden kurulduğudur.

Dwarkesh Patel:
Çok ilginç. Sorunun özü, bu pazar yapısının neye benzediğidir. Birçok şirket olmasına rağmen, şu durum tamamen mümkündür: Binlerce yapay zeka şirketi vardır ve bunlar hash gücünü yaklaşık olarak eşit şekilde paylaşırlar.

Ancak gerçek durum şu ise, bu süper büyük ölçekli bulut sağlayıcılar aracılığıyla, gerçekten hash gücünü kullanan şirketler Anthropic, OpenAI gibi temel model şirketleridir ve bunlar farklı hızlandırıcıları çalıştırabilecek kapasitededirler.

Jensen Huang:
Sanırım bu varsayımınız yanlış.

Dwarkesh Patel:
Belki de öyle. Peki, başka bir şekilde soralım, eğer bu performans ve maliyet iddiaları doğruysa, Anthropic gibi bir şirket neden birkaç gün önce Broadcom, Google ile çok jigabayt seviyesinde TPU işbirliği yaptıklarını duyurdu? Ve çoğu hash gücü bu ekosistemlerden geliyor. Google için TPU zaten ana hash gücü kaynağı. Bu yüzden büyük yapay zeka şirketlerine baktığınızda, eskiden yalnızca NVIDIA'yı kullananlar artık öyle değil.

Eğer bu avantajlar teorik olarak doğruysa, o zaman neden diğer hızlandırıcıları seçsinler?

Jensen Huang:
Anthropic oldukça özel bir örnektir. Anthropic olmazsa, TPU'nun büyümesi neredeyse var olmazdı. TPU'nun büyümesi neredeyse tamamen Anthropic'ten gelmektedir. Aynı şekilde, Anthropic olmadan eğitim talebinin artması neredeyse var olmazdı.

Bu çok net bir gerçektir. Aynı türde birçok fırsat bulunmamaktadır, aslında sadece bir tane Anthropic vardır.

Dwarkesh Patel:
Ancak OpenAI, AMD ile de işbirliği yapmakta ve kendi Titan hızlandırıcısını geliştirmektedir.

Not: AMD (Advanced Micro Devices), bir Amerikan yarıiletken şirketidir, genellikle hesaplama çipleri tasarlar, NVIDIA ve Intel'in önemli rakiplerindendir

Jensen Huang:
Ancak çoğunlukla hala NVIDIA kullanıyorlar. Biz de devam edeceğiz işbirliklerimize. Başkaları farklı çözümler denedikleri için ben mutsuz olmam. Eğer diğer çözümleri denemiyorlarsa, bizim çözümümüzün ne kadar iyi olduğunu nasıl bilecekler?

Ara sıra, bu gerçeği tekrar doğrulamak için karşılaştırmadan geçmek gerçekten gerekli olabilir. Ayrıca, şu anki konumumuza layık olduğumuzu sürekli kanıtlamamız gerekiyor.

Pazarda her zaman çeşitli iddialar bulunmaktadır. Kaç tane ASIC projesinin iptal edildiğine bir bakabilirsiniz. Ancak ASIC yapmaya başlamanız, NVIDIA'dan daha iyi bir ürün yapabileceğiniz anlamına gelmez.

Aslında, bu kolay değil. Hatta, mantıklı bir bakış açısından, bu pek geçerli değil gibi görünebilir. NVIDIA gerçekten ciddi hatalar yaptığında. Ancak, ölçeğimizi, hızımızı düşündüğümüzde—her yıl büyük sıçramalar yapan tek küresel şirket biziz.

Dwarkesh Patel:
Onların mantığı şu: NVIDIA'dan daha iyi olmanıza gerek yok, NVIDIA'dan %70 daha kötü olmadığınız sürece yeterli olur, çünkü kâr marjlarınızın %70 olduğunu düşünüyorlar.

Jensen Huang:
Ancak, unutmayın, ASIC'lerin dahi kâr marjı aslında oldukça yüksektir. NVIDIA'nın kâr marjı yaklaşık %60–70 iken, ASIC'lerin kâr marjı da muhtemelen %65'tir. Peki, gerçekte ne kadar tasarruf sağlamış oluyorsunuz?

Her zaman bir tarafa para ödemek zorundasınız. Bu nedenle, gördüğüm duruma göre, bu temel (ASIC) işlerinin kâr marjı aslında oldukça yüksektir ve kendileri de bunun farkındadır ve oldukça gururludurlar.

Çok eski zamanlarda, aslında buna yapacak kapasitemiz yoktu. Açıkçası o zamanlar gerçekten bir OpenAI veya Anthropic gibi temel model laboratuvarını kurmanın ne kadar zor olduğunu anlamıyordum. Ayrıca, bunların aslında arz taraftan büyük ölçekli yatırım desteği alması gerektiğinin farkında değildim.

O zamanlar, Anthropic gibi şirketlere yatırım yapacak kadar büyük miktarda yatırım yapacak kapasitemiz yoktu. Ancak, Google ve AWS yapabilir, onlar başlangıçta büyük miktarda para yatırdılar ve karşılığında Anthropic'e hesap gücünü sağladılar.

O zamanlar buna gücümüz yetmiyordu, bunu bir hata olarak nitelendiririm: aslında, onların başka seçeneklerinin olmadığının farkında değildim. Risk sermayedarları, bir AI laboratuvarını desteklemek için 5 milyar veya 10 milyar dolar yatırım yapamazlar ve onun Anthropic gibi büyümesini bekleyemezlerdi.

Bu benim bir karar verme hatamdı. Ancak, o zaman farkında olsam bile, o dönemde bunu yapacak gücümüz olduğunu düşünmüyorum.

Fakat aynı hatayı tekrarlamayacağım. OpenAI'ye yatırım yapmaktan ve onlara genişlemelerinde yardımcı olmaktan memnuniyet duyuyorum. Sonradan Anthropic bize geldiğinde, yatırımcı olmaktan ve onların gelişimine destek olmaktan da mutluydum.

Sadece o zaman, gerçekten yapamadık. Eğer tekrar başlayabilseydik, eğer o zamanlar NVIDIA şu anda olduğu gibi güçlü olsaydı, bu işleri yapmaya çok istekli olurdum.

Neden NVIDIA "Bulut" Yapmıyor?

Dwarkesh Patel:
Bu çok ilginç. Yıllar boyunca, NVIDIA her zaman AI alanında "kazma satarak para kazanan" bir şirket olmuş ve çok para kazanmıştı. Şimdi ise bu parayı bu işe yatırmaya başladınız. 300 milyar dolar OpenAI'ye, 100 milyar dolar da Anthropic'e yatırım yaptığınızı gösteren raporlar var. Ve bu şirketlerin değerlemeleri hala artış gösteriyor.

Yani, geçmiş birkaç yıla dönüp baktığımızda, onlara hesaplama gücü sağladınız ve bir trend gördünüz, ancak o zamanlar değerlemeleri şu anki değerin onda biriydi, hatta bir yıl önce de şimdiki değerlerinden çok daha düşüktü. Ve o zamanlar zaten büyük miktarda nakit paranız vardı.

Aslında, bir olasılık var: NVIDIA'nın kendisi temel model şirketi haline gelmiş olabilirdi, veya daha düşük değerlemelerde daha erken büyük ölçekli yatırım yapabilirdi, şu anda yaptığınız gibi.

Yani gerçekten merak ediyorum, neden daha önce böyle yapmadınız?

Jensen Huang:
Biz "yapabileceğimiz zaman" hemen yaptık. Eğer o zamanlar yapılabilseydi, daha önce yapardım. Anthropic'in bizden destek aldığı o başlangıç noktasında, yapardım. Ama o zamanlar gerçekten bu yeteneğe sahip değildik.

Bu bizim yetki alanımızda değildi, ayrıca karar alma alışkanlıklarımızda da değildi.

Dwarkesh Patel:
Paranın bir sorunu mu, yoksa?

Jensen Huang:
Evet, yatırım ölçeğinin bir meselesi. O zamanlar neredeyse hiç dış yatırım geleneğimiz yoktu, daha da fazla bu tür bir ölçekte yatırımımız olduğunu düşünmek absürttü. Ve bu ihtiyacın farkında da değildik.

Benim o zamanlar düşüncem, onların tam olarak risk sermayesi arayışına gidebilecekleri yönündeydi, diğer şirketler gibi. Ancak yapmak istedikleri şey, aslında risk sermayesinin destekleyemeyeceği bir şeydi. OpenAI'nın yapmak istediği şey, risk sermayesinin destekleyemeyeceği bir şeydi.

Bunu sonra fark ettim. Ama bu onların zekalarında yattı. O zamanlar onlar, bu yolda gitmeleri gerektiğini fark etti. Onların böyle yapması beni mutlu etti. O zaman biz katılamamış olsak da, Anthropic başka iş birlikçilere yöneldiği için, hala bu iyi bir şey olduğunu düşünüyorum. Anthropic'in varlığı, tüm dünya için iyi bir şey, bu beni mutlu ediyor. Bazı pişmanlıklar kabul edilebilir.

Dwarkesh Patel：
Bu sorun şöyle bir noktaya geri dönecektir: Şu anda bu kadar nakit paraya sahip olmanıza ve hala büyümeye devam etmenize rağmen, Nvidia bu fonları nasıl kullanmalı?

Bir yaklaşım, şu anda bir ara katman ekosistemi ortaya çıktı, bu AI laboratuvarlarının sermaye harcamalarını (capex) işletme harcamalarına (opex) dönüştürmelerine yardımcı olur ve bu sayede işlem gücünü kiralayabilirler.

GPU'lar oldukça pahalı olduğundan, ancak modeller ilerledikçe, bunlar yaşam süreci boyunca daha yüksek değerli jetonlar üretebilir. Ve Nvidia kendisi bu başlangıç sermaye harcamalarını karşılayabilecek yetenektedir. Örneğin, CoreWeave'e 63 milyar dolarlık destek sağladığınız ve 20 milyar dolar yatırım yaptığınız bildirildi.

Peki Nvidia neden kendi bulut sağlayıcı olmuyor? Neden bir hyperscaler olmuyor, kendi bulutunu kurup işlem gücü kiralayamıyor? Sonuçta, bu kadar nakit gücünüz var.

Jensen Huang:
Bu bir şirket felsefesi sorunudur ve bence bu iyi bir felsefedir: Biz "mümkün olduğunca çok şeyi yapmalı, aynı zamanda mümkün olduğunca az şey yapmalıyız" demeliyiz.

Bu, bir hesaplama platformu inşa etme konusunda, eğer biz yapmazsak, gerçekten inanıyorum ki bu iş yapılmayacaktır.

Eğer bu riskleri üstlenmezsek, NVLink inşa etmezsek, tüm yazılım yığınını oluşturmazsak, bu ekosistemi geliştirmeyiz, 20 yıl süren CUDA'yı yapmazsak (çoğu zaman zararla), eğer bu şeyleri yapmazsak, hiç kimse yapmayacak. Eğer bu CUDA-X alan özgü kütüphanelerini inşa etmezsek - ışın izleme, görüntü oluşturma, erken AI modelleri veya veri işleme, yapılandırılmış veri, vektör veri işleme - bu tür şeyler olmayacaktır.

Buna tamamen inanıyorum. Hatta hesaplama litografi için cuLitho adında bir kütüphane geliştirdik, eğer biz yapmazsak, kimse yapmayacak.

Dolayısıyla, hızlandırılmış hesaplama bugün olduğu noktaya gelişebildi, çünkü biz bu şeyleri yaptık. Bu, tamamen odaklanmamız gereken bir kısımdır.

Ancak aynı zamanda, dünyada zaten birçok bulut sağlayıcı var. Biz yapmasak bile, başka biri yapacaktır. Bu nedenle, "mümkün olduğunca çok şeyi yapmalı, ancak mümkün olduğunca az şey yapmalıyız" ilkesine dayalı olarak, bu prensip şirketimizde her zaman var olmuştur. Benim verdiğim her karar, bu bakış açısından yapılır.

Bulut alanında, eğer başlangıçta CoreWeave'i desteklemeseydik, bu yeni tip AI bulutları muhtemelen var olmazdı. Onları desteklemezsek, bugün bu boyuta ulaşmazlardı. Nscale, Nebius gibi şirketlerin gelişimi de aynı şekilde, eğer bizim desteğimizi almamış olsalardı, bugüne kadar gelemezlerdi. Ve şu anda, çok iyi bir şekilde gelişiyorlar.

Ancak bu işi bizzat yapmamız gereken bir iş mi? Hayır. Hala o ilkeye sadığız: Gerekli olanı yap, diğerlerini mümkün olduğunca az yap. Bu yüzden ekosisteme yatırım yapacağız, çünkü tüm ekosistemin canlanmasını umuyorum. Mimarimizin mümkün olduğunca çok endüstriyi, mümkün olduğunca çok ülkeyi bağlamasını ve yapay zekanın küresel ölçekte inşa edilmesine ve Amerikan teknoloji yığını üzerine kurulmasına olanak tanımasını umuyorum.

Bu, ilerletmekte olduğumuz bir vizyon.

Aynı zamanda, bahsettiğiniz gibi, şu anda birçok mükemmel temel model şirketi var, onlara yatırım yapmaya çalışacağız.

Bir diğer şey de, 'kazananı seçmeyeceğiz'. Herkesi desteklemek istiyoruz. Hem iş gereksinimimiz hem de yapmaya istekli olduğumuz bir şey bu. Dolayısıyla bir şirkete yatırım yaptığımda, diğer şirketlere de yatırım yaparım.

Dwarkesh Patel:
Öyleyse neden 'kazananı seçmeyeceğiz' şeklinde bilinçli olarak seçmeyi reddediyorsunuz?

Jensen Huang:
Çünkü bu bizim sorumluluğumuz değil. Bu birinci nokta.

İkinci nokta, Nvidia kurulduğunda, yaklaşık 60 grafik şirketi vardı, 3D grafikler yapan 60 şirket. Sonunda sadece biz hayatta kaldık. Eğer o 60 şirketten birine başarı şansı verseydiniz, Nvidia muhtemelen en az umut verilen şirket olurdu.

Bu sizin döneminizden önceydi, ama o zaman Nvidia'nın grafik mimarisi tamamen yanlıştı. Biraz yanlış değil, tamamen temelden yanlıştı. Geliştiricinin neredeyse destekleyemeyeceği bir mimari tasarladık, zaten başarısız olmaya mahkumduk. Çok makul bir ilkeler dizisinden yola çıktık, ancak sonunda yanlış bir sonuca vardık.

Herkes bize başarı şansı vermedi, ancak sonunda hala hayatta kaldık. Bu yüzden bunu kabul edecek kadar alçakgönüllüyüm, 'kazananı seçmeme'. Ya kendi gelişmelerini sağlayın ya da herkesi destekleyin.

Dwarkesh Patel:
Anlamadığım bir nokta var. 'Yeni bulut sağlayıcılarına öncelik vermek niyetinde olmadığınızı' söylediniz, ancak önce Nvidia olmasaydı, belki de onlar var olmazdı. Bu iki nokta nasıl bir arada olabilir?

Jensen Huang:
Öncelikle, var olmak istemeleri ve bizden yardım istemeleri gerekiyor. Net bir istek, bir iş planı, bir yetenek ve bir tutku olduğunda — elbette kendilerinin de belirli bir yeteneğe sahip olmaları gerekiyor — başlangıç aşamasında biraz yatırım desteğine ihtiyaç duyduklarında, biz orada oluruz.

Ancak temel olan, kendi uçurtma ipini mümkün olan en kısa sürede oluşturmaları gerektiği. Sizin sorunuz, finansman işine girmek isteyip istemediğimiz miydi? Cevap, hayır istemiyorum. Finansal bir kuruluş olmak istemiyorum. Pazarda zaten birçok finansman yapan insan var, biz bu finansal kuruluşlarla işbirliği yapmaktan daha fazla hoşlanırız, kendi finansmanımızı yapmaktan değil.

Yani, amacımız, kendi işimize odaklanmak ve iş modelimizi mümkün olduğunca basit tutarken aynı zamanda tüm ekosistemi desteklemektir.

Jensen Huang:
OpenAI gibi bir şirketin halka arzı öncesinde 300 milyar dolarlık bir yatırıma ihtiyaç duyduğu bir durumda, ve biz onlara çok inandığımızı biliyoruz - ben şahsen onlara inanıyorum ve olağanüstü bir şirket olduklarını ve daha da önemli bir şirket olacaklarını düşünüyorum. Bu dünya onların varlığına ihtiyaç duyuyor ve herkes onların var olmasını istiyor, ben de onların var olmasını istiyorum. Kazanan olma özelliklerine sahiplerse, onları destekleyeceğiz ve genişlemelerine yardımcı olacağız.

Dolayısıyla, bu tür yatırımları yapacağız çünkü gerçekten buna ihtiyaçları var. Ancak ilkimiz "mümkün olduğunca az yapmak" ve "mümkün olduğunca çok yapmak" değil.

Dwarkesh Patel:
Bu sorun belki biraz açık olabilir, ancak geçen birkaç yıl boyunca sürekli GPU kıtlığı yaşadık ve modeller güçlendikçe durum daha da belirgin hale geldi.

Jensen Huang:
Evet, kesinlikle GPU kıtlığı yaşıyoruz.

Dwarkesh Patel:
Ve Nvidia, bu nadir kaynakları dağıtırken sadece en yüksek teklife göre değil, aynı zamanda yeni bulut sağlayıcılarının varlığını sağlamak gibi konuları da göz önünde bulundurduğu düşünülüyor - CoreWeave'e bazıları, Crusoe'ya bazıları, Lambda'ya bazıları vermek gibi.

İlk olarak, bu iddiayı doğru buluyor musunuz? İkincisi, bunun Nvidia'ya ne gibi faydaları olabilir?

Jensen Huang:
Ben sizin temelinizin yanlış olduğunu düşünüyorum. Elbette, bu konulara çok dikkatlice bakacağız.

İlk olarak, Eğer bir satın alma siparişiniz (PO) yoksa, daha ne kadar iletişim kurarsanız yapın anlamsızdır. Bu yüzden ilk olarak, tüm müşterilerle talep tahminini yapmak için birlikte çalışacağız çünkü bu ürünlerin üretim süreci çok uzun ve veri merkezi inşaatı da çok uzun bir zaman almakta. Talep ile arzı hizalamak için tahminler yaparız, bu ilk adımdır.

İkinci olarak, mümkün olanca daha fazla müşteriyle birlikte tahmin çalışması yapacağız. Ancak sonuç olarak, yine de bir sipariş vermeniz gerekecek. Eğer bir sipariş vermezseniz, ben de yapacak bir şeyim yok. Bu yüzden bir noktada, "ilk sipariş veren ilk hizmet alır" durumu olacak.

Ancak bunun ötesinde, eğer veri merkeziniz hazır değilse veya bazı temel bileşenler hazır değilse ve bu nedenle sistemleri şu anda dağıtamıyorsanız, başkalarına öncelik vermek durumunda kalabiliriz. Bu sadece fabrikamızın genel verimliliğini en üst seviyede tutmak içindir.

Ayrıca, öncelik kuralı "İlk Gelen İlk Hizmet Alır" şeklindedir. Bir sipariş vermelisiniz. Sipariş vermezseniz, hiçbir şey yapılamaz.

Elbette, dışarıda birçok hikaye var, biri Larry ve Elon'la birlikte yemekteyken GPU istediğimi söyledi—gerçekten birlikte yemek yedik, çok keyifli bir akşam yemeği oldu, ancak onlar hiçbir zaman GPU "istedi" şeklinde bir talepte bulunmadılar. Sadece sipariş vermeleri gerekiyordu. Bir sipariş verdiklerinde, biz de üretim kapasitesini en üst seviyede sağlamaya çalışıyoruz. Durum bu kadar karmaşık değil.

Dwarkesh Patel:
Yani bunun sıralama mekanizması gibi göründüğü, ne zaman sipariş verdiğinize, veri merkezinin hazır olup olmadığına bağlı. Ancak bu hala yalnızca "en yüksek teklif veren kazanır" anlamına gelmiyor, değil mi?

Jensen Huang:
Biz asla bunu yapmayız.

Dwarkesh Patel:
En yüksek teklife göre dağıtmıyor musunuz?

Jensen Huang:
Asla. Çünkü bu kötü bir iş uygulamasıdır.

Siz bir fiyat belirlersiniz, müşteri alıp almayacağına karar verir. Talep arttığında bazı şirketlerin fiyatları yükselttiğini biliyorum, ancak biz böyle yapmayız. Bu hiçbir zaman bizim prensibimiz olmadı. Müşteriler bize güvenebilir. Dürüst bir varlık olmaktan, sektörün temeli olmaktan daha mutluyum. Fiyat değişikliğini tahmin etmek zorunda kalmazsınız.

Eğer size bir fiyat teklif ettiysem, o fiyat nihai fiyattır. Talep ne olursa olsun değişmeyecektir.

Dwarkesh Patel:
Bu da NVIDIA'nın TSMC ile olan istikrarlı ilişkisinin bir nedeni mi, değil mi?

Jensen Huang:
NVIDIA ve TSMC neredeyse 30 yıldır birlikte çalışıyorlar. NVIDIA ve TSMC arasında hatta resmi bir yasal anlaşma yok, daha çok karşılıklı saygıya dayalı bir anlayış söz konusu. Bazen haklıyım, bazen hatalıyım; bazen daha iyi koşullar elde ederim, bazen daha az iyi koşullar. Ancak genel olarak, bu ilişki harika, onlara tamamen güvenebilirim ve tamamen onlara bağlı olabilirim.

Ayrıca NVIDIA için belirli bir şey kesindir: Bu yıl Rubin çok etkileyici olacak, gelecek yıl Vera Rubin Ultra piyasaya çıkacak, bir sonraki yıl Feynman piyasaya çıkacak, sonraki yıl—henüz açıklamadığımız isim. Yani her yıl bize güvenebilirsiniz. Tüm dünyada bana şunu söyleyebileceğiniz bir ASIC ekibi bulun, her yıl sizi desteklemeye devam edeceklerine inanabileceğiniz.

Benim jeton maliyetim her yıl bir büyüklük sırasıyla azalacak. Bu konuda saat gibi güvenebileceğim. Daha önce TSMC hakkında benzer şeyleri söyledim. Geçmişte hiçbir çip fabrikası bu şekilde söylemenizi sağlayamazdı.

Ancak bugün, bunu NVIDIA'ya söyleyebilirsiniz. Her yıl bize güvenebilirsiniz.

Eğer 1 milyar dolarlık bir yapay zeka fabrikası gücü almak isterseniz, sorun değil; eğer 100 milyon dolar almak isterseniz, yine sorun değil; eğer 10 milyon dolar almak isterseniz, hatta sadece bir raf almak isterseniz, yine sorun değil; hatta sadece bir grafik kartı satın almak isterseniz, yine sorun değil. Eğer bir sonraki 100 milyar dolarlık yapay zeka fabrikası siparişi vermeyi düşünüyorsanız, yine sorun değil.

Bugün, dünyada yalnızca şirketimizin bunu söyleme lüksü olduğu bir noktadayız. Ve aynı şekilde TSMC'ye de şunu söyleyebilirim: 1 milyar dolarlık alım yapmak istiyorum, sorun değil. Yapmamız gereken tek şey doğru planlamayı yapmak, yapılması gereken işlemleri tamamlamak ve olgun şirketlerin yapacağı o adımları atmak.

Dolayısıyla, NVIDIA'nın küresel yapay zeka endüstrisinin temeli haline gelme potansiyeline sahip olduğunu düşünüyorum, bu konuma gelmek için onlarca yıl harcadık. Burada büyük yatırımlar, büyük odaklanma var ve şirketin istikrarı ile tutarlılığı son derece önemli.

Neden NVIDIA "Çoklu Yol Bahsi"ni Reddediyor

Dwarkesh Patel:
Bu aslında çok ilginç bir soruya yol açıyor. Önceki konuşmalarımızda TSMC, bellek gibi Engelleri tartıştık. Şimdi eğer şöyle bir dünyaya girerseniz: N3'ün çoğunu zaten kapladınız, daha sonra muhtemelen N2'nin çoğunu da kaplayacaksınız. Dönüp eski 7 nanometre gibi bir üretim süreci düğümünü tekrar kullanmayı düşünür müsünüz?

Örneğin, yapay zeka talebi çok büyük, en ileri üretim sürecinin genişlemesi yetişemiyor, o zaman bugün sayısal optimizasyon ve sistem tasarımı hakkındaki tüm deneyiminizle, bir Hopper veya Ampere sürümü yeniden yaparsınız. Bu senaryonun 2030'a kadar ortaya çıkma olasılığını nasıl değerlendiriyorsunuz?

Jensen Huang:
Bu gerekli değil. Nedeni ise, her neslin mimarisinin ilerlemesi yalnızca transistör boyutunun değişmesi değil. Ayrıca kapsülleme, yığma, sayısal sistemler, sistem mimarisi üzerinde büyük miktarda mühendislik çalışması yapıyorsunuz. Bu noktaya geldiğinizde, eski düğüm versiyonunu tekrar yapmaya dönüş yaparsanız, bunun için harcanması gereken Ar-Ge ölçeği kimsenin karşılayamayacağı kadar büyük olur. İleri gitmeye devam edebiliriz ama geri dönülemez düşüncesiyle bu adımları atmamızın maliyeti çok yüksek olur.

Elbette, bir düşünce deneyi yapalım: Bir gün dünya genelinde herkes, ileri üretim kapasitesinin artık artamayacağını söylerse. Hemen 7 nanometre gibi eski bir düğüm kullanarak geri döner miyim? Kesinlikle evet, şüphe yok.

Dwarkesh Patel：
Ben önceden başka birisiyle şu konuyu tartışmıştım: Neden NVIDIA aynı anda tamamen farklı birden fazla yonga projesine yatırım yapmıyor? Mesela Cerebras gibi yonga seviyesi mimarisi yapabilirsiniz, Dojo gibi büyük paketleme yapabilirsiniz ve CUDA'ya bağlı olmayan bir şey de yapabilirsiniz.

Sizin kaynaklarınız var, ayrıca mühendislik yeteneğiniz de var, bu işleri eş zamanlı olarak yapabilirsiniz. Kimse AI'nın veya mimarinin geleceğinin nereye gideceğini tam olarak bilmediğine göre, neden bütün yumurtaları aynı sepete koymalısınız?

Jensen Huang：
Elbette böyle yapabiliriz. Sadece daha iyi bir çözüm görmedik. Bu konuları hepsini simüle ettik, simulatörümüzde muhtemelen hepsi daha kötü çıktı. Bu yüzden yapmayacağız. Şu anda yaptığımız, gerçekten yapmak istediğimiz ve en doğru bulduğumuz projelerdir.

Tabii ki, eğer gelecekte iş yükü kendisi büyük ölçüde değişirse — söylediğim şey algoritma değişikliği değil, iş yükü gerçekten değişirse eğer, o zaman başka türden bir hızlandırıcıya da dahil olabiliriz.

Mesela son zamanlarda Grok'u dahil ettik, Grok'u CUDA ekosistemine dahil edeceğiz. Şu anda bunu yapıyoruz. Bu, token'ın değeri artık çok yüksek olduğundandır, bu yüzden aynı modelin farklı yanıtlara dayalı olarak farklı fiyat seviyelerine karşılık gelebileceği anlamına gelebilir.

Birkaç yıl önce, token neredeyse ücretsizdi veya ucuzdu. Ama şimdi, farklı müşteriler token'a farklı taleplerde bulunuyor. Ve bu müşteriler kendileri bu süreçten çok para kazanabilirler. Örneğin, yazılım mühendisleri için, eğer onlara bugünden daha verimli olmalarını sağlayacak şekilde daha hızlı bir token verebilirsem, buna para ödemeye hazırım.

Ama bu tür bir pazar, aslında ancak yakın zamanda ortaya çıkmıştır. Bu yüzden benzer bir modelin bugün yanıt süresine dayalı olarak farklı pazar seviyelerine dönüşebileceği bir yeteneğe sahip olduğumuzu ilk defa şimdi düşünüyorum.

Bu, neden bunu yaptığımızın nedeni. Ama sadece mimariyi konuşursak, eğer daha fazla param olsaydı, o parayı mevcut mimariye yatırırdım.

Dwarkesh Patel：
Bu "çok yüksek primli token" ve çıkarım pazarındaki katmanlama fikri benim açımdan çok ilginç geliyor.

Son soru. Derin öğrenme devriminin hiç yaşanmadığını varsayalım, Nvidia bugün ne ile uğraşıyor olurdu?

Jensen Huang:
E tabii ki, oyunlarla ilgili çalışmalar devam ederdi, ancak bunun dışında, hesaplamayı hızlandırmaya devam ederdi. Zaten yaptığımız şey buydu.

Şirketimizin temel varsayımı şu şekildeydi: Moore Yasası yavaşlayacak. Genel amaçlı hesaplama birçok şey için iyidir, ancak birçok hesaplama görevi için ideal bir çözüm değildir. Bu nedenle GPU gibi bir mimariyi ve CPU'yu bir araya getirip, onu CPU'nun iş yükünü hızlandırmak için kullanmaya başladık. Farklı kod çekirdekleri, farklı algoritmalar, GPU'ya indirilip çalıştırılabilir. Böylece bir uygulama 100 kat, 200 kat hızlandırılabilir.

Bunu nerede kullanabilirdik? Elbette mühendislik, bilim, fizik, veri işleme, bilgisayar grafikleri, görüntü oluşturma, birçok yerde.

Yine de bugün AI olmasaydı, Nvidia hala çok büyük bir şirket olurdu. Aslında nedeni oldukça temel: Genel amaçlı hesaplamanın genişlemeye devam etme kabiliyeti artık neredeyse tükenmiş durumda. Performansı artırmanın bir yolu - tek yol değil, ancak çok önemli bir yol - uygulama alanı özel hızlandırma yapmaktır.

Başlangıçta bilgisayar grafiklerine odaklandık, ancak birçok farklı alana odaklanabiliriz. Örneğin çeşitli bilimsel hesaplamalar, parçacık fiziği, akışkan simülasyonu, yapılandırılmış veri işleme ve benzeri alanlar, farklı türdeki algoritmaların hepsi CUDA'dan faydalanabilir.

Bu yüzden misyonumuz her zaman bu dünyaya hızlandırılmış hesaplama getirmek, genel amaçlı hesaplamaların başaramadığı veya yeterli performansa genişleyemediği uygulamaların devam etmesini sağlamak, bilimsel alanda ilerlemeyi desteklemektir. En başta yaptığımız bazı uygulamalar, moleküler dinamikler, enerji keşfi için deprem işleme, tabii ki görüntü işlemedir.

Bu tüm alanlarda, genel amaçlı hesaplamanın kendisi çok verimsizdir. Bu yüzden, evet, eğer AI olmasaydı üzülürdüm. Ancak hesaplama alanındaki ilerlemelerimiz sayesinde, derin öğrenmeyi demokratikleştirdik. Herhangi bir araştırmacının, herhangi bir bilim insanının, herhangi bir öğrencinin herhangi bir yerde, bir PC veya bir GeForce kart ile çok etkileyici bilimsel araştırmalar yapabilmesini sağladık. Ve bu en temel taahhüdümüz, asla değişmedi, hiçbir şekilde.

Dolayısıyla GTC'ye giderseniz, aslında başlangıçta büyük bir bölümünün AI ile alakası olmadığını fark edersiniz. Işık oyma hesaplama, kuantum kimyası veya veri işleme, bunlar AI ile ilgili değil, ancak yine de çok önemli konular. AI eğlenceli ve heyecan verici olduğunu biliyorum.

Ancak hala AI ile ilgisi olmayan ancak çok önemli işler yapan birçok insan var. Tensor, onların sahip olduğu tek hesaplama yöntemi değil. Ve biz tüm bu insanlara yardımcı olmayı umuyoruz.

Dwarkesh Patel：
Jensen, çok teşekkür ederim.

Jensen Huang：
Rica ederim, bu konuşmayı keyifle gerçekleştirdim.

[Orijinal Metin Bağlantısı]

BlockBeats Resmi Topluluğuna Katılın:

Telegram Abonelik Grubu: https://t.me/theblockbeats

Telegram Sohbet Grubu: https://t.me/BlockBeats_App

Twitter Resmi Hesabı: https://twitter.com/BlockBeatsAsia