Google, Gemini'yi çiplere kazımak istiyor, yapay zeka harcamalarının baskısına çözüm bulundu mu?

TL;DR

· The Information'a göre Google, Frozen v2 kod adlı Gemini'ye özel bir çıkarım çipi üzerinde çalışıyor ve en erken 2028'de kullanıma sunulabilir.

· Tartışma, sabit kodlanmış model yapısının daha yüksek enerji verimliliği ile esneklik kaybı ve zaman riskini dengeleyip dengeleyemeyeceği üzerine.

· İlgili varlıklar: Alphabet, Nvidia, bulut sağlayıcılarının özel çip zincirleri, AI enerji verimliliği altyapısı.

Google, dahili olarak Frozen v2 olarak adlandırılan bir sunucu AI çipi üzerinde çalışıyor. Amaç, çıkarım verimliliğini artırmak için Gemini modelinin bazı unsurlarını doğrudan donanıma entegre etmek. Haberin ardından Alphabet hisseleri 20 Temmuz'da işlem sırasında %3'ün üzerinde yükseldi ancak kapanışta kazançlarını daralttı.

Bu haberin odak noktası, Google'ın bir kez daha özel bir çip geliştirmesi değil. Yatırımcılar için daha önemli olan, AI hizmetleri giderek pahalılaşırken Alphabet'in yalnızca sermaye harcamalarını artırmaya devam etmek yerine, model ve donanımı birbirine bağlayarak her bir soruyu yanıtlamak için gereken elektrik, hesaplama gücü ve sunucu yükünü azaltıp azaltamayacağıdır.

Haberin belirttiği hedef oldukça iddialı. Frozen v2'nin, birim güç başına hizmet verilen token sayısını, mevcut veya en yeni TPU'lara kıyasla 6 ila 10 kat artırması bekleniyor. Token, AI'ın metin işlemedeki temel birimi olarak kabaca anlaşılabilir. Bu rakam, henüz kamuya açıklanmamış bir projenin hedefidir ve Google tarafından onaylanmış bir seri üretim sonucu değildir.

Hisse Senedi Fiyatı, Maliyet Eğrisi Beklentisini Yansıtıyor

Piyasanın önce yükselmesi, kısa vadeli kazançlardan ziyade uzun vadeli maliyet seçeneklerine işaret ediyor. AI yatırımcılarının en hassas olduğu konu, büyük dil modeli şirketlerinin sermaye harcamalarının artmaya devam edip etmeyeceği ve bulut iş marjlarının çıkarım maliyetleri tarafından sürekli aşındırılıp aşındırılmayacağıdır.

Google'ın karşı karşıya olduğu baskı soyut değil. Aynı haberde, projenin AI hesaplama kapasitesi kıtlığını hafifletmeyi amaçladığı ve Google Cloud'un kapasite sorunları nedeniyle bazı harici sözleşmeleri reddettiği belirtiliyor. Bu kapasite sıkışıklığının doğrudan Frozen v2'ye yol açıp açmadığına bakılmaksızın, bir değişimi gösteriyor: Hesaplama gücü artık sadece büyüme yatırımı değil, aynı zamanda gelir elde etmenin önünde bir engel haline geliyor.

Sıradan bir kullanıcının Gemini'ye soru sorması, arka planda çıkarım hesaplama gücü tüketir. Model ne kadar büyük, kullanıcı sayısı ne kadar fazla ve yanıtlar ne kadar uzun olursa, veri merkezlerinin daha fazla çipe, elektriğe ve soğutmaya ihtiyacı olur. Yatırımcılar için bu, sonuçta sermaye harcamalarına, bulut hizmet marjlarına ve model hizmet fiyatlandırmasına yansır.

Frozen v2'nin piyasa anlamı, "Google'ın hemen işlem gücü kıtlığını çözmesi" değildir. Daha çok Alphabet'in uzun vadeli bir teknoloji yol haritası sunması gibidir: Eğer her watt enerji daha fazla token'a hizmet edebilirse, Google aynı elektrik ve veri merkezi kısıtlamaları altında daha fazla AI talebini karşılayabilir.

Modeli Devreye Yazmak, Taşıma ve Planlama Maliyetini Azaltır

Frozen v2'nin özü, sabit kodlamadır (hard-coded). Bunu şöyle düşünebilirsiniz: Genel amaçlı çipler, çok fonksiyonlu bir mutfak gibidir, her türlü yemeği yapabilir. Frozen v2 ise Gemini'nin bazı tariflerini doğrudan ocağa yazmak gibidir; tarife bakma, alet taşıma ve süreci anlık ayarlama adımlarını azaltır.

AI çıkarımı (inference) sadece hesaplamadan ibaret değildir; aynı zamanda büyük miktarda veri taşıma ve planlama içerir. Model çalışırken, çip sürekli olarak parametreleri okumalı, işlem yollarını düzenlemeli ve farklı depolama katmanları arasında veri taşımalıdır. Bu işlemlerin kendisi enerji ve zaman tüketir, ayrıca çip kaynaklarını da meşgul eder.

Eğer belirli bir model yapısı yeterince kararlıysa, sabit bir devre haline getirilebilir. Bunun avantajı, daha kısa yollar, daha az planlama ve daha düşük güç tüketimidir. Bedeli de doğrudandır: Çip bir kez belirli bir model yapısına göre tasarlandığında, GPU veya TPU gibi çeşitli yeni modellere uyum sağlaması kolay olmaz.

Bu nedenle, 6 ila 10 kat enerji verimliliği hedefini ayrı ayrı değerlendirmek gerekir. Bu, birim güç başına hizmet verilebilen token sayısını ifade eder; Google'ın gelecekteki veri merkezi toplam maliyetinin 6 ila 10 kat düşeceği anlamına gelmez. Gerçek çipler, gerçek yükler ve gerçek dağıtım ölçeği, bu rakamın finansal anlamını değiştirecektir.

Zaman çizelgesini de daha mütevazı anlamak gerekir. Frozen v2'nin en erken 2028'de dağıtıma geçebileceği bildiriliyor ve proje detayları hâlâ netleşiyor. O zamana kadar, Alphabet'in değerlemesi üzerindeki etkisi, kâr tablosuna yazılabilecek bir maliyet iyileştirmesinden ziyade, uzun vadeli bir opsiyona daha yakındır.

Özel Amaçlı Çipler Genel Anlatıya Meydan Okuyor, Ancak Yerine Geçmiyor

Frozen v2'nin dikkate değer yanı, AI çip yol haritasındaki çelişkiyi gün yüzüne çıkarmasıdır: Genel amaçlılık ve maksimum verimlilik aynı anda en üst düzeye çıkarılamaz. Son yıllarda GPU ve TPU'nun avantajı, farklı modellere ve farklı iş yüklerine uyum sağlayabilmeleriydi; özellikle model hızlı iterasyon aşamaları için uygundular.

Google'ın araştırdığı yolun daha radikal olduğu bildiriliyor. Gemini kendi amiral gemisi modeli olduğuna göre, neden ona özel, daha uygun bir çıkarım çipi tasarlanmasın? AI çıkarımı bir gösterimden günlük bir hizmete dönüştüğünde, verimlilik artışı artık sadece bir mühendislik metriği değil, iş modelinin bir parçası haline gelir.

Bu, NVIDIA anlatısı için marjinal bir meydan okuma oluşturur, ancak henüz "NVIDIA krizi" olarak adlandırılamaz. NVIDIA'nın savunma hattı hâlâ genel ekosistem, yazılım araç zinciri ve eğitim kümelerindedir. Frozen v2'nin bir değeri varsa, bu daha çok Google'ın dahili belirli Gemini çıkarım senaryolarında, genel amaçlı işlem gücüne olan marjinal bağımlılığı azaltmasıdır.

Ayrıca TPU'nun kenara itildiği anlamına da gelmiyor. Raporlara göre Frozen v2, TPU'nun dışında yeni bir dal ve daha çok Gemini ailesi için özel olarak tasarlanmış bir verimlilik aracı. TPU, farklı modellere ve bulut müşterilerine hizmet vererek daha geniş kapsamlı eğitim ve çıkarım görevlerini üstlenmeye devam edecek.

Daha doğru bir değerlendirme şu: Bir model yeterince önemli olduğunda, çağrı hacmi yeterince büyüdüğünde ve mimari yeterince istikrarlı hale geldiğinde, özel çipler ekonomik açıdan cazip hale gelmeye başlar. Bu, sektörün tamamen özel çiplere yöneldiği anlamına gelmez; daha çok, önde gelen model şirketlerinin yüksek frekanslı çıkarım senaryoları için ayrı ayrı hesap yapmaya başladığını gösterir.

Gemini'nin İstikrarı Bu Opsiyonun Değerini Belirliyor

Frozen v2'nin en büyük riski, yalnızca donanım ekibinin daha verimli devreler üretip üretememesi değil, aynı zamanda Gemini'nin temel mimarisinin çipe yazılmaya değecek kadar istikrarlı olup olamayacağıdır. AI modelleri hızla gelişmeye devam ediyor; bugünün en iyi yapısı, iki yıl sonra mutlaka en iyi çözüm olmayabilir.

Gemini'de gelecekte önemli bir mimari değişiklik olursa, Frozen v2'nin yeniden tasarlanması gerekebilir. Bu, zaman çizelgesini uzatır ve sabit kodlamanın getirdiği maliyet avantajını da zayıflatır. Uzmanlaşma ne kadar derin olursa, verimlilik potansiyeli o kadar büyük olur, ancak teknolojik yolun kilitlenmesinin bedeli de o kadar yüksek olur.

Piyasanın doğrulaması gereken şey, bu rotanın erken proje ipuçlarından daha somut mühendislik aşamalarına geçip geçemeyeceğidir. Resmi yol haritası, tape-out ilerlemesi, seri üretim zamanı, gerçek enerji verimliliği rakamları ve dağıtım ölçeği; tüm bunlar, bunun Alphabet'in maliyet eğrisi için yeni bir çıpa mı, yoksa değerlemesi önceden fiyatlanmış uzun vadeli bir deney mi olduğunu belirleyecektir.

Alphabet için Frozen v2'nin şu anki anlamı, piyasaya AI harcama baskısının yalnızca sermaye harcamalarını artırarak çözülmek zorunda olmadığını göstermektir. Ancak 2028'den önce, daha çok bir opsiyon gibidir. Değerlemeyi gerçekten değiştirebilecek şey, kod adının kendisi değil, bu çipin Gemini'nin yüksek frekanslı çağrılarını ölçülebilir maliyet düşüşlerine dönüştürüp dönüştürememesidir.

BlockBeats Resmi Topluluğuna Katılın:

Telegram Abonelik Grubu: https://t.me/theblockbeats

Telegram Sohbet Grubu: https://t.me/BlockBeats_App

Twitter Resmi Hesabı: https://twitter.com/BlockBeatsAsia