动察 Beating AI hızlı haber: Araştırma kuruluşu Epoch AI'nın son tahminine göre, NVIDIA Blackwell serisi çipler geçen yıl küresel olarak eklenen AI Agent istek işleme kapasitesinin %74'ünü oluşturdu. Bunlardan GB300 tek kart, belirli test koşullarında aynı anda yaklaşık olarak H100'ün 25 katı, H200'ün ise 8 katı Agent isteği işleyebiliyor.
Kodlama Agent'ları kodu tekrar tekrar okumak, geçmiş konuşmaları saklamak ve araçları çağırmak zorundadır. Çipler hesaplama yapmanın yanı sıra, büyük miktarda bağlamı depolamak için belleği kullanmalı ve verileri hızlı okumalıdır. Bellek kapasitesi, okuma-yazma bant genişliği ve birden fazla çip arasındaki iletişim hızı, aynı anda kaç Agent'ın çalıştırılabileceğini etkiler.
Geleneksel saniyedeki hesaplama sayısı ölçütüne göre, GB300'ün tepe hesaplama gücü H100'ün yalnızca yaklaşık 2,5 katıdır. Ancak bu faktörler bir araya getirildiğinde, Epoch AI Agent istek işleme kapasitesinin yaklaşık 25 katına ulaştığını tahmin ediyor.
2025'in ikinci çeyreğinden 2026'nın ikinci çeyreğine kadar, küresel olarak satılan AI çiplerinin aynı anda işleyebildiği Agent isteği miktarı 4,6 katına çıkarken, aynı dönemde tepe hesaplama gücü yalnızca 2,6 katına çıktı.
NVIDIA'nın geçici CEO'su Colette Kress, 17 Kasım'daki finansal sonuçlar telefon konferansında şirketin Çin'e lisanslı Hopper serisi veri merkezi çiplerinin, H200 dahil, sevkiyatını durdurduğunu doğruladı. Huawei ise 2027'nin ilk çeyreğinde Ascend 960DT'yi piyasaya sürmeyi planlıyor; açıklanan FP8 tepe hesaplama gücü özellikleri H200'e yakın.
