NVIDIA, ilk Groq Yonga LPX'sini Duyurdu: Vera Rubin ile Kombine Edildiğinde Megavat Başına En Yüksek Çıkarsama Verimliliği 35 Kat Arttı ve Bir Sonraki Nesil Kyber Prototipini Sergiledi

1M AI Haberleri'nin izlemesine göre, Groq 3 LPU (Dil İşleme Ünitesi), geçen yıl Aralık ayında yaklaşık 200 milyar dolar karşılığında NVIDIA'nın AI çıkarım yonga girişimi Groq'u satın aldıktan sonra piyasaya sürdüğü ilk yonga olup, bu yılın üçüncü çeyreğinde sevkiyata başlanması bekleniyor. Groq 3 LPX rafları, 256 LPU'yu barındırabilirken, 128GB dahili SRAM ve saniyede 640TB'ye kadar genişletilebilir bağlantı bant genişliği ile donatılmıştır. Resmi açıklamaya göre, LPX'in Vera Rubin NVL72 ile eşleştirildiğinde, megavat başına çıkarım verimliliği 35 kat artabilir ve aynı anda trilyon parametreli, milyon tokenli bağlam çıkarım senaryolarının gelir potansiyelini açabilir. Huang Renxun, bu iki işlemciyi "son derece farklı ancak birbirini tamamlayan: biri yüksek verimlilik peşinde, diğeri ise düşük gecikme peşinde" olarak tanımladı ve LPX'in dahili belleğinin modelin kullanabileceği toplam bellek kapasitesini büyük ölçüde artırdı. LPX raflarının bu yılın ikinci yarısında Vera Rubin platformuyla birlikte piyasaya sürülmesi planlanıyor.

Konferansta, Huang Renxun ayrıca Kyber kod adlı bir sonraki nesil raflar mimarisi prototipini de sergiledi. Kyber, 144 GPU'lu hesaplama tepsiyi dikey olarak düzenlemeyi ve fiziksel yoğunluğu artırmayı, gecikmeyi azaltmayı amaçlıyor ve Vera Rubin'in halefi platformu Vera Rubin Ultra'ya monte edilecek, 2027'de piyasaya sürülmesi planlanıyor.