动察 Beating AI 快讯:Nvidia Groq 3 LPX tam seri üretime geçti. Geçen yıl Aralık ayında Nvidia, yaklaşık 20 milyar dolar karşılığında Groq teknoloji lisansını aldı ve kurucu Jonathan Ross dahil çekirdek ekibi bünyesine kattı. 8 ay sonra, bu anlaşmanın ilk donanımı resmi olarak hayata geçti.
Groq 3 LPX, büyük model çıkarımını hızlandırmak için özel olarak tasarlanmış bir sistemdir ve içinde 256 adet Groq 3 LPU çipi barındırır. Artificial Analysis testinde, Gemma 4 31B'ye 100.000 token girdikten sonra Groq 3 LPX saniyede 3.431 çıktı token'ı üretti. Aynı testte, o dönemde piyasada herkese açık olarak çağrılabilen en hızlı API yalnızca yaklaşık 870 token üretebiliyordu; Groq 3 LPX neredeyse 4 kat daha hızlıydı.
Gerçek dağıtımda, Rubin GPU daha ağır hesaplamaları üstlenirken, Groq 3 LPX özellikle token üretim hızını artırmaya odaklanır. Coding Agent'lar için, modeli onlarca veya yüzlerce kez art arda çağırırken, modelin "kelime üretme" süresini belirgin şekilde azaltabilir.
Nebius, Groq 3 LPX'i benimseyen ilk AI bulut sağlayıcısı olacak. Daha ilginç olanı, Groq'un kendisi de ilk benimseyenlerden biri haline geldi ve Dell ile birlikte dağıtım yapacak. Geçen yıl teknoloji lisansını Nvidia'ya veren Groq, bu yıl Nvidia'nın ürettiği "Groq"u kullanmaya başladı.
