Musk CPU'da da Nvidia'ya güveniyor: SpaceX AI, Vera'yı Agent çalıştırmak için dağıtıyor

动察 Beating AI 快讯，SpaceXAI，NVIDIA Vera CPU'sunu dağıtacak ve bir sonraki nesil AI Agent'ları çalıştıracak. GPU'nun yerini alıp büyük modelleri hesaplamakla sorumlu değil; esas olarak model çağrıları arasındaki işleri, araç çağırma, kod çalıştırma, veri işleme, görev düzenleme ve simülasyon dahil olmak üzere yönetiyor. SpaceXAI ayrıca Grok'un AI altyapısını genişletmek için Vera Rubin'i kullanmaya devam edecek.

AI Agent'ları ne kadar karmaşık olursa, CPU'nun işi o kadar artar. Model araç çağrıları ürettikten sonra, kodu gerçekten çalıştırma ve veri sorgulama gibi görevler genellikle CPU'ya devredilir. CPU çok yavaş çalışırsa, GPU sonuçların geri gelmesini beklemek zorunda kalır. Vera, NVIDIA'nın bu kısım için özel olarak tasarladığı CPU'dur.

Vera, 88 adet NVIDIA'nın kendi geliştirdiği Olympus CPU çekirdeğine sahiptir ve bellek bant genişliği en yüksek 1.2TB/s'dir. NVIDIA, Agent, pekiştirmeli öğrenme ve veri işleme gibi görevlerde Vera'nın görev tamamlama hızının x86 CPU'lardan en fazla 1.8 kat daha hızlı olabileceğini belirtiyor.

NVIDIA'nın Agent'lar için hazırladığı donanım iş bölümü de giderek netleşiyor: Rubin GPU büyük model hesaplamalarından sorumlu, Groq LPU token üretimini hızlandırıyor, Vera CPU ise araç çağırma ve kod çalıştırmadan sorumlu. SpaceXAI ayrıca Vera Rubin'i uzaya taşımayı planlıyor; ilk nesil Starmind AI uydusu, optimize edilmiş Vera Rubin NVL72'ye dayanacak.