动察 Beating tarafından yapılan izlemeye göre, değerlendirme kuruluşu Artificial Analysis, sektörün ilk yapay zeka ajanı (Agent) donanım kıyaslaması olan AA-AgentPerf'i yayınladı. Geleneksel değerlendirmeler, yalnızca yanıt hızına bakan tek seferlik bir soru-cevap "kısa mesafe koşusu" gibidir; yapay zeka ajanı görevleri ise bir "bayrak yarışı" gibidir; AI'nın hedefleri bağımsız olarak parçalara ayırması, dosyaları okuma/yazma, kodları yeniden yazma ve testleri çalıştırma arasında sürekli geçiş yapması gerekir. Sık etkileşimler, sunucu bellek kapasitesi ve zamanlama verimliliği üzerinde son derece yüksek zorluklar oluşturur. Kıyaslama, gerçek programlama izlerini yeniden oynatarak, "megawatt başına desteklenen eşzamanlı ajan sayısı"nı temel enerji verimliliği göstergesi olarak kullanır ve doğrudan veri merkezlerinin elektrik ve sermaye darboğazlarına odaklanır.
İlk test, 1,6 trilyon parametreli açık kaynak modeli DeepSeek V4 Pro'yu çalıştırdı. Sonuçlar, NVIDIA Blackwell sıvı soğutmalı tam dolap sistemi GB300 NVL72'nin megawatt başına 61.400 eşzamanlı ajana kadar destek verebildiğini, önceki nesil Hopper HGX H200'ün ise yalnızca 2.600 ajana destek verdiğini ve enerji verimliliğinin 20 kattan fazla arttığını gösterdi. Tek grafik kartı eşzamanlı kapasitesi de 41 kat arttı. Bu, aynı elektrik bütçesi altında veri merkezlerinin 20 kat daha fazla eşzamanlı ajan ölçeğini destekleyebileceği ve otomatik programlama ile müşteri hizmetleri gibi uygulamaların maliyetini önemli ölçüde düşürebileceği anlamına geliyor.
İlk sonuçlarda, AMD Instinct MI355X geçici olarak geride kaldı. Değerlendirme kuruluşu, AMD ve H200 konfigürasyonlarının her ikisinin de genel amaçlı açık kaynak vLLM çerçevesi kullanılarak oluşturulduğunu ve derinlemesine optimize edilmediğini belirtti; hizmet çerçevesi ve çekirdek operatör uyarlamaları ilerledikçe, AMD'nin performansında hala iyileştirme alanı bulunuyor. Şu anda, Together AI gibi çıkarım sağlayıcıları, ajan programlama aracı Cursor'a gerçek zamanlı çıkarım desteği sağlamak için DeepSeek V4 Pro'yu Blackwell'de ilk kez dağıttı.
