Huawei Ascend 950PR matris hesaplamada H100'ün yalnızca yüzde kırkı hızına ulaşıyor, DeepSeek yazılımdan performans sıkıştırıyor

动察 Beating AI hızlı haber: Geçen yıl DeepSeek, R2'yi Huawei Ascend çipleriyle eğitmeyi denedi, ancak Huawei mühendislerinin yerinde desteğine rağmen başarılı olamadı. Çip kararlılığı, çipler arası iletişim ve yazılım desteği konularında sorunlar vardı. Bu yıl iki taraf işbirliğini derinleştirmeye devam ediyor. Eylül sonunda DeepSeek, Ascend uyumlu altı set kodu toplu olarak yayınladı; Ekim ayında ise Huawei'nin DeepSeek'in model gereksinimlerine göre yeni nesil çip tasarımını uyarladığı haberi çıktı.

Yarı iletken araştırma kuruluşu SemiAnalysis, yakın zamanda Ascend 950PR'nin gerçek test sonuçlarını yayınladı. Araştırmacılar, büyük modellerde yaygın olarak kullanılan 1055 matris hesaplama grubunu seçerek, Huawei'nin kendi alt seviye programının 950PR'nin ulaşılabilir hesaplama gücünün %86'sını kullanmasını sağladığını, bunun Nvidia H100'ün %75,5'inin üzerinde olduğunu buldu. Ancak gerçek hesaplama hızı hâlâ H100'ün yalnızca %43'ü seviyesinde, daha yeni B300 ile karşılaştırıldığında ise sadece %21.

DeepSeek, yazılım tarafında veri taşıma ve bekleme süresini azaltıyor. Örneğin dikkat hesaplaması çalıştırılırken, normalde ayrı ayrı okunması gereken iki veri seti, FlashMLA'nın depolama yöntemini ayarlamasıyla tek seferde alınabiliyor. Bir diğer araç olan TileLang, çipin bir yandan hesaplama yaparken diğer yandan bir sonraki veri grubunu önceden yüklemesini sağlıyor. SemiAnalysis'in gerçek testlerine göre otomatik zamanlama, bazı küçük hesaplama görevlerinin süresini yaklaşık %40'a kadar azaltıyor. DeepSeek ayrıca MoE uzman iletişiminden sorumlu DeepEP'yi de taşıdı, ancak iletişim ve hesaplama hâlâ bellek bant genişliği için rekabet ediyor; Huawei firmware'i iyileştirmeye devam etmeyi planlıyor.

Bu testte kullanılan 950PR esas olarak çıkarım girdi işlemeye yönelik; DeepSeek'in en erken yıl sonunda büyük ölçekli ön eğitim için kullanmayı planladığı çip ise 950DT. Taraflar daha önce bin kart ölçeğinde testler gerçekleştirdi, ancak on binlerce çipin bir büyük model eğitim turunu sürekli tamamlayabilmesi için daha karmaşık koordinasyon ve kararlılık sorunlarının çözülmesi gerekiyor.