DiffuSpace, Qwen3.6'yı difüzyon modeline dönüştürdü, GB300 tek kartta 680 Token/s hıza ulaştı

动察 Beating AI hızlı haber: Hong Kong Üniversitesi profesörü Kong Lingpeng tarafından kurulan DiffuSpace, Clover-35B-A3B-Preview'ı yayımladı ve açık kaynak haline getirdi.

Model, Alibaba Qwen3.6-35B-A3B temel alınarak geliştirildi; toplam 35 milyar parametreye sahip ve her çıkarımda yaklaşık 3 milyar parametre etkinleşiyor.

Geleneksel büyük modeller genellikle Token'ları soldan sağa tek tek üretirken, Clover blok difüzyonu kullanıyor: bir seferde küçük bir metin parçası üretiyor, ardından paralel tahmin ve tekrarlı düzeltmelerle çıktıyı tamamlıyor. Ekip ayrıca Gated DeltaNet'i yeniden düzenleyerek geçmiş bilgiyi sıkıştırıp saklıyor ve aynı anda mevcut metin bloğundaki Token'ların çift yönlü etkileşimini sağlayarak üretim hızı ile bağlam anlayışını birlikte gözetiyor.

Resmi olarak açıklanan altı Agent değerlendirmesinde Clover, listelenen modeller arasında en yüksek puanı aldı. SWE-bench Verified'da %73,6, Terminal-Bench 2.1'de %51,7'ye ulaşarak orijinal Qwen3.6-35B-A3B'nin yanı sıra LLaDA2.2 Flash, Mercury 2.5 gibi difüzyon modellerini geride bıraktı. Ancak karşılaştırma listesine 19 Ekim'de yayımlanan Mercury 3 dahil edilmedi.

Hız açısından Clover, tek bir NVIDIA GB300 üzerinde BF16 hassasiyetinde ve tek eşzamanlı çalışmayla dahili Agent görevlerinde 680 Token/s üretim hızına ulaşıyor. H200'de 515 Token/s'ye çıkıyor ve DFlash2 hızlandırması kullanan aynı ölçekteki Qwen modelini (365 Token/s) geride bırakıyor. Ekip ayrıca INT4 nicemlenmiş sürümü yalnızca 16GB VRAM'e sahip RTX 5070 Ti üzerinde çalıştırarak MATH-500 testinde 101,8 Token/s hıza ulaştı.