动察 Beating tarafından yapılan takibe göre Google, deneysel açık kaynaklı büyük model DiffusionGemma'yı yayınladı. Bu model, difüzyon tabanlı yeni bir metin üretim mekanizması kullanarak geleneksel büyük dil modellerinin kelime kelime sıralı üretim sınırlamasını kırıyor. DiffusionGemma, toplam 26B parametreye sahip olup, Karma Uzman (MoE) mimarisi altında her ileri geçişte yalnızca 3,8B parametreyi etkinleştiriyor. Paralel olarak tüm metin bloklarını üreterek yerel GPU çıkarımında 4 kata kadar hız artışı sağlıyor.
Geleneksel "daktilo benzeri" kelime kelime üretimden farklı olarak DiffusionGemma, görüntü üretimine benzer şekilde çalışıyor: önce tuval üzerinde rastgele yer tutucular oluşturuyor, ardından çoklu zaman adımı iterasyonlarıyla gürültüyü silip doğru metni sabitliyor. Her ileri geçişte paralel olarak 256 Token üretilebiliyor ve tüm Token'lar çift yönlü dikkat etkileşimi gerçekleştirebiliyor. Çift yönlü dikkat mekanizması, kod doldurma, satır içi düzenleme ve matematiksel formül üretimi gibi doğrusal olmayan üretim görevlerinde belirgin avantajlar sağlıyor, ancak DiffusionGemma'nın genel çıktı kalitesi şu anda standart Gemma 4'ün altında kalıyor.
Donanım testleri ve çıkarım hızı performansında, tek bir NVIDIA H100 GPU saniyede 1000'den fazla Token üretim hızına ulaşabiliyor. Tüketici sınıfı NVIDIA GeForce RTX 5090 GPU ise 700 Token'ın üzerinde hız sağlıyor. 4-bit kayan nokta (NVFP4) nicelemesi sonrasında çıkarım bellek kullanımı 18GB'ın altına düşürülebiliyor ve bu da yerel dağıtım eşiğini önemli ölçüde düşürüyor.
DiffusionGemma ağırlıkları Hugging Face'de açık kaynak olarak yayınlandı ve MLX, vLLM, Unsloth ile NVIDIA NeMo gibi ana akım geliştirme araçları tarafından destekleniyor.
