Ana Sayfa
AI AI
Flaş
Derinlik
Etkinlikler
BlockBeats Pro
Daha Fazla
Finans
Özel
Blok Zinciri Ekosistemi
Giriş
Podkastlar
Veri
OPRR
#
BTC
$96,000
5.73%
ETH
$3,521.91
3.97%
HTX
$0.{5}2273
5.23%
SOL
$198.17
3.05%
BNB
$710
3.05%
lang
简体中文
繁體中文
English
Tiếng Việt
한국어
日本語
ภาษาไทย
Türkçe
Partnered With:

Google, açık kaynaklı metin difüzyon modeli DiffusionGemma’yı duyurdu: Tek kartta saniyede 1000’den fazla token, hız 4 kat arttı.

动察 Beating tarafından yapılan takibe göre Google, deneysel açık kaynaklı büyük model DiffusionGemma'yı yayınladı. Bu model, difüzyon tabanlı yeni bir metin üretim mekanizması kullanarak geleneksel büyük dil modellerinin kelime kelime sıralı üretim sınırlamasını kırıyor. DiffusionGemma, toplam 26B parametreye sahip olup, Karma Uzman (MoE) mimarisi altında her ileri geçişte yalnızca 3,8B parametreyi etkinleştiriyor. Paralel olarak tüm metin bloklarını üreterek yerel GPU çıkarımında 4 kata kadar hız artışı sağlıyor.

Geleneksel "daktilo benzeri" kelime kelime üretimden farklı olarak DiffusionGemma, görüntü üretimine benzer şekilde çalışıyor: önce tuval üzerinde rastgele yer tutucular oluşturuyor, ardından çoklu zaman adımı iterasyonlarıyla gürültüyü silip doğru metni sabitliyor. Her ileri geçişte paralel olarak 256 Token üretilebiliyor ve tüm Token'lar çift yönlü dikkat etkileşimi gerçekleştirebiliyor. Çift yönlü dikkat mekanizması, kod doldurma, satır içi düzenleme ve matematiksel formül üretimi gibi doğrusal olmayan üretim görevlerinde belirgin avantajlar sağlıyor, ancak DiffusionGemma'nın genel çıktı kalitesi şu anda standart Gemma 4'ün altında kalıyor.

Donanım testleri ve çıkarım hızı performansında, tek bir NVIDIA H100 GPU saniyede 1000'den fazla Token üretim hızına ulaşabiliyor. Tüketici sınıfı NVIDIA GeForce RTX 5090 GPU ise 700 Token'ın üzerinde hız sağlıyor. 4-bit kayan nokta (NVFP4) nicelemesi sonrasında çıkarım bellek kullanımı 18GB'ın altına düşürülebiliyor ve bu da yerel dağıtım eşiğini önemli ölçüde düşürüyor.

DiffusionGemma ağırlıkları Hugging Face'de açık kaynak olarak yayınlandı ve MLX, vLLM, Unsloth ile NVIDIA NeMo gibi ana akım geliştirme araçları tarafından destekleniyor.

举报 Düzeltme/Rapor
İlgiliÖnerilen
İçeriden bilgi, tahmin piyasası verilerinin manipüle edilmesi ve Google algoritmasının manipüle edilmesi anlamına gelir.
Belki de bir yerin en iyi zamanı, tam da insanları göndermesi gereken zamandır.
Düzeltme/Rapor
Gönder
Kütüphane Ekle
Sadece kendime görünür
Herkese Açık
Kaydet
Kütüphane Seç
Kütüphane Ekle
İptal
Tamamla