Jev, Attention'ı yönetmeye başladı, MiniMax H3'ün üretim süresi %41,7 kısaltıldı.

动察 Beating AI hızlı haber: Japon geliştirici Kamimoto, Jev'i MiniMax H3'ün video üretim sürecine entegre etti. Her katmanın çalışma durumuna göre, %1, %3, %5, %10 olmak üzere dört seçenek arasından Attention'ın ne kadarının korunacağını seçiyor, ardından Sparse Attention hangi hesaplamaların atlanabileceğini belirliyor.

RTX 4070 12GB üzerinde, yaklaşık 5 saniyelik bir video üretmek için orijinal 4 adımlı yöntem 6 dakika 07 saniye sürerken, Sparse Attention + Jev dinamik kontrolü eklendiğinde bu süre 3 dakika 34 saniyeye düştü ve toplam süre %41,7 kısaldı.

Ancak bu %41,7'nin tamamı Jev'e atfedilemez. Sparse Attention tek başına da Attention'ın bir kısmını daha az hesaplayarak hız kazandırabilir; sabit olarak %5 veya %10 korumak da hızlanma sağlar. Jev'in yaptığı şey dinamik ayarlamadır: önemli katmanlarda biraz daha fazla, önemsiz katmanlarda biraz daha az hesaplama.

Şu an için bu dinamik ayarlamanın sabit orandan kesinlikle daha iyi görüntü kalitesi sağladığı kanıtlanamıyor; yazar da kalitenin henüz yeterince doğrulanmadığını açıkça belirtti. Deneysel kod açık kaynak olarak paylaşıldı.