动察 Beating AI hızlı haber: Huawei'nin eski Pangu büyük model sorumlusu Wang Yunhe tarafından kurulan Jiyuan Ludong, açık kaynaklı NeoHorse-Jev-4B'yi yayınladı ve kendi NeoHorse-1-4B modelini bir Jev benzeri karar modeline dönüştürdü. Kelime kelime yanıt üretmesine gerek yok; bunun yerine doğrudan birkaç aday arasından seçim yapıyor, doğru-yanlış değerlendirmesi yapıyor veya puanlama yapıyor. Temel olarak Agent'ların araç seçmesi, yönlendirme yapması ve bir sonraki eyleme karar vermesi için kullanılıyor.
Resmi olarak JevBench, Kev, OpenJev gibi 6 metin değerlendirme seti toplandı. NeoHorse-Jev-4B'nin eşit ağırlıklı ortalama puanı 77.70 olup, 9B parametreli Open-Jev'in 75.67'sinden ve Kev-4B'nin 74.25'inden yüksektir. Ancak bu genel puan Jiyuan Ludong tarafından kendi kendine toplanmıştır; şu anda yalnızca 4 açık kaynak modelin altı test puanı eksiksizdir ve NeoHorse-Jev de yalnızca bu iki grupta en yüksek puanı almıştır.
NeoHorse-1-4B tabanlıdır ve prefill-only çıkarım yoluyla aday yanıtların olasılığını doğrudan hesaplayarak normal büyük modellerin kelime kelime metin üretme sürecini ortadan kaldırır. 1158 metin isteğiyle yapılan testte, 32 eşzamanlılıkta sunucu tarafı ortalama karar süresi 74.3ms; 256 eşzamanlılıkta verim saniyede 347.05 isteğe ulaştı.
Model metin ve tek görsel girişini destekler; ağırlıklar, çıkarım kodu ve dağıtım örnekleri açık kaynak olarak sunulmuştur. vLLM, SGLang veya yerel Runtime aracılığıyla çalıştırılabilir ve Apache 2.0 lisansı altındadır.
