动察 Beating AI hızlı haber: OpenRouter, varsayılan çıkarım yönlendirme algoritmasını güncellediğini duyurdu. Geçmişte çıkarım hizmet sağlayıcıları esas olarak fiyata göre seçilirken, artık hız, kararlılık ve gerçek çağrı maliyeti kapsamlı şekilde değerlendiriliyor; en ucuz hizmet sağlayıcı tercih edilmiyor.
Resmi testlerde 24 milyondan fazla istek test edildi. Sonuçlar, ilk token yanıt süresinin %16,9 kısaldığını, tam istek süresinin %19 kısaldığını ve hız sınırlama hatasıyla karşılaşan isteklerin oranının %7,1'den %3,8'e düştüğünü gösterdi. Bedeli ise bin istek başına maliyetin yaklaşık %6 artması.
Yeni algoritma devreye alındı; kullanıcıların yapılandırmayı ayarlamasına gerek yok. Bu optimizasyon, modelin kendi yeteneğine değil, aynı modelin arkasındaki çıkarım hizmet sağlayıcısı seçimine yönelik.
