罗夫莉: Büyük Ölçekli Model Geliştirme Sonrası Eğitim Çağına Girerken, Lider Ekipler Ön Eğitim ve Son Eğitim Gücü Oranı 1:1'e Ulaşıyor

据Canlı Yay Beating izlemesine göre, Xiaomi'nin Büyük Model Ekibi Lideri Luo Fulü, büyük model rekabetinin önceden eğitim odaklı Sohbet çağından, tamamen sonradan eğitim odaklı Ajan çağına doğru doğrudan bir kayma yaşadığını belirtti. Mevcut temel rekabet noktası, "Ajan üzerinde Pekiştirmeli Öğrenmeyi (RL) nasıl ölçeklendireceğimiz"dir.

Bu paradigma değişimi, doğrudan hesaplama gücü tahsisinde bir yeniden yapılanmaya yol açtı. Luo Fulü, Sohbet çağında araştırma, önceden eğitim ve sonradan eğitim için ayrılan hesaplama gücü oranının yaklaşık olarak 3:5:1 olduğunu açıkladı; ancak bugünün Ajan çağında, uygun hesaplama gücü dağıtım oranı 3:1:1'e dönüşmüştür, yani şu anda önceden eğitim ile sonradan eğitim için hesaplama gücü yatırımı neredeyse eşit hale gelmiştir ve şu anda önde gelen model ekiplerinin bu iki alandaki yatırım oranı 1:1'e ulaşmıştır.

Aynı zamanda, sistem mimarisi ile ilgili gereksinimler de büyük değişimlere uğramıştır. Geçmişteki RL altyapısı öncelikle "Model Çıkarım Motoru"na dayanmaktaydı ve yalnızca metin tabanlı hesaplamalarla ilgileniyordu; şimdi ise altyapı "Ajan"ı merkeze almalı, heterojen kümeleme planlamayı desteklemeli ve ajanın çeşitli kontrolsüz unsurlar nedeniyle karmaşık iş akışlarında kesintiye uğrayabileceği belirsizliği tolere edebilmelidir.