动察 Beating tarafından yapılan takibe göre, Li Auto, Mach-Mind-4-Flash teknik raporunu yayınladı. Model daha önce tanıtılmıştı, bu raporda esas olarak eğitim sonrası detaylar ele alınıyor.
Ekip öncelikle matematik, kod yazma, yazılı anlatım, güvenlik, arama ve araç çağrısı gibi ondan fazla uzman modeli ayrı ayrı eğitti. Ardından MOPD (Çoklu Öğretmen Çevrimiçi Politika Damıtma) yöntemiyle bunları tek bir genel modelde birleştirdi. Her bir soru türü, ilgili uzman tarafından yönlendirilerek, karma eğitim sırasında birden fazla yeteneğin birbirini olumsuz etkilemesi azaltıldı.
Rapor ayrıca Agent'ın nasıl eğitildiğini de açıklıyor. Model yalnızca araç adlarını ve çağrı formatlarını öğrenmekle kalmıyor, aynı zamanda izole bir sanal alanda gerçek dosyaları okuyor, kodu değiştiriyor, testleri çalıştırıyor ve araçları çağırıyor. İşlem başarısız olduğunda, hata mesajlarını ve ortam değişikliklerini görüp düzeltmeye devam ediyor. Araç eğitimi, 190'dan fazla durum bilgisi olan alanı ve 3.500'den fazla araç arayüzünü kapsıyor; bir programlama görevinin tek bir eğitim izi en fazla 300 tura kadar çıkabiliyor.
Bu birleştirme tamamen kayıpsız değil. Talimat takip etme yeteneği büyük ölçüde korunmuş, ClawBench ve ClawEval'da ayrı ayrı eğitilmiş Agent uzmanını bile geçmiş. Ancak SWE-bench Verified puanı, uzman modelin 73,80'inden 71,10'a düşmüş. Ekip, uzun süreli programlama gibi yüksek düzeyde uzmanlaşmış yeteneklerin birleştirme sırasında hâlâ kaybolduğunu kabul ediyor.
Rapor ayrıca modelin "fazla düşünmesini" nasıl azaltacaklarını da açıklıyor. HMPO, doğru cevapların medyan uzunluğuna göre dinamik olarak bir akıl yürütme bütçesi belirliyor ve yalnızca doğru ve daha kısa cevapları ödüllendiriyor. Bu yöntem, üretim uzunluğunu %19 ila %46 oranında kısaltırken, doğruluk oranında en fazla 0,7 puanlık bir düşüşe neden oluyor. Şu anda bu yöntem yalnızca tek turlu akıl yürütme için kullanılıyor, henüz çok turlu Agent görevlerini kapsamıyor.
