据Canlı Beating izlemeye göre, eski ByteDance büyük model eğitimi sorumlusu Lin Haibin resmen Seed ekibine geri döndü ve dağıtılmış eğitim altyapısının geliştirilmesine devam ediyor. Geçen Aralık ayında OpenAI'e katılmak için ayrılan Lin Haibin, eski baş bilim adamı Ilya Sutskever'in kurucusu olduğu Süper Zeka Şirketi SSI'ye (Safe Superintelligence) katıldı ve geri dönüşü yaklaşık altı ay sürdü. Carnegie Mellon Üniversitesi'nde yüksek lisans yapmış olan ve ünlü veritabanı uzmanı Andy Pavlo'nun öğrencisi olan yapay zeka uzmanı Lin Haibin, önceki süreçte, peş peşe açık kaynaklı bir takviyeli öğrenme eğitim çerçevesi olan ve MegaScale adlı onbinlerce kartla dağıtılmış eğitim sistemi, Lin Haibin'in hızlı geri dönüşü, Çin ve ABD'deki büyük modelin üst düzey yetenekleri arasında olan değişikliğin bir yansımasıdır.
2020 yılında ByteDance'in AML (Uygulama Makine Öğrenimi) ekibine katılmadan önce Lin Haibin, Amazon AWS'de MXNet çatısı geliştirme sürecine katılmıştı. ByteDance'de çalışırken, Lin Haibin, GPU tabanlı öneri eğitim sistemi ve toplu iletişim kütüphanesi ByteCCL'yi geliştirdi ve onbinlerce GPU'nun paralel işbirliği zorluğunu aşmak için ekip yönetti ve MegaScale eğitim sistemini geliştirdi. Şu anda Bean Big Model'in günlük çağrı miktarı yüksek seviyede ve çok modlu ve akıllı varlık geliştirme, eğitim kümesi için istikrarın son derece önemli olduğu, Lin Haibin'in önceki ByteDance teknoloji ekosistemi hakkındaki bilgisi, doğrudan temel dağıtılmış eğitim sistemini destekleyebilir. Ayrıca, Lin Haibin'in öncülüğünü yaptığı açık kaynaklı takviyeli öğrenme eğitim çerçevesi ve onun tarafından geliştirilen ve Alibaba Thousand Questions ve Shanghai AI Laboratory tarafından benimsenen MegaScale eğitim sistemi.
ByteDance'in personelin geri dönüşü politikası, çalışanların 3 aydan fazla izinli olduğu ve ihlal kaydı olmadığı takdirde şirkete geri dönme başvurusunda bulunabileceği ve işten ayrılmanın bir yıldan az olduğu takdirde unvan ve maaşın aynı kalacağı belirtilmektedir. Lin Haibin'in ByteDance'e geri dönmesi, son zamanlarda büyük model çekirdek ekibi için teşvik önlemlerine yanıt verir niteliktedir. ByteDance, Seed bölümü çalışanlarına her biri 13 dolarlık özel bir "Bean Bag" hisse opsiyonu alma hakkı sunmuştur. Şu anda büyük model yetenek savaşı "Opsiyon + Kullanım + Hesaplama Gücü" entegre rekabet seviyesine yükselmiştir, önceki Seed Laboratuvarı yaklaşık 70 üyesinin dışındaki büyük model şirketlerine yönelmiş, ByteDance özel hisse tasarımıyla personel kaybını tersine çevirmeye çalışmaktadır.
