Zhang Yiming: Seed'in eğitim verisi birkaç kat daha az, ByteDance en erken 2029'da OpenAI ve Anthropic ile rekabet edebilir

动察 Beating AI haberi: Zhang Yiming, yakın zamanda Seed ekibinin tüm personel toplantısında bir zaman çizelgesi verdi: ByteDance'ın en erken 2029-2030 yıllarında öncü yapay zeka alanında OpenAI ve Anthropic ile rekabet edebilmesi bekleniyor.

Zhang Yiming özellikle, Seed büyük dil modelinin kullandığı ön eğitim veri setinin, en iyi rakiplerinkinden birkaç kat daha küçük olduğunu belirtti.

ByteDance aslında yapay zeka alanında şimdiden birçok iyi kart elde etti. Doubao, ülkedeki en büyük kullanıcı tabanına sahip yapay zeka sohbet uygulaması; Seedance da dünyanın en iyi video üretim modelleri arasına girdi. Ne var ki genel amaçlı dil modeli geride kaldı. Bu yılın haziran ayında Seed2.1'i yayımladıklarında ekip, modelin yüksek zorluktaki açık görevlerde ve öncü bilimsel araştırma sorunlarında hâlâ belirgin eksiklikleri olduğunu kendisi de kabul etti.

ByteDance bunun için devasa miktarda fon yatırmaya hazırlanıyor. Bu yılın mayıs ayında şirket, yıllık sermaye harcamasını en fazla 70 milyar dolara çıkarmayı, bunu esas olarak yapay zeka veri merkezleri gibi altyapıların inşası için kullanmayı tartışmıştı. Ağustos ayında ise Seed'in en fazla 10 trilyon parametreye sahip bir büyük modeli ön eğittiği, ölçeğinin ülkedeki tüm kamuya açık büyük modelleri aştığı haberi geldi.

Zhang Yiming damıtma yoluyla kısa yoldan gitmek de istemiyor. Damıtma, Claude gibi önde gelen modellerin ürettiği yanıtları alıp kendi modelini eğitmek için kullanmak anlamına geliyor. Bu yılın ağustos ayında, bu yöntemin kısa vadede performansı gerçekten iyileştirebileceğini, ancak öğrenilenin sonuçta başkalarının mevcut yetenekleri olduğunu, en fazla sürekli yaklaşılabileceğini, gerçek anlamda aşmanın çok zor olduğunu açıkça belirtti. Seed içinde ayrıca API tespiti ve eğitim verisi filtrelemesi yoluyla üçüncü taraf modellerin çıktılarının eğitim setine girmesi kısıtlanıyor.

Yetişmek için ByteDance sürekli insan alıyor ve tutuyor. Seed'de şu anda yaklaşık 1000 Ar-Ge personeli var ve bunlar, Zhang Yiming'in geçen yıl Google DeepMind'dan transfer ettiği Wu Yonghui tarafından yönetiliyor. ByteDance ayrıca özel olarak Doubao işiyle bağlantılı sanal hisse "Doubao hissesi"ni çıkardı; koşulları uygun çalışanlar yıl sonu ikramiyelerini Doubao hissesi olarak almayı seçebiliyor ve iş büyümesinden gelen getirileri paylaşabiliyor.

ByteDance önümüzdeki birkaç hafta içinde Meta Muse'a benzer kişisel bir yapay zeka asistanı piyasaya sürmeyi planlıyor; kullanıcıların ses ve sanal avatar aracılığıyla yapay zeka ile etkileşime girmesini ve onun görevleri kendi adına tamamlamasını sağlayacak. Doubao'nun iç kod adı "Spell" olan kişisel asistan projesi nisan ayında iç testlere başlamıştı, ancak Doubao telefonunun piyasaya sürülmesi gibi nedenlerle bir türlü resmi olarak çıkarılamadı. Meta Muse'un popüler olmasının ardından ByteDance ilerlemeyi hızlandırdı, Ulusal Gün tatilinden önce Ar-Ge'ye yetişmeye çalışıyordu ve Spell'i Doubao ile daha fazla entegre etmeyi planlıyor.