a16z, yerel yapay zeka asistanı Underdog'a yatırım yaptı: e-postalar ve takvim kendi bilgisayarınızda kalıyor

动察 Beating AI hızlı haber: Conway Research, kişisel AI asistanı Underdog'u tanıttı ve a16z, Khosla Ventures gibi kurumlardan yatırım aldı. Şu anda doğrudan Mac üzerinde çalışabiliyor, kullanıcının e-postalarına ve takvimine bağlanarak e-posta bulma, takvim düzenleme ve günlük işleri halletme konusunda yardımcı oluyor. Model yerel olarak çalışıyor, kişisel verilerin artık bulut AI'ya teslim edilmesine gerek kalmıyor ve internet bağlantısı olmadan da kullanılabiliyor. a16z, Conway Research'ün ilk tur yatırımını yönettiğini doğruladı.

Underdog'un sıradan bir Mac'te çalışabilmesinin bir nedeni, modelin yeterince küçük olması. Şu anda açık olan Woof yalnızca 4B parametreye sahip ve 4-bit ağırlıklarla yaklaşık 2,37GB. Diğer yandan ekip, özellikle Woof ve Apple Silicon için optimize edilmiş Husky çıkarım motorunu geliştirdi. Resmi testlere göre M5 Max üzerinde aynı model seti 16 görevde MLX'ten daha hızlı çalışıyor ve en yüksek 4,5 kat hıza ulaşıyor.

Kurucu Sigil Wen, e-posta bulma, dosya düzenleme, takvim yönetimi gibi günlük işler için her seferinde veri merkezindeki en güçlü modeli çağırmaya gerek olmadığını düşünüyor. Küçük modeller yeterince yetenekli ve hızlı olduğu sürece, kullanıcının kendi bilgisayarını kullanarak çok sayıda görevi doğrudan tamamlayabilir.

Underdog sırada iPhone, Windows, Linux, Android ve NVIDIA cihazlarına da girmeyi planlıyor. Wen bu rotayı "Underdog's Law" olarak adlandırıyor: Bugün çalışmak için veri merkezi gerektiren öncü AI, yaklaşık altı ay sonra kişisel cihazlara girme fırsatı bulacak.

Ekip ayrıca Agent'ın doğrudan kullanıcı adına alışveriş yapması gibi senaryolar üzerinde çalışıyor ve nihayetinde yerel AI'yı uzun vadede kişisel bağlamı öğrenen, doğrudan kullanıcı adına iş yapan kişisel bir Agent haline getirmeyi hedefliyor.