PrismML, Qwen3.6'yı 4GB'a sıkıştırdı, 27B modelini iPhone'a sığdırdı.

动察 Beating tarafından yapılan takibe göre, Kaliforniya Teknoloji Enstitüsü matematikçisi Babak Hassibi'nin kurucu ortağı olduğu AI laboratuvarı PrismML, Alibaba'nın açık kaynak modeli Qwen3.6-27B'yi sıkıştırarak iPhone 17 Pro'da çalıştırdığını duyurdu.

Qwen3.6-27B, 27 milyar parametreli yoğun bir modeldir. Çıkarım sırasında tüm parametreler devreye girer; yalnızca belirli parametreleri etkinleştiren bir MoE modeli değildir.

PrismML, model boyutunun yaklaşık 54 GB'tan 4 GB'ın altına düşürüldüğünü ve performansta belirgin bir düşüş olmadığını belirtti. Bu model, karmaşık diyaloglar, akıl yürütme, ajan ve kod görevleri için kullanılabiliyor.

Apple, bu teknolojinin nasıl kullanılacağını görüşmek üzere PrismML ile temasa geçti. Apple, daha fazla AI işlemini cihaz yerelinde gerçekleştirmek istiyor ancak gelişmiş Siri hâlâ bulut tabanlı modellere bağımlı.