动察 Beating tarafından yapılan izlemeye göre, açık kaynaklı AI aracı şirketi Unsloth, Kimi K3'ün 1-bit GGUF sürümünü yayınlayarak modeli 1,56 TB'tan 594 GB'a sıkıştırdı. Kullanıcılar, Unsloth Studio veya llama.cpp aracılığıyla Mac üzerinde yerel olarak çalıştırabilir.
Ancak bu sürüm en az yaklaşık 610 GB bellek gerektiriyor. Resmi çözüme göre, en üst düzey 512 GB Mac Studio'nun yanı sıra 128 GB belleğe sahip bir cihaz da kullanılmalı. Bellek yetersizse, sabit disk yardımıyla zorlama yüklenebilir, ancak hız önemli ölçüde düşer.
Toplulukta ayrıca 350 GB ve 451 GB boyutlarında MLX kırpılmış sürümler de mevcut; bunlar tek bir 512 GB Mac Studio'ya sığabiliyor. Ancak bu sürümler, uzmanların %73 ila %80'ini kaldırdığı için gerçek testlerde hız yaklaşık 0,14 ila 0,20 token/sn olup, performans da belirgin şekilde düşüyor.
