Ana Sayfa
AI AI
Flaş
Derinlik
Etkinlikler
BlockBeats Pro
Daha Fazla
Finans
Özel
Blok Zinciri Ekosistemi
Giriş
Podkastlar
Veri
OPRR
#
BTC
$96,000
5.73%
ETH
$3,521.91
3.97%
HTX
$0.{5}2273
5.23%
SOL
$198.17
3.05%
BNB
$710
3.05%
lang
简体中文
繁體中文
English
Tiếng Việt
한국어
日本語
ภาษาไทย
Türkçe
Partnered With:

Kimi K3 artık Mac'te yerel olarak çalıştırılabiliyor, ancak sıradan kullanıcılar hâlâ çalıştıramıyor.

动察 Beating tarafından yapılan izlemeye göre, açık kaynaklı AI aracı şirketi Unsloth, Kimi K3'ün 1-bit GGUF sürümünü yayınlayarak modeli 1,56 TB'tan 594 GB'a sıkıştırdı. Kullanıcılar, Unsloth Studio veya llama.cpp aracılığıyla Mac üzerinde yerel olarak çalıştırabilir.

Ancak bu sürüm en az yaklaşık 610 GB bellek gerektiriyor. Resmi çözüme göre, en üst düzey 512 GB Mac Studio'nun yanı sıra 128 GB belleğe sahip bir cihaz da kullanılmalı. Bellek yetersizse, sabit disk yardımıyla zorlama yüklenebilir, ancak hız önemli ölçüde düşer.

Toplulukta ayrıca 350 GB ve 451 GB boyutlarında MLX kırpılmış sürümler de mevcut; bunlar tek bir 512 GB Mac Studio'ya sığabiliyor. Ancak bu sürümler, uzmanların %73 ila %80'ini kaldırdığı için gerçek testlerde hız yaklaşık 0,14 ila 0,20 token/sn olup, performans da belirgin şekilde düşüyor.

举报 Düzeltme/Rapor
İlgiliÖnerilen
Yabancı, Sovyet uydusunun fırlatıldığı günden daha şaşkın olduğunu söylüyor.
Citigroup ve Bank of America Securities, Kimi K3'ün çıkarım maliyetlerini düşürmesine rağmen, "Jevons Paradoksu" aracılığıyla daha fazla çağrı, uzun bağlam ve ajan görevlerini teşvik ederek GPU, HBM, DDR5, eSSD ve ağ altyapısı talebini artırabileceğini düşünüyor.
Düzeltme/Rapor
Gönder
Kütüphane Ekle
Sadece kendime görünür
Herkese Açık
Kaydet
Kütüphane Seç
Kütüphane Ekle
İptal
Tamamla