Ana Sayfa
AI AI
Flaş
Derinlik
Etkinlikler
BlockBeats Pro
Daha Fazla
Finans
Özel
Blok Zinciri Ekosistemi
Giriş
Podkastlar
Veri
OPRR
#
BTC
$96,000
5.73%
ETH
$3,521.91
3.97%
HTX
$0.{5}2273
5.23%
SOL
$198.17
3.05%
BNB
$710
3.05%
lang
简体中文
繁體中文
English
Tiếng Việt
한국어
日本語
ภาษาไทย
Türkçe
Partnered With:

MiniMax M3 resmi olarak açık kaynak haline getirildi, yerel çoklu mod desteği ile milyonlarca bağlamı destekliyor.

动察 Beating tarafından yapılan takibe göre, yerli büyük model üreticisi MiniMax, Hugging Face üzerinde doğal çok modlu karma uzman (MoE) modeli MiniMax M3'ün ağırlıklarını açık kaynak olarak yayınladı. MiniMax M3'ün toplam parametre sayısı 428 milyar olup, tek Token'da 23 milyar parametre aktifleşiyor ve doğal olarak 1 milyon tokenlik ultra uzun bağlamı destekliyor. Dağıtım bellek maliyetini düşürmek için geliştirme ekibi eş zamanlı olarak MXFP8 kuantizasyon sürümünü yayınladı ve SGLang, vLLM, Transformers gibi ana akım çıkarım çerçevelerine uyum sağladı.

Çok modlu tasarımda MiniMax M3, eğitim sonrası aşamada çok modlu hizalama yapmak yerine, ön eğitim aşamasında metin, görüntü ve video ortak eğitimini gerçekleştirerek doğal anlamsal füzyon sağlıyor. Çalışma mekanizmasında model, karmaşık mantık ve araç düzenlemesi için Thinking (Düşünme) modu ile düşük gecikmeli diyalog ve kod üretimi için Non-thinking (Düşünmeme) modu olmak üzere iki çıkarım modu sunuyor.

Milyonlarca tokenlik ultra uzun bağlamı destekleyen temel çekirdek, eş zamanlı açık kaynak olarak yayınlanan hafif dikkat çekirdek kütüphanesi MiniMax Sparse Attention (MSA)'dır. Resmi verilere göre MSA, Gruplandırılmış Sorgu Dikkati (GQA) bloklu erişim mekanizmasını kullanıyor. 1 milyon tokenlik aşırı uzun bağlam testlerinde, NVIDIA Blackwell (SM100) mimarisi için optimize edilen MSA operatörü, geleneksel tam dikkat mekanizmasına kıyasla 9 kattan fazla ön doldurma hızlanması ve 15 kat kod çözme hızlanması sağlarken, çıkarım maliyetini önemli ölçüde düşürüyor.

举报 Düzeltme/Rapor
İlgiliÖnerilen
Goldman Sachs, MiniMax'in yeni ürünleri ve maliyet avantajlarıyla değerlemesini toparlayacağına inanıyor.
Paranın azlığı, kartın azlığı, insanın azlığı, aksine mükemmeliyetçi mühendislik yeteneğini ve mimari yeniliği ortaya çıkardı.
Markasız, tanıtıma dayanmayan, geliştiricileri 8 gün içinde oy kullanmaya teşvik eden bir etkinlik.
NVIDIA'nın Çin'deki Büyük Model Eğitimi Korumalığı, "Zorunlu"dan "İsteğe Bağlı"ya İndirgendi.
Düzeltme/Rapor
Gönder
Kütüphane Ekle
Sadece kendime görünür
Herkese Açık
Kaydet
Kütüphane Seç
Kütüphane Ekle
İptal
Tamamla