Retour index
LFM2.5 / MoE
LFM2.5 8B-A1B
MoE compact avec seulement 1B actif, pense pour debit et tool use.
VRAM min4.5 Go
Contexte32 768
Params8.47B
Actifs1B
Quantizations
Memoire estimee et runtimes
| Format | VRAM/RAM | Runtimes | Source |
|---|---|---|---|
| BF16 | 17 Go | Transformers, vLLM, SGLang | Estimated from parameters |
| Q8_0 | 8.7 Go | llama.cpp, LM Studio, Ollama | LiquidAI GGUF |
| Q4_0 | 4.5 Go | llama.cpp, LM Studio, Ollama | LiquidAI GGUF |
Sources
Liens de reference
Tok/s
Mesures tok/s GPU
| GPU | VRAM/RAM | Runtime | App | Quant | Contexte | Tok/s |
|---|---|---|---|---|---|---|
| Aucune mesure tok/s locale pour ce modele. | ||||||