Le plus grand modèle open de Meta : qualité de frontière fermée mais exigences de datacenter. En pratique, il exige du multi-GPU à forte VRAM ou le cloud.
Llama 3.1 8B
Publié le 23 juil. 2024
Le cheval de bataille local par excellence : qualité solide, contexte de 131K tokens et un écosystème de quantisations GGUF immense. Le choix standard pour la conversation et les assistants.
Caractéristiques
- 8 Md de paramètres
- Contexte 131K
- Écosystème GGUF
- Quants très répandus
Historique des versions
- Llama 4 ScoutActuelle
Prima generazione Llama nativamente multimodale e MoE, con 109B totali, 17B attivi e contesto da 10M token.
- Llama 3.2
Nuove taglie da 1B e 3B ottimizzate per l'edge, affiancate dai modelli vision da 11B e 90B.
- Llama 3.1 8B
Il contesto è passato da 8K a 128K token, con miglioramenti nel post-training e nel multilinguismo.
Tags
Liens utiles
Découvrir Llama 3.1 8B
Visitez le site officiel pour télécharger, vous documenter et commencer à utiliser Llama 3.1 8B.
Ressources liées — Modèles
Modèle open de niveau frontière avec un contexte de 131K tokens. Exige 48-80 Go de VRAM, un Mac à mémoire unifiée ou une configuration multi-GPU.
Petit modèle rapide avec un contexte jusqu'à 131K tokens. Point d'entrée idéal pour la conversation et les résumés sur du matériel modeste, excellent sur smartphones et mini-PC.

