Le plus grand modèle open de Meta : qualité de frontière fermée mais exigences de datacenter. En pratique, il exige du multi-GPU à forte VRAM ou le cloud.
Llama 3.1 70B
Publié le 23 juil. 2024
Modèle open de niveau frontière avec un contexte de 131K tokens. Exige 48-80 Go de VRAM, un Mac à mémoire unifiée ou une configuration multi-GPU.
Caractéristiques
- 70 Md de paramètres
- Contexte 131K
- Niveau frontière
- VRAM 48 Go+
Historique des versions
- Llama 4 ScoutActuelle
Prima generazione Llama nativamente multimodale e MoE, con 109B totali, 17B attivi e contesto da 10M token.
- Llama 3.2
Nuove taglie da 1B e 3B ottimizzate per l'edge, affiancate dai modelli vision da 11B e 90B.
- Llama 3.1 70B
Il contesto è passato da 8K a 128K token, con miglioramenti nel post-training e nel multilinguismo.
Tags
Liens utiles
Découvrir Llama 3.1 70B
Visitez le site officiel pour télécharger, vous documenter et commencer à utiliser Llama 3.1 70B.
Ressources liées — Modèles
Le cheval de bataille local par excellence : qualité solide, contexte de 131K tokens et un écosystème de quantisations GGUF immense. Le choix standard pour la conversation et les assistants.
Petit modèle rapide avec un contexte jusqu'à 131K tokens. Point d'entrée idéal pour la conversation et les résumés sur du matériel modeste, excellent sur smartphones et mini-PC.

