Modelli🦙
Llama 3.1 405B
Pubblicato il 23 lug 2024Llama 4 Scout
Il modello open più grande di Meta: qualità da frontiera chiusa ma requisiti da datacenter. In pratica richiede multi-GPU ad alta VRAM o il cloud.
LLMLlamaFrontieraOpen Source
Strumenti, framework e modelli per l'IA locale
4 risorse trovate per "Datacenter"
Il modello open più grande di Meta: qualità da frontiera chiusa ma requisiti da datacenter. In pratica richiede multi-GPU ad alta VRAM o il cloud.
GPU datacenter da 80GB di HBM2e: lo standard per training e inferenza in datacenter. Richiede server dedicati e alimentazione enterprise.
Il GPU datacenter di fascia più alta con 80GB di HBM3: il top di gamma per training e inferenza di grandi modelli. Solo in configurazioni enterprise.
La GPU consumer più veloce al mondo: 32GB di GDDR7 e 1.792 GB/s di banda. La scelta top per inferenza locale senza salire al datacenter.