Vai al contenuto principale
Torna alle risorse
Organizzazioni🟢

NVIDIA

NVIDIA: le GPU con architettura CUDA sono lo standard de facto per l'inferenza IA locale. La VRAM determina quali modelli girano in locale: 24GB (RTX 4090) copre ~30B quantizzati, 80GB (A100/H100) i modelli 70B+ in precisione completa. Le GPU nel catalogo sono le risorse figlie.

Caratteristiche

  • CUDA: il toolkit di inferenza più supportato
  • GeForce consumer: da 12GB (RTX 3060) a 32GB (RTX 5090)
  • Data center: A100 80GB e H100 80GB per modelli grandi

Risorse di NVIDIA

Hardware🖥️
NVIDIA A100 80GB (SXM)
Pubblicato il 14 mag 2020di NVIDIA

GPU datacenter da 80GB di HBM2e: lo standard per training e inferenza in datacenter. Richiede server dedicati e alimentazione enterprise.

GPUNVIDIADatacenterTraining
Hardware⚡
NVIDIA DGX Spark (GB10)
Pubblicato il 15 ott 2025Ripricingdi NVIDIA

La workstation desktop NVIDIA per l'IA locale: superchip Grace Blackwell GB10 con 128GB di memoria unificata a 273 GB/s e circa 1 petaFLOP in FP4. CUDA completo, ~12 tok/s su modelli 27B a 4 bit, prefill veloce su contesti lunghi. Prezzo al lancio 3.999 USD, poi 4.699 USD per la carenza di memoria.

NVIDIAMemoria unificataEdge AIDesktop
Hardware🖥️
NVIDIA H100 80GB (SXM)
Pubblicato il 20 mar 2022di NVIDIA

Il GPU datacenter di fascia più alta con 80GB di HBM3: il top di gamma per training e inferenza di grandi modelli. Solo in configurazioni enterprise.

GPUNVIDIADatacenterTraining
Modelli🎙️
NVIDIA NemotronLabs VoiceChat 11B
Pubblicato il 3 ago 202611Bdi NVIDIA

Modello vocale end-to-end full-duplex da 11B: comprensione e generazione audio in un'unica architettura, senza stack in cascata ASR→LLM→TTS. Primo modello full-duplex open con tool calling durante la conversazione, risposte in ~450ms, interruzioni e turni naturali.

VocaleOpen SourceLocaleNVIDIA
Hardware🖥️
NVIDIA RTX 3060 12GB
Pubblicato il 8 dic 2021di NVIDIA

La GPU consumer più accessibile con 12GB di VRAM: il punto d'ingresso per l'inferenza locale. Esegue con margine i modelli da 7-8B quantizzati.

GPUNVIDIAInferenzaBudget
Hardware🖥️
NVIDIA RTX 3090 24GB
Pubblicato il 17 set 2020di NVIDIA

24GB di VRAM a prezzi di mercato usato molto convenienti: il modo più economico di raggiungere 24GB per modelli da 30B. Produzione terminata.

GPUNVIDIAUsato24GB
Hardware🎮
NVIDIA RTX 5060 Ti 16GB
Pubblicato il 16 apr 2025RTX 5060 Ti 16GBdi NVIDIA

Il 16GB d'ingresso della generazione Blackwell: GB206, 16GB GDDR7 a 448 GB/s, 180W, PCIe 5.0 x8. Lancio a 429 USD: il modo più economico di far girare Qwen3.8-27B e i modelli 30B+ in Q4 su una singola scheda. Prezzo street 2026 più alto per la carenza di GDDR7.

NVIDIABlackwellGPU
Hardware🎮
NVIDIA RTX 5070 12GB
Pubblicato il 5 mar 2025RTX 5070di NVIDIA

Blackwell GB205 di fascia media: 12GB GDDR7 su bus 192-bit (672 GB/s), 6.144 CUDA core, 250W. Supporto completo ai formati FP4/FP8 per l'inferenza. Lancio a 549 USD, marzo 2025.

NVIDIABlackwellGPU
Hardware🎮
NVIDIA RTX 5070 Ti 16GB
Pubblicato il 20 feb 2025RTX 5070 Tidi NVIDIA

Blackwell GB203 da fascia alta: 16GB GDDR7 su bus 256-bit (896 GB/s), 8.960 CUDA core, 300W. Il 16GB rende possibile Qwen3.8-27B o i modelli 30B+ in Q4 con contesto ampio. Lancio a 749 USD, febbraio 2025.

NVIDIABlackwellGPU
Hardware🖥️
NVIDIA RTX 5080 16GB
Pubblicato il 5 mar 2025di NVIDIA

16GB di GDDR7 con banda da 960 GB/s: la GPU Blackwell di fascia media. Velocità di decoding molto superiore alle generazioni precedenti.

GPUNVIDIABlackwellInferenza
Hardware🖥️
NVIDIA RTX 5090 32GB
Pubblicato il 30 gen 2025di NVIDIA

La GPU consumer più veloce al mondo: 32GB di GDDR7 e 1.792 GB/s di banda. La scelta top per inferenza locale senza salire al datacenter.

GPUNVIDIABlackwellHigh-end

Tag

Scopri NVIDIA

Visita il sito ufficiale per scaricare, documentarti e iniziare a utilizzare NVIDIA.

Visita il sito