Il modello di ragionamento open-weight di OpenAI: MoE con 21B di parametri totali e 3,6B attivi (32 esperti, top-4), contesto 128K e quantizzazione MXFP4 nativa. Licenza Apache 2.0: i pesi partono già quantizzati a 4 bit, senza passo di conversione. Sta in 16GB di VRAM e gira anche su RAM unificata o CPU.
Whisper Large-v3-Turbo
Released on Oct 1, 2024
Il modello di trascrizione di riferimento per l'IA locale: 809M di parametri, 99 lingue, licenza MIT. Versione distillata di Large-v3 con decoder ridotto da 32 a 4 layer: trascrive circa 8 volte più veloce con perdita di accuratezza trascurabile. Gira in tempo reale su una GPU consumer e anche solo su CPU.
Features
- 809M parametri
- 99 lingue
- ≈8× più veloce di Large-v3
- MIT
- 2-3GB di VRAM (fp16)
Version history
- Whisper Large-v3-TurboLatest
Distillazione di Large-v3: encoder invariato, decoder da 32 a 4 layer (1,55B → 809M), ~8× più veloce, WER +0,5-1pp. MIT.
Tags
Useful links
Discover Whisper Large-v3-Turbo
Visit the official site to download, learn more and start using Whisper Large-v3-Turbo.
Related resources — Models
An 11.4MB (single-file) System-1 decision model built on an e5-small-v2 text encoder. 128MB resident-memory peak, runs on CPU. Given a state and typed questions, it returns a calibrated probability per option in one pass, without generating tokens. English-only.
The newest open music model with excellent control over lyrics and styles: generates complete songs with lyrics in many languages, including Italian.

