Pubblicato il 1 ott 2024
Il modello di trascrizione di riferimento per l'IA locale: 809M di parametri, 99 lingue, licenza MIT. Versione distillata di Large-v3 con decoder ridotto da 32 a 4 layer: trascrive circa 8 volte più veloce con perdita di accuratezza trascurabile. Gira in tempo reale su una GPU consumer e anche solo su CPU.
Distillazione di Large-v3: encoder invariato, decoder da 32 a 4 layer (1,55B → 809M), ~8× più veloce, WER +0,5-1pp. MIT.
Visita il sito ufficiale per scaricare, documentarti e iniziare a utilizzare Whisper Large-v3-Turbo.
Il modello di ragionamento open-weight di OpenAI: MoE con 21B di parametri totali e 3,6B attivi (32 esperti, top-4), contesto 128K e quantizzazione MXFP4 nativa. Licenza Apache 2.0: i pesi partono già quantizzati a 4 bit, senza passo di conversione. Sta in 16GB di VRAM e gira anche su RAM unificata o CPU.
Modello di decisione System 1 da 11,4 MB (un file), costruito su un encoder testuale e5-small-v2. Picco di memoria residua di 128 MB, gira su CPU. Dato uno stato e domande tipizzate, restituisce una probabilità calibrata per opzione in un solo passaggio, senza generare token. Inglese-only.
Modello musicale open più recente con controllo eccellente su testi e stili: genera canzoni complete con lyrics in molte lingue, incluso l'italiano.
