Aller au contenu principal
← Retour aux actualités

Ollama ajoute la synthèse vocale locale : 100 fois plus rapide que le temps réel sur Apple Silicon

On-device et edge
Source:Ollama
Les modèles voice d'Ollama lisent à voix haute avec 100-200 millisecondes de Latence en utilisant le Metal d'Apple : sur une GPU NVIDIA avec CUDA, la vitesse dépasse aussi 100x le temps réel. Avant une conversation, on peut générer la ligne de System prompt en audio, pour que l'utilisateur n'ait pas à attendre à chaque message. Les modèles voice sont compatibles avec l'API OpenAI et les outils existants (Open WebUI, OpenCode, Claude Code).
Lire l'article original

Articles connexes

NVIDIA, AMD et Intel pour l'IA locale : quelle plateforme choisir

CUDA, ROCm ou Vulkan ? Nous comparons les trois plateformes pour l'IA locale sur la base de ce qui est réellement disponible : stacks logiciels officiels, cartes par palier de VRAM (12, 16 et 24 Go) et vitesses réelles. Où reste le choix évident, où AMD l'emporte au rapport qualité-prix et quand vaut-il la peine de quitter NVIDIA.

MagpieTTS 357M : la synthèse vocale en 12 langues, même sur un laptop

MagpieTTS Multilingual 357M de NVIDIA : 12 langues, français inclus, dans un fichier de 332 Mo qui tourne localement sur un laptop sans GPU. Exigences, installation en trois commandes, limites honnêtes.

Ollama vs LM Studio : quel outil choisir

Ollama pour machines et serveurs (API 11434), LM Studio pour explorer et mesurer (serveur 1234, benchmark intégré) : tableau comparatif, API compatible OpenAI et le cas réel de ceux qui les utilisent ensemble.

Recevez le prochain point IA locale

Chaque semaine, une sélection du meilleur d'iaLocale : articles, actualités et ressources sur l'IA locale, et plus encore.

Après l'inscription, vous recevez un e-mail de confirmation (double opt-in). Sans confirmation, nous n'envoyons rien. Pas de spam, promis.

Ressources liées

Outils et ressources des archives iaLocale pertinents pour ce contenu.

🎙️

NVIDIA NemotronLabs VoiceChat 11B

Modèles

Modèle vocal end-to-end full-duplex de 11B : compréhension et génération audio dans une seule architecture, sans stack en cascade ASR→LLM→TTS. Premier modèle full-duplex open avec tool calling pendant la conversation, réponses en ~450ms, interruptions et tours naturels.

🖥️

NVIDIA A100 80GB (SXM)

Matériel

GPU datacenter de 80 Go de HBM2e : la référence pour le training et l'inférence en datacenter. Exige des serveurs dédiés et une alimentation enterprise.

🖥️

NVIDIA H100 80GB (SXM)

Matériel

Le GPU datacenter haut de gamme avec 80 Go de HBM3 : le top de gamme pour le training et l'inférence de grands modèles. Uniquement en configuration enterprise.

🖥️

NVIDIA RTX 3060 12GB

Matériel

Le GPU grand public le plus abordable avec 12 Go de VRAM : le point d'entrée pour l'inférence locale. Fait tourner confortablement les modèles 7-8B quantisés.

Parcourir toutes les ressources