Aller au contenu principal
← Retour aux actualités

À Vilnius, un mur qui écoute : la pipeline LLM locale d'un party avec IA

Cas d'usage
Source:vania-novikau.me
Une expérience créative à Vilnius : un mur avec micros et haut-parleurs alimenté par une pipeline LLM qui tourne entièrement en local. Les participants parlent au mur et reçoivent des réponses générées sur place — pas de cloud, pas de serveurs externes.
Lire l'article original

Articles connexes

Coûts : local vs API, avec les vrais chiffres

Combien coûte vraiment le local par rapport à une API cloud ? Tarifs par token vérifiés, amortissement de la carte graphique, électricité et point de rentabilité, calculé avec les vrais chiffres.

La voix locale : de Whisper au text-to-speech

Comment construire un pipeline de voix entièrement local : transcription avec Whisper, synthèse avec Piper ou Kokoro-82M, exigences matérielles et cas d'usage concrets.

Nemotron-Parse : la famille OCR de NVIDIA pour lire vos documents en local

NVIDIA a réédité Nemotron Parse (v1.1, v1.2, 2.0) dans la même semaine du 20 octobre : moins d'un milliard de paramètres, structure de page incluse. Installation locale avec vLLM, et limites honnêtes.

Recevez le prochain point IA locale

Chaque semaine, une sélection du meilleur d'iaLocale : articles, actualités et ressources sur l'IA locale, et plus encore.

Après l'inscription, vous recevez un e-mail de confirmation (double opt-in). Sans confirmation, nous n'envoyons rien. Pas de spam, promis.

Ressources liées

Outils et ressources des archives iaLocale pertinents pour ce contenu.

🤖

OpenAI gpt-oss-20b

Modèles

Il modello di ragionamento open-weight di OpenAI: MoE con 21B di parametri totali e 3,6B attivi (32 esperti, top-4), contesto 128K e quantizzazione MXFP4 nativa. Licenza Apache 2.0: i pesi partono già quantizzati a 4 bit, senza passo di conversione. Sta in 16GB di VRAM e gira anche su RAM unificata o CPU.

🧭

OpenRouter

Inférence

Gateway cloud pour l'inférence LLM : un seul endpoint API pour des centaines de modèles (dont les MoE open-weight), avec prix par token et routage automatique entre providers. Pour Ling 3.1 Flash : 0,075 $/M d'entrée, 0,225 $/M de sortie.

🎨

Qwen-Image 2.1

Modèles

Modèle open-weight de 7B (DiT de 32 couches) qui unifie génération à partir de texte jusqu'à 2048x2048, édition avec jusqu'à 10 images de référence et transparence RGBA native. Pensé pour tourner en local sur 16Go+ de VRAM ; supporté par diffusers et ComfyUI.

🟠

Anthropic Claude

Inférence

API d'inférence pour les modèles Claude d'Anthropic (Claude 1 depuis 2023). Comme OpenAI, la facturation se fait au token, en entrée et en sortie, avec des limites de requêtes par forfait : la voie frontière sans serveur propre.

Parcourir toutes les ressources