Aller au contenu principal
← Retour aux actualités

Ollama v0.33.0 : Claude Desktop peut utiliser des modèles locaux en tant que passerelle

Outils et sorties
Source:Ollama
La release ajoute la configuration de Claude Desktop avec Ollama comme passerelle tierce, ainsi que d'importantes améliorations de la mise en cache : les points de restauration du Prefill rendent les reprises bien plus efficaces et corrigent un blocage avec les clients annulant les Prefill longs.
Lire l'article original

Articles connexes

Exécuter des Modèles LLM en Local : du Premier Install au Premier Modèle

De zéro au premier modèle qui répond : ce qu'il vous faut vraiment, Ollama pas à pas, comment choisir le modèle pour votre mémoire, les vitesses attendues par hardware et les problèmes typiques résolus.

Qwen : le modèle open au meilleur support multilingue

Qwen est la famille open au meilleur support pour le français et l'italien : générations, tailles, MoE, quand l'utiliser et comparaison rapide avec Llama.

GGUF : le format qui fait tenir les modèles sur votre matériel

On ouvre la boîte : ce qu'il y a vraiment dans un fichier .gguf, pourquoi c'est un seul fichier, comment lire le nom et comment choisir la taille pour votre VRAM, avec les dimensions réelles d'un modèle 8B.

Recevez le prochain point IA locale

Chaque semaine, une sélection du meilleur d'iaLocale : articles, actualités et ressources sur l'IA locale, et plus encore.

Après l'inscription, vous recevez un e-mail de confirmation (double opt-in). Sans confirmation, nous n'envoyons rien. Pas de spam, promis.

Ressources liées

Outils et ressources des archives iaLocale pertinents pour ce contenu.

🖥️

AMD Ryzen AI Max+ 395 (Strix Halo)

Matériel

La APU AMD con la massima memoria unificata su x86: fino a 128GB di LPDDR5X condivisa tra CPU (16 core Zen 5), GPU integrata (40 CU RDNA 3.5) e NPU. Fino a 96GB allocabili alla GPU: modelli fino a 100B+ a 4 bit senza GPU dedicata, su mini-PC o laptop. Bandwidth 256 GB/s.

💻

Apple M5 Max

Matériel

Il chip Apple Silicon di punta per l'IA locale: 18 core CPU e 40 core GPU con memoria unificata fino a 128GB a 614 GB/s. Il Neural Accelerator su ogni core GPU raddoppia la velocità dei modelli MoE in decode rispetto alla generazione M4: ~88 tok/s su gpt-oss-120b, il più veloce della classe.

Bespoke Nimble 9B

Modèles

Le modèle décisionnel de 9B de Bespoke Labs : il tourne entièrement en local via Ollama 0.35 et répond à des questions typées (vrai/faux, échelle numérique, choix multiple) avec la nouvelle API systemone. Conçu pour la classification rapide dans les pipelines automatisés, sans cloud.

🌱

Bonsai-2 27B

Modèles

Modèle de raisonnement de 27B aux poids ternaires à 1,72 bit par poids, dérivé de Qwen3.8-27B avec attention hybride (~75 % linéaire). En GGUF PTQ1_0 il occupe 5,95 Go, conserve 98,2 % de l'intelligence FP16 et atteint ~47 tok/s sur un laptop Apple M5 Max, avec un contexte de 262K tokens. Licence Apache 2.0. Exige la fork llama.cpp de Prism ML (les noyaux ternaires ne sont pas dans llama.cpp stock).

Parcourir toutes les ressources