gpt-oss : le modèle de raisonnement open d'OpenAI

OpenAI a publié ses premiers modèles de langage open-weight avec raisonnement : gpt-oss-20b et gpt-oss-120b. Le premier tient dans 16 Go de mémoire et se comporte comme un modèle de 24 Go. Voici ce que cela change en pratique.

Ce qu'est gpt-oss et pourquoi c'est important

GPT-OSS est la famille de modèles open-weight d'OpenAI, publiée sous licence Apache 2.0 : poids téléchargeables, entraînables, sans restriction d'usage. C'est le retour d'OpenAI sur le front open depuis GPT-2, et avec une caractéristique rare dans la gamme grand public : c'est un modèle de raisonnement, entraîné avec la même approche (SFT + RL haute intensité) que les modèles propriétaires comme o4-mini.

La version qui intéresse le matériel grand public est gpt-oss-20b : 21 Md de paramètres au total, mais seulement 3,6 Md actifs par token.

MoE : 21 Md au total, 3,6 Md en action

gpt-oss est un Mixture-of-Experts. Concrètement, le modèle possède 32 « experts » (groupes de paramètres) et n'en active que 4 par token : ce sont ces 3,6 Md qui travaillent vraiment. Le double bénéfice :

• Moins de mémoire active : la vitesse de génération dépend des paramètres actifs, pas du total. 3,6 Md actifs, ça veut dire une vitesse de modèle compact.
• Plus de capacité : les 21 Md restent à disposition, donc la qualité de raisonnement reste celle d'un modèle grand.

C'est la même architecture que Mixtral ou la famille MoE Qwen3 : la différence ici, c'est que les poids sont déjà en MXFP4, ce qui change pas mal la donne côté matériel.

MXFP4 : pourquoi vous n'avez pas à quantiser

MXFP4 est un format flottant 4 bits avec échelle par bloc : chaque groupe de 32 poids a son propre facteur d'échelle. C'est différent des quantisations entières GGUF (Q4_K_M et consorts) et c'est le format dans lequel OpenAI a entraîné directement le modèle, pas une conversion a posteriori.

Trois conséquences pratiques :

1. Les poids « natifs » font déjà ~13 Go : aucune étape de quantisation, aucune perte supplémentaire. Les builds GGUF de la communauté (unsloth, ggml-org) partent de là, en tailles de 11,5 à 13,8 Go selon le niveau choisi.
2. La quantisation ne dégrade pas comme un Q4 classique : le modèle a été post-entraîné déjà en MXFP4, donc les chiffres de benchmark de la model card sont ceux que vous obtenez.
3. Les moteurs d'inférence le supportent nativement : vLLM tourne sur le format original sans conversion ; Ollama et llama.cpp utilisent les builds GGUF.

Combien ça tourne sur 16 Go de VRAM

Le fichier du modèle fait entre 11,5 et 13 Go selon la build. Sur une GPU 16 Go (4060 Ti, 5060 Ti 16 Go, 5070 Ti 16 Go, RX 9070 XT), il vous reste 3 à 4 Go pour la KV cache : un contexte de 8K à 32K selon ce que vous poussez. La vitesse dépend de la bande passante mémoire, comme toujours : avec 3,6 Md actifs, même une carte à 448 Go/s gère le decode sans souffrir.

Sans GPU ? Ça fonctionne, mais le decode passe en RAM système : comptez une dizaine de tokens par seconde sur un dual-channel récent. Suffisant pour un usage interactif, pas pour du serving. Sur Apple Silicon, la mémoire unifiée (16 Go et plus) est le setup naturel : poids en mémoire, pas de swap.

Le mettre en place

Avec Ollama, deux commandes :

ollama pull gpt-oss:20b
ollama run gpt-oss:20b

Ou en chat via LM Studio ou Open WebUI pointant vers le serveur Ollama. Si vous devez servir plusieurs utilisateurs, vLLM lit le format MXFP4 original directement depuis le dépôt Hugging Face.

Le modèle supporte un raisonnement « à effort réglable » : en chat, vous demandez plus ou moins de raisonnement, et le modèle adapte la longueur à la tâche. Ça marche bien aussi avec le tool calling et les structured output.

gpt-oss-20b vs Qwen3.8-27B vs Gemma 4 26B

Si vous avez 24 Go, la comparaison qui compte est celle-ci :

	gpt-oss-20b	Qwen3.8-27B	Gemma 4 26B A4B
Architecture	MoE (32 experts, top-4)	Dense	MoE (128 experts, top-8)
Paramètres actifs	3,6 Md	27,8 Md	3,8 Md
VRAM en Q4	~13 Go	~16 Go	~17 Go
Contexte natif	128K	262K	256K
Entrées	Texte	Texte + images + vidéo	Texte + images
Licence	Apache 2.0	Apache 2.0	Apache 2.0

Les choix sont différents : Qwen3.8-27B est le dense « de tête », avec un contexte plus long et la multimodalité ; Gemma 4 26B A4B est le MoE au contexte le plus généreux, avec 140+ langues ; gpt-oss-20b est celui qui tient dans 16 Go avec la meilleure qualité de raisonnement de la gamme. Si votre objectif est le raisonnement sur du matériel 16 Go, c'est aujourd'hui la référence.

Et les limites ?

Soyons honnêtes : l'entraînement est sur des données « majoritairement anglaises ». Le français et les langues romanes voisines se comprennent et s'écrivent, mais la qualité dans ces langues reste derrière des modèles entraînés sur des corpus multilingues plus épais, comme Qwen ou Gemma. Si la langue est votre critère principal, testez les deux avant de choisir.

Autre limite pratique : 16 Go, ça veut dire un contexte limité dans la pratique. Les 128K natifs sont possibles en théorie, mais avec les poids qui occupent 13 Go, la KV cache vous oblige à rester sur 16-32K. Si vous avez besoin de contextes longs sur de gros corpus, il vous faut 24 Go.

Enfin, gpt-oss-120b (117 Md au total, 5,1 Md actifs) tourne sur 80 Go : H100, A100, ou un Mac Studio M3 Ultra 512 Go. C'est un autre monde, mais il existe dans la même famille.

Articles liés

• Qwen3.8-27B vs Gemma 4 26B A4B : la nouvelle frontière à 24 Go
• Quantification : obtenir plus du même matériel
• Matériel pour IA locale : quelle GPU choisir

Sources

• Introducing gpt-oss — OpenAI
• gpt-oss-120b & gpt-oss-20b Model Card — arXiv
• openai/gpt-oss-20b — Hugging Face
• unsloth/gpt-oss-20b-GGUF — Hugging Face

En synthèse

gpt-oss-20b est le premier modèle de raisonnement open d'OpenAI qui tient dans 16 Go : 21 Md au total avec 3,6 Md actifs, poids natifs en MXFP4, contexte jusqu'à 128K et licence Apache 2.0. La quantisation n'est pas une étape à faire : le modèle arrive déjà dans le format 4 bits dans lequel il a été entraîné, donc les chiffres de la model card sont les chiffres réels. Vous le mettez en place avec Ollama en deux commandes. Si votre matériel est en 16 Go et que vous voulez du raisonnement, c'est le modèle à tester en premier ; si le critère est la langue ou la multimodalité, Qwen3.8 et Gemma 4 restent des alternatives sérieuses.

Article généré par IA