NVFP4

Format de quantification 4 bits de NVIDIA (NVIDIA Floating Point 4) : il représente les poids du modèle avec 4 bits plus un facteur d'échelle par groupe, réduisant la mémoire d'environ un quart par rapport à 16 bits. C'est le format natif des tensor cores Blackwell et il permet à des modèles de 35 Md de paramètres de tourner sur une GPU de 32 Go.