root@fr:~$ lexique/quantification

Quantification

Modèles

Compression d'un modèle par réduction de la précision numérique de ses paramètres, pour qu'il tourne plus vite et sur un matériel plus modeste, au prix d'une perte de qualité limitée. Avec la distillation, c'est l'une des techniques qui mettent un grand modèle à la portée d'une infrastructure que vous contrôlez.

Aussi appelé Quantization, Quantisation

Termes liés

Distillation de modèle

Modèles

Technique où un grand modèle enseigne un modèle plus petit, qui hérite d'une part de sa qualité pour un coût et une empreinte bien moindres. Elle permet de...

Inférence

Modèles

Exécution d'un modèle déjà entraîné : il reçoit une requête et produit sa réponse, token par token. C'est la phase qui tourne au quotidien et qui porte la...

Modèle open-weight

Modèles

Modèle d'IA dont les poids sont publiés et peuvent être téléchargés, exécutés et adaptés sur votre propre infrastructure. Il permet l'auto-hébergement et la...

Cette notion touche votre activité ?

Passez de la définition au déploiement : un premier agent sur vos données, en France, sur un modèle que vous contrôlez de bout en bout.

Le bon modèle Parlons de votre IA