root@fr:~$ lexique/inference

Inférence

Modèles

Exécution d'un modèle déjà entraîné : il reçoit une requête et produit sa réponse, token par token. C'est la phase qui tourne au quotidien et qui porte la facture réelle d'un système d'IA ; son coût chute d'année en année, ce qui rend l'auto-hébergement de modèles sérieux économiquement viable.

Aussi appelé Inference

Termes liés

Entraînement

Modèles

Phase où un modèle apprend ses paramètres sur de très grands volumes de données, un chantier de calcul réservé à une poignée d'acteurs mondiaux. Posséder...

Token

Modèles

Unité de texte que manipule un modèle : un mot court, un morceau de mot ou un signe de ponctuation. C'est aussi l'unité de facturation de l'inférence ; le...

Modèle open-weight

Modèles

Modèle d'IA dont les poids sont publiés et peuvent être téléchargés, exécutés et adaptés sur votre propre infrastructure. Il permet l'auto-hébergement et la...

GPU

Architecture

Processeur massivement parallèle, conçu à l'origine pour l'image, devenu le matériel standard de l'entraînement et de l'inférence des modèles d'IA. Sa...

Cette notion touche votre activité ?

Passez de la définition au déploiement : un premier agent sur vos données, en France, sur un modèle que vous contrôlez de bout en bout.

Le bon modèle Parlons de votre IA