Lexique des agents IA
TokenJeton
Définition. Un token (jeton en français) est le petit morceau de texte que manipule un modèle d’IA : un mot court, une partie de mot ou un signe de ponctuation. La longueur des échanges, les limites de mémoire et souvent le prix se comptent en jetons.
Avant de traiter un texte, le modèle le découpe en jetons ; les mots longs sont coupés en plusieurs morceaux. Google indique pour ses modèles Gemini qu’un jeton correspond à environ quatre caractères, et que 100 jetons représentent environ 60 à 80 mots en anglais.
Ce comptage a deux conséquences pratiques. La fenêtre de contexte, c’est-à-dire ce que le modèle peut lire en une fois, est exprimée en jetons. Et le coût d’un appel à un modèle par son API dépend en partie du nombre de jetons en entrée et en sortie.
Pour une petite entreprise abonnée à un outil grand public, les jetons restent le plus souvent invisibles : l’abonnement les inclut, avec parfois des limites d’usage. Ils deviennent visibles avec un agent IA facturé à la consommation ou auto-hébergé, où chaque tâche longue se paie.
Les documents, les images et les longues conversations consomment beaucoup de jetons. Un agent qui travaille en plusieurs étapes en consomme aussi davantage qu’une simple question suivie d’une réponse.
Un exemple en entreprise
Si un gérant fait résumer chaque matin ses mails par un agent facturé à l’usage, ce sont surtout les mails longs et les pièces jointes lus par l’agent qui pèsent sur la consommation de jetons, plus que les résumés courts qu’il produit.