Le coût caché des tokens : les précautions à prendre

Un dirigeant me montre un devis. Un prestataire lui propose un assistant IA pour son service client : « moins de 2 centimes la requête ». Le chiffre est rassurant, le contrat se signe. Trois mois plus tard, la facture d'API ne ressemble pas du tout au devis. Pas parce qu'on lui a menti, mais parce que le prix par requête ne veut presque rien dire. Le vrai coût se cache dans une unité que personne ne lui a expliquée : le token.

Ce n'est pas un détail de technicien. C'est l'unité économique de l'IA générative. Tant qu'on ne la comprend pas, on signe pour un service dont on ne connaît pas le prix. Voilà ce qu'il faut savoir avant de mettre une signature au bas d'un contrat « IA ».

Un token, c'est quoi au juste

Un modèle de langage ne lit pas des mots, il lit des tokens : des fragments de texte, à peu près des bouts de mots. En français, comptez très grossièrement qu'un token vaut autour de trois quarts d'un mot - « anticonstitutionnellement » en pèse plusieurs, « le » en pèse un. (Ordre de grandeur, variable selon la langue et le modèle.)

Ce qu'il faut retenir, c'est qu'on paie les tokens dans les deux sens :

Les tokens d'entrée (input) : tout ce qu'on envoie au modèle - la question de l'utilisateur, mais aussi les instructions, l'historique de la conversation, et les documents qu'on lui donne à lire.

Les tokens de sortie (output) : ce que le modèle génère en réponse.

Et - point capital - la sortie coûte beaucoup plus cher que l'entrée. À date de juin 2026, un modèle haut de gamme comme GPT-5.5 est facturé autour de 5 $ le million de tokens d'entrée et 30 $ le million en sortie ; Claude Opus 4.8, environ 5 $ en entrée et 25 $ en sortie. La sortie coûte donc cinq à six fois l'entrée. (Prix publics constatés en juin 2026, susceptibles d'évoluer - sources en fin d'article.)

Première conséquence concrète : un assistant qui répond par de longs paragraphes coûte structurellement plus cher qu'un assistant qui va droit au but. La verbosité a un prix.

Les quatre endroits où l'addition gonfle sans qu'on les voie

Le devis affiche un coût par requête. Mais ce coût dépend de choix de conception qui n'apparaissent nulle part sur le contrat. Voici où l'argent part.

1. La longueur du contexte. Pour qu'une IA réponde à partir de vos documents internes, on lui « donne à lire » les passages pertinents à chaque requête. C'est ce qu'on appelle le RAG (Retrieval-Augmented Generation : on récupère les bons documents et on les injecte dans la question). Si la conception est paresseuse et envoie 30 000 tokens de contexte à chaque question au lieu de 3 000 bien ciblés, vous payez dix fois l'entrée - pour chaque requête, toute l'année.

2. L'historique de conversation. Un modèle n'a pas de mémoire entre deux messages. Pour qu'il « se souvienne » du début d'un échange, on lui renvoie tout l'historique à chaque tour. Une conversation longue coûte donc de plus en plus cher à mesure qu'elle avance, parce qu'on repaie l'entrée à chaque message.

3. Les appels répétés. C'est le piège le plus sous-estimé. Un « agent » (un système IA qui enchaîne plusieurs étapes pour accomplir une tâche) ne fait pas un appel au modèle, il en fait cinq, huit, parfois davantage - un par étape de raisonnement. Et à chaque étape, il renvoie souvent tout le contexte accumulé. Une seule « tâche » côté utilisateur peut ainsi déclencher une dizaine d'appels facturés. Ajoutez à cela les tentatives ratées que le système relance automatiquement, et l'addition se multiplie discrètement.

4. Le choix du modèle. C'est le levier le plus brutal. À date de juin 2026, l'écart de prix entre le bas et le haut de gamme dépasse un facteur 50 : un petit modèle comme GPT-4.1 nano tourne autour de 0,10 $ le million de tokens d'entrée, quand un modèle de raisonnement haut de gamme dépasse 30 $ - et les gammes bougent à chaque sortie. Faire tourner une tâche simple sur un modèle premium, c'est prendre un taxi pour traverser la rue.

Pourquoi « le prix par requête » est un piège

Mettons les chiffres sur un cas générique. Un assistant de support qui répond à partir de votre documentation, 10 000 questions par mois.

Conception naïve : on envoie 30 000 tokens de contexte par question, le modèle répond en 500 tokens, le tout sur un modèle haut de gamme à 5 $ / 30 $ le million. Coût par question : environ 0,15 $ d'entrée + 0,015 $ de sortie ≈ 0,17 $. Sur 10 000 questions : environ 1 700 $ par mois.

Conception soignée : on ne récupère que 3 000 tokens de contexte vraiment pertinents, on met en cache les instructions fixes, et on bascule la tâche sur un modèle plus léger à 1 $ / 5 $ le million. Coût par question : environ 0,003 $ + 0,0025 $ ≈ 0,006 $. Sur 10 000 questions : environ 55 $ par mois.

Même tâche. Même résultat pour l'utilisateur. Un facteur 30 sur la facture. C'est tout le problème : le « prix par requête » d'un devis n'est pas une donnée du produit, c'est une conséquence de choix de conception que le décideur ne voit pas. Deux prestataires peuvent livrer le même assistant pour des coûts d'exploitation séparés par un ordre de grandeur.

Et ce coût n'est pas fixe. Il varie avec l'usage : des utilisateurs qui posent des questions plus longues, des conversations qui s'allongent, un pic de trafic - et la facture suit, parce qu'elle est indexée sur les tokens, pas sur un forfait.

Les bonnes questions à poser avant de signer

Vous n'avez pas besoin de savoir coder pour évaluer un projet IA. Vous avez besoin de poser les bonnes questions au prestataire.

Sur quel modèle tourne la solution, et pourquoi celui-là ? Si la réponse est « le plus puissant du marché » pour une tâche simple, creusez. Le bon réflexe d'un concepteur, c'est d'utiliser le plus petit modèle qui fait le travail.

Comment le coût évolue-t-il avec le volume ? Demandez une estimation à 1 000, 10 000 et 100 000 requêtes par mois. Si le prestataire ne sait pas répondre, c'est qu'il n'a pas modélisé ses coûts - donc qu'il ne maîtrise pas sa marge, ni la vôtre.

Que se passe-t-il quand une conversation s'allonge ou qu'un utilisateur envoie un gros document ? La réponse vous dira s'il a anticipé les cas qui font exploser la facture.

Utilisez-vous la mise en cache et le traitement par lots ? Ce sont deux leviers standards. À date de juin 2026, la mise en cache des parties fixes du contexte peut réduire leur coût de l'ordre de 90 %, et le traitement par lots (batch, pour les tâches non urgentes) d'environ 50 %, selon les fournisseurs. Un prestataire qui les ignore laisse de l'argent sur la table - le vôtre.

Qui paie l'API, vous ou lui ? Si c'est un forfait tout compris, qui absorbe les dépassements ? Si c'est vous qui payez directement le fournisseur, exigez un plafond d'alerte.

Ce qu'il faut retenir

Le token n'est pas un détail technique réservé aux ingénieurs. C'est ce que vous achetez réellement quand vous signez pour « de l'IA ». Le prix affiché par requête est une moyenne fragile, qui dépend de décisions de conception invisibles sur un contrat et qui peut varier d'un facteur dix à conception égale.

La bonne nouvelle, c'est que ces coûts se pilotent. Un système bien conçu - bon modèle pour la bonne tâche, contexte maîtrisé, cache et lots activés - coûte une fraction d'un système naïf, pour le même service rendu. Mais ça ne se voit pas sur une démo. Ça se voit dans l'architecture, et dans la capacité du prestataire à vous expliquer ses choix.

Avant de signer, ne demandez pas seulement « combien ça coûte ». Demandez « de quoi dépend ce coût, et comment vous le maîtrisez ». La réponse vous dira si vous avez en face un vendeur d'IA ou quelqu'un qui en construit.

Note : les prix d'API mentionnés ici reflètent les tarifs publics constatés en juin 2026 (pages tarifaires officielles d'OpenAI et d'Anthropic) et évoluent fréquemment.