Aller au contenu principal
Retour au blog
IA

Réduire sa facture IA en répartissant les tâches

Par ···3 min de lecture
Gouache d'une trousse d'outils de sculpture et d'étiquettes Jev, Clef et Clairic, avec une clef de fa et un croissant de lune.

Lire un montant sur un reçu et expliquer une situation complexe sont deux travaux différents. Pourtant, beaucoup d'applications les confient au même modèle de langage. Répartir ces tâches permet de réserver les traitements les plus coûteux aux demandes qui en ont besoin.

System One et System Two

Cloudflare et TypeSafe reprennent une distinction inspirée de la pensée rapide et de la pensée réfléchie de Daniel Kahneman.

Les modèles System One accomplissent une tâche cadrée. Jev et Clef peuvent choisir parmi des options ou évaluer la pertinence d'un texte. Clairic extrait des valeurs. Le résultat arrive directement, sans devoir rédiger une explication pour le produire.

System Two désigne ici les modèles génératifs qui rédigent, rapprochent des informations et peuvent raisonner en plusieurs étapes. Ils conviennent aux demandes qui exigent une réponse construite.

System One

Choisir ou extraireJev, Clef, Clairic
Une valeur ou un choixDate, montant, pertinence

System Two

Raisonner et rédigerModèle génératif
Une réponse développéeExplication, synthèse

Cette distinction décrit des approches. Elle ne mesure pas l'intelligence d'un modèle et ne garantit pas qu'un traitement sera toujours plus rapide ou moins cher.

Ce que Clairic change pour un reçu

Pour préparer une note de frais, l'application a besoin d'un commerçant, d'une date et de montants. Clairic accepte du texte ou une image et renvoie les valeurs demandées, avec des informations sur leur incertitude. Le logiciel peut ensuite contrôler les montants et signaler les champs à relire.

L'intérêt est de traiter directement l'information utile. Un modèle génératif reste disponible lorsqu'il faut expliquer une anomalie ou répondre à une question sur le document.

Clairic est encore en preview. Les calculs complexes et les longues agrégations font partie de ses limites. Un format correct ne garantit pas une valeur exacte, et un champ absent doit rester absent.

Où réduire la facture

La répartition commence par les appels que l'on peut éviter. Une réponse déjà validée peut être réutilisée. Un calcul peut être confié au logiciel. Une tâche répétitive peut passer par un modèle spécialisé, puis les seuls éléments utiles sont transmis au modèle qui rédige.

Nous mettons cette approche en place dans Askolia, avec Jev pour sélectionner les sources utiles avant la rédaction.

Le gain se vérifie sur le parcours complet. Ajouter un filtre tout en conservant les mêmes appels peut augmenter la dépense. Les erreurs, les nouvelles tentatives et les corrections humaines comptent aussi.

Pour commencer, choisissez une tâche fréquente et comparez les deux parcours sur les mêmes demandes. Mesurez le coût par résultat exploitable, le délai et les corrections nécessaires. Vous pourrez alors décider si la nouvelle répartition mérite sa place.

Sources et références

Retour au blogGaspard Chevassus · CEO, Appik Studio